前两年大模型刚火的时候,整个大厂圈跟疯了一样,所有人都把token当成新的生产力度量衡,甚至将token使用量写进员工考核指标里。好像token用的越多,公司就越先进,生产力就越高似的。
结果这才多长时间,海外一众大厂又突然猛踩刹车,开始收紧token支出。最典型的就是,亚马逊高级副总裁特雷德韦尔劝诫员工,“请不要为了用AI而用AI。”
据多家媒体报道,亚马逊已通知员工,旗下“Kirorank”榜单已停止服务。(该榜单由内部开发者制作,可用于跟踪员工的Token消耗情况,其设立初衷是推动AI在业务场景的应用)
也不知道是谁起的头,最早这么想的不止亚马逊一家,国内外很多大厂都是这个思维,但现实往往事与愿违,一些员工为追求更高的排名和绩效,将AI智能体当作不计成本的“烧Token”工具,导致公司算力资源严重被浪费。
所以,巨头们终于回过味了,再傻拼token,就是和钱过不去。而衡量AI的尺⼦必须得换到产出侧,换句话说,就是价值的计量单位是结果,而不是消耗。例如,HubSpot从今年4⽉起就调整了计费逻辑,从按Token收费改为按"解决的对话数"和"⽣成的线索数"收费。
不知道还有没有人记得,早前百度创始人李彦宏提出的DAA,其实⽐市场更早把这个⽅向说清楚了。DAA即日活智能体数,其实,底层逻辑和HubSpot说的是一样的,就是它不问Token的消耗,它关注的是有多少Agent在持续为⼈类⼲活,以及交付了多少可被衡量的结果。
现在,整个行业确实是缓过神来了,发现token的本质只是成本,关注DAA才是更务实的选择。而AI度量衡的转变,也意味着行业终于从狂热走到了理性,不再搞虚的指标,开始算实实在在的账了。
