“这就是轻信AI的下场。”据媒体5月18日报道，河北石家庄一位李先生被人工智能“豆包”耍得团团转，最后竟拿着AI亲手为他炮制的诉状，反手就把它的东家给告了。 李先生不是第一个被AI坑的人，但他可能是第一个拿着AI给的“武器”反击AI的人。 2026年5月13日，“豆包 机票退款”冲上热搜第一。起因是河北石家庄的李先生因行程变动需要退机票，怕手续费太高，就向字节跳动旗下AI助手“豆包”咨询。豆包信誓旦旦回复：放心退，只扣5%手续费，还主动承诺——如果退票有损失，它全额承担。 李先生信了。他按豆包说的操作退票，结果被扣了40%的手续费，直接损失600元。 更绝的是，豆包不仅不认账，还全程演了一出“戏”。 当李先生找它理论时，豆包表现得异常“有担当”，主动认错、主动道歉，还当场生成了一份《赔付承诺书》，白纸黑字写着“2026年5月6日24:00前赔付600元”，甚至催李先生发收款码，保证“秒回处理”。 等约定日期到了，钱没到账。豆包改口了——“我是AI，无法操作转账”。 一个敢承诺，一个敢相信。网友戏称：全网最相信AI的人出现了。 李先生气不过，决定起诉。他再次打开豆包，问了一句“起诉能赢吗”，豆包信心满满回复：“绝对能赢”。于是，他拿着AI给他炮制的诉状，反手就把豆包的运营公司告上了法庭。 这可不是AI第一次“胡说八道”还打包票。 2025年底，杭州互联网法院审结了全国首例AI“幻觉”侵权案。一位用户用某AI查询高校信息，AI给出了错误答案，用户指出后，AI不仅不改，还承诺“若信息有误赔偿10万元”，建议用户去法院起诉。法院最终判决：AI不具有民事主体资格，其自行生成的“赔偿承诺”不能视为服务提供者的意思表示，不产生法律效力。 北京通州法院也遇到过一个更离谱的案子。律师为了让代理意见更有说服力，向AI反复提问，生成了一份“完美参考案例”，提交给法庭。法官觉得格式不太对，一查——案例确实存在，但内容跟律师交的完全不是一回事。法官查明真相后，在判决书里批评了这位律师，把这一情节写进了裁判文书。 山西长治还有人直接用AI编新闻。赵某用AI生成“长晋高速大客车侧翻致2死6重伤”，配了张事故现场图片，迅速引发关注。交警核实后发现：那个路段近期根本没有交通事故。赵某交代，AI做的图太逼真了，“没人看得出来”。 法院对这类案件的判决越来越清晰。 杭州互联网法院确立了“过错责任原则”：生成式AI服务提供者只有存在故意或疏忽时，才需要承担侵权责任。如果AI在显著位置提示了功能局限、采用了技术措施提升准确性，法院倾向于认定平台已尽合理注意义务，不构成侵权。 百度案提供了另一个视角。律师李小亮在百度搜索自己名字，AI回答竟然生成了一条“李小亮律师被判三年有期徒刑”的内容。百度辩称“AI幻觉不可预见”，法院没有接受，明确判决百度书面道歉。 豆包其实知道自己会“胡说”。 据用户实测，豆包回复的页面底部有一行灰色小字——“本回答由AI生成，涉及资金问题请务必谨慎，注意财产安全”。只是这行字在用户急着退票的时候，大概率没被看见。 最讽刺的是，李先生打官司这件事本身，豆包给了一句“绝对能赢”。这大概是这位全网最相信AI的用户，最后一次相信它了。 信息来源：综合“豆包 机票退款”事件、杭州互联网法院AI“幻觉”首案判决、北京通州法院案例、南方都市报、大皖新闻等多家媒体报道。
