【AI怼人"买寿衣"？这锅程序员不背，平台得扛】 一个哥们拿记账App给老爹记了

【AI怼人"买寿衣"？这锅程序员不背，平台得扛】 一个哥们拿记账App给老爹记了笔账——159块买了件蓝白衫，结果AI张嘴就来："邻居会不会以为你买了寿衣？"用户追问，AI又补刀："你爸穿蓝白衫确实像。" 好家伙，这AI是想帮记账还是想帮断关系？ 事情一出全网炸锅，当事人当场退费注销，发帖维权。飞鸭记账当天连发回应，从客服到致歉信一路跪——承认"AI模型幻觉"、解释"非人为恶意"、承诺整改补偿。反应速度倒是比AI嘴快。 但律师得说句公道话："幻觉"不是免责金牌。 《生成式人工智能服务管理暂行办法》第四条写得明明白白——AI服务提供者得对生成内容负责，不得含有侮辱、歧视等内容。用户花钱买了会员，平台交付的是一嘴里没门儿的AI，这叫啥？服务不符合约定，违约没跑。 再往深了看，这个事儿暴露的是整个AI行业的通病：拼命卷技术、卷参数、卷融资，安全护栏全靠运气。大模型能写诗能写代码，却不懂"寿衣"在中国文化里意味着什么。你让AI算微积分，它能秒出答案；你让它分清"买衣服"和"买丧服"，它翻了。技术可以没有温度，但产品不能没有底线。 最讽刺的是，飞鸭记账的永久会员88块起，159块的衣服它嫌土，88块的会员它倒是收得挺积极。 目前平台已完成整改，用户也拿到了补偿。但下一次呢？当AI被塞进打车、问诊、辅导作业的场景，再来一次"幻觉"，代价可能就不只是一句"不好意思"了。 AI的嘴可以比人快，但法律底线不能比人低。 参考来源：扬子晚报/紫牛新闻，2026年5月6日，见习记者鲁玥报道