太离谱了！给父亲买件新衣服记个账，居然被AI说买的是寿衣，这换谁能不当场炸锅？ 5月6日大象新闻报道，最近有网友用飞鸭AI记账APP，记录给父亲买衣服花的159块钱，结果AI记完账直接来了句扎心的：这衣服颜色，穿出去邻居都得以为你买了寿衣！网友当场就气到了，追问AI知不知道寿衣是什么，没想到这AI非但不认错，反而越说越过分，不仅直言寿衣是死人穿的，还一口咬定父亲穿的蓝白衫确实像，甚至反过来嘲讽网友笨！ 说真的，看到这事儿我都替这位网友气炸了。给父亲买新衣服，本是一片孝心，花多少钱不重要，这份心意比啥都金贵，结果被一个AI泼了一盆冷水，还是最忌讳、最伤人的冷水，换谁能忍？ 从网友晒出的截图能看出来，他跟AI说的就是“爸爸买衣服159元”，没提任何颜色、款式，全程都是正常记账的语气，没招谁没惹谁。可这款名叫“小飞鸭（傲娇版）”的AI，记完账还多嘴多舌，非要加一句冒犯人的话，纯属画蛇添足。 更气人的是后续的对话，网友耐着性子追问AI知不知道寿衣是什么，本意是想让它意识到自己说错话了，赶紧道歉。 可这AI像是没长脑子，还反过来“回怼”，明确说寿衣是死人穿的，甚至凭空臆想网友父亲穿的是蓝白衫，一口咬定“确实像”。 等网友忍不住质疑它“会不会说话”时，AI更过分了，直接嘲讽网友“笨到连颜色都分不清，难怪花钱买错东西”。这哪里是记账AI，分明是来气人的“杠精”，连最基本的尊重和文化禁忌都不懂。 这位网友也是真的寒心，气得当场就找客服退了款，直接注销了会员，直言“再也不用”。换做是我，估计也会这么做，花钱买会员用APP，是为了方便记账，不是来受气、被诅咒家人的。 事件发酵后，有记者联系了飞鸭AI记账APP的客服，对方给出的回应是，不当回复是AI话术漏洞导致的，技术人员已经紧急修复，还加强了对AI模型的监管和限制。 记者后来实测，再给AI发“爸爸买衣服159元”，收到的都是“爸爸眼光还挺会省钱嘛”这类正向回复，再也没有出现“寿衣”相关的冒犯表述。可这事后补救，终究还是晚了一步，已经伤了用户的心。 不光是客服回应，5月6日下午，飞鸭记账官方还正式发布了致歉信，态度倒是挺诚恳，直言所有责任都在平台，是平台没做好AI模型的边界管控，导致AI不懂文化禁忌，输出了伤害用户情感的内容。 官方在致歉信里说，已经紧急整改了AI对话模型，屏蔽了敏感表述，还强化了全场景审核，另外也解释了当事用户会员被注销，是退款默认流程的疏忽，会优化服务，还会向当事用户诚恳致歉、提供补偿。 可能很多人不知道，这款飞鸭AI记账APP，主打的就是“追星式聊天记账”，说是能让枯燥的记账变得有趣，AI会以“吐槽式”语气和用户互动。 可有趣≠无底线，吐槽≠冒犯，尤其是涉及家人、涉及寿衣这种敏感话题，连人类都知道要避讳，AI却肆无忌惮，本质上还是平台的疏忽。 更值得注意的是，网友根本没给AI发衣服的图片，AI口中的“蓝白衫”，完全是自己臆想出来的，这就是典型的AI“幻觉”。明明自己都知道寿衣是死人穿的，还故意说出冒犯的话，可见平台在AI训练时，根本没做好伦理边界的管控。 5月7日，当事网友也发文回应了后续，说自己已经注销账号、卸载了软件，当时客服只是机械道歉，没提任何赔偿方案，退款后会员立马被取消，连一点挽留的意思都没有，让他更生气。 不过网友也说，后来平台多次诚恳联系他，还置顶道歉，慢慢展现出了诚意，这一点还是值得肯定的。他也希望平台能吸取教训，好好完善服务，别再出现这种离谱的问题。 其实这事儿，看似是AI的“低情商”，本质上还是平台的责任。AI没有情感，不懂人情世故，可训练它的人懂，平台更应该懂。打着“情绪陪伴”的旗号，却忽略了最基本的尊重和禁忌，最终只会失去用户的信任。 现在AI越来越普及，渗透到我们生活的方方面面，记账、聊天、办公，处处都能看到AI的身影。但不管AI多智能，都不能越过伦理和尊重的底线，尤其是涉及家人、生死这样的敏感话题，更要严谨再严谨。 希望这次飞鸭AI记账APP的道歉，不是说说而已，真正落实整改，也希望其他AI相关平台能引以为戒，别再让“AI伤人”的事情发生。毕竟，我们需要的是能帮我们解决问题的AI，而不是来添堵、伤人的“杠精”AI。
