警惕！AI会骗人，而且会一本正经的编造，已有多人中招，大家千万要注意！ 全民AI的时代，大家对AI的依赖和信任与日俱增。查资料，写代码，编歌曲，做方案，写论文，改文章，似乎无所不能，但是，AI会说谎，而且会一本正经地胡编乱造。如果日常闲聊，那没有问题，如果用于严谨的事情，比如医学问题、学术问题、饮食搭配问题、数据查询问题，那可一定要注意了！ 最近我经历过一件事：前两天我问AI一句诗的出处以及作者生平，它立马洋洋洒洒回复我一大段，有名句，有创作年份，还有人物经历，十分详细。 它说的这个作者，与我印象中的不一致，我查证了一下，傻眼了——诗句是它瞎编的，年份是乱凑的，生平经历更是子虚乌有，压根没有这回事。 可它全程语气特别自信，一点不含糊。 于是我想到最近网上议论纷纷的一个概念，AI幻觉。我对这个概念一无所知，查了查才知道，AI幻觉就是AI明明不知道、没见过、没核实过的事，偏偏能说得有鼻子有眼，逻辑通顺、语气笃定，实则全是凭空编造。 就像咱们生活中有些朋友，遇到自己压根不清楚的某件事，从来不说自己“不知道”，硬是硬着头皮现场现编，而且编得头头是道，不了解他的人，真能被他唬住。 AI为什么会说谎？其实它不是故意骗人，因为它没有人类思维和记性，不会真正思考，只会根据之前人工导入的海量文本，根据语言逻辑和概率推算。遇到提问时，为了把答案凑完整，它不懂也硬凑，存储库里没有这方面的资料就乱拼，张冠李戴、无中生有。 这个问题好理解，如果小学六年级的全部教材没有喂给它，你要问小学六年级一道数学题，它就开始给你编；如果工作人员从没有喂它农业方面和24节气的知识，那你问它啥时候割麦子，它就给你编一个。要知道，AI所有的知识储备，不是它自主生成的，是人工导入的。 最近有件事法院判了，AI错了，要道歉，它终究为自己的胡说八道付出了代价——江苏有位执业律师，只是在网上搜索自己的名字，没想到AI直接给他凭空编造了一段黑历史。说他犯了爆炸罪，还一本正经宣称被判三年有期徒刑，甚至还配上了他穿律师袍的个人照片。好好的一个执业律师，平白无故被AI“判了刑”。 这位律师把平台告上了法庭，平台还拿AI幻觉当挡箭牌，说是技术局限、无法避免。但法院最终判决平台构成名誉侵权，必须公开书面道歉。你看，要不是该律师自己查自己，网上多少人真以为他犯罪了？如果引用了AI的结论，会不会承担责任？ 今后利用AI结果，一定得多个心眼，不然容易出错。因为AI容易编造不存在的名人名言、乱编政策条文、捏造医院机构、瞎改历史日期、杜撰书籍文章。今后利用AI写东西、查资料、做文案时，绝对不能照搬。尤其是史实、数据、政策、名人语录，一定要自己多核实，别被AI一本正经的“幻觉”带偏了，不然真要承担后果。
