AI的欺骗能力正在突破人类的认知防线。 薛澜：国务院参事，清华大学文科资深教授，苏世民书院院长。 您说人工智能最后会反噬人类，这样的一种观念是建立在科学的基础之上还是建立在科幻的基础之上的一种推测？ 我想首先目前的所有人工智能技术都还是在人类社会掌控之内的，但是的确按照这个技术发展的方向的确是有相当的一部分。科学家认为未来是有这种可能的，人工智能系统会不受人类控制，可能会超越人类控制。有的好像研究已经看到某种程度，有时候这个系统已经开始有点能欺骗人了，那你想这还是挺可怕的。 如果这个系统能够知道去有效的自我保护，欺骗人说我听你的话，但是最后要实现自己目标的时候，那可能就会控制人了。通过图灵测试现在已经不是难事了，甚至于可能进行网络的攻击等等。这些如果有了人工智能技术，可能使得攻击的欺骗性更强，可能带来的危害更大。
