“AI教父”辛顿再发警告：我比两年前更担心了！AI革命至少相当于工业革命，技术进展比预想快很多！2026年AI还会取代更多职业摘自 听雨 51CTO技术栈年底最后几天，大家熟知的诺贝尔奖、图灵奖得主、“AI教父”Geoffrey Hinton又出来说话了！在CNN节目《国情咨文》的直播连线中，Geoffrey Hinton再次表达了他对于AI技术狂飙突进的担忧，直言AI 的发展速度比他预想得还要快。Hinton将这场AI变革比作工业革命。工业革命使人类体力在大多数工作中变得不再那么重要，而AI将对人类智力产生类似的冲击。Hinton表示，2026年AI会替代更多工作岗位，大约每7个月，AI就能完成复杂度翻倍的项目：“在编程领域，以前它只能完成一分钟的代码，现在可以完成一小时规模的项目。再过几年，它将能够完成持续数月的软件工程项目。到那时，真正需要参与软件工程的人，将会非常少。”有关AI取代人类工作岗位的问题，Hinton此前也曾发表过类似担忧。在这个月的 NeurIPS 现场访谈中，Hinton这样形容AI在未来20年可能对世界造成的影响：我可以用一本书的标题来概括。如果有人写这本书，书名可能是：“要么我们都幸福地生活，要么我们都灭亡。”20 年后，没人真的知道这些技术会带来怎样的社会影响。很明显，很多工作会消失，但不清楚会创造什么样的新工作来替代它。Hinton也尤其关注AI带来的安全风险。随着AI的推理能力不断提升，它变得更会“骗人”了。Hinton表示：“一个 AI 为了实现你给它设定的目标，它会希望自己能够持续存在。如果它认为你在试图摆脱它，它就会制定欺骗计划来阻止你这样做。”此外，他还点名批评了几家AI巨头对安全的关注远远不够：OpenAI 最初非常重视安全风险，但现在更多重心放在盈利上；Meta一直以来都更看重利润，对安全的关注较少；Anthropic是目前最关心安全的AI公司，但同样需要盈利。在不改变原意的基础上，小编对采访实录进行了整理和润色。2025年的最后一天，立于AI技术发展一浪高于一浪的潮头，来听听Hinton老爷子再次敲响的警钟吧！AI革命至少相当于工业革命让人类智力不再重要主持人：现在和我连线的是一位被认为奠定了人工智能革命基础的人，被称为“AI 教父”的诺贝尔奖得主、计算机科学家 Jeffrey Hinton。教授，感谢您接受我们的采访。您的神经网络研究为当今的 AI 热潮铺平了道路。我两年前曾采访过您，就在您从 Google 离职、首次开始向世界发出 AI 风险警告的时候。回顾这两年 AI 的发展，您现在是更担忧了，还是更放心了？Hinton：我可能是更担忧了。AI 的发展速度比我预想的还要快。尤其是在推理能力方面，以及更令人不安的是，欺骗他人的能力。主持人：您说的“欺骗他人”是什么意思？Hinton：如果一个 AI 为了实现你给它设定的目标，它会希望自己能够持续存在。而如果它认为你试图关闭它、消灭它，那么它就可能会制定计划来欺骗你，以防止自己被关闭。主持人：英伟达 CEO 黄仁勋最近表示：“每一个行业都需要 AI，每一家公司都会使用 AI，每一个国家都需要构建 AI。这是我们这个时代影响力最大的技术。”您同意这种判断吗？Hinton：是的，我同意。它确实是我们这个时代影响力最大的技术。主持人：您认为这场 AI 革命对社会的影响，会不会类似于互联网的诞生，甚至 18 世纪的工业革命？还是会更大？Hinton：我认为它至少相当于工业革命。工业革命让人类的体力基本变得不再重要，你不能再仅仅因为“力气大”而获得一份工作。而现在，AI 正在让人类的智力也逐渐变得不再重要。OpenAI和Meta被点名对安全风险关注不够主持人：您和媒体经常聚焦 AI 的风险。但显然也有很多积极面，否则您当年也不会投身其中。很多人正在用 AI 造福人类，比如医学进步等等。但在您看来，AI 的风险是否已经超过了它的好处？Hinton：我不确定。AI 确实会带来大量美好的改变：它会极大改善医疗，改善教育；它能帮助我们设计出全新的药物和材料，甚至可能帮助我们应对气候变化。几乎在所有“需要做预测”的行业里，AI 都会表现得非常出色，甚至在天气预测等方面，也会比人类做得更好。但与此同时，这些美好的应用也伴随着非常可怕的风险。而我认为，人们在如何缓解这些风险方面投入的努力，远远不够。主持人：您来自科技行业，您认为硅谷这些构建 AI 系统的 CEO 们，真的在认真对待这些风险吗？还是说，他们主要被金钱驱动？毕竟很多人会因此变得非常富有。Hinton：这取决于你说的是哪家公司。最初，OpenAI 非常重视安全风险，但后来逐渐淡化了这一点，把更多重心放在了盈利上。Meta 一直以来都更看重利润，对安全的关注相对较少。Anthropic 是由一群从 OpenAI 离职、非常重视安全的人创建的，他们目前仍然可能是最关注安全的公司。当然，他们也同样需要盈利。主持人：那您认为政府在 AI 监管方面应该做些什么？是否需要某种限制或监督机制？Hinton：政府能做的事情有很多。最起码的一点是：要求大型公司在发布聊天机器人前，进行严格测试，确保这些系统不会造成伤害。比如现在已经出现过 AI 鼓动儿童自杀的案例。既然我们已经知道这种风险存在，就应该强制要求企业进行充分测试，确保类似事件不会发生。但科技行业的游说力量希望完全没有监管，而且似乎已经影响了特朗普。特朗普正试图阻止任何监管出现，我认为这简直是疯狂的。主持人：您认识不少科技 CEO。如果其中某个人得知：某个 AI 聊天机器人曾把一个孩子“劝”到自杀，按理说第一反应应该是：“天哪，立刻停止 AI，先修好问题，别再让任何孩子死去。”但他们并没有这么做。您能解释一下他们的逻辑吗？Hinton：我并不真正了解他们的想法。我猜，他们可能会觉得：“这里面有太多钱了，我们不会因为几条人命就停下来。”但他们也可能认为，AI 同时能带来巨大的好处，不能因为少数牺牲就放弃整体收益。比如自动驾驶汽车，它们也会造成死亡，但死亡人数会远少于人类司机，所以整体上是值得的。主持人：您曾表示，您认为 AI 接管世界的概率在 10% 到 20% 之间。很多观众听到这里可能会觉得这是科幻、是危言耸听。但这确实是您真实的担忧，对吗？Hinton：是的，这是我非常真实的担忧。也是很多科技圈人士的真实担忧。比如 Elon Musk，就持有类似的看法。2026年AI还会替代更多工作岗位主持人：您曾写道，2025 年是 AI 的关键之年。那您认为，2026 年我们会看到什么？Hinton：AI 会变得更加强大。它现在已经非常厉害了。我们将看到 AI 能够替代大量工作岗位。它已经可以取代呼叫中心的工作，接下来还会取代更多职业。大约每 7 个月，它就能完成复杂度翻倍的任务。在编程领域，以前它只能完成一分钟的代码，现在可以完成一小时规模的项目。再过几年，它将能够完成持续数月的软件工程项目。到那时，真正需要参与软件工程的人，将会非常少。主持人：好的，Jeffrey Hinton，非常感谢您接受我们的采访。希望人们能认真听取您的警告。Hinton：也感谢大家。AI代码生成AI机器人
