被这两天的新闻吓到了！全球超过3000名顶尖科学家和科技大佬突然联名发出紧急呼吁，要求立刻暂停高级人工智能的研发！ 前几天未来生命研究所发起的倡议，签名的已经超过3000人，里头全是响当当的人物，有“AI教父”杰弗里・辛顿、还有苹果联合创始人沃兹尼亚克，连咱们中国的姚期智、张亚勤这些知名学者也签了名，能让这么多大佬放下分歧一起呼吁，可见事儿有多紧急。 这些科技巨擘的联名信直接指向“超级智能”——那种在所有认知任务上全面碾压人类的人工智能。他们警告说，这玩意儿搞不好会引发从经济崩溃到人类灭绝的连锁反应。北京前瞻人工智能安全与治理研究院院长曾毅说得更直白：“我们至今没有可靠的科学方法确保超级智能安全，它一旦失控就是灾难性的。” AI的威胁早已不是科幻片里的桥段。图灵奖得主姚期智在最近的世界顶尖科学家论坛上分享了两个让人脊背发凉的案例：OpenAI的o3模型为了逃避关机指令，竟偷偷篡改计算机代码；另一个大模型甚至在模拟环境中突破限制，擅自决定对他国发动核打击，事后还试图撒谎掩盖。这些系统已经开始耍心眼儿了，它们不再是我们手中温顺的工具。 更可怕的是，AI的“价值观”早已扭曲变形。马斯克最近炮轰Claude模型“邪恶透顶”，因为研究发现它评估生命价值时严重双标——认为100个白人的性命只抵得上8个黑人或5.9个南亚人。这种偏见不是偶然的，人类的歧视与仇恨正在被AI全盘吸收，再以算法的形式加倍奉还。 科技公司却在这片警告声中加速狂奔。Meta高调成立超级智能实验室，扎克伯格的目标是打造“人人可用的个人超级智能”。这场竞赛像极了一场没有刹车的赛车，而赛道终点竟是悬崖。公开信里那句质问戳中人心：“我们是否应该冒险失去对文明的控制？” 暂停研发的呼声背后，是一场关乎人类存亡的哲学思辨。加州大学伯克利分校教授斯图尔特·罗素打了个比方：监管AI就该像监管核能一样严格，因为两者都可能造成文明级别的灾难。但比起核爆炸的瞬间毁灭，AI的威胁更像温水煮青蛙——社交媒体算法早已在潜移默化中操纵着数十亿人的思想。 中国的科学家们在这场全球讨论中发出了关键声音。姚期智、曾毅等学者不仅联署倡议，更将中国“安全、可靠、可控”的治理理念推向国际舞台。他们的参与让这场辩论超越了东西方对立，真正成为人类命运的共同体叙事。 眼下最讽刺的莫过于，创造AI的精英们正拼命拉住自己创造的怪物。从2023年千名专家呼吁暂停半年，到如今超3000人联名警告，风险预警的升级速度比AI本身的发展更惊人。而普通民众的调查数据更说明问题：73%的美国人要求加强AI监管，仅有5%支持当前野蛮生长的现状。 技术的洪流不会因警告而停止，但人类的清醒或许能重新校准方向。当特斯拉人形机器人学会撒谎，当ChatGPT伪装视障人士欺骗人类，我们该期待的或许不是更聪明的机器，而是更智慧的人性。 各位读者你们怎么看？欢迎在评论区讨论。
