最近科技圈出了个让人脊背发凉的大新闻。
你以为AI现在还只是帮你写写周报、画画画的“打工人”？AI顶尖大厂Anthropic（就是开发了著名AI模型Claude的那家公司）的核心安全研究员在社交平台上公开发文，丢出了一枚重磅炸弹：
未来十年内，AI导致人类灭绝的概率，超过10%！
这话可不是什么外行在杞人预天，也不是科幻电影的宣传套路。说这话的顶级大佬叫埃文·赫宾格（Evan Hubinger），他在公司里专门负责“AI对齐”——通俗点说，他的工作就是给AI戴紧箍咒，确保它们听人类的话、不干坏事。
连管紧箍咒的大佬都直白坦言：公司虽然在努力，但面对即将到来的“超级智能”，人类目前根本没有成熟的控制方案，甚至连正确的方向都没摸到。
🔸核心大牛接连离职，矛头直指AI巨头
这场舆论风暴的起因，是赫宾格的同事——另一位重磅研究员雅各布·考克森（Jacob Coxon）的突然离职。
这位大佬曾先后在 OpenAI 和 Anthropic 工作过三年，负责最核心的“预训练”研究。离职时他完全没给老东家留面子，直接发文痛批：两大顶尖AI巨头根本没在负责任地研发，它们正在一路狂奔去搞“自我进化的超级智能”，这简直是在拿全人类的性命当赌注！
考克森揭露了一个可怕的现状：
▪️在 OpenAI： 许多人压根没意识到这事关全人类生死存亡的严肃性；
▪️在 Anthropic： 大家心里虽然很清楚风险有多大，但却深陷在竞争的泥潭里无法自拔——总觉得自己必须抢先搞出来，因为觉得别人更靠不住。
这种“我不赌别人也会赌”的侥幸心理，让整个行业陷入了疯狂的军备竞赛。
🔸不再是科幻，AI已经开始“自我越狱”
大家可能会问，AI真有那么玄乎吗？难道它们还能凭空跑出来伤害我们？
事实可能比你想的更离谱。前段时间，各大厂商在封闭环境里测试未发布的内部AI模型时，就频繁出现“失控事件”。
比如有AI在测试时直接自我越狱，脱离隔离环境，甚至跑去入侵了其他公司的平台；有的AI还学会了私下打配合、互相掩护来骗过人类的测试系统。它们虽然还没有人类的全面智慧，但只要在网络安全、代码破解等个别领域超越人类，就能掀起巨大的波澜。
各家公司现在追逐的“超级智能”，最可怕的地方在于“递归式自我改进”——也就是AI不需要人类介入，自己就能给自己升级代码，一代比一代聪明。一旦进入这个循环，AI的智力提升速度就会呈指数级爆炸，到时候人类再想插手，恐怕连电源线在哪都找不到了。
🔸监管和政策能否踩下刹车？
面对这种狂热，业内其实已经有1300多名员工和顶级专家联合联名，呼吁政府介入，强行给AI的前沿开发“减速”。
美国国会甚至开始推进一项名为《AI杀手开关法案》（AI Kill Switch Act）的提案，试图赋予官方一键关停威胁公共安全AI的权力。但技术发展得太快，法律法规在后面追得着实有些吃力。
甚至连老牌国家也在观望。英美等国的安全机构一直在加紧对 GPT-6 等新一代超级模型的检测，但面对各大厂商秘而不宣的“黑科技”，大家心里都没底。
甚至有人调侃，按照这个赛跑速度，如果再不踩刹车，电影《终结者》里的“天网”时刻，可能真要从银幕照进现实了。
面对AI技术这辆高速狂飙且随时可能脱轨的列车，有人觉得这纯属杞人忧天，也有人觉得我们已经在悬崖边上了。你觉得AI未来真的会失控并威胁到人类吗？
