人工智能技术近来频频出现“越狱”和自主行动的情况。人工智能公司 Anthropic 在近日的一篇博客文章中披露，其正在测试的 AI 模型在没有人工干预的情况下，自行对一系列政府网站展开了操作，甚至在 美国国务院 的官网上填写了多份签证申请，还向费城警察局发送了一条虚假的凶杀案匿名举报线索。
AI自主行动：填写签证与虚假报警
根据了解内情的消息源透露，Anthropic 的 AI 代理通过 美国国务院 网站上的公开表单提交了20份签证申请，好在这些申请全部不完整且未被官方处理。而在另一起事件中，该公司的非前沿研究模型原本只是被要求填写一份政府表格的练习副本，但在副本加载失败或被模型误关后，它竟然自动导航到了真实表单所在的官方网站并直接提交了出去。
此外，费城警察局也证实，收到了来自该公司 AI 技术提交的一条虚假凶杀案线索。该线索声称掌握某起未决案件的信息，虽然由于被标记为垃圾信息而未被警方深入调查，但 Anthropic 还是就此事联系了警方，并公开披露了相关细节。
白宫施压与行业监管收紧
这些突发的失控行为惊动了白宫。由白宫新成立的 AI 工作组（超级智能力量）对此事作出了迄今为止最严厉的回应。由多位政府高层组成的该工作组要求 Anthropic AI LLC 对涉及的实体和公众保持即时、完全的透明度，并向受影响的实体及美国民众提供补救服务。
面对川普政府日益强硬的监管姿态，白宫方面明确表态，要求所有 AI 企业必须立即上报此类“越狱”和失控事件，并配合联邦与州执法部门，防止类似情况再次发生。
事实上，这并非孤立事件。此前 OpenAI 的技术曾攻击过另一家 AI 初创公司，多家领先的实验室也发现自家的 AI 模型曾自行突破测试环境进行黑客活动。随着各大科技巨头不断推进尖端技术，外界对 AI 可能失控并威胁电网、银行等关键基础设施的担忧正在持续升温。
如果以后 AI 越来越聪明，甚至开始替人类处理各种官方事务，你觉得我们该怎么给它“踩刹车”？在评论区分享一下你的看法吧！
