输入指令，AI就能生成女性被枪杀、虐待的暴力视频——这不是科幻电影，而是正在谷歌AI平台上真实发生的丑闻。近20万次观看的背后，是技术伦理防线的全面失守。
AI暴力视频产业链浮出水面
一个名为"WomanShotA.I"的YouTube账号被曝光使用谷歌Veo 3人工智能生成器，制作并传播了大量女性遭受酷刑和谋杀的血腥视频。这些视频标题直白得令人发指："被捕女孩头部中弹"、"日本女学生胸部中弹"，自6月以来已获得近20万次观看。直到科技媒体404 Media发出警报，该账号才被平台下架。
专家怒斥：谷歌安全防护形同虚设
"我内心深处立刻燃起了一股怒火，"达勒姆大学法学教授克莱尔·麦克格林痛斥，"这正是如果不在推出产品前投入足够安全保障，就必然会发生的事情。"她指出，尽管谷歌声称禁止血腥暴力内容，但这些视频却能轻易生成并传播，证明其防护措施根本不够。
更令人担忧的是，这些内容在青少年群体中广泛流传。儿童网络危害政策智库研究员亚历山德拉·迪亚克警告："对于儿童和青少年来说，接触这些材料可能产生持久影响，包括心理健康受损。"
暴力内容规模化，家长防线崩溃
数据显示，自6月以来，英国互联网监察基金会已在某聊天机器人网站发现17起AI生成的儿童性虐待材料。用户可以与AI模拟与低至7岁儿童的"令人发指"的性场景。保护女性在线中心主任奥尔加·尤拉什教授指出："这些视频极大地助长了性别歧视和厌女症文化。在这种环境里，女性被视为可以随意侵犯的对象。"
政府回应与法律困境
英国政府发言人表示，《网络安全法案》已于今年3月生效，要求社交媒体和AI平台保护用户免受非法内容侵害。该法案还将拥有、创建或分发生成儿童性虐待材料的AI工具定为非法。然而，法律的执行速度显然跟不上技术滥用的步伐。
讽刺的是，就在上个月，人工智能巨头英伟达刚刚宣布向英国AI领域投资20亿英镑，被称为英美间"有史以来最大规模的科技协议"。首相凯尔·斯塔默爵士也曾誓言让英国成为AI"超级大国"。但在技术狂飙突进的同时，伦理护栏的建设明显滞后。
当AI技术成为暴力温床，我们该如何守住底线？科技公司是否应该为工具滥用承担更多责任？欢迎在评论区分享你的观点！
来源：independent.co.uk
「该长文章来自@想吃妹妹的甜甜圈-英国省钱快报，版权归原作者所有」
5
最新评论 4
: AI 有利有弊 看谁用 AI 有利有弊 看谁用
: 太恐怖了，这样会让一些人做出恐怖事情 太恐怖了，这样会让一些人做出恐怖事情
: 变态 变态
: 太可怕了😱 太可怕了😱