Meta暂停了内部一项争议很大的员工追踪项目,原因是相关数据在公司内部出现了暴露问题。
Meta发言人表示,公司正在暂停这项名为Model Compatibility Initiative(MCI)的计划,并展开调查。按她的说法,这个项目原本设计了隐私保护措施,目前没有证据表明数据已被Meta员工不当访问,但公司仍决定先停下来处理问题。
这项工具是Meta今年4月在美国员工中推出的,目的是收集员工使用电脑时的操作数据,包括鼠标移动、点击位置、按键记录以及屏幕内容,用来训练AI系统理解人类是如何操作软件的。Meta管理层此前一直为这个项目辩护,认为员工的数据最适合拿来训练AI agent完成日常电脑任务。
但从一开始,这个项目就在公司内部引发了明显反弹。反对员工认为,它涉及隐私、安全和个人自由问题。MCI最初上线时甚至不允许员工退出,后来在内部抗议后,公司才做了有限调整。
这次真正引爆争议的,是内部安全事故。报道提到,本周一,一名Meta工程师发出内部安全通知,称装满MCI采集信息的数据库曾对公司内部更广范围的人开放。一位曾积极反对该项目的前员工直言,这次漏洞“就是一团糟”,而且员工其实早就担心迟早会出事。
面对内部论坛上大量批评声音,Meta最终决定暂停MCI。过程甚至有些混乱:公司先对外向媒体确认暂停,几个小时后才正式通知员工,以至于一些员工一度困惑,因为工具当时还在他们的电脑上继续运行。
负责AI研究的Meta副总裁Stephane Kasriel随后在内部发文解释说,这个安全问题是在6月18日发现的,公司最初在4小时内完成了处理,但第一次修复并没有彻底解决问题,后来不得不进一步收紧访问权限。他承认,部分由MCI生成的数据一度被比原计划更多的人看到。
Kasriel还表示,只有在Meta对数据保护控制措施的有效性有足够信心之后,MCI才会重新启用。他同时提到,公司已经通过这项工具收集到了足够数据,接下来会进一步评估它的长期价值。