Meta想监控员工击键数据训练AI，1500人联名反对：AI训练数据的伦理边界在哪

Meta搞了个叫"模型能力计划"的内部工具，想追踪员工的键盘敲击和鼠标点击数据来训练AI。结果被超1500名员工联名上书反对，最后被迫缩减范围。


这件事有意思的地方不在于Meta做了件蠢事——科技巨头干蠢事不新鲜。真正值得想的是：AI训练数据的来源问题已经到了什么程度？


公开数据不够用了。互联网上可爬取的高质量文本数据，过去两年基本上被各大模型公司薅干净了。版权官司此起彼伏（纽约时报诉OpenAI、Getty诉Stability AI），大家都想找"干净"的数据源。于是目光转向了自己公司内部——员工的操作数据，天然的、真实的、有版权的，看起来完美。


问题是：员工不是自愿参与实验的小白鼠。尤其是在Meta裁员上万人的背景下，让员工相信"我们只是收集数据训练AI，不会用来评估你的绩效"——这不是信任问题，这是信任破产问题。1500份联名签名说明了一切。


Meta的妥协方案也挺滑稽的——员工每天可以申请暂停数据收集一次，但每次最多只能退出30分钟。翻译过来就是："你可以拒绝被监控，但只能拒绝半小时。剩下的7小时55分钟，你的每一次鼠标点击都是我们的训练数据。"这种设计本身就说明公司知道这事不妥。


还有个被忽略的技术细节：这个追踪工具导致部分员工居家办公时的网络流量异常飙升，还把笔记本电脑的电池寿命打崩了。这是一个典型的"技术部门觉得没问题、实际部署全是问题"的故事。也侧面说明这个工具的设计根本没考虑到用户体验。


这件事给AI行业提了个醒：数据饥渴不能成为侵犯边界的理由。当公开数据枯竭、第三方数据版权成本越来越高，企业必然会打内部数据的主意——但如果处理不好边界感，技术翻车之外还会搭上公司文化。Meta这次的教训，其他公司应该看看。


来源：AIBase（内容为行业观察评论，非新闻转载）