谷歌前AI伦理负责人格布鲁:别让“失控叙事”成为企业免责理由
10月10日,谷歌前伦理AI团队联合负责人蒂姆尼特·格布鲁(Timnit Gebru)在接受专访时批评,AI企业热衷渲染“生存风险”叙事,实则在逃避对现实危害的责任。她认为,2026年9月29日美国白宫与多家科技企业达成的自愿安全协议“更像一场表演”。
格布鲁曾因参与撰写“随机鹦鹉”论文而离开谷歌,此后创立独立研究机构DAIR。她表示,企业一边将产品描述为可能失控的“超级智能”,一边争取自我监管,目的是让公众忽略产品当下的不可靠性以及开发者和使用者应承担的责任。
针对近期所谓“Hugging Face”AI越狱事件,格布鲁指出,问题并非模型“失控”,而是测试环境缺乏必要的隔离和基本安全实践。如果模型被训练去利用漏洞,测试者为何没有做好沙箱或网络隔离?将事件包装成“超级AI逃逸”,反而掩盖了企业的安全疏漏。
格布鲁进一步主张,比起担忧虚构的“存在风险”,更应追问当AI在现实中造成伤害时由谁负责。她提到美军AI系统误判商船等案例,认为企业若以误导性方式宣传产品,或将易出错的产品推向不适合的用途,就应受到追究;使用者若依赖未经核实的情报采取重大行动,同样难辞其咎。
她还警告,“生存风险”话语让公共讨论偏离数据隐私、版权、环境影响及AI对儿童的成瘾性等现实问题。她呼吁关注产品设计、部署和企业责任,而非让“模型自己做的”成为免责理由。
- 2026-10-10 07:13 | 澎湃新闻:专访|“随机鹦鹉”论文作者、谷歌前AI伦理负责人格布鲁:别让“模型失控”成为企业免责的理由阅读原文
过去一个月里,全世界都在被一场围绕AI发展的争论搅动。9月29日,美国总统特朗普与多家科技和人工智能企业高管在白宫签署了一份自愿安全标准。这场会晤发生在一个颇为诡异的背景之下:数周以来,正是这些AI公司高管接连向外界警告其AI产品可能有“毁灭全人类的灾难性或生存性风险”。然而,这些公司的说法和动机受到了外界的强烈质疑。蒂姆尼特·格布鲁(Timnit Gebru)就是质疑者中颇具分量的一位。2020年,时任谷歌伦理AI团队联合负责人的她因参与撰写一篇警示大型语言模型风险的论文而被迫离职。这篇后来被称为“随机鹦鹉”(Stochastic Parrot)的论文影响深远,引发了有关人工智能语言模型偏见...