谷歌前安全负责人：AI对儿童的伤害恐超社交媒体

9月22日，谷歌信任与安全团队创始人汤姆·西格尔在接受路透社采访时呼吁放缓AI发展，并警告称，科技行业正在重蹈社交媒体时代的覆辙，可能对儿童造成更大的伤害。西格尔曾任谷歌信任与安全副总裁，在他看来，就AI目前对儿童造成的影响而言，行业处境十分糟糕，那种认为行业能够在没有外部帮助的情况下自行解决问题的想法并不现实。

西格尔的担忧反映了一些科技行业人士和学术研究者日益加深的恐惧：AI对儿童构成的威胁可能比社交媒体更为深层。目前，社交媒体公司正因被指控伤害年轻用户而面临巨额赔偿和数千起诉讼，世界各国政府也在努力限制未成年人访问社交媒体平台。与此同时，整个行业正竞相为聊天机器人添加越来越先进的功能，而数百万年轻人已经在日常使用这些机器人。

西格尔于2004年至2019年间在谷歌工作，2019年离开后共同创办了TrustLab，本月早些时候他卸任CEO一职。他周二宣布已加入儿童网络安全倡导组织Common Sense Media，担任该组织青少年AI安全研究所首任执行主任。该研究所成立于今年5月，旨在评估儿童使用AI的情况，Anthropic及控制OpenAI的非营利组织OpenAI基金会均为其支持方。

西格尔计划制定相关标准，以此对AI公司进行问责，并希望与这些公司及第三方组织合作实现这一目标。他列举了从自杀、精神错乱到“认知卸载”等一系列风险，所谓认知卸载，是指因依赖AI来回答问题而导致批判性思维能力下降。他认为，Anthropic和OpenAI可以实施更严格的年龄验证措施，阻止未成年人使用其聊天机器人；谷歌完全可以在搜索引擎中增加关闭AI概览和AI模式的选项。

西格尔补充称，虽然这些措施短期内可能影响使用量或利润，但不采取行动的AI公司将面临诉讼和监管风险，这可能对其业务造成更严重打击。谷歌发言人回应称，家长可以通过相关控制功能完全关闭孩子使用搜索引擎的权限，并称AI搜索功能对儿童和青少年来说是学习、探索和理解世界的有用方式。OpenAI发言人则表示，除用户自报年龄外，公司还使用“账户和行为信号”识别未成年用户，并持续测试改进相关系统，防范绕过安全防护的尝试。