扎克伯格发文谈AI安全：外部独立评估比减速开发更关键

原标题：扎克伯格拒绝放缓AI，而是呼吁「独立第三方评估」围绕前沿AI是否应放缓开发的争论持续升温。周三，Meta首席执行官马克·扎克伯格在X平台发文，首次公开回应这一争议，表示AI实验室应引入独立评估机构和外部顾问，将安全审查纳入日常开发流程，并称这是“行业最 佳实践”。这一表态与Anthropic首席执行官Dario Amodei此前提出的“放缓”思路形成差异。Amodei上周末呼吁适当放缓最 先进AI系统的开发，以便研究人员获得更多时间评估潜在风险。OpenAI首席执行官Sam Altman及马斯克随后表达支持，英伟达首席执行官黄仁勋则在同日强调，AI安全首先是工程问题。01扎克伯格、黄仁...

How should the tech industry approach the topic of AI safety? Increasingly, high-level executives are weighing in on this question, as a debate rages over whether incidents like the Hugging Face incident — in which an OpenAI agent hacked several different companies — suggest that AI is on the verge ...

Good morning, AI enthusiasts, and welcome to our 4,361 new readers. Days ago, the frontier CEOs looked united behind Dario Amodei's slowdown plan. Then Trump, Beijing, and Jensen Huang said no, and now one of the biggest labs outside that circle has too. Mark Zuckerberg just put Meta in the acceler...

李佳 09-16 23:52 Meta CEO扎克伯格发文回应前沿AI安全争议，反对将行业整体放缓作为主要解决方案，主张引入独立评估机构和外部顾问，将安全审查嵌入日常开发流程。他以Meta旗下AI工具Muse为例称，公司曾因安全问题推迟产品发布，但并未要求其他企业同步放缓。 围绕前沿AI是否应放缓开发的争论持续升温。 周三，Meta首席执行官马克·扎克伯格在X平台发文，首次公开回应这一争议，表示AI实验室应引入独立评估机构和外部顾问，将安全审查纳入日常开发流程，并称这是“行业最佳实践”。 这一表态与Anthropic首席执行官Dario Amodei此前提出的“...

By  THE ASSOCIATED PRESS Updated 9:39 PM GMT+8, September 16, 2026 Meta CEO Mark Zuckerberg said it’s up to each AI company to ma...

来源：财联社Meta首席执行官马克·扎克伯格周二（9月15日）分享了他对人工智能（AI）安全的看法，他认为AI实验室应依靠独立的评估者和顾问，足以确保模型的安全性，他不认为需要放缓AI的开发。扎克伯格的立场更接近英伟达首席执行官黄仁勋的观点，而非Anthropic首席执行官达里奥·阿莫迪的立场。AI安全争议 阿莫迪上周末发表文章，呼吁科技行业“减缓提升AI模型能力的速度”，此后几天里，关于AI安全的话题备受关注。对于这一话题，扎克伯格在X平台及其他社交媒体上发文表示，他认为未能“专注于对齐”的AI实验室将会落后。所谓的“对齐”就是指开发者为确保技术符合人类价值观所开展的工作。扎克伯格表示，“关...

扎克伯格认为，比起倡导AI（人工智能）减速，引入第三方评估机构才是行业最佳实践。当地时间9月15日，科技巨头Meta的CEO马克·扎克伯格（Mark Zuckerberg）在X平台上发文表态，加入近期围绕AI安全的热烈讨论。他表示，每一家AI实验室都有责任和动力，来确保模型安全训练以所需要的速度推进，同时也有能力采取行动。扎克伯格解释道，用户不会愿意使用与自身意愿不一致、无法按照要求完成任务的AI Agent（智能体），这也给予AI实验室进行调整的内在动力：“我的看法是，信任和对齐（指让模型去符合用户的意图）正迅速成为区分不同Agent和模型的最重要能力。任何不重视对齐的实验室最终都会落后。”...

人工智能会不会威胁人类？这个听起来像科幻大片的话题，最近在硅谷直接演变成大佬们的公开辩论赛，大佬们轮番下场，吵得热火朝天。最新登场发言的，是Meta创始人扎克伯格。当地时间9月15日，他在社交平台X发文亮出观点：每家AI实验室都应该根据自身情况确保模型安全，没有必要整个行业统一“踩刹车”。多位AI巨头罕见呼吁“踩刹车”这套说法，和几天前另一派大佬的呼吁完全对着干。9月12日，Anthropic首席执行官达里奥·阿莫代伊发文，呼吁行业主动放慢前沿AI模型的迭代速度。他的理由很扎心：AI已经能参与研发下一代AI，如果技术跑得太快，人类理解、管控AI的速度会跟不上。他列出风险清单，不光是AI失控，还...

围绕AI是否应当放缓研发节奏的争论达到了前所未有的热度，除了几家人工智能公司接连发声外，越来越多的人下场站队， “AI末日论”的争论也从技术延伸至资本市场。最新的言论来自Meta CEO扎克伯格。他9月16日公开表示，将绝大部分算力用于服务人，而不是竞相追求AI递归自我改进，是确保安全开发这项技术的最佳方式之一。一场关于“AI末日论”的顶级争论事情的发酵始于Anthropic CEO达里奥·阿莫代伊9月12日发表《我们必须把控前沿AI的节奏》，他在文中写道，大约自今年夏天以来， AI构建下一代AI的“递归自我改进”能力不断增强，若不加约束，它可能超出人类理解和控制这些系统的能力。达里奥担心6-...

多名美科技企业家呼吁放缓AI发展步伐，扎克伯格表态综合路透社、美国消费者新闻与商业频道（CNBC）等媒体报道，美国“元”公司首席执行官扎克伯格当地时间15日在社交平台上发帖，分享自己对人工智能（AI）安全性的看法，称实验室有足够动力安全开发AI模型。路透社称，扎克伯格的表态似乎与美国一些头部AI企业高层人员日前所发表关于放缓AI发展步伐的言论不一致。扎克伯格 资料图 图源：ICphoto扎克伯格当天发帖称，每个实验室都有责任和动力以安全训练模型所需的速度推进工作，也有能力采取行动来确保做到这一点。“但实际情况是：用户不会愿意使用与自身需求不一致、不听从指令的智能体，因此实验室自然有强烈的内在动...

转自：财联社财联社9月16日讯（编辑 周子意）Meta首席执行官马克·扎克伯格周二（9月15日）分享了他对人工智能（AI）安全的看法，他认为AI实验室应依靠独立的评估者和顾问，足以确保模型的安全性，他不认为需要放缓AI的开发。扎克伯格的立场更接近英伟达首席执行官黄仁勋的观点，而非Anthropic首席执行官达里奥·阿莫迪的立场。AI安全争议阿莫迪上周末发表文章，呼吁科技行业“减缓提升AI模型能力的速度”，此后几天里，关于AI安全的话题备受关注。对于这一话题，扎克伯格在X平台及其他社交媒体上发文表示，他认为未能“专注于对齐”的AI实验室将会落后。所谓的“对齐”就是指开发者为确保技术符合人类价值观...

（来源：财闻） 扎克伯格周二在X平台发文称，每个实验室都有责任和动力以必要节奏推进模型安全训练，并有能力采取自主措施加以保障。 9月16日，据路透社报道，Meta（META.US）首席执行官马克·扎克伯格（Mark Zuckerberg）当地时间9月15日表示，行业竞争和民事责任为人工智能企业提供了充足的动力，使其能够自主采取安全措施。这一表态似乎与行业主要领导者呼吁协调放缓AI发展的立场形成分歧。扎克伯格周二在X平台发文称，每个实验室都有责任和动力以必要节奏推进模型安全训练，并有能力采取自主措施加以保障。扎克伯格还指出，实验室有强烈动机避免模型...

来源：环球网 【环球网报道 记者 张江平】综合路透社、美国消费者新闻与商业频道（CNBC）等媒体报道，美国“元”公司首席执行官扎克伯格当地时间15日在社交平台上发帖，分享自己对人工智能（AI）安全性的看法，称实验室有足够动力安全开发AI模型。路透社称，扎克伯格的表态似乎与美国一些头部AI企业高层人员日前所发表关于放缓AI发展步伐的言论不一致。扎克伯格 资料图 图源：IC photo扎克伯格当天发帖称，每个实验室都有责任和动力以安全训练模型所需的速度推进工作，也有能力采取行动来确保做到这一点。“但实际情况是：用户不会愿意使用与自身需求不一致、不听从指令的智能体，因此实验室自然有强烈的内在动力提升...

当地时间9月15日，Meta首席执行官马克·扎克伯格表示，各人工智能实验室都有责任根据模型安全训练的需要调整开发速度，并应通过独立评估机构和顾问提高模型安全性。他认为，信任和对齐能力正成为区分AI智能体和模型的重要能力，缺乏对齐能力的公司可能落后。 扎克伯格表示，Meta此前已将AI工具Muse的发布时间推迟数月，以专注于安全和安保，但没有要求其他AI公司同步放缓。他还称，AI实验室面临模型造成损害的潜在法律责任，因此具有提高安全性的动力。 扎克伯格同时提出，AI公司应将大部分算力用于服务用户，而非竞相推动递归式自我改进，并认为扩大独立AI评估机构和顾问的生态有助于提升安全性。

IT之家 9 月 16 日消息，Meta CEO 扎克伯格今日在 X 平台发文，表达了对业界呼吁放缓 AI 开发一事的看法。扎克伯格表示，现实情况是用户绝不会愿意去用那些与自身价值观未对齐、且无法按指令执行任务的智能体。因此，各大 AI 实验室天然具备极强的内在动力，去提升自身模型的对齐水平。IT之家注：模型的对齐水平是指人工智能模型的输出结果与人类的意图、价值观、道德规范以及真实世界事实的符合程度。当前业界对于“是否应放缓模型能力的迭代、直到对齐技术跟上”存在诸多争论。而在我看来，信任与对齐正迅速成为拉开智能体和模型差距的核心竞争力。任何忽视对齐技术的实验室，都必将遭到淘汰。如果模型造成危害...