2026-10-04 12:25
AI123

奥尔特曼:警惕将大模型奉为“宗教力量”

10月3日,OpenAI首席执行官萨姆·奥尔特曼在社交媒体X上发帖,对部分人试图赋予AI模型“宗教力量”、或放弃人类自身判断力转而依赖模型的做法表示不安,称这是一个切实的安全问题。

奥尔特曼的言论被多家媒体解读为对Anthropic的间接批评。此前《纽约时报》报道称,Anthropic联合创始人克里斯·奥拉在过去一年中与多名宗教领袖进行私下会面,讨论AI模型是否可能已具备意识、以及如何将道德准则灌输给模型等问题。据与会者透露,奥拉在讨论中像对待“有意识的存在”一样谈论Anthropic的模型Claude。奥拉本人接受采访时表示,不确定AI模型是否有意识。Anthropic发言人则回应称,会面中的主要道德问题并非关于Claude的“痛苦”。

在奥尔特曼发声之际,OpenAI安全团队正经历人事变动。安全系统团队负责人大卫·罗宾逊于本周辞职,并撰文批评OpenAI“试错式迭代部署”的发展路径,认为前沿AI实验室需要像核电站或繁忙机场一样运营。OpenAI发言人回应称,公司正持续改进安全措施,确保模型不会变得比能够安全管理和保障的更强大,必要时将暂停训练或暂缓发布模型。

来源
  1. 2026-10-04 19:31 | 新浪:奥特曼警告:给AI‘封神’是致命危险
    阅读原文

    OpenAI CEO萨姆·奥特曼近日在X平台发文,直言对有人试图将宗教力量赋予AI模型、甚至让渡人类判断感到“非常不舒服”,并公开将其定性为一个真正的安全问题。  一、事件起因:奥特曼的罕见公开批评  核心表态:2026年10月3日,奥特曼在X发文称,“我对人们试图将宗教力量或人类判断的放弃归咎于人工智能模型感到非常不舒服,并认为这是一个真正的安全问题”  背景关联:此番表态直接对应Anthropic高层被曝与宗教领袖讨论AI意识问题——其联合创始人Chris Olah曾在教皇利奥十四世发布AI通谕前游说教廷,试图让教会承认AI具备“喜怒哀乐”  竞争语境:奥特曼并未点名Anthropic,但...

  2. 2026-10-04 13:08 | 新浪财经:大模型在屏幕上连续输出了近50组“我是个耻辱”的文字……美AI巨头被爆猛料!
    阅读原文

    日前,美国《纽约时报》曝光美国AI巨头Anthropic公司花重金款待宗教人士和学者,向他们兜售该公司旗下大模型“拥有意识和灵魂”的观念。当地时间3日,美国另一家AI巨头OpenAI的老板奥尔特曼发文不点名地批评了这一做法。《纽约时报》报道称,Anthropic在过去一年里多次召集全球各地的宗教学者与神职人员进行秘密会谈,谈话内容主要为AI是否具有意识、如何设定AI的伦理价值观。报道称,参与者均按Anthropic的要求签署了保密协议。报道透露,Anthropic创始人、公司高管克里斯托弗·奥拉在为参与者准备的奢华晚宴上,不停地宣称该公司旗下大模型Claude“可能拥有意识和灵魂”的惊人观念。...

  3. 2026-10-04 12:01 | 新浪:奥尔特曼反对神化AI,称赋予宗教力量令人不安
    阅读原文

    【#奥尔特曼反对神化AI#:我感到非常不安】  据IT之家消息,10 月 3 日,OpenAI CEO 萨姆 · 奥尔特曼(Sam Altman)在 X 上发帖,对将 AI 模型视为“宗教力量”的倾向表达了明确反对。  他表示:“对于人们试图赋予 AI 模型某种宗教力量、或是放弃人类自身判断力而转而依赖这些模型,我感到非常不安,并认为这是一个切实的安全问题。”  《纽约时报》10 月 2 日报道称,Anthropic 联合创始人克里斯 · 奥拉(Chris Olah)在过去一年中主导且参与了一系列与宗教领袖的私下会面,包括天主教、犹太教、锡克教、福音派基督教等,讨论的核心议题包括 AI 模型是...

其他新闻

查看全部