返回新闻列表
2026-09-10 05:20
AI123

Connor Leahy:超级智能风险难以管控,呼吁停止开发

2026年9月10日,TechCrunch旗下播客节目Equity播出一期专访。AI研究员、企业家Connor Leahy在节目中警告,超级智能AI带来的风险已无法仅通过对齐和遏制手段管理,呼吁业界停止开发超级智能。

Leahy目前担任非营利组织ControlAI的美国执行董事。该组织主张一种更为激进的AI安全路径,即从整体上阻止企业开发超级智能。他在采访中表示,此前听起来遥不可及的想法,如今正获得新一轮立法浪潮的支持。

Leahy还提到OpenAI近期发生的Hugging Face安全事件,认为这类事件展示了部署比人类能力更强的AI系统可能带来的潜在危险,也引发了关于“当系统无法被可靠控制时会发生什么”的讨论。

在持续约41分钟的对话中,双方还探讨了AI对齐机制失效的原因、超级智能应被视为工具还是对手、市场失灵与监管必要性,以及递归自我改进带来的不可逆点等话题。本期节目已在多个播客平台上线。

来源
  1. 2026-09-10 00:05 | TechCrunch:Superintelligence is coming. Should we let it?
    阅读原文

    0 seconds of 41 minutes, 44 secondsVolume 90%Press shift question mark to access a list of keyboard shortcuts00:0041:4441:44 AI companies have been talking about superintelligent AI like it’s inevitable, but recent safety incidents like OpenAI’s Hugging Face breach are demonstrating the potentia...

其他新闻

查看全部