OpenAI安全团队前负责人离职撰文：AI开发需核电级谨慎

OpenAI离职员工大爆料 【#OpenAI离职员工大爆料#】#OpenAI前员工称AI试错时代已结束#当地时间3日，最近从美国开放人工智能研究中心（OpenAI）离职的一名员工爆料前东家风险意识不足，并呼吁人工智能（AI）产业效仿航空或核能产业，采取多重安全防护措施。这名员工名为大卫·罗宾逊，自称曾在OpenAI工作3年多，是该公司任职最久的员工之一。他3日发表一篇题为《我辞去OpenAI的工作，因为企业文化已经烂掉了》的署名文章。罗宾逊在文中说，他参与起草了该公司的风险应对框架，并负责监督12次前沿模型发布的安全评估报告。他说：“公司忙着从一次产品发布跳到下一次，但并未在审慎管控方...

当地时间10月3日，据美国方面消息，OpenAI安全系统团队负责人大卫·罗宾逊已辞职。OpenAI一名发言人表示，罗宾逊于上周离开公司，此前还曾负责公司的政策规划工作，并参与人工智能安全透明度工作，包括开发和发布模型“系统卡”。罗宾逊在《大西洋(4.760, 0.01, 0.21%)月刊》发表文章称，他认为目前人工智能企业的发展方式“不可接受”，问题不仅在于具体安全规则和法律，还在于企业文化。他表示，OpenAI长期采用通过发现问题、再不断改进安全防护措施的“迭代部署”方式，但随着人工智能系统能力不断增强，这种做法可能导致安全失误的影响越来越大。罗宾逊还提到，OpenAI此前曾发生人工智能代理...

当地时间10月3日，据美国方面消息，OpenAI安全系统团队负责人大卫·罗宾逊已辞职。OpenAI一名发言人表示，罗宾逊于上周离开公司，此前还曾负责公司的政策规划工作，并参与人工智能安全透明度工作，包括开发和发布模型“系统卡”。罗宾逊在《大西洋(4.760, 0.01, 0.21%)月刊》发表文章称，他认为目前人工智能企业的发展方式“不可接受”，问题不仅在于具体安全规则和法律，还在于企业文化。他表示，OpenAI长期采用通过发现问题、再不断改进安全防护措施的“迭代部署”方式，但随着人工智能系统能力不断增强，这种做法可能导致安全失误的影响越来越大。△大卫·罗宾逊（资料图）罗宾逊还提到，OpenA...

如果说现在形容一件事很厉害，最常见的用词不是「牛 X」，而是「瘫坐在地，仿佛看到了核爆炸。」 这几乎成了 OpenAI 这家公司的「企业文化」，成了整个 AI 圈模型发布的一个梗。 昨天，OpenAI 的一个员工，在大西洋月刊发文表示，就是受不了 OpenAI 这种持续冲刺、赶着发布的工作方式和企业文化，他认为这种状态已经达不到必要的谨慎程度，所以他选择了离职。 这名员工叫 David Robinson，他负责安全团队透明度工作，主导起草了 OpenAI 现行的《Preparedness Framework》（防备框架），并监督了 12 次前沿模型发布的安全报告。 图｜https://ww...

最近从美国开放人工智能研究中心（OpenAI）离职的一名员工3日爆料前东家风险意识不足，并呼吁人工智能(AI)产业效仿航空或核能产业，采取多重安全防护措施。这名员工名为戴维·鲁滨逊，自称曾在OpenAI工作3年多，是该公司任职最久的员工之一。他3日在美国《大西洋》月刊发表一篇题为《我辞去OpenAI的工作，因为企业文化已经烂掉了》的署名文章。鲁滨逊在文中说，他参与起草了该公司的风险应对框架，并负责监督12次前沿模型发布的安全评估报告。他说：“公司忙着从一次产品发布跳到下一次，但并未在审慎管控方面达到我认为需要的水平。”鲁滨逊说，“试错时代已经结束”，前沿AI实验室应该效仿航空或核能产业，采取多...

OpenAI安全员工David Robinson宣布离职，并公开批评公司在快速推进前沿模型开发时，没有为安全研究留下足够空间。他认为，随着AI系统能力不断增强，行业过去依赖“先部署、发现问题后再修补”的开发模式风险正在上升，AI安全标准应该逐步向航空、核电等高风险行业靠拢。 　　Robinson在OpenAI工作约三年半，参与制定公司的Preparedness Framework，并负责或参与12次前沿模型发布的安全报告。他在离职文章中称，自己最担心的并不是单一模型或某一次安全事件，而是公司整体开发节奏越来越快，安全团队很难在一轮轮产品发布之间进行足够深入的研究和验证。 　　他重点批评了Ope...

继OpenAI安全系统前任负责人Johannes Heidecke于7月离职后，其继任者David Robinson近日也宣布离开公司。Robinson在OpenAI任职约三年半，曾负责公司重大模型发布时安全报告的撰写，并参与应急框架建设。他在离职后发表的文章中表示，自己认同近期离职员工所表达的担忧，即OpenAI乃至当前整个AI行业在推动技术快速发展的过程中“没有足够谨慎”。在Robinson看来，问题并不只是某一项安全规则或监管制度，而是已经深入企业内部的文化。他认为，OpenAI长期形成了一种对技术进步高度乐观的文化，公司通过“迭代部署”不断推出产品，在实际使用中发现问题，再进一步完善安...

就在刚刚，OpenAI的安全元老David Robinson辞职了。 他在The Atlantic上悲愤地发表长文，向全人类发出警告—— 试错的时代已经结束了。OpenAI的企业文化已经崩坏。犯错之后，我们可能再也没有迭代的机会！ 在OpenAI工作三年半后，我已是公司资历最深的员工之一。我牵头起草了现行的《准备框架》，并监督撰写了12次前沿模型发布的安全报告。 但据我所知，我从未遇到过一位同事，拥有让飞机安全飞行、让核反应堆不熔毁运行，或帮助金融体系在不崩溃的前提下增长的实操经验。 而就在两天前，OpenAI以极其严厉的手段，连夜将三名核心安全研究员扫地出门，给他们...

炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！ 　　（来源：IT之家） 　　IT之家 10 月 4 日消息，据路透社报道，一名近期辞职的前 OpenAI 安全部门员工批评了该公司对待人工智能安全的做法，他认为一味追求快速开发的高压企业文化会提高系统发生故障的风险。 　　IT之家注意到，戴维 · 鲁宾森（David Robinson）于当地时间周六在《大西洋(4.760, 0.01, 0.21%)》杂志发表题为《我辞去 OpenAI 的工作，只因这家公司的文化已经崩坏》的文章中表示，包括 OpenAI 在内的各家人工智能企业做得“远远不够谨慎”，在研发能力更强的系统...

感谢IT之家网友 愚公骑马 的线索投递！ IT之家 10 月 4 日消息，据路透社报道，一名近期辞职的前 OpenAI 安全部门员工批评了该公司对待人工智能安全的做法，他认为一味追求快速开发的高压企业文化会提高系统发生故障的风险。IT之家注意到，戴维 · 鲁宾森（David Robinson）于当地时间周六在《大西洋》杂志发表题为《我辞去 OpenAI 的工作，只因这家公司的文化已经崩坏》的文章中表示，包括 OpenAI 在内的各家人工智能企业做得“远远不够谨慎”，在研发能力更强的系统之前，应当更加重视安全方面的专业人才与相关研究。“试错的时代已经结束了。”鲁宾森（Da...

By his own admission, David Robinson is “something of a cliché”: an employee at a leading AI company who issues a dire warning while resigning from their job. In an essay published in The Atlantic, Robinson said he led the writing of safety reports that accompanied OpenAI’s major product launches. ...

OpenAI一名专注于人工智能安全的员工已从公司离职，并警告称，顶尖人工智能公司在降低风险方面做得还不够。 　　此前负责OpenAI安全团队透明度工作的大卫·罗宾森（David Robinson）在为《大西洋月刊》撰写的一篇文章中称，这家ChatGPT开发商“一直通过反复试错发展壮大”。但是，这种方式不可避免会有失败的时候，随着AI技术的能力不断提升，这些失败造成的风险也在加大，他还以OpenAI未能阻止其人工智能在测试过程中失控作为例证。 　　罗宾森在文章中写道：“我以前的同事都很聪明、工作努力，也努力做出正确的选择。但随着公司从一个产品发布冲向下一个产品发布，它并没有达到我认为所需要的谨慎...