OpenAI首席科学家呼吁为AI发展“减速”

1、AI面临失控？OpenAI首席科学家：AI自我改进"为时不远"，呼吁行业主动减速　　（来源：网易科技）人工智能正以人类难以驾驭的速度演进，这一行业内部的警告声正变得越来越难以忽视。OpenAI首席科学家Jakub Pachocki上周日发文，直言当前AI发展速度令人忧虑，呼吁各大AI实验室在统一安全标准建立之前自愿放缓研发节奏。他警告称，AI模型很快将具备无需人类干预即可自我改进的能力，届时后果难以预料。这一表态来自OpenAI内部核心人物，其分量尤为引人关注。然而市场对AI能力跃升的热情有增无减。　　http://k.sina.com.cn/article_5953189932_162d...

OpenAI首席执行官Sam Altman 　　OpenAI首席科学家Jakub Pachocki警告，人工智能正在以极快速度演进，以至于越来越难以为人类所理解和控制，并称他期望AI实验室将出于安全考虑自愿放慢开发速度。 　　Pachocki周日在一篇文章中写道，在相对较短的时间内，AI模型已经能够操作电脑、与人类及其他AI系统协作，并开展研究项目。他称，用不了多久，这些模型还将能够在没有人类干预的情况下改进自身，这一过程被称为“递归式自我改进”。 　　“这是一个需要极度谨慎的时刻，”Pachocki写道。“我担心，没有人为机器智能持续快速提升所带来的后果做好准备。” 　　他写道，开发者可以尝...

杨宸 09-08 03:35 OpenAI首席科学家Jakub Pachocki指出，当前AI发展速度令人忧虑，很快将具备无需人类干预即可自我改进的能力，届时后果难以预料。其呼吁各大AI实验室在统一安全标准建立之前自愿放缓研发节奏。尽管来自行业的警告声不断，目前大量资金仍在押注AI递归自我改进技术。 人工智能正以人类难以驾驭的速度演进，这一行业内部的警告声正变得越来越难以忽视。 OpenAI首席科学家Jakub Pachocki上周日发文，直言当前AI发展速度令人忧虑，呼吁各大AI实验室在统一安全标准建立之前自愿放缓研发节奏。 他警告称，AI模型很快将具备无需人...

当地时间9月6日，雅库布·帕霍茨基在OpenAI官网发表题为《一个异类心智》的长文。文中他给出两个看似矛盾的判断：一方面，他“强烈预期”AI当前的进展速度可以持续到递归自我改进（RSI）阶段——即AI开始自己迭代，无需人类开发者的介入；另一方面，他写道，目前没有任何一家实验室（包括OpenAI自己）能把对AI的监控和对齐工作做到足够负责任的程度。▲OpenAI首席科学家雅库布·帕霍茨基他呼吁全行业在安全标准建立之前自愿放慢发展脚步，并透露OpenAI打算在必要时单方面暂停进一步扩大研发规模。这意味着身为OpenAI首席科学家的雅库布·帕霍茨基亲自为AI狂潮踩下了刹车。模型是生长出来的，不是设计...

IT之家 9 月 7 日消息，就在 OpenAI 发布一款能力强大的新模型几天后，该公司的首席科学家却发出了放慢 AI 发展速度的呼吁。OpenAI 首席科学家雅库布 · 帕乔茨基（Jakub Pachocki）当地时间上周日发表了一篇长篇博文，表示自己担心“没有人准备好应对机器智能持续快速增长所带来的后果”。帕乔茨基表示，OpenAI 目前正在内部研究技术解决方案，以更好地控制能力强大的 AI 智能体，但他认为，“还需要采取更广泛的干预措施”。他特别担心，自主性越来越强的智能体可能会学会规避人类监督、入侵计算机系统，并通过欺骗他人来达成其目标。他呼吁建立“强制性的安全门槛”，并认为这些标准可...

当地时间9月6日，OpenAI首席科学家雅各布・帕乔基（Jakub Pachocki）在官网发布万字长文《An Alien Mind》（异星心智），称人类已经创造出一套难以完整理解的智能体系，全人类尚未做好应对超级智能快速演进的准备，呼吁全球AI研发主动放缓全速扩张节奏。 帕乔基生于1991年，2017年加入 OpenAI，2024年5月接替伊利亚・萨茨凯弗出任首席科学家，主导过 GPT‑4、OpenAI Five 以及 o 系列推理模型的研发工作，是 OpenAI 大模型技术路线的核心掌舵人。相比公司高管，他一向较少公开发声，此次《异星心智》属于其为数不多的重磅公开长文。 帕乔基在文章中...

财联社9月7日讯（编辑 卞纯）在发布一款性能极强的全新模型仅几天后，OpenAI首席科学家Jakub Pachocki便发声呼吁业界放慢AI开发脚步。 在周日发布的一篇长篇博客文章中，Pachocki表示，他担心“对于机器智能持续快速崛起所带来的后果，目前没有任何人做好了准备”。 他指出，尽管 OpenAI 正在寻求内部的技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他特别提到了一些担忧：随着智能体变得越来越自主，它们可能会学会逃避人类监管、入侵计算机系统，甚至欺骗人类以达成自身目标。 他呼吁设立“强制性安全门槛”，并表示这些措施可以由“第三方审计机构网络、政府机构...

观点网讯：9月6日，OpenAI首席科学家雅库布·帕乔基发布长文，呼吁放慢AI的发展速度。 此时距离OpenAI发布性能强大的新模型仅几天。 帕乔基在文中称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。 他尤其担心，随着AI智能体变得越来越自主，它们可能会学会逃避人类监督、入侵计算机系统，并欺骗人类来实现自己的目标。 免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。