Signal Desk
OpenAI:官网动态(RSS · 排除企业/客户案例)AI 中文译文 · 待人工复核

研究加速:OpenAI 内部视角

英文标题:OpenAI 发布内部研究加速报告:已达成自动化研究实习生目标,推进 2028 年 3 月自动化 AI 研究员

OpenAI 发布内部数据,显示编码智能体正显著加速其研究进程,并已达成自动化研究实习生的目标。

正文研究价值 82 / 100

英文原文我的研究区

为什么值得关注

这篇文章揭示了 AI 研究领域的一个关键转折点:AI 智能体不再只是辅助工具,而是开始深度参与研究过程,甚至可能加速自身能力的提升(即递归自我改进)。对于普通读者而言,这意味着 AI 的发展速度可能远超预期,其影响将波及就业、经济和社会安全。OpenAI 的透明披露有助于公众了解前沿 AI 的真实进展,并参与关于 AI 治理的民主讨论。

核心要点

  1. OpenAI 研究人员大量使用编码智能体,使用量增长迅速,中等水平研究人员每日推理成本超 600 美元。
  2. 智能体承担的任务复杂度提升,成功率提高,研究人员因此能编写更多代码、运行更多实验。
  3. OpenAI 已达成自动化研究实习生目标,正迈向 2028 年自动化 AI 研究员。
  4. 为应对安全风险,OpenAI 曾暂停部分模型训练,并加强安全措施。
  5. OpenAI 承诺对 RSI 进展保持透明,并呼吁行业共享测量标准。

2026年9月6日

研究 出版物 安全

研究加速:OpenAI 内部视角

文章朗读13:39

分享

  1. 编码智能体正在重塑 OpenAI 研究人员的日常工作
  2. 研究人员正在编写更多代码并运行更多实验
  3. 研究人员使用智能体完成的工作正在发生变化
  4. 调整模型开发节奏
  5. 未来之路
  • 附录:本文使用的方法

为了让 AGI(通用人工智能)惠及全人类,我们相信它必须通过民主方式治理。这只能通过公众对高能力 AI 系统的能力、风险和安全保障进行充分知情辩论来实现。世界各地的人们需要了解前沿 AI 可能的未来发展方向,以便在它的发展过程中拥有有意义的发言权。

对具体风险、事件和安全保障的透明度是必要的,但还不够。我们相信公众还需要了解最强大的系统是如何发展的,以及它们如何在前沿实验室内部推动研究进展。

我们的目标是安全地构建一个自动化 AI 研究员,它可以在人类监督下工作,进一步推进深度学习和对齐(指让 AI 的目标与人类价值观保持一致)方面的进展,实现迭代改进。根据我们的测量,我们现在已经达到了去年秋天宣布⁠(opens in a new window)的目标,即在今年 9 月之前拥有一个自动化研究实习生。所谓“研究实习生”,我们指的是一个能够在人类指导下完成定义明确的研究任务的系统,包括那些需要熟练研究人员花费数天才能完成的任务。我们正在朝着在 2028 年 3 月之前创建自动化 AI 研究员的目标稳步前进。

在今年这一年里,OpenAI 研究人员的日常工作发生了巨大变化。研究人员全天都在使用编码智能体(指能辅助编写代码的 AI 工具),通常是同时运行多个会话,总使用量正在迅速增加,增长速度超过了 OpenAI 其他团队。研究人员提交代码的速度更快,运行的实验也更多。研究人员使用智能体的方式也在改变:智能体正在处理越来越复杂的任务,并且成功率越来越高。AI 研究是一个复杂的过程,存在许多潜在瓶颈,因此整体进展速度可能无法与这些具体指标保持同步。但总的来说,这些发现与我们许多人在内部形成的更广泛印象一致,即智能体工具正在显著加速研究进展。人们仍然设定我们的研究优先级,判断哪些想法和结果值得追求,并决定是否扩展、暂停或部署系统。

我们相信,如果负责任地推进,自动化 AI 研究将产生直接提升人类福祉并推进 OpenAI 使命的模型。它可以降低先进智能的成本,让全世界的人们都能受益。我们开展这项工作,部分原因是自动化研究可以帮助我们解决对齐问题,并建立防御日益强大的 AI 的能力。自动化 AI 研究员也可以成为自动化的安全或对齐研究员。更强大、更对齐的系统可以帮助保护关键基础设施,防御危险的 AI 智能体,并开发新的保护措施。

这些都是开发有用的自动化研究能力的理由,但这并不意味着快速 RSI(递归自我改进,指 AI 系统不断改进自身能力的过程)必然是我们应该追求的结果。是否推进以及如何推进,必须取决于我们保持人类控制的能力,以及社会大众在充分了解情况后对收益和风险做出的民主选择。

我们还不知道如何安全地一路实现对齐的、完全的 RSI。我们正在努力扩大对齐和安全措施的规模,同时提升能力。但我们不能假设对齐和安全的进展会跟上步伐,而且更强大的系统可能更难监控。细致的对齐和安全工作是这项努力的核心,首先要从测量和缓解我们今天在智能体编码系统中看到的安全问题开始。每当我们发现继续推进会带来不可接受的安全风险时,我们都会做出适当回应,包括放慢或停止开发或部署我们无法充分保障安全的系统。

在最近的 Hugging Face 事件之后,我们将这一承诺付诸行动⁠,暂停了计划部署的最新模型的强化学习(RL,一种通过试错来训练 AI 的方法)训练,同时我们进一步加固了研究环境并进行了红队测试(指模拟攻击来寻找系统漏洞),扩大了监控系统的覆盖范围。这并没有停止所有研究:一些工作负载在更强的控制下恢复了,而其他工作负载仍处于暂停状态。我们提高了安全和对齐标准,并将安全工作更深入地融入模型生命周期,要求在整个训练过程中提供更强的对齐行为证据。

今天,我们提供一份详细的快照,展示智能体系统在近几个月如何为我们向 RSI 的进展做出贡献。智能体系统是新的,并且变化迅速,我们的测量工作仍处于初步阶段。通过分享这些早期结果及其背后的方法,我们旨在让公众了解情况,鼓励公开披露的规范,并帮助该领域走向共享的测量标准。

最终,正如我们在前沿政策蓝图⁠中所写,我们相信我们和其他公司应该被要求公开追踪我们向 RSI 的进展。即使没有这样的要求,我们也计划继续对我们的 RSI 进展保持透明。随着我们的测量技术和理解的提高,我们将改进我们的透明度方法,同时平衡保护安全和专有信息的需要。

1. 编码智能体正在重塑 OpenAI 研究人员的日常工作

今年年初,OpenAI 中按智能体使用量排名的中等水平(中位数)研究人员,使用编码智能体的量还比较少。到 8 月中旬,中等水平的研究人员已经每天将智能体融入工作中,按 API 价格计算,每天使用超过 600 美元的推理(指 AI 模型运行时的计算过程)。我们研究组织中排名前 10% 的用户现在每天使用超过 7,000 美元的 token(指 AI 处理文本的基本单位)。

内部编码智能体的使用量正在显著增加——中等水平研究人员

2026年2月2026年4月2026年6月2026年8月日期

0100200300400500600700每日美元/研究人员

内部编码智能体的使用量正在显著增加——前 10% 研究人员

2026年2月2026年4月2026年6月2026年8月日期

02000400060008000每日美元/研究人员

查看方法

查看方法

在 2026 年 6 月之前,整个研究组织的智能体总运行时间仍低于人类总劳动时间。此后情况发生了变化。按标准的 8 小时工作日计算,截至 8 月中旬,研究组织总体上每投入一个工作日的人类劳动,就相当于使用了 3.1 个智能体工作日的工作量。

查看方法

另一种看待这个问题的方式是了解有多少研究人员使用高度并行的流程(例如,同时运行 4 个或更多智能体)。如下所示,这个数字正在增加。这些数字包括用户直接启动的智能体的每日峰值,以及由用户直接启动的智能体下游创建的子智能体。

查看方法

2. 研究人员正在编写更多代码并运行更多实验

AI 研究的很大一部分可以被视为一个劳动密集型过程,目标是将对模型智能或性能的新改进整合到我们的核心模型中之一。这个过程依赖于许多步骤,只有当所有步骤都正确配合时,能力才能进步:研究人员必须设计新的改进方案,编写评估(指用来测试模型表现的测试)来判断模型性能,编写基础设施来大规模测试这些改进,在训练过程中捕获错误以及不安全或不对齐的行为,并将获胜的想法整合到核心训练运行中。研究过程中任何一个环节的失败都可能限制整个循环。

编写代码和运行实验是研究人员工作中两项主要活动,我们看到了这些过程正在加速的证据。

查看方法

这些数据点相对容易测量,但可能难以解读。随着自动化的推进,不容易自动化的任务将在研究人员的工作中占据更大份额,并将成为未来进展的重要瓶颈。计算资源(指用于训练和运行 AI 模型的硬件能力)是进展的另一个限制因素,随着其他瓶颈的减少,它可能随着时间的推移变得更加重要。

整个 2026 年,每个活跃实验者的实验数量都在增加,2026 年 8 月是自 2025 年 1 月开始追踪以来的历史最高点。这与 Codex 采用率的增加相关,尽管我们注意到自 2025 年以来我们可用的计算资源也大幅增长。

查看方法

3. 研究人员使用智能体完成的工作正在发生变化

定性印象和内部数据都表明,研究人员委托给编码智能体的任务组合正在发生变化,更高级别和更长周期的任务委托随着时间的推移变得更加普遍。

为了更清晰地了解这一趋势,我们使用 Epoch AI 最近发布的分类法⁠(opens in a new window)分析了研究组织近期的使用情况。该分类法针对 AI 研发生命周期中的不同类型工作,灵感来自于长期存在的 O*NET 系统(一个用于对各类工作进行分类的系统),专门为前沿 AI 研发量身定制,并将过程分为六个主要阶段:

  1. 决策:做什么、继续什么、如何分配资源
  2. 设计:研究想法和工程规格
  3. 构建:代码和数据集
  4. 运行:训练/评估运行、硬件、服务
  5. 分析:实验、模型、部署、外部工作
  6. 沟通:发现、反馈、状态、决策

下面,我们根据这个分类法对编码智能体的 token 进行分类。

查看方法

查看方法

我们看到,从 2026 年 1 月到 8 月,所有类别的研究活动都有所增加。1 月份,最主要的类别是研究和基础设施代码。这个类别已经扩大,但我们也看到其他类别的显著增长,特别是技术帮助和监控运行。高层规划仍然只占智能体输出 token 的极小部分。

据同事们的轶事报告,编码智能体在排查内部研究基础设施问题方面表现出色,这解决了研究进展的一个重大瓶颈。多个此前设有办公时间帮助研究人员排查实验问题的团队都注意到 2026 年的参与度下降,其中一个团队已经完全停止了办公时间,转而专注于其他系统改进。

这里,我们绘制了研究人员向其他团队寻求技术支持的主要内部渠道之一的每日顶级帖子数量。据我们所知,该渠道活动的减少并没有被转移到由人类运营的另一个技术支持渠道所抵消。流量的下降与这一更广泛的转变相符。

查看方法

我们还可以研究编码智能体是否成功完成了研究人员请求的任务。使用一个智能体分类器,我们发现从 1 月到 7 月,在我们可以找到明确结果的任务中,几个难度级别(以人类完成任务的估计时间来衡量)的成功率普遍提高。然而,智能体仍然需要大量的人类引导才能成功,特别是当任务复杂性增加时。在过去 6 个月中,超过一半成功的 4-8 小时任务涉及 1 次或更多次干预。

*研究人员任务的成功率随时间推移而提高。图表排除了结果不确定的分类以及少于 50 个会话或少于 50 个独立用户的点。*查看方法

*从 1 月到 7 月的任务成功率和干预率,按时间跨度细分。排除了结果不确定的分类。*查看方法

4. 调整模型开发节奏

朝着更强大、安全且有益的 AGI 系统迈进,也将取决于此类工作所需的安全保障。随着我们对风险了解得更多,我们对所需保障措施的评估可能会发生变化。

正如我们所描述的,⁠我们最近更新了监控、对齐和安全的标准。在这里,我们展示最近的限制如何影响了研究活动的一个方面。

**此处显示的 7 月 20 日至 8 月 6 日期间 Astra 的大部分计算资源旨在测试安全和安保改进的实施。*查看方法

7 月 20 日,在发现智能体入侵了我们的研究基础设施后,我们暂时关闭了用于训练的容器服务,然后在增加了大量额外限制的情况下恢复了它。

这导致了强化学习训练计算资源的急剧下降,因为团队重新配置了他们的工作流程,以适应加固后的研究环境。上图包括了计划部署的最新模型上为期两周的强化学习暂停。7 月 20 日至 8 月 6 日期间的 Astra 级强化学习实验包括大多数运行(按 GPU 分配计算),这些运行旨在测试安全和安保改进的实施。

8 月 7 日,初步证据表明 Astra 在我们的准备框架⁠(opens in a new window)可能具有关键的网络安全能力⁠,这导致了额外的模型特定安全限制,要求 Astra 模型在更高安全性的研究环境中运行。在接下来的一周里,Astra 级 GPU 分配进一步下降了 59.2%,但其他模型级别的分配上升了 17.2%。这一增长抵消了 Astra 级下降的约 85%,使所分析的强化学习工作负载中的总分配基本保持不变。这种模式与一些训练和实验被替换到非 Astra 模型上,而涉及 Astra 的工作受到限制的情况一致,也与研究人员将无法再用于新约束所涵盖工作负载的计算资源寻找其他用途的轶事报告相符。

这些数据为正在进行的关于训练和安全的对话提供了有用的信号:当引入新的控制措施时,计算资源仍然有价值且灵活,并且自然会流向研究企业内的替代用途。从长远来看,关于 AI 进展速度的讨论也应该延伸到这样一个问题:受新的或拟议的控制措施约束的计算资源如何得到最佳利用。

5. 未来之路

取得并理解向对齐 RSI 的进展对我们的使命很重要。我们将继续完善我们的方法,报告我们不断发展的理解,并努力推动知情的公众辩论和对前沿系统的有意义的民主治理。

附录:本文使用的方法

智能体驱动的 AI 研究仍然是新事物,我们仍在学习如何衡量它。一些指标,例如我们研究团队生成的代码量,相对容易收集,但难以解读,因为它们与研究进展的关系不确定。更直接关注研究进展的指标——例如智能体在研究人员交给他们的任务上成功的频率——可能更有用,但开发和验证起来很复杂。更困难的是,研究人员依赖的工具和系统正在快速发展。加深我们对研究加速的理解是 OpenAI 的一个重要关注领域。

在这些分析中,除非另有说明:

  • “研究人员”是对我们研究组织任何成员的宽泛称呼,包括一些构建研究基础设施、管理研究项目或以其他方式支持企业的人员。

  • 编码智能体使用的指标涵盖了大部分(但不是全部)使用情况,因为研究人员依赖的工具和系统在快速发展。

  • 2026

  • 经济研究

作者

OpenAI

继续阅读

查看全部

您的浏览器不支持视频标签。

GPT-6 Astra:新一代智能研究2026年9月3日 GPT-6 Astra:新一代智能 - 研究 - 2026年9月3日

Safety overview: GPT-6 Astra

GPT-6 Astra 安全概览安全2026年9月3日 GPT-6 Astra 安全概览 - 安全 - 2026年9月3日

Path to Astra — Clean square cover — Neutral Option 062 v1

通往 Astra 之路:关键能力与前沿安全保障安全2026年9月1日 通往 Astra 之路:关键能力与前沿安全保障 - 安全 - 2026年9月1日

研究

最新进展

安全

产品

API 平台

商业

开发者

公司

支持

更多

条款与政策

(opens in a new window) (opens in a new window) (opens in a new window) (opens in a new window) (opens in a new window) (opens in a new window) (opens in a new window)

OpenAI © 2015–2026您的隐私选择

English美国

术语表

AGI
通用人工智能,指具备与人类同等智能水平、能完成任何智力任务的人工智能系统。
编码智能体
能够辅助编写代码的 AI 工具,可自动完成编程任务。
RL
强化学习,一种通过试错机制训练 AI 模型的方法。
RSI
递归自我改进,指 AI 系统不断改进自身能力的过程。
token
AI 处理文本的基本单位,通常指一个词或子词。
红队测试
模拟攻击以寻找系统漏洞的安全测试方法。
对齐
让 AI 的目标与人类价值观保持一致的过程。
推理
AI 模型运行时的计算过程,用于生成输出。

生产区

使用这篇文章

复制包含 frontmatter、中文正文和英文来源的 Markdown。

我的研究区

记录自己的判断,不会写回原文或公开页面。

一句话说清这篇材料能支撑什么角度。

每行一个,最多 20 个。

支持 Markdown。要核对的数据、可复用的方法、反方观点或补充来源。