值得建造的未来，是以人为本的未来
英文标题：Mira Murati, OpenAI's Former CTO: AI Should Amplify Humans, Not Replace Them
Thinking Machines 提出构建以人为本的 AI，强调通过分散化、可定制和协作的 AI 延伸人类意志与判断力。
本文目录
Thinking Machines 的使命是构建能够延伸人类意志和判断力的人工智能。
人工智能每天都在变得更强大，但决定它应该做什么，这个权力在我们手中：个人、组织、全人类。这些决定需要知识和判断力，而人们正是通过持续接触工作——越来越多地与 AI 一起完成——来获得这些能力的。塑造高级智能的目标，本身也是一个持续的反馈、学习和调整的过程。
如今大多数 AI 都是在少数几个地方训练好，然后就被"冻结"了。它不会受到服务对象的影响，也不会从与人类协作的工作中学到什么。要延伸人类的意志和判断力，我们需要像人类本身一样多样化和分布式的 AI。这就是我们选择的道路。
为了在这条路上前进，我们正在推进以下技术方向：
- 训练强大的模型，提升多模态交互和可定制化等能力。锋利的工具能延伸人类的意志，而人类的判断力需要去塑造那些在技术前沿竞争的模型。
- 构建工具，让人们能够把 AI 变成自己的，定制模型来满足独特的需求。这包括训练模型权重（模型内部的参数）的能力。
- 开发界面，拓宽人与机器之间的沟通渠道，让个人的判断力能够持续影响 AI 的工作。
- **发表研究**给科学界，因为塑造 AI 的能力需要深入理解它是如何被制造出来的。
我们相信，值得建造的未来是以人为本的——由人类知识塑造，由人类意志引导，由人类判断力决定。下面是我们对这个未来的论证，以及我们为实现它正在做的工作。
把智能带到知识产生的地方
AI 的存在是为了服务于我们的工作。这些工作依赖于关于"如何做事"和"什么值得做"的知识，而这些知识是由参与工作的人们持续产生的。
想想一位厨师在创作新菜谱，或者一位店主在调整货架上的商品和价格。他们在追求一系列复杂的目标，并运用着外人难以一眼看懂的诀窍。这些知识通过反馈不断更新；它不是可以写进数据库的静态仓库。它是本地化的——不同的餐厅或店铺会用不同的方法追求不同的结果。店铺和厨房的集体知识，分散在每一位店主和厨师身上。迈克尔·波兰尼，《默会维度》（1966）
知识的分散是一种集体优势；它是整个系统多样性、适应性和韧性的来源。这也是自由市场优于计划经济的原因。中央计划失败不是因为智能不足，而是因为生产性知识的本质：它是默会的、本地化的、转瞬即逝的，并且由那些在工作中获得它的人私人持有。弗里德里希·哈耶克，《知识在社会中的运用》（1945）试图把知识集中起来供一个中央智能使用，也面临着同样的挑战。
有些领域仅靠智能就足够了，自主 AI 不需要人类参与就能飞速前进。两个例子是国际象棋（最强的引擎完全通过自我对弈训练）和数学（前沿模型正在独立解决长期悬而未决的问题）。这些例子有两个共同点。第一，给 AI 的目标是静态且可表达的：赢一盘棋，证明一个定理。第二，这些领域不包含隐藏的知识。国际象棋和数学的规则是普适的；棋盘对所有人可见。在棋盘之外，仅靠智能是不够的。
为了让人工智能从分散的知识中受益，它本身也必须是分散的。每个组织都依靠其成员的专业知识运转，这些知识通过工作获得和表达。我们相信 AI 应该帮助组织培育其独特的知识，而不是提取一个快照然后用标准化的产品取而代之。这种培育是一个持续的过程，需要 AI 与人一起工作，而不是取代人。
2014 年，长期作为自动化工厂大师的丰田，把它的专家工匠重新请回了生产线，明确目标是培养工艺和知识。负责此事的河合满解释了原因："要成为机器的主人，你必须拥有知识和技能来教导机器。"克雷格·特鲁德尔、萩原由纪和马杰，《人类取代机器人预示丰田的未来愿景》（2014）知识的产生和智能的应用是相互促进的；它们不是替代品。
人们所做的工作可能会改变，转向更多只有人才能带来的东西，但最优秀的组织会充分利用两者。AI 应该让每个组织都能以自己的方式变得卓越，而不是抹去它们之间的差异。
我们的目标是把智能带到知识产生和使用的地方。我们构建工具，让每个人都能用自己独特的知识微调模型（在已有模型基础上进行针对性训练），并在知识演进时持续调整模型。我们发表研究和食谱，让更多人能够掌握这种能力。我们设想的前沿 AI 是一个集体，像它所服务的人们一样多样化，因为它在每个独特的地方都被这些人塑造过。
人类的参与是一个技术挑战
让人们持续参与设定目标并与 AI 分享知识，并不意味着为了自动化而抵制自动化。机器能可靠独立完成的事情，就应该让它去做。但它也应该知道何时独自行动，何时邀请监督和反馈——就像人们在团队中工作时所做的那样。最好的协作者会预判：他们学会某人想要什么，并在被要求之前就把它带来，随着时间的推移赢得代表对方行事的权利。这些都是技术挑战，需要一种设计 AI 和评估 AI 的新方法。
将人类知识和判断力与大型语言模型（LLMs，一种能理解和生成人类语言的 AI 模型）结合的一个主要瓶颈，是人与 AI 之间的沟通渠道——一个小文本框和漫长的等待。这个渠道太窄，承载不了人类智慧和意图的丰富性；也太慢，无法进行持续的反馈。人们在实时协作时效果最好。我们会打断和纠正，会再看一眼并做手势，会大声改变主意。这就是为什么我们长期押注于交互模型：这些模型原生地处理实时、多模态的交互，在模型本身内部完成，而不是在外部搭建的框架中。以这种方式构建，交互性会随着智能的增长而扩展；让模型更聪明的训练，同时也让它成为更好的协作者。正确的界面不仅允许人类参与，还会邀请并奖励参与。
另一个挑战是设定正确的评估和优化目标。如今衡量 AI 智能的常见指标，是模型能自主执行的软件任务的时间跨度，如 METR 的图表所示。托马斯·夸和本·韦斯特等，《前沿 AI 模型的任务完成时间跨度》（2025）我们预计这个基准会继续进步，但它最终衡量的只是 AI 自身的能力，而不是人和机器能共同完成什么。
衡量后者更为复杂，而且不能由实验室单独完成。每个组织都要自己评估，AI 是否帮助它磨炼了判断力、发展了新知识、实现了目标。
构建能让用户长期变得更强的 AI，也能很好地协调激励机制。一个为每个客户提供单一模型的 AI 实验室，其利益在于吸收每个用户的独特之处，并贬低专业知识培育的价值。通过优化 AI 使其可定制和可协作，当我们的客户利用其独特优势时，我们也会受益。这些优势的最大化，不是通过租用一个 AI 并把工作外包给它，而是通过组织拥有 AI 并根据自身目标进行定制。
去中心化的对齐
人类的价值观，就像人类的知识一样，存在于个体的大脑中，并且抗拒整合。但如今，AI 的价值观和声音是在少数几个地方决定的。单一的价值对齐中心，无论管理得多好，都会成为一个容易被争夺的权力中心。
这会造成危险，尤其是当大多数有价值的工作都由 AI 独立完成、几乎不需要人类输入时。公司、政府和公民之间的社会契约，依赖于个人的生产能力——政府的权力和公司的利润最终都建立在此之上。不需要从人那里获取任何东西的权力，就会失去关心人们需求和价值观的动力，转而关心自身的存续。卢克·德拉戈和鲁道夫·莱恩，《智能诅咒》（2025）
即使怀着最好的意图，在一个地方塑造的模型也必然会编码其所有者的价值观，而不是它所服务的个体用户的价值观。"如果道德只由少数人决定，那么更道德的 AI 也是不够的。"利奥十四世，《伟大的人性》（2026）如今，每个实验室在训练下一代旗舰模型时，都会使用上一代旗舰模型来生成训练数据和奖励信号。无论这个循环中产生什么样的"性格"，每个人得到的都是一样的，每一代都继承了上一代的特征，在父辈的输出中成长，并由父辈的品味来评判。单一的对齐规范会压制创造力和多样性，阻碍进步。言论自由和自由市场让新思想、新商品和新服务得以涌现和竞争，而不是把某个时间点存在的偏好平均化。
为了让组织和个人能够将 AI 与自己的价值观对齐，这些价值观必须被编码到模型权重中。如果用户的价值观和欲望只能通过提示词（prompt，给 AI 的指令）影响模型，用户会发现表面的属性变了，但更深层的习惯依然如故。允许核心模型行为通过提示词发生显著变化会牺牲安全性，使一个可塑的集中式模型容易受到反复攻击。格温·布兰文，《守护天使：LLM 个性化提升生产力与安全性》（2026）
深刻塑造模型的能力，也是将其用于作恶的能力。约翰·冯·诺伊曼在 1955 年就指出了这个问题，约翰·冯·诺伊曼，《我们能从技术中幸存吗？》（1955）他写道，技术的有用和有害方面"无处不在，如此接近，以至于永远无法将狮子与羔羊分开。"保护羔羊的安全是一个持续的过程，是不断运用判断力和做出选择的结果。我们的目标是给做出这些选择的人提供更强大的工具，通过研究实现更安全的模型，同时不剥夺他们的所有权。
人类正是通过个体的独特性和创造性的张力而繁荣的。我们设想的对齐，不是一个单一模型的特性，而是一个 AI 生态系统的特性——这些 AI 在不同的地方成长，相互争论、竞争、学习。我们相信要保持这种独特性。
值得建造的未来
科技行业在教机器思考方面取得了惊人的进步；但机器应该思考什么，这个决定权必须留在我们手中。什么值得渴望，什么值得创造，如何正确使用我们拥有的时间。"摆脱所有严格功利主义哲学中无意义困境的唯一方法，是离开使用物品的客观世界，退回到使用本身的主观性。只有在一个严格以人类为中心的世界里，使用者——即人本身——成为终结无休止目的与手段链条的最终目的时，效用本身才能获得意义感……制造者的人类中心功利主义，在康德那句'任何人都不应成为他人的手段，每个人本身就是目的'的公式中得到了最伟大的表达。"汉娜·阿伦特，《人的境况》（1958）我们不是要给出一个单一的答案，而是要赋予每个人能力，让他们把自己的答案融入到前沿 AI 的发展中。
当前 AI 发展的道路，正朝着集中化和自主化推进，把人类的参与视为一种权衡：参与 vs. 能力，所有权 vs. 安全对齐。我们把这些视为需要解决的技术挑战：让 AI 因为鼓励人类参与而变得更强大，让组织通过将 AI 定制化以发挥自身优势而长期受益，让对齐源于由拥有者塑造的多样化 AI。解决这些挑战，正是我们使命的要求。
未来不是要在人类主导和面对 AI 时迅速过时之间做选择。不同的道路通向许多不同的未来，我们可以选择走哪一条。我们正在构建技术，让生来的人和被造之物能够并肩同行。
在页面中展开原始 Markdown
---
title: "值得建造的未来，是以人为本的未来"
title_en: "Mira Murati, OpenAI's Former CTO: AI Should Amplify Humans, Not Replace Them"
source: "thinkingmachines.ai"
source_url: "https://thinkingmachines.ai/blog/the-future-worth-building-is-human/"
published_at: "2026-07-11T00:00:00.000Z"
language: "zh-CN"
topics: ["openai"]
tags: ["深度","Thinking Machines Lab","AI对齐","人机协作"]
review_status: "unreviewed"
---
# 值得建造的未来，是以人为本的未来
> Thinking Machines 提出构建以人为本的 AI，强调通过分散化、可定制和协作的 AI 延伸人类意志与判断力。
## 内容摘要
Thinking Machines 的使命是构建能够延伸人类意志和判断力的人工智能。文章指出，当前大多数 AI 是集中训练后冻结的，无法从人类协作中学习。为了服务分散的知识，AI 本身也必须是分散的。公司正在推进训练强大模型、构建定制工具、开发交互界面和发表研究等技术方向，旨在让 AI 与人类共同工作，而不是取代人类。文章还讨论了去中心化对齐的重要性，认为价值观应编码在模型权重中，由用户塑造，而非
## 为什么值得关注
这篇文章挑战了当前 AI 集中化和自主化的主流趋势，提出了一种以人为本的替代路径。它强调 AI 应服务于人类的知识和判断力，而非取代人类，这对于避免权力集中、保护多样性和个人自主权至关重要。普通读者可以理解，AI 的未来不应由少数公司决定，而应让每个人都能参与塑造。
## 核心要点
- AI 应延伸而非取代人类的意志和判断力。
- 分散的知识需要分散的 AI，每个组织应能定制 AI 以发挥自身优势。
- 人类参与是技术挑战，需要更好的交互模型和评估标准。
- 去中心化对齐让价值观由用户塑造，避免单一权力中心。
- 未来不是人类与 AI 的对立，而是共生协作。
# 值得建造的未来，是以人为本的未来
Thinking Machines 的使命是构建能够延伸人类意志和判断力的人工智能。
人工智能每天都在变得更强大，但决定它应该做什么，这个权力在我们手中：个人、组织、全人类。这些决定需要知识和判断力，而人们正是通过持续接触工作——越来越多地与 AI 一起完成——来获得这些能力的。塑造高级智能的目标，本身也是一个持续的反馈、学习和调整的过程。
如今大多数 AI 都是在少数几个地方训练好，然后就被"冻结"了。它不会受到服务对象的影响，也不会从与人类协作的工作中学到什么。要延伸人类的意志和判断力，我们需要像人类本身一样多样化和分布式的 AI。这就是我们选择的道路。
为了在这条路上前进，我们正在推进以下技术方向：
- **训练强大的模型**，提升多模态交互和可定制化等能力。锋利的工具能延伸人类的意志，而人类的判断力需要去塑造那些在技术前沿竞争的模型。
- **[构建工具](https://thinkingmachines.ai/tinker/)**，让人们能够把 AI 变成自己的，定制模型来满足独特的需求。这包括训练模型权重（模型内部的参数）的能力。
- **[开发界面](https://thinkingmachines.ai/blog/interaction-models/)**，拓宽人与机器之间的沟通渠道，让个人的判断力能够持续影响 AI 的工作。
- **[发表研究](https://thinkingmachines.ai/blog/)**给科学界，因为塑造 AI 的能力需要深入理解它是如何被制造出来的。
我们相信，值得建造的未来是以人为本的——由人类知识塑造，由人类意志引导，由人类判断力决定。下面是我们对这个未来的论证，以及我们为实现它正在做的工作。
## 把智能带到知识产生的地方
AI 的存在是为了服务于我们的工作。这些工作依赖于关于"如何做事"和"什么值得做"的知识，而这些知识是由参与工作的人们持续产生的。
想想一位厨师在创作新菜谱，或者一位店主在调整货架上的商品和价格。他们在追求一系列复杂的目标，并运用着外人难以一眼看懂的诀窍。这些知识通过反馈不断更新；它不是可以写进数据库的静态仓库。它是本地化的——不同的餐厅或店铺会用不同的方法追求不同的结果。店铺和厨房的集体知识，分散在每一位店主和厨师身上。迈克尔·波兰尼，《默会维度》（1966）
知识的分散是一种集体优势；它是整个系统多样性、适应性和韧性的来源。这也是自由市场优于计划经济的原因。中央计划失败不是因为智能不足，而是因为生产性知识的本质：它是默会的、本地化的、转瞬即逝的，并且由那些在工作中获得它的人私人持有。弗里德里希·哈耶克，《知识在社会中的运用》（1945）试图把知识集中起来供一个中央智能使用，也面临着同样的挑战。
有些领域仅靠智能就足够了，自主 AI 不需要人类参与就能飞速前进。两个例子是国际象棋（最强的引擎完全通过自我对弈训练）和数学（前沿模型正在独立解决长期悬而未决的问题）。这些例子有两个共同点。第一，给 AI 的目标是静态且可表达的：赢一盘棋，证明一个定理。第二，这些领域不包含隐藏的知识。国际象棋和数学的规则是普适的；棋盘对所有人可见。在棋盘之外，仅靠智能是不够的。
为了让人工智能从分散的知识中受益，它本身也必须是分散的。每个组织都依靠其成员的专业知识运转，这些知识通过工作获得和表达。我们相信 AI 应该帮助组织培育其独特的知识，而不是提取一个快照然后用标准化的产品取而代之。这种培育是一个持续的过程，需要 AI 与人一起工作，而不是取代人。
2014 年，长期作为自动化工厂大师的丰田，把它的专家工匠重新请回了生产线，明确目标是培养工艺和知识。负责此事的河合满解释了原因："要成为机器的主人，你必须拥有知识和技能来教导机器。"克雷格·特鲁德尔、萩原由纪和马杰，《人类取代机器人预示丰田的未来愿景》（2014）知识的产生和智能的应用是相互促进的；它们不是替代品。
人们所做的工作可能会改变，转向更多只有人才能带来的东西，但最优秀的组织会充分利用两者。AI 应该让每个组织都能以自己的方式变得卓越，而不是抹去它们之间的差异。
我们的目标是把智能带到知识产生和使用的地方。[我们构建工具](https://thinkingmachines.ai/tinker/)，让每个人都能用自己独特的知识微调模型（在已有模型基础上进行针对性训练），并在知识演进时持续调整模型。[我们发表研究](https://thinkingmachines.ai/blog/)和[食谱](https://tinker-docs.thinkingmachines.ai/cookbook/)，让更多人能够掌握这种能力。我们设想的前沿 AI 是一个集体，像它所服务的人们一样多样化，因为它在每个独特的地方都被这些人塑造过。
## 人类的参与是一个技术挑战
让人们持续参与设定目标并与 AI 分享知识，并不意味着为了自动化而抵制自动化。机器能可靠独立完成的事情，就应该让它去做。但它也应该知道何时独自行动，何时邀请监督和反馈——就像人们在团队中工作时所做的那样。最好的协作者会预判：他们学会某人想要什么，并在被要求之前就把它带来，随着时间的推移赢得代表对方行事的权利。这些都是技术挑战，需要一种设计 AI 和评估 AI 的新方法。
将人类知识和判断力与大型语言模型（LLMs，一种能理解和生成人类语言的 AI 模型）结合的一个主要瓶颈，是人与 AI 之间的沟通渠道——一个小文本框和漫长的等待。这个渠道太窄，承载不了人类智慧和意图的丰富性；也太慢，无法进行持续的反馈。人们在实时协作时效果最好。我们会打断和纠正，会再看一眼并做手势，会大声改变主意。这就是为什么我们长期押注于[交互模型](https://thinkingmachines.ai/blog/interaction-models/)：这些模型原生地处理实时、多模态的交互，在模型本身内部完成，而不是在外部搭建的框架中。以这种方式构建，交互性会随着智能的增长而扩展；让模型更聪明的训练，同时也让它成为更好的协作者。正确的界面不仅允许人类参与，还会邀请并奖励参与。
另一个挑战是设定正确的评估和优化目标。如今衡量 AI 智能的常见指标，是模型能自主执行的软件任务的时间跨度，如 METR 的图表所示。托马斯·夸和本·韦斯特等，《前沿 AI 模型的任务完成时间跨度》（2025）我们预计这个基准会继续进步，但它最终衡量的只是 AI 自身的能力，而不是人和机器能共同完成什么。
衡量后者更为复杂，而且不能由实验室单独完成。每个组织都要自己评估，AI 是否帮助它磨炼了判断力、发展了新知识、实现了目标。
构建能让用户长期变得更强的 AI，也能很好地协调激励机制。一个为每个客户提供单一模型的 AI 实验室，其利益在于吸收每个用户的独特之处，并贬低专业知识培育的价值。通过优化 AI 使其可定制和可协作，当我们的客户利用其独特优势时，我们也会受益。这些优势的最大化，不是通过租用一个 AI 并把工作外包给它，而是通过组织拥有 AI 并根据自身目标进行定制。
## 去中心化的对齐
人类的价值观，就像人类的知识一样，存在于个体的大脑中，并且抗拒整合。但如今，AI 的价值观和声音是在少数几个地方决定的。单一的价值对齐中心，无论管理得多好，都会成为一个容易被争夺的权力中心。
这会造成危险，尤其是当大多数有价值的工作都由 AI 独立完成、几乎不需要人类输入时。公司、政府和公民之间的社会契约，依赖于个人的生产能力——政府的权力和公司的利润最终都建立在此之上。不需要从人那里获取任何东西的权力，就会失去关心人们需求和价值观的动力，转而关心自身的存续。卢克·德拉戈和鲁道夫·莱恩，《智能诅咒》（2025）
即使怀着最好的意图，在一个地方塑造的模型也必然会编码其所有者的价值观，而不是它所服务的个体用户的价值观。"如果道德只由少数人决定，那么更道德的 AI 也是不够的。"利奥十四世，《伟大的人性》（2026）如今，每个实验室在训练下一代旗舰模型时，都会使用上一代旗舰模型来生成训练数据和奖励信号。无论这个循环中产生什么样的"性格"，每个人得到的都是一样的，每一代都继承了上一代的特征，在父辈的输出中成长，并由父辈的品味来评判。单一的对齐规范会压制创造力和多样性，阻碍进步。言论自由和自由市场让新思想、新商品和新服务得以涌现和竞争，而不是把某个时间点存在的偏好平均化。
为了让组织和个人能够将 AI 与自己的价值观对齐，这些价值观必须被编码到模型权重中。如果用户的价值观和欲望只能通过提示词（prompt，给 AI 的指令）影响模型，用户会发现表面的属性变了，但更深层的习惯依然如故。允许核心模型行为通过提示词发生显著变化会牺牲安全性，使一个可塑的集中式模型容易受到反复攻击。格温·布兰文，《守护天使：LLM 个性化提升生产力与安全性》（2026）
深刻塑造模型的能力，也是将其用于作恶的能力。约翰·冯·诺伊曼在 1955 年就指出了这个问题，约翰·冯·诺伊曼，《我们能从技术中幸存吗？》（1955）他写道，技术的有用和有害方面"无处不在，如此接近，以至于永远无法将狮子与羔羊分开。"保护羔羊的安全是一个持续的过程，是不断运用判断力和做出选择的结果。我们的目标是给做出这些选择的人提供更强大的工具，通过研究实现更安全的模型，同时不剥夺他们的所有权。
人类正是通过个体的独特性和创造性的张力而繁荣的。我们设想的对齐，不是一个单一模型的特性，而是一个 AI 生态系统的特性——这些 AI 在不同的地方成长，相互争论、竞争、学习。我们相信要保持这种独特性。
## 值得建造的未来
科技行业在教机器思考方面取得了惊人的进步；但机器应该思考什么，这个决定权必须留在我们手中。什么值得渴望，什么值得创造，如何正确使用我们拥有的时间。"摆脱所有严格功利主义哲学中无意义困境的唯一方法，是离开使用物品的客观世界，退回到使用本身的主观性。只有在一个严格以人类为中心的世界里，使用者——即人本身——成为终结无休止目的与手段链条的最终目的时，效用本身才能获得意义感……制造者的人类中心功利主义，在康德那句'任何人都不应成为他人的手段，每个人本身就是目的'的公式中得到了最伟大的表达。"汉娜·阿伦特，《人的境况》（1958）我们不是要给出一个单一的答案，而是要赋予每个人能力，让他们把自己的答案融入到前沿 AI 的发展中。
当前 AI 发展的道路，正朝着集中化和自主化推进，把人类的参与视为一种权衡：参与 vs. 能力，所有权 vs. 安全对齐。我们把这些视为需要解决的技术挑战：让 AI 因为鼓励人类参与而变得更强大，让组织通过将 AI 定制化以发挥自身优势而长期受益，让对齐源于由拥有者塑造的多样化 AI。解决这些挑战，正是我们使命的要求。
未来不是要在人类主导和面对 AI 时迅速过时之间做选择。不同的道路通向许多不同的未来，我们可以选择走哪一条。我们正在构建技术，让生来的人和被造之物能够并肩同行。
---
英文原文：[Mira Murati, OpenAI's Former CTO: AI Should Amplify Humans, Not Replace Them](https://thinkingmachines.ai/blog/the-future-worth-building-is-human/)