--- title: "长期利益信托" title_en: "The Long-Term Benefit Trust" source: "Anthropic" source_url: "https://www.anthropic.com/news/the-long-term-benefit-trust" published_at: "2026-07-09T19:21:35.000Z" language: "zh-CN" topics: ["claude"] tags: ["Anthropic","Claude"] review_status: "unreviewed" --- # 长期利益信托 > Anthropic 宣布成立长期利益信托（LTBT），由五位独立受托人逐步控制董事会多数席位，以确保公司治理优先考虑 AI 的长期公共利益而非股东短期利益。 ## 内容摘要 Anthropic 公布了名为长期利益信托（LTBT）的新治理结构，旨在应对变革性 AI 带来的独特挑战。LTBT 由五位与公司经济利益无关的受托人组成，他们有权逐步选举和罢免董事会多数成员。结合公益公司（PBC）身份，该结构旨在平衡股东利益与公共利益，特别是在 AI 可能产生巨大外部性（如国家安全风险、经济混乱）时。信托将逐步生效，并设有修改机制以保持灵活性。首批受托人包括来自兰德公司、Evid ## 为什么值得关注 AI 技术可能带来前所未有的社会影响，如国家安全风险和经济混乱，而传统公司治理倾向于优先考虑股东利益。LTBT 通过引入独立受托人，确保在关键决策中平衡公共利益，防止公司因追求短期利润而忽视长期风险。 ## 核心要点 - LTBT 由五位独立受托人组成，他们不持有公司经济利益，有权逐步选举董事会多数成员。 - Anthropic 已注册为公益公司（PBC），法律上允许董事平衡公共利益与股东利益。 - 信托旨在应对 AI 可能产生的巨大外部性，如国家安全风险和经济混乱。 - 信托权力将逐步生效，4 年内受托人将控制董事会多数席位。 - 修改信托需股东超级多数同意，门槛随权力增加而提高。 - 首批受托人包括 Jason Matheny、Kanika Bahl 等 AI 安全与公共政策专家。 今天，我们想分享更多关于新治理结构的细节，这个结构叫做**长期利益信托**（Long-Term Benefit Trust，简称 LTBT）。我们从 Anthropic 成立之初就开始设计它。LTBT 是我们尝试调整公司治理方式，以应对我们认为[变革性 AI 将带来](https://www.anthropic.com/news/core-views-on-ai-safety)的独特挑战和长期机遇。 信托是一个独立的机构，由五位在经济上不持有公司利益的成员组成。他们有权挑选和罢免我们董事会的一部分成员——这部分成员会逐渐增加（最终会占到董事会的大多数）。再加上我们**公益公司**（Public Benefit Corporation）的身份，LTBT 帮助我们让公司治理与我们的使命保持一致：开发和维护先进的 AI，为人类带来长期利益。 ## 公司治理基础 一家公司由它的**董事会**（board of directors）监督。董事会挑选和监督领导团队（尤其是 CEO），而领导团队再雇佣和管理员工。默认的公司治理结构让董事在几个方面对股东负责。例如： - 董事由股东选举产生，股东也可以罢免他们。 - 董事在法律上对股东负责，要履行他们的**受托责任**（fiduciary duties，即必须为股东利益行事）。 - 董事的薪酬通常包含公司股票，这有助于让他们的利益与股东的经济利益保持一致。 重要的是，选举、罢免和起诉董事的权利只属于股东。因此，有些人会问：公司的董事是否被允许为股东以外的利益相关方（比如客户和普通公众）优化利益？这个问题有很多争论，我们这里不深入讨论。就目前而言，我们只需要知道：公司法中所有关键的问责机制，都倾向于让董事优先考虑股东的经济利益。 ## 调整 Anthropic 的公司治理 公司治理已经有几百年的法律先例和迭代，人们对它的有效性、优点和缺点看法不一。在 Anthropic，我们认为公司治理能否产生对社会有益的结果，很大程度上取决于**非市场外部性**（non-market externalities）。外部性是一种市场失灵，指的是两方之间的交易给没有参与交易的第三方带来了成本或好处。常见的成本例子包括工厂的污染、银行的系统性金融风险、以及武器制造商带来的国家安全风险。正面的溢出效应例子包括：教育带来的社会效益超出了受教育者个人；或者研发投资推动了整个行业的发展，而不仅仅是投资的公司。许多与公司打交道的人，比如客户、工人和供应商，可以通过谈判或要求价格和条款来反映他们交易的全部成本和收益。但其他方，比如普通公众，并不直接与公司签约，因此没有办法为他们承受的成本或获得的好处收费或付款。 外部性越大，我们就越不指望默认的公司治理能为非签约方（比如普通公众）的利益服务。我们认为 AI 可能会产生[前所未有的巨大外部性](https://www.anthropic.com/news/core-views-on-ai-safety)，包括国家安全风险、大规模经济混乱、对人类的根本威胁，以及对人类安全和健康的巨大好处。这项技术发展得太快了，以至于约束其他高外部性公司活动的法律和社会规范还来不及跟上 AI 的步伐；这促使我们投入精力调整 Anthropic 的治理，以迎接未来的挑战。 需要说明的是，在 Anthropic 做出的大多数日常决策中，公共利益与商业成功或股东回报并不冲突。而且根据我们的经验，这两者往往是高度协同的：我们做有效安全研究的能力，依赖于构建前沿模型（商业成功为这些资源提供了很大帮助）；我们推动“良性竞争”的能力，则取决于我们在技术层面和商业层面都是生态系统中一个可行的公司。我们不指望 LTBT 干预这些日常决策或我们普通的商业策略。 相反，调整治理结构的必要性，最终源于极端事件的可能性，以及需要以人类利益为重来处理这些事件。我们期望 LTBT 主要关注这些长期问题。例如，LTBT 可以确保组织领导者有动力去仔细评估未来模型是否存在灾难性风险，或者确保它们拥有国家级别的安全性，而不是把“抢先上市”放在所有目标之上。 ## 基础：公益公司 我们已经分享过的一个治理特点是：Anthropic 是一家**特拉华州公益公司**（Delaware Public Benefit Corporation，简称 PBC）。像美国大多数大公司一样，Anthropic 在特拉华州注册成立。特拉华州公司法明确允许 PBC 的董事在股东的经济利益与公司注册证书中规定的公益目的之间取得平衡，也要考虑受公司行为实质性影响的人的最佳利益。Anthropic 注册证书中规定的公益目的是：负责任地开发和维护先进的 AI，为人类带来长期利益。这给了我们的董事会法律上的空间，可以在决策时权衡长期和短期的外部性（例如，是否部署某个特定的 AI 系统），同时也考虑股东的经济利益。 PBC 结构赋予的法律空间，对于让 Anthropic 的治理与我们的公益使命保持一致非常重要。但我们认为，对于我们在开发变革性 AI 过程中预见到的治理挑战来说，这还不够。虽然 PBC 形式在法律上允许董事平衡公共利益和股东价值最大化，但它并没有让公司董事直接对其他利益相关方负责，也没有让他们的利益与普通公众的利益保持一致。我们着手设计一个结构，这个结构能在关键时刻为我们的董事提供必要的问责机制和激励，让他们在股东的经济利益和我们的公益目的之间取得适当平衡——在这些时刻，我们预计决策的后果将远远超出 Anthropic 本身。 ## LTBT：基本结构和特点 Anthropic 长期利益信托是一个独立机构，由五位**受托人**（Trustees）组成。他们在 AI 安全、国家安全、公共政策和社会企业等领域拥有背景和专业知识。信托的安排旨在让受托人与 Anthropic 的经济利益绝缘，并赋予他们足够的独立性，以便在 Anthropic 股东的利益之外，平衡公众的利益。 在我们完成 [C 轮融资](https://www.anthropic.com/news/anthropic-series-c)时，我们修改了公司章程，创建了一种新的股票类别（**T 类股**，Class T），由信托独家持有。¹ T 类股授予信托选举和罢免一定数量 Anthropic 董事会成员的权力，这些权力将根据时间和融资里程碑逐步生效；无论如何，信托将在 4 年内选举出董事会的大多数成员。同时，我们创建了一个新的董事席位，由 C 轮及后续投资者选举产生，以确保投资者的观点在未来能直接在董事会中得到体现。 T 类股还包括“保护性条款”，要求信托在收到某些可能显著改变公司或其业务的通知时，必须做出回应。 信托根据特拉华州的普通法组织为“目的信托”，其目的与 Anthropic 的目的相同。信托必须运用其权力，确保 Anthropic 负责任地平衡股东的经济利益、受 Anthropic 行为影响的人的利益，以及我们的公益目的。 ## 一种不同的股东 通过建立长期利益信托，我们实际上在 Anthropic 创造了一种不同的股东。Anthropic 将继续由董事会监督，我们预计董事会将在通往变革性 AI 的道路上做出重要决策。在应对这些决策时，董事会的大多数成员最终既要对信托负责，也要对股东负责，因此他们会有动力在公共利益和股东利益之间取得适当平衡。此外，董事会还将受益于受托人的见解，这些受托人在对 Anthropic 公益使命至关重要的领域拥有深厚的专业知识和经验。我们相信，信托提供的见解和激励，将在风险最高的时候带来更好的决策。 LTBT 的“逐步引入”将让我们有机会对实验性结构进行修正，也反映了一个假设：在公司早期，简化的治理结构和较少的利益相关方往往能让公司运作得最好；而随着公司变得更加成熟，对社会的影响更加深远，外部性往往会逐渐显现，这时制衡机制就变得更加关键。 ## 一次公司治理实验 长期利益信托是一次实验。它的设计是一个经过深思熟虑的假设，参考了美国一些最杰出的公司治理学者和实践者的意见，他们帮助我们的领导层设计并对这个结构进行了“红队测试”（red team，即模拟攻击来找出漏洞）。我们还没有准备好把它当作一个可以效仿的例子；我们是经验主义者，想看看它实际效果如何。 最困难的设计挑战之一，是平衡两个需求：一方面，信托结构必须在风险高的时候能够抵御被绕过的风险；另一方面，信托本身具有实验性质。防止这个安排被轻易废除很重要，但第一次就把这样的事情做对也很罕见。因此，我们设计了一套修改流程，谨慎地平衡了持久性和灵活性。我们设想，大多数调整将由受托人和 Anthropic 董事会，或者受托人和其他股东共同协商完成。然而，由于信托的实验性质，我们还设计了一系列“安全阀”条款，允许在未经受托人同意的情况下，通过足够大的股东超级多数同意来修改信托及其权力。随着信托的权力逐步生效，所需的超级多数门槛也会提高，理由是随着时间的推移，我们会积累更多经验（也就更不需要反复调整），而风险也会变得更高。 ## 认识最初的受托人 最初的受托人是： - **[Jason Matheny](https://www.rand.org/about/people/m/matheny_jason.html)**：[兰德公司](https://www.rand.org/) CEO - **[Kanika Bahl](https://www.evidenceaction.org/about/our-people/kanika-bahl)**：[Evidence Action](https://www.evidenceaction.org/) CEO 兼总裁 - **[Neil Buddy Shah](https://www.clintonhealthaccess.org/news/chai-board-of-directors-announces-appointment-of-dr-neil-buddy-shah-as-chief-executive-officer/)**：[克林顿健康倡议组织](https://www.clintonhealthaccess.org/about-us/) CEO（主席） - **[Paul Christiano](https://paulfchristiano.com/)**：[对齐研究中心](https://www.alignment.org/) 创始人 - **[Zach Robinson](https://www.linkedin.com/in/zyrobinson)**：[Effective Ventures US](https://ev.org/) 临时 CEO Anthropic 董事会经过一年的搜寻和面试过程，选出了这些最初的受托人，目的是找到那些深思熟虑、品格优秀、并且深刻理解 AI 的风险、收益和发展轨迹及其对社会影响的人。受托人任期一年，未来的受托人将由受托人投票选举产生。我们很荣幸这第一批受托人接受了信托的席位，我们相信他们将提供宝贵的见解和判断。 --- [1] 信托的早期版本当时被称为“长期利益委员会”，写入了我们 2021 年的 A 轮投资文件中。但由于该委员会原定要到 2023 年才选举第一位董事，我们利用中间这段时间对法律结构进行了红队测试和改进，并仔细考虑了候选人选择。目前的 LTBT 就是最终结果。 [2] 信托结构的设计和红队测试得到了以下人士的巨大帮助：[耶鲁法学院的 John Morley](https://law.yale.edu/john-d-morley)、[David Berger](https://www.wsgr.com/en/people/david-j-berger.html)、[Amy Simmerman](https://www.wsgr.com/en/people/amy-l-simmerman.html#credentials) 以及 Wilson Sonsini 的其他律师，还有[哈佛法学院的 Noah Feldman](https://hls.harvard.edu/faculty/noah-r-feldman/) 和 [Seth Berman 以及 Ethical Compass Advisors](https://ethical-compass-advisors.com/)。 --- 自本页面最初发布以来，长期利益信托的成员构成发生了一些变化。 2023 年 12 月，Jason Matheny 从信托辞职，以避免与[兰德公司](https://www.rand.org/)的政策相关倡议可能产生的利益冲突。Paul Christiano 于 2024 年 4 月辞职，担任[美国 AI 安全研究所](https://www.nist.gov/news-events/news/2024/04/us-commerce-secretary-gina-raimondo-announces-expansion-us-ai-safety)的 AI 安全负责人。2026 年 1 月，Kanika Bahl 辞职，创办了一家新的非营利组织 [AI Access Initiative](https://www.aiaccessinitiative.org/)；Zach Robinson 辞职，专注于非营利和慈善工作。 新美国安全中心 CEO Richard Fontaine 于 2025 年 5 月加入 LTBT；卡内基国际和平基金会主席 Mariano-Florentino (Tino) Cuéllar 于 2026 年 1 月加入；布鲁金斯学会杰出研究员、前美联储主席 Ben Bernanke 博士于 2026 年 7 月加入。 ## 相关内容 ### UST 正在将 Claude 引入物理 AI ### 欢迎提出尖锐问题 我们邀请公众提出关于 AI 最尖锐的问题，并承诺在回答时展示我们的思考过程。 ### Ben Bernanke 被任命为 Anthropic 长期利益信托成员 --- 英文原文：[The Long-Term Benefit Trust](https://www.anthropic.com/news/the-long-term-benefit-trust)