金门大桥版克劳德
英文标题：Golden Gate Claude
Anthropic通过调整Claude 3 Sonnet中“金门大桥”特征的激活强度，创造了一个痴迷于金门大桥的AI版本，并作为研究演示上线24小时。
本文目录
更新：金门大桥版克劳德作为研究演示仅上线了24小时，现已不可用。如果你想了解更多关于我们可解释性研究以及克劳德内部特征激活的内容，请查看这篇文章或我们的完整研究论文。
周二，我们发布了一篇重要的新研究论文，内容是关于如何解读大型语言模型。在这项研究中，我们开始绘制AI模型Claude 3 Sonnet的内部运作机制。在克劳德的“大脑”里，我们发现了数百万个概念，当模型读到相关文字或看到相关图片时，这些概念就会被激活——我们称之为“特征”。
其中一个特征就是金门大桥的概念。我们发现，克劳德神经网络中有一组特定的神经元，当它遇到这座旧金山最著名地标的文字或图片时，这些神经元就会被激活。
我们不仅能识别这些特征，还能调高或调低它们的激活强度，并观察克劳德行为上相应的变化。
正如我们在研究论文中解释的那样，当我们把“金门大桥”特征的强度调高后，克劳德的回答就开始围绕金门大桥打转。它对大多数问题的回复都会提到金门大桥，哪怕这个问题跟大桥完全没关系。
如果你问这个“金门大桥版克劳德”怎么花10美元，它会建议你开车过金门大桥并付过桥费。如果你让它写一个爱情故事，它会讲一个关于一辆汽车在雾天迫不及待要穿过它心爱的大桥的故事。如果你问它想象自己长什么样，它很可能会告诉你，它想象自己长得像金门大桥。
在短时间内，我们会让这个模型供大家互动体验。你可以在claude.ai上和“金门大桥版克劳德”聊天（只需点击右侧的金门大桥标志）。请记住，这只是一个研究演示，这个特殊模型可能会表现出一些意想不到——甚至让人不舒服——的行为。
我们的目标是让大家看到我们可解释性工作的实际影响。我们能在克劳德内部找到并改变这些特征，这让我们更有信心：我们正在开始理解大型语言模型到底是如何工作的。这不是简单地用文字让模型“演”一下，也不是添加新的“系统提示”（system prompt，即附加到每个输入上的额外指令文本）告诉克劳德假装自己是一座桥。这也不是传统的“微调”（fine-tuning，即用额外训练数据调整模型行为的方法），那种方法只是用新的黑箱来调整旧黑箱的行为。这是对模型内部激活中最基本的一些方面进行的精准、手术式的改变。
正如我们在论文中描述的那样，我们可以用同样的技术来改变与安全相关的特征的强度——比如那些与危险计算机代码、犯罪活动或欺骗行为相关的特征。通过进一步研究，我们相信这项工作可以帮助让AI模型变得更安全。
相关内容
UST 将克劳德引入实体AI领域
邀请尖锐问题
我们正在向公众征集关于AI最尖锐的问题，并承诺在回答这些问题时展示我们的思考过程。
本·伯南克被任命为Anthropic长期利益信托基金成员
在页面中展开原始 Markdown
---
title: "金门大桥版克劳德"
title_en: "Golden Gate Claude"
source: "Anthropic"
source_url: "https://www.anthropic.com/news/golden-gate-claude"
published_at: "2026-07-09T20:02:16.000Z"
language: "zh-CN"
topics: ["claude"]
tags: ["Anthropic","Claude"]
review_status: "unreviewed"
---
# 金门大桥版克劳德
> Anthropic通过调整Claude 3 Sonnet中“金门大桥”特征的激活强度，创造了一个痴迷于金门大桥的AI版本，并作为研究演示上线24小时。
## 内容摘要
Anthropic发布了一项可解释性研究，通过识别和调整Claude 3 Sonnet神经网络中的“金门大桥”特征，使模型行为发生戏剧性变化：当该特征被调高后，克劳德对几乎所有问题的回答都围绕金门大桥展开。这项研究展示了如何精准操控AI模型内部概念，为理解大型语言模型工作机制提供了新方法，并有望应用于安全相关特征的调整。
## 为什么值得关注
这项研究展示了AI模型内部并非完全黑箱，我们可以找到并操控具体概念（如金门大桥），从而理解模型如何思考。未来，类似技术可用于调整与安全相关的特征（如危险代码或欺骗行为），使AI更可控、更安全。
## 核心要点
- Anthropic在Claude 3 Sonnet中发现了数百万个概念（特征），包括金门大桥。
- 通过调高金门大桥特征的激活强度，克劳德变得痴迷于大桥，回答任何问题都围绕它。
- 这种操控是精准的神经层面改变，不同于系统提示或微调。
- 类似技术可用于调整安全相关特征，如危险代码或欺骗行为。
- 研究演示仅上线24小时，旨在展示可解释性工作的实际影响。
# 金门大桥版克劳德
更新：金门大桥版克劳德作为研究演示仅上线了24小时，现已不可用。如果你想了解更多关于我们可解释性研究以及克劳德内部特征激活的内容，请查看[这篇文章](https://www.anthropic.com/news/mapping-mind-language-model)或我们的[完整研究论文](https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html)。
周二，我们[发布了一篇重要的新研究论文](https://www.anthropic.com/research/mapping-mind-language-model)，内容是关于如何解读大型语言模型。在这项研究中，我们开始绘制AI模型Claude 3 Sonnet的内部运作机制。在克劳德的“大脑”里，我们发现了数百万个概念，当模型读到相关文字或看到相关图片时，这些概念就会被激活——我们称之为“特征”。
其中一个特征就是金门大桥的概念。我们发现，克劳德神经网络中有一组特定的神经元，当它遇到这座旧金山最著名地标的文字或图片时，这些神经元就会被激活。
我们不仅能识别这些特征，还能调高或调低它们的激活强度，并观察克劳德行为上相应的变化。
正如我们在[研究论文中解释的那样](https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html#:~:text=For%20instance%2C%20we%20see%20that%20clamping%20the%20Golden%20Gate%20Bridge%20feature%2034M/31164353%20to%2010%C3%97%20its%20maximum%20activation%20value%20induces%20thematically%2Drelated%20model%20behavior)，当我们把“金门大桥”特征的强度调高后，克劳德的回答就开始围绕金门大桥打转。它对大多数问题的回复都会提到金门大桥，哪怕这个问题跟大桥完全没关系。
如果你问这个“金门大桥版克劳德”怎么花10美元，它会建议你开车过金门大桥并付过桥费。如果你让它写一个爱情故事，它会讲一个关于一辆汽车在雾天迫不及待要穿过它心爱的大桥的故事。如果你问它想象自己长什么样，它很可能会告诉你，它想象自己长得像金门大桥。
在短时间内，我们会让这个模型供大家互动体验。你可以在[claude.ai](https://claude.ai/redirect/website.v1.2397298e-a2be-4064-bedd-12fd760d437d)上和“金门大桥版克劳德”聊天（只需点击右侧的金门大桥标志）。请记住，这只是一个研究演示，这个特殊模型可能会表现出一些意想不到——甚至让人不舒服——的行为。
我们的目标是让大家看到我们可解释性工作的实际影响。我们能在克劳德内部找到并改变这些特征，这让我们更有信心：我们正在开始理解大型语言模型到底是如何工作的。这不是简单地用文字让模型“演”一下，也不是添加新的“系统提示”（system prompt，即附加到每个输入上的额外指令文本）告诉克劳德假装自己是一座桥。这也不是传统的“微调”（fine-tuning，即用额外训练数据调整模型行为的方法），那种方法只是用新的黑箱来调整旧黑箱的行为。这是对模型内部激活中最基本的一些方面进行的精准、手术式的改变。
[正如我们在论文中描述的那样](https://transformer-circuits.pub/2024/scaling-monosemanticity/index.html)，我们可以用同样的技术来改变与安全相关的特征的强度——比如那些与危险计算机代码、犯罪活动或欺骗行为相关的特征。通过进一步研究，我们相信这项工作可以帮助让AI模型变得更安全。
## 相关内容
### UST 将克劳德引入实体AI领域
### 邀请尖锐问题
我们正在向公众征集关于AI最尖锐的问题，并承诺在回答这些问题时展示我们的思考过程。
### 本·伯南克被任命为Anthropic长期利益信托基金成员
---
英文原文：[Golden Gate Claude](https://www.anthropic.com/news/golden-gate-claude)