2021 年前后,一批前 OpenAI 成员创办了 Anthropic,牵头的是阿莫迪兄妹——哥哥达里奥·阿莫迪曾任 OpenAI 研究副总裁,妹妹达妮埃拉曾任安全与政策副总裁。这家公司在公开报道里常被称作安全路线的代表,宪法式对齐是它最广为人知的公开方法框架。本文只写公开报道的事实:离职时间、公开声明、公开论文,动机层面的推测不在本文范围。
离开 OpenAI:公开报道的时间与表述
公开报道的时间线:达里奥·阿莫迪 2016 年加入 OpenAI,此后出任研究副总裁;达妮埃拉任安全与政策副总裁。2020 年底,两人先后离开 OpenAI,具体离职时间以公开报道为准。关于离开的原因,两人在公开访谈中给出的表述是对发展方向与安全处理方式上的分歧——这是他们本人的公开声明口径,本文照实转述,不添加推测,也不转述二手解读。更早的背景是:OpenAI 2015 年成立时的非营利定位见OpenAI 成立一篇;这家公司治理与路线的公开讨论后来还有更受关注的一章,见奥特曼人物篇。
2021 年创办:公开的团队与定位
2021 年,兄妹二人与其他几位前 OpenAI 研究者共同创办 Anthropic,公开报道口径为初创团队以 AI 安全研究为定位,公司公开表述的目标是研究 AI 系统的可解释性与可控性。2022 年底 ChatGPT 上线改变行业节奏,见ChatGPT 上线一篇;此后 Anthropic 于 2023 年 3 月公开发布对话产品 Claude,产品线的公开更新节奏以官方公告为准。
宪法式对齐:一套公开的方法框架
2022 年 12 月,Anthropic 公开发表《宪法式 AI》论文,把方法框架写成公开文献:给模型一套成文的「宪法」——一组公开的原则条目,让模型对自己的回答先做自我批评与改写,再用 AI 反馈替代部分人类反馈来训练偏好。公开论文的表述里,这套框架的目标是把「希望模型怎样回答」写成可检查的文本,减少对逐条人工标注的依赖。这个框架属于公开方法文献:模型对齐的实际效果如何,公开评测与第三方研究各有口径,本文不下判断,读者可自行对照原文。
| 框架的组成 | 公开论文里的做法 | 解决什么 |
|---|---|---|
| 成文宪法 | 一组公开的原则条目 | 把「希望模型怎样回答」写成可检查的文本 |
| 自我批评与改写 | 模型先对自己的回答做批评与改写 | 让回答按宪法条目自查 |
| AI 反馈 | 用 AI 反馈替代部分人类反馈来训练偏好 | 减少对逐条人工标注的依赖 |
Claude 与融资:公开记录的节点
此后的公开节点:2023 年,亚马逊公开宣布对 Anthropic 最高 40 亿美元的投资,谷歌的投资金额与进展见公开报道,具体数额与到位情况以各方公开披露为准。产品线方面,Claude 系列的公开版本迭代均有官方公告。这些节点放在一起说明一件事:安全定位与商业融资在这家公司是并行的两条公开线,两者之间的张力如何评价,超出本文只认公开口径的范围。
本文为公开报道梳理,不构成投资建议。
Anthropic 公开节点速查
- 2016:达里奥加入 OpenAI,后任研究副总裁(公开报道)
- 2020 年底:兄妹二人离开 OpenAI(公开报道口径)
- 2021:Anthropic 创办,公开定位为安全研究
- 2022-12:《宪法式 AI》论文公开发表
- 2023-03:Claude 公开发布;同年:亚马逊与谷歌的公开投资报道
安全路线与今天的产品对照
对普通用户,这条路线的落点在于:今天各家对话产品——DeepSeek、Kimi、豆包、腾讯元宝——都在回答风格与拒答边界上做了取舍,这正是宪法式对齐所讨论的问题在日常产品里的形态。用同一组敏感问题横向对比不同产品的回答方式,你会看到明显的口径差异——对齐策略已经从论文概念变成了每个用户都能感知的产品特征。另外,国内的生成式 AI 服务同样要面对公开的合规框架,算法与服务的备案介绍见生成式 AI 备案一篇;模型输出的不确定性如何理解,见不确定性声明一篇。
关于阿莫迪兄妹的常见疑问
- 他们离开 OpenAI 是因为内部冲突吗?:公开记录只有两人公开访谈中给出的表述——发展方向与安全处理方式上的分歧;除此之外的过程细节没有经过验证的公开版本,本文不做推测。
- 宪法式对齐的「宪法」具体指什么?:公开论文里是一组成文的原则条目,模型据此对自身回答做批评与改写,具体条目内容与版本以公开论文为准。
- Claude 和 ChatGPT 是什么关系?:两者是不同公司的独立产品,ChatGPT 来自 OpenAI,Claude 来自 Anthropic;公开层面前者上线在前,后者由前 OpenAI 成员创办的公司发布,具体对比以各自的公开评测为准。


