AI 圈的 GPT 叙事通常围绕公司展开,但把公开论文序列排开看,有一条更细的个人线索:一位叫拉德福德的研究员,第一作者署名从 DCGAN 写到 GPT-1、GPT-2,再到 CLIP 与 Whisper。这条发表记录几乎就是生成式预训练从边缘尝试走向主流的完整底稿,本文只按公开论文与公开报道串联。
第一篇署名:DCGAN
公开论文数据库里,拉德福德最早的署名论文之一是 2015 年公开的 DCGAN——把卷积结构引入生成对抗网络,让图像生成第一次有了稳定可复现的训练配方。这篇论文后来成为生成模型方向被广泛引用的公开文献,它的价值在于验证了一个朴素的方法论:结构选对了,无监督学习就能学出有用的表示,这条方法论此后一路延伸。他加入 OpenAI 的具体时间,公开资料口径不一,公开报道普遍把他列为公司早期研究成员,细节以公开资料为准。
GPT-1 与 GPT-2:生成式预训练落地
2018 年,OpenAI 公开《通过生成式预训练改进语言理解》,即 GPT-1 的论文,第一作者拉德福德。论文的思路在公开文献里很清晰:先在海量文本上用「预测下一个词」做无监督预训练,再在具体任务上微调,验证了生成式模型学到的表示可以迁移。2019 年的 GPT-2 论文《语言模型是无监督多任务学习者》同样由他领衔第一作者,模型规模扩大后,公开报道记录了一次特别的管理决定:以滥用风险为由分四批逐步放出模型权重,完整经过见GPT-2 当年为什么不敢一次放完?分阶段发布的决定一篇。
CLIP 与 Whisper:跨出纯文本
2021 年的 CLIP 论文《从自然语言监督学习可迁移视觉模型》,第一作者仍是拉德福德:用大规模图文配对数据训练,让模型把图像和文字放进同一个表示空间,公开基准上展现出可观的零样本迁移能力。2022 年的 Whisper 论文《通过大规模弱监督实现稳健语音识别》,第一作者还是他——用海量弱标注语音数据训练出开源语音识别模型,公开代码至今被大量项目使用。2020 年的 GPT-3 论文他是署名作者之一,第一作者为汤姆·布朗,公开论文口径如此,规模路线的来龙去脉见Scaling Law 是怎么被发现的?堆算力的理由一篇,GPT-3 发布的经过见GPT-3 发布时为什么炸场?1750 亿参数的少数派报告一篇。
一条发表线的位置
把署名序列排成时间线,能看到一条清晰的路线:从 DCGAN 验证无监督表示学习,到 GPT-1 把生成式预训练带上语言任务,到 GPT-2 验证规模收益,再到 CLIP 与 Whisper 把同一套「大数据、弱标注、自监督」的配方搬到图像与语音。这条线的机构背景是 OpenAI 的成立,见OpenAI 是怎么成立的?十亿美元的非营利赌注一篇;2022 年底 ChatGPT 上线,把生成式预训练推到大众面前,见ChatGPT 上线两个月发生了什么?一亿用户的速度一篇。拉德福德其后在公开场合的动向不多,任职情况以公开报道为准。
| 模态 | 代表论文 | 训练数据的形态 | 公开验证的能力 |
|---|---|---|---|
| 图像生成 | DCGAN | 无标注图像 | 结构选对后无监督学出有用表示 |
| 文本 | GPT-1 与 GPT-2 | 海量文本,预测下一个词 | 表示可迁移;规模扩大带来收益 |
| 图像与文字 | CLIP | 大规模图文配对 | 零样本迁移 |
| 语音 | Whisper | 海量弱标注语音 | 开源语音识别 |
拉德福德公开论文速查
- 2015 年:DCGAN 论文公开,第一作者
- 2018 年:GPT-1 论文公开,第一作者
- 2019 年:GPT-2 论文公开,第一作者;权重分批放出(公开报道口径)
- 2020 年:GPT-3 论文署名作者之一(第一作者汤姆·布朗)
- 2021 年:CLIP 论文公开,第一作者
- 2022 年:Whisper 论文公开,第一作者
与今天的关联:你用 DeepSeek 写代码、用通义千问读图纸说明,模型「先在海量数据上自学表示、再适配任务」的工作方式,就是这条发表线验证出来的配方;Whisper 的开源模型今天仍在大量语音转写工具里运行,你让豆包把一段会议录音整理成纪要,同类能力的开源版本与它同源。可带走的判断是:读公司史不如读论文署名序列——谁的署名在反复出现,关键突破多半就出自谁的手。
再多说几句拉德福德
- GPT-3 是他第一作者写的吗?:公开论文口径为第一作者汤姆·布朗,拉德福德列于署名作者之中;GPT-1 与 GPT-2 的第一作者是他本人。
- CLIP 是做什么的?:用图文配对数据训练的视觉模型,公开论文展示了对未见类别的零样本分类能力,论文与代码均已公开。
- Whisper 为什么被广泛使用?:它是开源的多语言语音识别模型,公开论文口径为大规模弱监督训练,工程实现稳健,公开仓库可查,具体性能以官方评测为准。


