AlphaGo 备战与 GPT 训练差在哪？数据从哪来

同样是 AI 系统的大规模训练，AlphaGo 的备战与 GPT 这类语言模型的训练，常被笼统说成「都是喂大数据」。把两边的训练数据来路摆开对照，会发现一个根本差异：一边的数据可以自己造，越练越多；另一边只能收现成的，越练越接近库存见底。差异从哪来、带来什么后果、合成数据补到什么程度，这篇按公开文献逐层对照，只摆公开事实，不做两条路线的高下结论。

两条训练管线的起点

先看各自怎么起步。AlphaGo 的公开方法分三步：监督学习先从人类棋谱学起，公开资料里用的是数万职业对局、数千万个盘面；接着强化学习让模型与自己反复下棋，自我对弈的棋局接着喂回训练；最后用树搜索在实战里挑落点，2016 年首尔的五番棋就是这条管线的公开检验（经过见AlphaGo 战李世石一篇）。GPT 这边的管线是另一套：预训练阶段把海量文本压缩进参数，公开文献普遍描述为「预测下一个词」，然后经指令微调与人类反馈的对齐方法把模型调成会照办的助手。两条管线起点不同，但真正的分岔不在方法名，在数据能不能自己生产。

数据能不能自己生成

分岔点就在这里。围棋是规则封闭的游戏：棋盘 19 路、规则完全给定、胜负一眼可判。这意味着机器每下一局，就自动得到一局带正确标签的新数据——谁赢谁输不需要人来标注，棋局本身就是标签生成器。于是 AlphaGo 的自我对弈量可以随算力线性增长，公开资料里后来这批数据以千万局计，想练多少就造多少，只要电费付得起。语言模型没有这个待遇：一段文本「写得好不好、对不对、有没有用」没有天然裁判，标注定额要靠人，数据要靠收集。规则的封闭性决定了数据能否自产，这一条差异像种子，后面所有的分化都从这里长出来，那步传世的落子（见Move 37一篇）正是自产数据喂出来的结果。

语言数据的天花板

语言模型吃现成数据，就要面对现成数据的边界。公开讨论里常被称作「数据墙」的问题（数据边界的完整梳理见数据墙一篇）指的是：高质量公开文本的存量有限，互联网上的文字就那么多，其中真正干净、有信息量的部分更少；模型能力要继续往上走，训练数据规模也得跟着涨（这条经验关系常被称作规模定律，公开曲线见Scaling Law一篇），涨到某一天，能收的高质量新数据不再增长。GPT 这类模型的训练材料来自公开网页、书籍、代码与授权语料的组合，收数据是采掘业：矿藏总量固定，越采越深、品位越低。这与围棋那个「随开随造」的矿完全不同，两条路线的前途差异，很大一部分就是这两座矿的差异。

合成数据的边界

语言侧当然有对策，合成数据是公开讨论里最热的一条：让模型自己生成文本再筛选使用，相当于向自产数据那条路线借方法。公开文献里这条路确实有效——某些任务上合成语料能补量，代码与数学这类「可验证」领域尤其适合，因为对错能自动判定，和围棋的胜负判定在结构上是近亲。但边界同样清楚：开放域的自然语言没有那个自动裁判，合成质量要靠人审或者用模型评模型，误差会层层传递；公开讨论里反复提的还有多样性与退化的风险——模型反复学自己的产出，分布会越收越窄。也就是说，合成数据在可验证领域接近围棋那套自产逻辑，在开放域只能算补充，替代不了真实文本。两种路线各自的训练账本，差异其实都写在这页纸上。

两条训练路线数据对照速查

• 数据来源：AlphaGo 起步于数万局人类棋谱，GPT 起步于海量公开与授权文本
• 标签：棋局胜负自动生成，语言质量需要人或模型评判
• 增量：自我对弈随算力无限增长，高质量文本存量固定
• 扩展：合成数据在可验证领域有效，开放域是补充非替代
• 共同点：两者都证明了大投入换来能力跃升

关于两条训练路线的三问三答

• 语言模型能不能也用「自我对弈」练出超强能力？：只能在部分领域。自我对弈的前提是胜负自动可判，数学、代码这类可验证任务满足条件，公开研究已有落地；开放域对话与写作没有天然裁判，直接照搬会失去纠错来源。
• 数据墙是 GPT 这条路线的绝境吗？：公开讨论里没有把话说得这么死的。合成数据、多模态数据、垂直领域授权语料都在扩展供给，数据约束更接近「增速放缓」而非「立即见底」，走向如何各家公开判断不一，本文只记录讨论存在。
• 想亲手对照两条路线的训练数据清单怎么办？：让 DeepSeek 把 AlphaGo 公开论文里提到的数据规模列成一栏，再用通义千问把 GPT 系列公开论文的数据描述列成另一栏，两栏按「来源、标签方式、可否自产」三行对齐，对照本文速查表核对一遍即可。