AI 历史上很少有哪几天像 2012 年秋天那样，直接改写一个技术方向的命运。ImageNet 大规模视觉识别挑战赛的榜单上，一支来自多伦多大学的参赛队用名为 AlexNet 的卷积神经网络拿下冠军，top-5 错误率比第二名低了约十个百分点。在那之前，神经网络在视觉领域长期被视为过时路线；在那之后，深度学习几年内成为整个领域的主流。这篇按公开资料复盘夺冠前后那几天发生了什么。
赛前：一支被看轻的参赛队
参赛的是三个人：研究生亚历克斯·克里泽夫斯基与伊利亚·苏茨克维，加上他们的导师辛顿。训练数据来自 ImageNet 竞赛的公开数据集，一百多万张图片、一千个类别，这场竞赛本身的来龙去脉见ImageNet 竞赛一篇的专门梳理。赛前几年的榜单前列清一色是传统视觉方法：人工设计特征加分类器，逐年小幅改进。用神经网络参赛并非没人试过，但此前的成绩说服力不足，业内普遍不看好，这支队伍赛前也没有多少关注度。
两块游戏显卡的训练条件
以今天的眼光看，训练条件相当朴素：两块面向游戏玩家的 GTX 580 显卡。显卡原本为图形渲染设计，作者在论文里用专门章节写了如何把网络拆到两块卡上并行训练，这个工程细节后来被视为 GPU 训练神经网络的标志性起点。网络本身按公开论文口径约六千万个参数，用上了 ReLU 激活、Dropout 正则化等技巧，这些名词此后成为深度学习教材的常客。今天动辄讨论千亿级的参数量，回头看 2012 年的规模，更能体会当时算力条件有多紧。
冠军是怎样拿下的
比赛结果按公开口径：AlexNet 的 top-5 错误率约 15.3%，第二名约 26.2%，差距约十个百分点——在此之前，历届冠军与亚军的差距通常只有零点几。冠军论文《ImageNet Classification with Deep Convolutional Neural Networks》随后公开，篇幅不长，方法朴素，结论清晰：让数据与算力说话，端到端训练的卷积网络大幅超过人工设计特征。三位作者此后都成了这个领域被引用最多的名字之一。
| 名次 | top-5 错误率 | 说明 |
|---|---|---|
| AlexNet（第一） | 约 15.3% | 卷积网络，端到端训练 |
| 第二名 | 约 26.2% | 传统视觉方法：人工设计特征加分类器 |
| 差距 | 约十个百分点 | 此前历届冠亚军差距通常只有零点几 |
神经网络重回主桌
影响的扩散速度超出多数人的预期。2013 年的同一场比赛，排名靠前的参赛队几乎全部改用卷积神经网络，公开统计口径的变化一目了然；视觉之外的方向陆续跟进，同样的思路后来延伸到让单个网络直接看屏幕像素学会打雅达利游戏，见DQN一篇。这条路线能走通，离不开方法长期坚持者的投入，辛顿的经历见辛顿人物篇；当年团队里的另一位年轻人伊利亚·苏茨克维，后来的经历见伊利亚·苏茨克维人物篇。今天你在豆包里传一张照片识别物品、用腾讯元宝拍照解题，背后的视觉能力仍然沿着卷积网络这条线走，只是规模与精度早已不可同日而语。
AlexNet 前后时间线速查
- 2009：ImageNet 数据集公开，百万级图片就位
- 2012：AlexNet 夺得 ILSVRC 冠军，错误率大幅低于第二名
- 2013：参赛队几乎全部转向卷积神经网络（公开统计口径）
- 2015：残差网络把错误率进一步压低，网络深度迈向百层
- 2017：最后一届 ILSVRC，卷积网络成为默认起点
本文为历史事件梳理，具体数字均以公开论文与评测报告口径为准。
AlexNet 拿冠军快问快答
- 两块游戏显卡就能赢下比赛，靠的是算力吗？：算力是必要条件，但缺一不可还有方法。同样的显卡别人也有，赢在把网络结构、训练技巧与并行方案组合到位，再用大规模数据把能力喂出来。
- 十个百分点左右的差距意味着什么？：此前历届前两名的差距多在零点几到一点几之间，一次拉开约十个百分点，等于证明方法本身存在代差，与调参运气无关。
- 夺冠论文当年就有这么大影响吗？：影响是逐年累积的。论文公开后先在视觉圈内被复现验证，2013 年参赛队集体换方法，随后影响力扩散到语音、文本等方向，深度学习就此成为主流。
