伊利亚在 AlexNet 论文里做了什么？实习生的算力直觉

2012 年的 ImageNet 竞赛上，一支三人小队拿下冠军，论文署名是克里泽夫斯基、伊利亚·苏茨克维与他们的导师辛顿。这场胜利让深度学习重回 AI 领域的主桌，也让名单里这位年轻的研究者第一次被行业记住——他就是后来 OpenAI 的首席科学家伊利亚。本文按公开论文与公开访谈，梳理他在这篇论文里的角色、所谓「算力直觉」指什么，以及论文之后的公开轨迹。

2012 年那间实验室的分工

先交代背景：按公开履历，伊利亚在多伦多大学跟随辛顿读博，2012 年前后刚完成博士论文，方向是循环神经网络的训练。严格说他当时已经不是实习生，而是这间实验室里资历尚浅的研究员——「实习生」的叫法多见于后来的转述，指的是他在团队里的资历位置。竞赛论文的作者只有三人，夺冠经过见AlexNet 拿冠军那几天发生了什么一篇的专门复盘：网络用两块面向游戏玩家的 GTX 580 显卡训练，top-5 错误率约 15.3%，比第二名低了约十个百分点。

分工的细节，论文本身没有写明，公开的说法主要来自几位当事人后来的访谈与回忆。比较一致的大致轮廓是：把网络拆上两块显卡、写出能稳定运行的并行训练代码，主要落在克里泽夫斯基身上；辛顿是实验室的主心骨，把整个团队押在神经网络这条当时冷门的路线上；伊利亚的角色，按辛顿在公开场合的回忆，是那个一直主张「更大的网络、更多的数据」会兑现的人。细节口径以当事人公开访谈为准。

算力直觉指的是什么

所谓算力直觉，指的是他在早年公开访谈与演讲里反复表达的一个判断：学习能力的关键变量是规模——数据要多，模型要大，算力要跟上，方法本身可以相对朴素。这个判断在 2012 年之前并不主流：当时业内多数人把力气花在人工设计特征上，网络结构被认为小修小补就够。AlexNet 的夺冠等于把这份直觉放进实测环境验证了一把，结果摆在了公开榜单上。

这份直觉后来延续在他自己的研究里：2014 年他在 Google 与同事发表序列到序列学习论文，把神经机器翻译推到当时的公开水平；这类把「更大的模型加上足量数据」当第一性问题来问的做法，与 GPU 进入研究视野的过程密不可分，见GPU 是怎么进入 AI 的一篇。

论文之后的公开轨迹

论文之后的履历按公开记录排：2013 年，辛顿团队被 Google 收购的公开报道见诸报端，伊利亚随之加入 Google；2014 年发表上述翻译论文；2015 年底成为 OpenAI 初创成员，公司成立的来龙去脉见OpenAI 成立一篇；此后长期担任 OpenAI 首席科学家，参与过 GPT 系列等多个公开项目；2024 年公开宣布离开 OpenAI，随后创办一家聚焦 AI 安全的新公司。完整履历见伊利亚·苏茨克维人物篇，本文只截取与那篇论文相关的段落。

AlexNet 论文节点速查

• 2012 年：论文随 ILSVRC 冠军成绩公开，作者为多伦多大学三人
• 训练条件：两块 GTX 580 游戏显卡，网络拆分并行训练
• 成绩口径：top-5 错误率约 15.3%，第二名约 26.2%
• 2013 年：作者团队随实验室并入 Google（公开报道口径）
• 2015 年：伊利亚成为 OpenAI 初创成员；2024 年公开宣布离开

一份直觉与今天的模型

把这段历史放到今天看，规模赌注已经成了整个行业的默认打法——你让 DeepSeek 写一份分析报告、让豆包识别一张照片，背后模型的数据与参数规模，正是沿着当年那间实验室的方向一路放大。当年两块游戏显卡就能训出冠军网络，如今的开源社区里，用一块消费级显卡微调一个小模型依然是常见的练习：规模的门槛在降，赌注的逻辑没有变。

对普通使用者，这段历史还有一个实用读法：一个方向能不能走通，最终要靠可验证的成绩说话。判断今天任何一个 AI 工具宣称的能力，可靠的办法仍然是拿到自己的任务上实测，见基准分和实际任务一篇。

关于伊利亚与 AlexNet 的常见疑问

• 伊利亚当时是实习生吗？：按公开履历，他 2012 年前后刚在多伦多大学完成博士论文，是辛顿实验室里的年轻研究员；「实习生」的叫法多见于后来的转述，指他在团队中的资历位置，不指雇佣形式。
• 他在论文里的贡献具体是什么？：论文本身没有写明个人分工。公开访谈给出的轮廓是：显卡并行训练的实现主要出自克里泽夫斯基，伊利亚深度参与方案讨论，并且是「加大模型与数据」路线的坚定主张者，细节以当事人公开口径为准。
• 这篇论文与他后来参与的模型有关系吗？：有公开的延续性。他在 OpenAI 期间参与公开的 GPT 系列论文，同样建立在「规模加数据」的直觉上，这条线可以从 2012 年那份训练方案一路看下来。