辛顿与谷歌的关系,公开记录给出一头一尾两个醒目节点:2013 年谷歌收购他与学生创办的小公司,他由此加入谷歌;2023 年他通过媒体公开宣布离开,公开口径是离职后可以更自由地谈论 AI 风险。中间的十年,他在谷歌发表了多项公开研究,又在 2024 年拿到诺贝尔物理学奖。这篇只按公开资料梳理这条线,个人生活不在本文范围。
2013 年那场竞价的收购
起点是 2012 年的 AlexNet,见AlexNet 拿冠军一篇。夺冠之后,辛顿与两位学生克里泽夫斯基、苏茨克维成立了一家小公司 DNNresearch,公开报道记录了一场被写进行业记忆的竞价:多家公司参与竞买,最终谷歌胜出。收购完成于 2013 年(具体金额以当时公开报道为准),辛顿加入谷歌;公开报道口径显示,他在多伦多大学保留教职,以兼职方式在谷歌工作。当年团队里的两位学生后来各自成名,伊利亚·苏茨克维的路线见苏茨克维与 AlexNet一篇。
谷歌任内的公开研究
十年间的公开论文与公开报告,可以按主题排成一组。2015 年,他与同事公开发表知识蒸馏方向的工作(《Distilling the Knowledge in a Neural Network》,公开论文),思路是把大模型学到的表示转移给小模型,这个概念今天仍是模型压缩方向的常用词。2017 年公开胶囊网络论文,尝试改进卷积网络的结构假设;2021 年公开 GLOM 预印本;2022 年公开 Forward-Forward 训练方案,探索反向传播之外的训练可能——而反向传播成为标准训练方法的那段历史,起点正是他参与推广的 1986 年论文,完整脉络见辛顿 2006一篇。这些工作按公开论文的表述,共同指向一个问题:更好的表示学习方式。
| 年份 | 公开成果 | 想解决的问题 |
|---|---|---|
| 2015 | 知识蒸馏论文《Distilling the Knowledge in a Neural Network》 | 把大模型学到的表示转移给小模型 |
| 2017 | 胶囊网络论文 | 改进卷积网络的结构假设 |
| 2022 | Forward-Forward 训练方案 | 探索反向传播之外的训练可能 |
2023 年的离职与公开口径
2023 年 5 月,辛顿通过《纽约时报》等媒体公开宣布离开谷歌。公开口径是他希望离开之后能更自由地谈论 AI 的风险;同期的公开访谈还记录了他对技术风险的多项担忧表述,本文照此陈述,不展开解读、不推测动机。需要并置的另一个公开节点是 2024 年 10 月:诺贝尔物理学奖授予他与霍普菲尔德,公开颁奖理由指向利用人工神经网络进行机器学习的基础性发现,见2024 年诺贝尔奖一篇。离职声明与获奖公告一前一后,均属公开记录。
辛顿谷歌十年公开节点速查
- 2012:AlexNet 夺得 ImageNet 竞赛冠军(公开论文口径)
- 2013:谷歌收购 DNNresearch,辛顿加入谷歌(公开报道)
- 2015:知识蒸馏论文公开发表
- 2017–2022:胶囊网络、GLOM、Forward-Forward 相继公开
- 2023-05:通过媒体公开宣布离开谷歌(公开访谈口径)
- 2024-10:与霍普菲尔德同获诺贝尔物理学奖(公开公告)
十年放回整条时间线
把这十年放回他更长的公开履历,位置就清楚了:2006 年的深度信念网络论文让深度学习翻身,2012 年的 AlexNet 让它登上主桌,2013 年加入谷歌则是研究进入工业体系的标志——他学术路线的完整梳理见辛顿人物篇。落到今天:知识蒸馏这类方向已经进入工程实践,你用通义千问或智谱清言回答问题时,背后模型在部署侧的压缩与蒸馏是常见工序;想弄清知识蒸馏的通俗含义,让通义千问先讲一遍、再用腾讯元宝核对论文标题与年份,是可行的功课。可带走的判断:看一位研究者的职业节点,公开论文列表与公开声明比二手转述可靠。
再多说几句辛顿的谷歌十年
- DNNresearch 是什么?:2012 年后由辛顿与两位学生成立的小公司,2013 年被谷歌收购(公开报道口径),收购细节以当时报道为准。
- 知识蒸馏是什么?:2015 年公开论文提出的思路,把大模型学到的表示转移给小模型,今天仍是模型压缩方向的常用概念。
- 他为什么离开谷歌?:公开访谈给出的口径是离职后能更自由地谈论 AI 风险,本文只转述公开表述,不推测动机。


