LSTM 是怎么解决梯度消失的?1997 年的遗忘门
1997 年霍赫赖特与施密德胡伯发表 LSTM 论文,用门控结构化解循环网络的梯度消失。本文按公开论文梳理这项设计与二十年后在机器翻译上的爆...
AI基础百科栏目解释 AIGC、提示词、Agent、RAG、Token、模型、工作流、检测与认证等常见概念,适合新手快速补齐 AI 工具使用前的基础知识。
1997 年霍赫赖特与施密德胡伯发表 LSTM 论文,用门控结构化解循环网络的梯度消失。本文按公开论文梳理这项设计与二十年后在机器翻译上的爆...
按公开资料梳理辛顿在谷歌的十年:2013 年收购加入、知识蒸馏等公开研究、2023 年公开宣布离职的口径,以及 2024 年诺贝尔奖的公开节...
对照辛顿与杨立昆的公开主张:自监督与世界模型、分布式表示与替代训练,分歧与共同点均来自公开演讲与公开论文,本文不做高下结论。
研究员与经营者怎么分工?本文对照伊利亚与奥特曼的公开履历与公开声明,只做角色分工的事实对照,不做高下结论,判断留...
梳理汤晓鸥的公开履历:香港中文大学多媒体实验室、DeepID 系列人脸识别论文与商汤科技创立的时间线,只写公开可...
梳理周志华的公开任职与《机器学习》教材的公开出版记录:南京大学任教、LAMDA、2018 年人工智能学院,西瓜书...
按公开报道与公开声明梳理王小川的职业事实:保送清华、搜狗输入法、搜狗分拆上市与收购、问答机器人、2023 年创立...
对人简单的感知与运动,对 AI 反而最难自动化。1980 年代三位学者各自表述了这一悖论。本文梳理其内容、演化解释与...
2024 年诺贝尔物理学奖授予辛顿与霍普菲尔德,化学奖授予哈萨比斯等三人。本文按公开公告梳理两次颁奖的口径、获奖理由...
2018 年图灵奖授予辛顿、杨立昆与本吉奥三人,公开颁奖词指向让深度神经网络成为计算关键构件的突破。本文按公开资料复...
2006 年逐层预训练让深网络可训练,GPU 实践与大数据随后汇合。本文按公开文献梳理 2006 到 2012 年的...
1973 年英国发布 Lighthill 报告,否定 AI 的通用前景,经费随之收缩。本文只陈述报告的公开内容与后果...
反向传播方法早已有之,1986 年鲁梅尔哈特与辛顿等人的论文让它成为多层网络的训练标准。本文讲清被冷落几十年的原因与...
2017 年 Libratus 与 2019 年 Pluribus 两篇《科学》论文的公开事实:诺姆·布朗怎么让 A...