2012-2016：深度学习突破

这一段是现代 AI 的关键转折期。深度学习从研究社区的一个方向变成视觉、语音、语言和游戏中的主线方法。它证明了端到端训练、表示学习、大数据和 GPU 结合之后，可以在多个任务上显著超过传统方法。

核心变化

变化	说明
CNN 在视觉任务中大幅领先	AlexNet 在 ImageNet 上的突破让深度学习成为视觉主线
词向量改变 NLP 表示方式	word2vec 让词语语义能以向量空间方式表达
Seq2Seq 推动神经机器翻译	编码器-解码器结构开始成为序列生成任务的重要范式
GAN 打开生成模型想象力	生成器和判别器对抗训练，为图像生成等任务提供新路线
ResNet 解决更深网络训练难题	残差连接让网络深度继续扩大
AlphaGo 证明深度学习与搜索可结合	策略网络、价值网络和树搜索共同完成围棋突破

代表作品与节点

年份	代表作品 / 模型	价值
2012	AlexNet	ImageNet 突破，GPU + CNN 成为视觉领域拐点
2013	word2vec	让词语进入连续向量空间，影响后续 NLP 表示学习
2014	Seq2Seq	推动神经机器翻译和序列到序列建模
2014	GAN	成为生成模型历史中的重要分支
2015	ResNet	残差连接让非常深的神经网络更易训练
2016	AlphaGo	深度学习、强化学习和搜索结合，击败顶尖围棋棋手

这一段的工程启示

2012-2016 年之后，AI 工程开始越来越像数据和算力工程。模型结构当然重要，但训练数据、分布、计算资源、调参、评测和复现实验同样决定结果。

这段历史也解释了为什么今天模型评测不能只看一个指标。AlexNet、ResNet 和 AlphaGo 都是在特定任务上完成突破，但真正改变行业的是它们背后的可迁移范式。

参考资料

• Krizhevsky, Sutskever, Hinton: ImageNet Classification with Deep Convolutional Neural Networks
• Mikolov et al.: Efficient Estimation of Word Representations in Vector Space
• Sutskever, Vinyals, Le: Sequence to Sequence Learning with Neural Networks
• Goodfellow et al.: Generative Adversarial Nets
• He et al.: Deep Residual Learning for Image Recognition
• Silver et al.: Mastering the game of Go with deep neural networks and tree search