说明：本文是对邱锡鹏《神经网络与深度学习》的读书笔记。供自己学习总结使用。

第1章 深度学习简介

• 第1章 深度学习简介
  • 神经元网络
  • 深度学习革命
  • 深度学习历史
  • 深度学习难点

神经元网络

神经元网络是在计算机上把虚拟的神经元排列成层状，模拟真正的神
经细胞之间的电信号。借此实现大脑从各式各样的数据中提取本质概
念的功能。

深度学习是由在计算机上模拟人类神经回路的“神经元网络”技术发
展而来。

所谓“深度”是指网络层数大于1。通常是把神经元“深化”到4-9层，实现接近于大脑的性能。

深度学习革命

深度学习在以下领域应用广泛：

语音识别：可以使得词错误率从1/4下降到1/8

计算机视觉：目标识别、图像分类等

自然语言处理：分布式表示、机器翻译、问题回答等

深度学习历史

1958年 Rosenblatt 感知器

1969年 Minsky XOR

1986年 Hinton、LeCun 人工神经网络（BP算法）

1998年 LeCun 卷积神经网络

2006年 Hinton 深度网络

深度学习难点

参数过多，影响训练

非凸优化问题：即存在局部最优而非全局最优解，影响迭代

下层参数比较难调

参数解释起来比较困难

所以需求:

计算资源要大
数据要多
算法效率要好：即收敛快

原文链接：https://lookme.blog.csdn.net/article/details/66973647

本站声明:网站内容来源于网络,如有侵权,请联系我们,我们将及时处理。