纵有疾风起
人生不言弃

第1章 深度学习简介

说明:本文是对邱锡鹏《神经网络与深度学习》的读书笔记。供自己学习总结使用。

第1章 深度学习简介

神经元网络

神经元网络是在计算机上把虚拟的神经元排列成层状,模拟真正的神
经细胞之间的电信号。借此实现大脑从各式各样的数据中提取本质概
念的功能。

深度学习是由在计算机上模拟人类神经回路的“神经元网络”技术发
展而来。

所谓“深度”是指网络层数大于1。通常是把神经元“深化”到4-9层,实现接近于大脑的性能。

深度学习革命

深度学习在以下领域应用广泛:

语音识别:可以使得词错误率从1/4下降到1/8

计算机视觉:目标识别、图像分类等

自然语言处理:分布式表示、机器翻译、问题回答等

深度学习历史

1958年 Rosenblatt 感知器

1969年 Minsky XOR

1986年 Hinton、LeCun 人工神经网络(BP算法)

1998年 LeCun 卷积神经网络

2006年 Hinton 深度网络

深度学习难点

参数过多,影响训练

非凸优化问题:即存在局部最优而非全局最优解,影响迭代

下层参数比较难调

参数解释起来比较困难

所以需求:

计算资源要大
数据要多
算法效率要好:即收敛快

原文链接:https://lookme.blog.csdn.net/article/details/66973647

本站声明:网站内容来源于网络,如有侵权,请联系我们,我们将及时处理。

未经允许不得转载:起风网 » 第1章 深度学习简介
分享到: 生成海报

评论 抢沙发

评论前必须登录!

立即登录