Hinton的仿生学思路# Programming - 葵花宝典
C*l
1 楼
Hinton对深学的坚定的信念来自于仿生学。既然人脑已经其他的生物的大脑神经系统被
证明是行之有效的,背后一定有一些规律。
但是,神经科学界对反向传播在生物学中存在质疑:
1。人脑没有监督学习的信号
2。生物神经里面传输的不是实数信号
3。在反向传播里面,正向和反向传输的是不同的信号,正向传输的是activity,反向
传播的是微分信号。生物学家认为这在生物神经网络里面不可能
4。在生物神经网络,回馈信号没有直接连接到前端的神经上。
Hinton几十年探索了很多可以解决这些问题的方案。
证明是行之有效的,背后一定有一些规律。
但是,神经科学界对反向传播在生物学中存在质疑:
1。人脑没有监督学习的信号
2。生物神经里面传输的不是实数信号
3。在反向传播里面,正向和反向传输的是不同的信号,正向传输的是activity,反向
传播的是微分信号。生物学家认为这在生物神经网络里面不可能
4。在生物神经网络,回馈信号没有直接连接到前端的神经上。
Hinton几十年探索了很多可以解决这些问题的方案。