s*y
2 楼
这个有人看过么? 怎么样?
b*d
3 楼
刚开始学习,两个问题想学习一下,
1. “制约CNN的不是硬件而是sigmoid函数”
sigmoid函数怎么制约了CNN?
2. 网络里很多地方引入了随机数,比如在DBN中的初始场和激活函数,
为什么一定要引入随机?而实际计算过程中,epoch,batch循环时这个貌似随机数 并
不是真正的随机(每次循环时都是相同的)。
1. “制约CNN的不是硬件而是sigmoid函数”
sigmoid函数怎么制约了CNN?
2. 网络里很多地方引入了随机数,比如在DBN中的初始场和激活函数,
为什么一定要引入随机?而实际计算过程中,epoch,batch循环时这个貌似随机数 并
不是真正的随机(每次循环时都是相同的)。
t*o
5 楼
没看过。
x*u
6 楼
你问wdong更好,他专业我是业余爱好者
1是因为sigmoid梯度消失限制了深度,relu简单粗暴的解决了问题;
2我不清楚随机在神经网络里的本质意义,似乎也没有人理论上搞出结论。感觉目前各
种随机性的引入基于经验规律多点。很多代码每次用固定种子是为了确保结果可重复。
【在 b***d 的大作中提到】![](/moin_static193/solenoid/img/up.png)
: 刚开始学习,两个问题想学习一下,
: 1. “制约CNN的不是硬件而是sigmoid函数”
: sigmoid函数怎么制约了CNN?
: 2. 网络里很多地方引入了随机数,比如在DBN中的初始场和激活函数,
: 为什么一定要引入随机?而实际计算过程中,epoch,batch循环时这个貌似随机数 并
: 不是真正的随机(每次循环时都是相同的)。
1是因为sigmoid梯度消失限制了深度,relu简单粗暴的解决了问题;
2我不清楚随机在神经网络里的本质意义,似乎也没有人理论上搞出结论。感觉目前各
种随机性的引入基于经验规律多点。很多代码每次用固定种子是为了确保结果可重复。
【在 b***d 的大作中提到】
![](/moin_static193/solenoid/img/up.png)
: 刚开始学习,两个问题想学习一下,
: 1. “制约CNN的不是硬件而是sigmoid函数”
: sigmoid函数怎么制约了CNN?
: 2. 网络里很多地方引入了随机数,比如在DBN中的初始场和激活函数,
: 为什么一定要引入随机?而实际计算过程中,epoch,batch循环时这个貌似随机数 并
: 不是真正的随机(每次循环时都是相同的)。
s*y
7 楼
http://www.youtube.com/watch?v=wf_OlfHUqd8&list=PLTKmhijzgktNlW
小推荐一下,据说都是根据真实案件来的,关键一点都不拖沓,都有小曲折
小推荐一下,据说都是根据真实案件来的,关键一点都不拖沓,都有小曲折
j*j
9 楼
看了两下,好像是有以前那几部纪实刑侦的风格,赞。
【在 s*y 的大作中提到】![](/moin_static193/solenoid/img/up.png)
: http://www.youtube.com/watch?v=wf_OlfHUqd8&list=PLTKmhijzgktNlW
: 小推荐一下,据说都是根据真实案件来的,关键一点都不拖沓,都有小曲折
【在 s*y 的大作中提到】
![](/moin_static193/solenoid/img/up.png)
: http://www.youtube.com/watch?v=wf_OlfHUqd8&list=PLTKmhijzgktNlW
: 小推荐一下,据说都是根据真实案件来的,关键一点都不拖沓,都有小曲折
g*t
10 楼
personal experience:
指数函数代价太高。我很少在数值计算中用。查表解决快非常多。
早期的计算器,乘法用对数算,我怀疑也是查表算的。
http://www.convict.lu/Jeunes/ultimate_stuff/exp_ln_2.htm
http://pdfs.semanticscholar.org/35d3/2b272879a2018a2d33d982639d4be489f789.
pdf
【在 w***g 的大作中提到】![](/moin_static193/solenoid/img/up.png)
: 这个我也不知道。太细节了。
指数函数代价太高。我很少在数值计算中用。查表解决快非常多。
早期的计算器,乘法用对数算,我怀疑也是查表算的。
http://www.convict.lu/Jeunes/ultimate_stuff/exp_ln_2.htm
http://pdfs.semanticscholar.org/35d3/2b272879a2018a2d33d982639d4be489f789.
【在 w***g 的大作中提到】
![](/moin_static193/solenoid/img/up.png)
: 这个我也不知道。太细节了。
i*i
11 楼
把链接挪到顶楼吧?我去跟版主推荐给你m上方便大家点看。
这个系列听着有看头。
【在 s*y 的大作中提到】![](/moin_static193/solenoid/img/up.png)
: http://www.youtube.com/watch?v=wf_OlfHUqd8&list=PLTKmhijzgktNlW
: 小推荐一下,据说都是根据真实案件来的,关键一点都不拖沓,都有小曲折
这个系列听着有看头。
【在 s*y 的大作中提到】
![](/moin_static193/solenoid/img/up.png)
: http://www.youtube.com/watch?v=wf_OlfHUqd8&list=PLTKmhijzgktNlW
: 小推荐一下,据说都是根据真实案件来的,关键一点都不拖沓,都有小曲折
相关阅读
systemd的问题,忘记了是哪位网友?netghost还是HCI谁捅了卫老师哪根神经了? 出来道歉!看把卫老师这几天累的!Clojure web app 有什么例子可以学习吗华人那个H1B贴没看懂Dansy推出震撼歌曲:硅谷华人雄风震天吼!C++的又一作用alphastar的一个lesson就是population based intelligence行业是不是变动在即有没有想过那些IoT大数据平台以后可能没鸟用了?有沒有人研究nodejs和webassembly結合的wasi沙盒一个华为, 就把美国吓破了胆Seeking Quant/Software Developers (转载)programcreek这个网站好像是个国人弄的最小化未来出现surprise 的概率都有谁需要WSE证书评估?有青春的肉体喂鸡就是好,吴老师看起来好高大好年青 (转载)StackOverflow咋回事[bssd]宇宙论News北美用Vue有钱途吗? 工作数量来说好像是React的15%?