dropout是不是喝dropgrad等价？ - 未名空间MITBBS历史存档

国际科技财经博客移民网络热点娱乐民生时事公众号

Redian新闻

>未名空间

>Programming - 葵花宝典

dropout是不是喝dropgrad等价？

dropout是不是喝dropgrad等价？# Programming - 葵花宝典

r*y2018-12-20 08:12

1 楼

rt，一个多月前网上申请，被拒了。后来开了个checking account，今天看到了200的
bonus以后，就去店里申请了，结果立刻approve。
大家如果很想拿到这个卡的，可以借鉴一下。
问题就是，给我开卡的女的说她不知道那个200bonus的事情，她不管这个的。说等我
卡寄来以后再说。大家都是这样的吗？

t*l2018-12-20 08:12

2 楼

6年前有次拒签，后来太忙再也没签了
刚预约签证，进到预约那个页面，但是没有问是否有拒签记录，直接就
是预约的日期表了。记得以前预约是区分是否被拒签，是不是现在预约已经不分是
不是被拒签过？？还是因为上次拒签已经6年前不算了？？
谢谢!

m*r2018-12-20 08:12

3 楼

如何看agent好坏？

j*e2018-12-20 08:12

4 楼

不考虑ebay，多谢了。

w*f2018-12-20 08:12

5 楼

有一个5、6年以前的带有bluetooth的电脑，新近又买了一个带有bluetooth 3.0手机。
问题是，我的手机和电脑用bluetooth都找不到对方。电脑和手机的bluetooth功能都是
好的，而且用老的手机和电脑bluetooth连接一点问题都没有；新手机的bluetooth能搜
索到好多不知是谁的bluetooth设备，就是找不到我的旧电脑。希望得到大家的指点。
谢谢

L*82018-12-20 08:12

6 楼

dropgrad 就是随机挑选一堆weight 只更新这些weight
drop gradient

P*k2018-12-20 08:12

7 楼

bonus没了, 不过恭喜拿到新卡

t*s2018-12-20 08:12

8 楼

总有人自己躺着睡觉问问题。
类似的问题有：
怎么赚钱？
如何读书？

R*r2018-12-20 08:12

9 楼

macmall

w*g2018-12-20 08:12

10 楼

数学上肯定不等价。dropout的物理意义很明确。dropgrad我直觉觉得不合理，至少不
显然。如果dropgrad能在imagenet上或是别的大benchmark上显示优于基本的sgd, 那么
这会是一个很牛逼的结论。但这个评测很难做。因为不能直接设定learning rate相等
，那样没法直接对比, 最多是dropgrad收敛慢但是精度好，没法说明又快又好。

b*y2018-12-20 08:12

11 楼

这个恐怕没有bonus

T*J2018-12-20 08:12

12 楼

我有兴趣，谁来回答？

【在 t**s 的大作中提到】

: 总有人自己躺着睡觉问问题。
: 类似的问题有：
: 怎么赚钱？
: 如何读书？

L*82018-12-20 08:12

13 楼

dropout设计初衷是避免co-adaptation 就是几个filter 训练一阵子后长得一样了
dropgrad 可以达到相同目的我在minst上试过
不知咋的现在大家把dropout都宣传成避免overfitting了

【在 w***g 的大作中提到】

: 数学上肯定不等价。dropout的物理意义很明确。dropgrad我直觉觉得不合理，至少不
: 显然。如果dropgrad能在imagenet上或是别的大benchmark上显示优于基本的sgd, 那么
: 这会是一个很牛逼的结论。但这个评测很难做。因为不能直接设定learning rate相等
: ，那样没法直接对比, 最多是dropgrad收敛慢但是精度好，没法说明又快又好。

y*e2018-12-20 08:12

14 楼

必须通过那个200bonus的link开的卡才有bonus.

f*82018-12-20 08:12

15 楼

精华版里有一个非常精彩的帖子 from buyer to seller
你去看一下

c*t2018-12-20 08:12

16 楼

什么宣传。这是Hinton自己说的。It is in the title.

【在 L****8 的大作中提到】

: dropout设计初衷是避免co-adaptation 就是几个filter 训练一阵子后长得一样了
: dropgrad 可以达到相同目的我在minst上试过
: 不知咋的现在大家把dropout都宣传成避免overfitting了

R*s2018-12-20 08:12

17 楼

你被Chase的员工忽悠了.
这200 bonus 归她了。

【在 r******y 的大作中提到】

: rt，一个多月前网上申请，被拒了。后来开了个checking account，今天看到了200的
: bonus以后，就去店里申请了，结果立刻approve。
: 大家如果很想拿到这个卡的，可以借鉴一下。
: 问题就是，给我开卡的女的说她不知道那个200bonus的事情，她不管这个的。说等我
: 卡寄来以后再说。大家都是这样的吗？