d*e
2 楼
过去认为predictive modelling都属于ML的范畴。
现在ML和Statistics非常Tricky，比如经典的Linear Regression和Logistic
Regression既是统计又是ML。但如果你用Deep Neural Network来build一个regression
model，统计的人八成是不会认这东西是统计，而ML的人会津津乐道地跟你说这就是ML
当下最火热的Deep Learning。
【在 s******g 的大作中提到】
: Regression也属于ML？
现在ML和Statistics非常Tricky，比如经典的Linear Regression和Logistic
Regression既是统计又是ML。但如果你用Deep Neural Network来build一个regression
model，统计的人八成是不会认这东西是统计，而ML的人会津津乐道地跟你说这就是ML
当下最火热的Deep Learning。
【在 s******g 的大作中提到】
: Regression也属于ML？
o*p
3 楼
嗯。Deep Learning其实就是一些比较实用的建模方法，加上NN。本质就是一、二十年
前早就有的NN，记得N多年前和做NN一位师兄聊，他说，NN不知道啥时候才能在工业界
用上呢，现在给炒成这样，多少有点讽刺。从客观的学术上来评价，DL和十年前就有的
NN技术没多大差别，不过现在这些大公司一推一炒，就成热门了，嘿嘿，确实搞笑。这
个就和python成热门（主要google推的）一个道理；其实，好的语言一大堆，python没
那么特别。
不过NN和统计思想的联系，要从理论物理里统计（热）力学的角度来看。。。
regression
ML
【在 d******e 的大作中提到】
: 过去认为predictive modelling都属于ML的范畴。
: 现在ML和Statistics非常Tricky，比如经典的Linear Regression和Logistic
: Regression既是统计又是ML。但如果你用Deep Neural Network来build一个regression
: model，统计的人八成是不会认这东西是统计，而ML的人会津津乐道地跟你说这就是ML
: 当下最火热的Deep Learning。
前早就有的NN，记得N多年前和做NN一位师兄聊，他说，NN不知道啥时候才能在工业界
用上呢，现在给炒成这样，多少有点讽刺。从客观的学术上来评价，DL和十年前就有的
NN技术没多大差别，不过现在这些大公司一推一炒，就成热门了，嘿嘿，确实搞笑。这
个就和python成热门（主要google推的）一个道理；其实，好的语言一大堆，python没
那么特别。
不过NN和统计思想的联系，要从理论物理里统计（热）力学的角度来看。。。
regression
ML
【在 d******e 的大作中提到】
: 过去认为predictive modelling都属于ML的范畴。
: 现在ML和Statistics非常Tricky，比如经典的Linear Regression和Logistic
: Regression既是统计又是ML。但如果你用Deep Neural Network来build一个regression
: model，统计的人八成是不会认这东西是统计，而ML的人会津津乐道地跟你说这就是ML
: 当下最火热的Deep Learning。
o*p
4 楼
哦，我还忘了，从最一般的MLS回归理论来说，NN就是建了一个条件期望估算子模型，
这个显然是统计的基本内容。统计行当里，SAS里众多的NN工具都几十年了。
但如果你用Deep Neural Network来build一个regression
【在 d******e 的大作中提到】
: 过去认为predictive modelling都属于ML的范畴。
: 现在ML和Statistics非常Tricky，比如经典的Linear Regression和Logistic
: Regression既是统计又是ML。但如果你用Deep Neural Network来build一个regression
: model，统计的人八成是不会认这东西是统计，而ML的人会津津乐道地跟你说这就是ML
: 当下最火热的Deep Learning。
这个显然是统计的基本内容。统计行当里，SAS里众多的NN工具都几十年了。
但如果你用Deep Neural Network来build一个regression
【在 d******e 的大作中提到】
: 过去认为predictive modelling都属于ML的范畴。
: 现在ML和Statistics非常Tricky，比如经典的Linear Regression和Logistic
: Regression既是统计又是ML。但如果你用Deep Neural Network来build一个regression
: model，统计的人八成是不会认这东西是统计，而ML的人会津津乐道地跟你说这就是ML
: 当下最火热的Deep Learning。
g*o
5 楼
用NN来求regression的结果， 确实很蛋疼啊
regression
ML
【在 d******e 的大作中提到】
: 过去认为predictive modelling都属于ML的范畴。
: 现在ML和Statistics非常Tricky，比如经典的Linear Regression和Logistic
: Regression既是统计又是ML。但如果你用Deep Neural Network来build一个regression
: model，统计的人八成是不会认这东西是统计，而ML的人会津津乐道地跟你说这就是ML
: 当下最火热的Deep Learning。
regression
ML
【在 d******e 的大作中提到】
: 过去认为predictive modelling都属于ML的范畴。
: 现在ML和Statistics非常Tricky，比如经典的Linear Regression和Logistic
: Regression既是统计又是ML。但如果你用Deep Neural Network来build一个regression
: model，统计的人八成是不会认这东西是统计，而ML的人会津津乐道地跟你说这就是ML
: 当下最火热的Deep Learning。
T*u
6 楼
街边上的包子铺和庆丰还是不一样 吧，虽然都是做包子的。
【在 o****p 的大作中提到】
: 嗯。Deep Learning其实就是一些比较实用的建模方法，加上NN。本质就是一、二十年
: 前早就有的NN，记得N多年前和做NN一位师兄聊，他说，NN不知道啥时候才能在工业界
: 用上呢，现在给炒成这样，多少有点讽刺。从客观的学术上来评价，DL和十年前就有的
: NN技术没多大差别，不过现在这些大公司一推一炒，就成热门了，嘿嘿，确实搞笑。这
: 个就和python成热门（主要google推的）一个道理；其实，好的语言一大堆，python没
: 那么特别。
: 不过NN和统计思想的联系，要从理论物理里统计（热）力学的角度来看。。。
:
: regression
: ML
【在 o****p 的大作中提到】
: 嗯。Deep Learning其实就是一些比较实用的建模方法，加上NN。本质就是一、二十年
: 前早就有的NN，记得N多年前和做NN一位师兄聊，他说，NN不知道啥时候才能在工业界
: 用上呢，现在给炒成这样，多少有点讽刺。从客观的学术上来评价，DL和十年前就有的
: NN技术没多大差别，不过现在这些大公司一推一炒，就成热门了，嘿嘿，确实搞笑。这
: 个就和python成热门（主要google推的）一个道理；其实，好的语言一大堆，python没
: 那么特别。
: 不过NN和统计思想的联系，要从理论物理里统计（热）力学的角度来看。。。
:
: regression
: ML
d*n
7 楼
说明你还不懂DL
【在 o****p 的大作中提到】
: 嗯。Deep Learning其实就是一些比较实用的建模方法，加上NN。本质就是一、二十年
: 前早就有的NN，记得N多年前和做NN一位师兄聊，他说，NN不知道啥时候才能在工业界
: 用上呢，现在给炒成这样，多少有点讽刺。从客观的学术上来评价，DL和十年前就有的
: NN技术没多大差别，不过现在这些大公司一推一炒，就成热门了，嘿嘿，确实搞笑。这
: 个就和python成热门（主要google推的）一个道理；其实，好的语言一大堆，python没
: 那么特别。
: 不过NN和统计思想的联系，要从理论物理里统计（热）力学的角度来看。。。
:
: regression
: ML
【在 o****p 的大作中提到】
: 嗯。Deep Learning其实就是一些比较实用的建模方法，加上NN。本质就是一、二十年
: 前早就有的NN，记得N多年前和做NN一位师兄聊，他说，NN不知道啥时候才能在工业界
: 用上呢，现在给炒成这样，多少有点讽刺。从客观的学术上来评价，DL和十年前就有的
: NN技术没多大差别，不过现在这些大公司一推一炒，就成热门了，嘿嘿，确实搞笑。这
: 个就和python成热门（主要google推的）一个道理；其实，好的语言一大堆，python没
: 那么特别。
: 不过NN和统计思想的联系，要从理论物理里统计（热）力学的角度来看。。。
:
: regression
: ML
d*e
8 楼
没啥蛋疼的，nonparametric regression用NN来做很正常。
【在 g*****o 的大作中提到】
: 用NN来求regression的结果， 确实很蛋疼啊
:
: regression
: ML
【在 g*****o 的大作中提到】
: 用NN来求regression的结果， 确实很蛋疼啊
:
: regression
: ML
d*e
9 楼
你就是想说那两篇文章吧
一篇新的，被热炒的An exact mapping between the Variational Renormalization
Group and Deep Learning 2014
还有一篇老的，Unsupervised Deep Learning implements the Kadanoff Real Space
Variational Renormalization Group 1975
你说的太悬了，看这两篇也不用懂多少statistical physics，知道一点就够了。
【在 o****p 的大作中提到】
: 嗯。Deep Learning其实就是一些比较实用的建模方法，加上NN。本质就是一、二十年
: 前早就有的NN，记得N多年前和做NN一位师兄聊，他说，NN不知道啥时候才能在工业界
: 用上呢，现在给炒成这样，多少有点讽刺。从客观的学术上来评价，DL和十年前就有的
: NN技术没多大差别，不过现在这些大公司一推一炒，就成热门了，嘿嘿，确实搞笑。这
: 个就和python成热门（主要google推的）一个道理；其实，好的语言一大堆，python没
: 那么特别。
: 不过NN和统计思想的联系，要从理论物理里统计（热）力学的角度来看。。。
:
: regression
: ML
一篇新的，被热炒的An exact mapping between the Variational Renormalization
Group and Deep Learning 2014
还有一篇老的，Unsupervised Deep Learning implements the Kadanoff Real Space
Variational Renormalization Group 1975
你说的太悬了，看这两篇也不用懂多少statistical physics，知道一点就够了。
【在 o****p 的大作中提到】
: 嗯。Deep Learning其实就是一些比较实用的建模方法，加上NN。本质就是一、二十年
: 前早就有的NN，记得N多年前和做NN一位师兄聊，他说，NN不知道啥时候才能在工业界
: 用上呢，现在给炒成这样，多少有点讽刺。从客观的学术上来评价，DL和十年前就有的
: NN技术没多大差别，不过现在这些大公司一推一炒，就成热门了，嘿嘿，确实搞笑。这
: 个就和python成热门（主要google推的）一个道理；其实，好的语言一大堆，python没
: 那么特别。
: 不过NN和统计思想的联系，要从理论物理里统计（热）力学的角度来看。。。
:
: regression
: ML
o*p
10 楼
如果你关心哪个有名气，当然是庆丰。如果你关心哪个真正好吃或者和你胃口，其实街
边上的包子铺、还是庆丰就无差别了。我更关心解决实际问题和好用。就像大数据分析
这个新名词，就是一business buzz，不过是业内人士搞了几十年的机器学习，加各种
统计技术。好像在“大数据分析”之前，就没人在认真做网站和各类商用数据的统计机
器学习似的，我1998年在的那家公司，就已经做这类商用开发了。现在一炒作，一大堆
人临时学几个算法，赶时髦来做，嘿嘿。。。
这种现象就和十年前金融工程、quant开始热的效果一样。没过几年，这帮人中一大部
分被淘汰，开始被另外一个新名词“技术”牵着鼻子去凑热闹了而已。人要有自己的主
见和热爱的东西，做得才有意思，才有前途。话虽然老套，但是大实话，供真正喜欢机
器学习的人参考。
【在 T*****u 的大作中提到】
: 街边上的包子铺和庆丰还是不一样 吧，虽然都是做包子的。
边上的包子铺、还是庆丰就无差别了。我更关心解决实际问题和好用。就像大数据分析
这个新名词，就是一business buzz，不过是业内人士搞了几十年的机器学习，加各种
统计技术。好像在“大数据分析”之前，就没人在认真做网站和各类商用数据的统计机
器学习似的，我1998年在的那家公司，就已经做这类商用开发了。现在一炒作，一大堆
人临时学几个算法，赶时髦来做，嘿嘿。。。
这种现象就和十年前金融工程、quant开始热的效果一样。没过几年，这帮人中一大部
分被淘汰，开始被另外一个新名词“技术”牵着鼻子去凑热闹了而已。人要有自己的主
见和热爱的东西，做得才有意思，才有前途。话虽然老套，但是大实话，供真正喜欢机
器学习的人参考。
【在 T*****u 的大作中提到】
: 街边上的包子铺和庆丰还是不一样 吧，虽然都是做包子的。
o*p
11 楼
多谢你的文献乐。我并不知道这两篇文章，我不过是从统计和机器学习一般教科书的观
点来说NN。我就是简单评论下你说的“搞统计的不把NN看作regression”。我以前的一
个小头就是统计博士，对NN regression很了解。不过你说的对，搞机器学习，懂更多
SP对于理论上的深入理解当然最好，但从实际工程和应用的角度，其实知道一点就够了。
另外关于DL的观点，我对DL看法就是，DL没那么悬，只是在几十年都存在的NN技术上，
加进乐一些特定的思想，比如convolutional NN就是一个关键技术，最早应用在特定的
机器视觉、图像、视频学习分析问题上的。其中关键的思想就是分层次地做特征学习和
抽取，最后达到更抽象的特征编码。这种思想并不是DL特有的特征，这个思想基本在任
何实际大型的机器学习系统开发中，都是一个基本的设计原则。所以我说，DL没那么玄
乎，其核心技术NN本质上，也就是一个条件期望估算子的回归算法而已。
Space
【在 d******e 的大作中提到】
: 你就是想说那两篇文章吧
: 一篇新的，被热炒的An exact mapping between the Variational Renormalization
: Group and Deep Learning 2014
: 还有一篇老的，Unsupervised Deep Learning implements the Kadanoff Real Space
: Variational Renormalization Group 1975
: 你说的太悬了，看这两篇也不用懂多少statistical physics，知道一点就够了。
点来说NN。我就是简单评论下你说的“搞统计的不把NN看作regression”。我以前的一
个小头就是统计博士，对NN regression很了解。不过你说的对，搞机器学习，懂更多
SP对于理论上的深入理解当然最好，但从实际工程和应用的角度，其实知道一点就够了。
另外关于DL的观点，我对DL看法就是，DL没那么悬，只是在几十年都存在的NN技术上，
加进乐一些特定的思想，比如convolutional NN就是一个关键技术，最早应用在特定的
机器视觉、图像、视频学习分析问题上的。其中关键的思想就是分层次地做特征学习和
抽取，最后达到更抽象的特征编码。这种思想并不是DL特有的特征，这个思想基本在任
何实际大型的机器学习系统开发中，都是一个基本的设计原则。所以我说，DL没那么玄
乎，其核心技术NN本质上，也就是一个条件期望估算子的回归算法而已。
Space
【在 d******e 的大作中提到】
: 你就是想说那两篇文章吧
: 一篇新的，被热炒的An exact mapping between the Variational Renormalization
: Group and Deep Learning 2014
: 还有一篇老的，Unsupervised Deep Learning implements the Kadanoff Real Space
: Variational Renormalization Group 1975
: 你说的太悬了，看这两篇也不用懂多少statistical physics，知道一点就够了。
o*p
12 楼
嗯，是这样，不过作为黑盒子技术，容易被人滥用乐，学术界就是被滥用来灌水。
【在 d******e 的大作中提到】
: 没啥蛋疼的，nonparametric regression用NN来做很正常。
【在 d******e 的大作中提到】
: 没啥蛋疼的，nonparametric regression用NN来做很正常。
g*o
13 楼
都用nn了，直接上就行了嘛，准确率还高点。regression不是脱裤子放屁么。
【在 o****p 的大作中提到】
: 嗯，是这样，不过作为黑盒子技术，容易被人滥用乐，学术界就是被滥用来灌水。
【在 o****p 的大作中提到】
: 嗯，是这样，不过作为黑盒子技术，容易被人滥用乐，学术界就是被滥用来灌水。
d*e
14 楼
你误解regresion的含义了吧。
Regression就是分析response和predictor之间的关系。
NN不过是a class of nonparametric functions罢了，拿来做regression analysis很
正常。
【在 g*****o 的大作中提到】
: 都用nn了，直接上就行了嘛，准确率还高点。regression不是脱裤子放屁么。
Regression就是分析response和predictor之间的关系。
NN不过是a class of nonparametric functions罢了，拿来做regression analysis很
正常。
【在 g*****o 的大作中提到】
: 都用nn了，直接上就行了嘛，准确率还高点。regression不是脱裤子放屁么。
o*p
15 楼
虽然我很理解你抱怨，在绝大多数实际应用得项目里，NN做regression很令人蛋疼：）
，至少在我的经验里，也的确如此。不过，就像现在业界把Deep NN炒的过分热（只谈
pros，不谈cons，也就是我说的滥用），你这样完全否定NN的观点，也是不客观滴。还
是老套的话，我重复下：任何一项技术手段都是即有pros，也有cons的，没有哪个绝对
优于其他的。以我的经验，在那么某一“小类”的实际问题，用（非线性）NN来拟合是
很有优势的。
你自己客观回答下，真的“直接上”就肯定那么方便吗？我假设你说的“直接上”就是
直接估计整个的分布函数。另外，有什么根据来一般性地断言，“准确率还高点”？也
许在你做过的一些问题里，这么做是准确率高点，但没有任何客观或者理论支持的理由
，做这种一般性的断言。是吧？
【在 g*****o 的大作中提到】
: 都用nn了，直接上就行了嘛，准确率还高点。regression不是脱裤子放屁么。
，至少在我的经验里，也的确如此。不过，就像现在业界把Deep NN炒的过分热（只谈
pros，不谈cons，也就是我说的滥用），你这样完全否定NN的观点，也是不客观滴。还
是老套的话，我重复下：任何一项技术手段都是即有pros，也有cons的，没有哪个绝对
优于其他的。以我的经验，在那么某一“小类”的实际问题，用（非线性）NN来拟合是
很有优势的。
你自己客观回答下，真的“直接上”就肯定那么方便吗？我假设你说的“直接上”就是
直接估计整个的分布函数。另外，有什么根据来一般性地断言，“准确率还高点”？也
许在你做过的一些问题里，这么做是准确率高点，但没有任何客观或者理论支持的理由
，做这种一般性的断言。是吧？
【在 g*****o 的大作中提到】
: 都用nn了，直接上就行了嘛，准确率还高点。regression不是脱裤子放屁么。
T*u
16 楼
我做大数据培训的，主要关心学校的１００００多学生中午吃包子从数量到质量上到时
间上都有保障，不然吃不到包子的学生下午肚子饿就不来上学了。
【在 o****p 的大作中提到】
: 如果你关心哪个有名气，当然是庆丰。如果你关心哪个真正好吃或者和你胃口，其实街
: 边上的包子铺、还是庆丰就无差别了。我更关心解决实际问题和好用。就像大数据分析
: 这个新名词，就是一business buzz，不过是业内人士搞了几十年的机器学习，加各种
: 统计技术。好像在“大数据分析”之前，就没人在认真做网站和各类商用数据的统计机
: 器学习似的，我1998年在的那家公司，就已经做这类商用开发了。现在一炒作，一大堆
: 人临时学几个算法，赶时髦来做，嘿嘿。。。
: 这种现象就和十年前金融工程、quant开始热的效果一样。没过几年，这帮人中一大部
: 分被淘汰，开始被另外一个新名词“技术”牵着鼻子去凑热闹了而已。人要有自己的主
: 见和热爱的东西，做得才有意思，才有前途。话虽然老套，但是大实话，供真正喜欢机
: 器学习的人参考。
间上都有保障，不然吃不到包子的学生下午肚子饿就不来上学了。
【在 o****p 的大作中提到】
: 如果你关心哪个有名气，当然是庆丰。如果你关心哪个真正好吃或者和你胃口，其实街
: 边上的包子铺、还是庆丰就无差别了。我更关心解决实际问题和好用。就像大数据分析
: 这个新名词，就是一business buzz，不过是业内人士搞了几十年的机器学习，加各种
: 统计技术。好像在“大数据分析”之前，就没人在认真做网站和各类商用数据的统计机
: 器学习似的，我1998年在的那家公司，就已经做这类商用开发了。现在一炒作，一大堆
: 人临时学几个算法，赶时髦来做，嘿嘿。。。
: 这种现象就和十年前金融工程、quant开始热的效果一样。没过几年，这帮人中一大部
: 分被淘汰，开始被另外一个新名词“技术”牵着鼻子去凑热闹了而已。人要有自己的主
: 见和热爱的东西，做得才有意思，才有前途。话虽然老套，但是大实话，供真正喜欢机
: 器学习的人参考。
O*y
17 楼
问一下牛人，ml里面是不是create new feature是非常重要的？而这个新的feature是
基于一些背景知识的content的基础上生成的？thanks
【在 T*****u 的大作中提到】
: 我做大数据培训的，主要关心学校的１００００多学生中午吃包子从数量到质量上到时
: 间上都有保障，不然吃不到包子的学生下午肚子饿就不来上学了。
相关阅读
最近觉得分类算法很多时候还是不靠谱啊wubi装ubuntu总报错，有什么好方法么？ (转载)求handle missing data的好方法H2O求个 spring 2015 的internship关于startup专利申请我想说一句分享一个Data Scientist的面经攒RP。。 (转载)求FB面试的一些经验学习 使用 spark需要会machine learning理论么求助 信息提取 (转载)寻找一起做kaggle competition的小伙伴请教一个R问题：怎么rbind一系列data，如data1，data2,....data1000数学phd可以再读一个cs的master，偏向data analytics?问Data Science学校的问题有人了解nielsen这个公司吗？ (转载)about access (转载)暴一下前东家，避免有人入火坑求教sqlzoo euro 2012 第十三题刚电面一个，fail了用python抓网页数据