最简单机器学习问题求教 - 未名空间MITBBS历史存档

国际科技财经博客移民网络热点娱乐民生时事公众号

Redian新闻

>未名空间

>DataSciences - 数据科学

最简单机器学习问题求教

最简单机器学习问题求教# DataSciences - 数据科学

i*s2016-12-31 08:12

1 楼

科学家在印尼发现啮齿动物新物种，以蚯蚓和蠕虫为食
这种小鼠长着两只上门齿，没长臼齿，因此无法咀嚼
中新网8月22日电据外媒报道，日前科学家在印度尼西亚发现一种新型啮齿动物，
这种小鼠以蚯蚓为食，长着长长的鼻子。更加奇特的是，这种小鼠没有后磨牙，无法咀
嚼食物。
据报道，这种小鼠是在印尼苏拉威西岛上的热带雨林中发现的。与一般的鼠类不同
，这种小鼠只长出两只尖尖的上门齿，下面没有长磨牙。由于没有对应的牙齿可供咬合
，这种小鼠无法咀嚼或咬动食物。但它也自有生存方法，它的鼻部长得很长，方便从地
下“吸”出蚯蚓和蠕虫吃掉。
发现这一物种的澳大利亚科学家凯文(Kevin Rowe)说，目前世界上有超过2200种不
同种类的啮齿动物，但只有这种小鼠没长后磨牙。他说，蚯蚓和蠕虫在潮湿的热带雨林
中很容易被找到，小鼠不用为食物发愁，因此在进化的过程中摒弃了臼齿。
“这种新发现的啮齿动物是独一无二的，它展示了生物在进化过程中是如何逐渐适
应周围环境，改变自身生理构造的。”凯文说。

A*e2016-12-31 08:12

2 楼

机器学习里面最基本的线性回归问题。
在统计里面的线性回归中的参数都可以通过数学公式计算出来的，如y = wX + b中的w
和b都是可以用给定的数据计算出来的。
为什么在机器学习中，面对这个问题还要慢慢梯度降低而得到这两个值，为啥不直接计
算一下出来呢。
2016最后一问，祝大家新年快乐！

y*u2016-12-31 08:12

3 楼

和shrew什么关系？

w*g2016-12-31 08:12

4 楼

可以用close-form解直接算, 但是必须要注意加regularization项.
但close-form解局限性很大, 比如一改成hinge-loss就不干活了. 而
基本形式的LR碰到实际问题很少能做得过别的更复杂的方法.
之所以老能看到用梯度法解LR, 因为LR老是被作为toy example来验证
梯度法框架的正确性, 或者被作为toy example来解释梯度法框架的用
法. 如果你真觉得有人在实战中用LR, 那你就输了.

w

【在 A*******e 的大作中提到】

: 机器学习里面最基本的线性回归问题。
: 在统计里面的线性回归中的参数都可以通过数学公式计算出来的，如y = wX + b中的w
: 和b都是可以用给定的数据计算出来的。
: 为什么在机器学习中，面对这个问题还要慢慢梯度降低而得到这两个值，为啥不直接计
: 算一下出来呢。
: 2016最后一问，祝大家新年快乐！

I*i2016-12-31 08:12

5 楼

谁给解释下，老鼠的长尾巴有什么功用

C*t2016-12-31 08:12

6 楼

实际问题会涉及p个feature n个data points. 写成ordinary least squares problem
是有closed form解的，但是即便是用numerical linear algebra中解least squares的
算法求解，也不是直接implement那个closed form解，而是先做矩阵分解(qr,svd,
choleski)再求解线性方程组。具体的计算过程也是iterative的而且也会涉及各种误差。

w

【在 A*******e 的大作中提到】

p*s2016-12-31 08:12

7 楼

重口味物种。

【在 i*****s 的大作中提到】

: 科学家在印尼发现啮齿动物新物种，以蚯蚓和蠕虫为食
: 这种小鼠长着两只上门齿，没长臼齿，因此无法咀嚼
: 中新网8月22日电据外媒报道，日前科学家在印度尼西亚发现一种新型啮齿动物，
: 这种小鼠以蚯蚓为食，长着长长的鼻子。更加奇特的是，这种小鼠没有后磨牙，无法咀
: 嚼食物。
: 据报道，这种小鼠是在印尼苏拉威西岛上的热带雨林中发现的。与一般的鼠类不同
: ，这种小鼠只长出两只尖尖的上门齿，下面没有长磨牙。由于没有对应的牙齿可供咬合
: ，这种小鼠无法咀嚼或咬动食物。但它也自有生存方法，它的鼻部长得很长，方便从地
: 下“吸”出蚯蚓和蠕虫吃掉。
: 发现这一物种的澳大利亚科学家凯文(Kevin Rowe)说，目前世界上有超过2200种不

e*62016-12-31 08:12

8 楼

分析解是big o n3，太慢了，小数据集还行，大的太慢

w

【在 A*******e 的大作中提到】

p*s2016-12-31 08:12

9 楼

关系有点远，shrew不是啮齿类动物。

【在 y**u 的大作中提到】

: 和shrew什么关系？

a*a2016-12-31 08:12

10 楼

我的理解，当data points和features没有足够多的情况，那直接用NORM equation解没
问题（data points >> # of features)
但是，如果数据量大的化，close form解起来就够呛了，或者有时候矩阵rankfeatures也不行。

w

【在 A*******e 的大作中提到】

p*s2016-12-31 08:12

11 楼

传感器，就像军舰上的拖曳声纳？

【在 I***i 的大作中提到】

: 谁给解释下，老鼠的长尾巴有什么功用

n*12016-12-31 08:12

12 楼

赞

【在 p*******s 的大作中提到】

: 传感器，就像军舰上的拖曳声纳？

p*s2016-12-31 08:12

13 楼

於我心有戚戚焉

【在 n*1 的大作中提到】

: 赞

i*s2016-12-31 08:12

14 楼

好问题，放了一下狗，主要是控制体温和保持平衡的。
http://www.ratbehavior.org/RatTails.htm

【在 I***i 的大作中提到】

: 谁给解释下，老鼠的长尾巴有什么功用

c*72016-12-31 08:12

15 楼

ugly......

w*k2016-12-31 08:12

16 楼

可以拿它做毒品吸食实验

【在 i*****s 的大作中提到】

: 好问题，放了一下狗，主要是控制体温和保持平衡的。
: http://www.ratbehavior.org/RatTails.htm