求教分类问题中预测概率的问题# DataSciences - 数据科学
l*r
1 楼
1.好莱坞灾难片必活定理：当男主角
必死定理：跟男主角抢一个女人
2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
动。
3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
必死定理：跟男主角抢一个女人
2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
动。
3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
s*n
2 楼
手上有个项目，预测给某货物定价为某值的时候，某顾客是否购买。第一个目标是看预
测概率的area under a curve，我第一个尝试是logistic regression ，大概在cross
validation数据上正确率85％，AUC也是0.85。用上random forest，能达到两个接近0.
9. 然后我再试着跑xgboost（objective = "binary:logistic"），能做到0.95. 这样
显然xgboost表现最好。
接下来问题来了，假设我们给所有用户同一个定价，要求优化一个盈利最大的定价，盈
利是单位商品的获利乘以顾客可能购买的概率。这个函数不难写，可是如果我用random
forest 或者xgboost的模型，会出现一个问题，就是假如我定价很大的时候，所有顾
客都已经只有很小概率购买（0.01甚至以下），可是这些概率就不变了，不再随定价的
升高而减小。那么随着价格不断抬高，盈利反而会变大，最后在某个高价的情况下，会
成为盈利最大的定价。这显然是不合理的。
如果用logistic regression 的模型，最大盈利的定价是在中间某合理定价上，高价和
低价时候盈利都会很快减小，这个答案看起来合理多了。（这个最优定价还和random
forest 或者xgboost的模型在中间价格时候的最优定价不完全一样。）
我感觉这个问题的原因是，random forest 或者xgboost的目标是把分类分清，那么它
预测概率小于0.5很多的时候，分类已经分清了，所以这两个模型就没有继续降低预测
的概率。random forest和xgboost似乎都是基于树的，主要关注于分类边界情况，对于
extreme cases并不敏感。理论上我可以手动cutoff一下，认为高价或者低价情况的
random forest或者xgboost的模型计算，可是这样形同作弊啊。
求教一下我的理解对不对，已经这种情况下用什么模型更加合理。
测概率的area under a curve，我第一个尝试是logistic regression ，大概在cross
validation数据上正确率85％，AUC也是0.85。用上random forest，能达到两个接近0.
9. 然后我再试着跑xgboost（objective = "binary:logistic"），能做到0.95. 这样
显然xgboost表现最好。
接下来问题来了，假设我们给所有用户同一个定价，要求优化一个盈利最大的定价，盈
利是单位商品的获利乘以顾客可能购买的概率。这个函数不难写，可是如果我用random
forest 或者xgboost的模型，会出现一个问题，就是假如我定价很大的时候，所有顾
客都已经只有很小概率购买（0.01甚至以下），可是这些概率就不变了，不再随定价的
升高而减小。那么随着价格不断抬高，盈利反而会变大，最后在某个高价的情况下，会
成为盈利最大的定价。这显然是不合理的。
如果用logistic regression 的模型，最大盈利的定价是在中间某合理定价上，高价和
低价时候盈利都会很快减小，这个答案看起来合理多了。（这个最优定价还和random
forest 或者xgboost的模型在中间价格时候的最优定价不完全一样。）
我感觉这个问题的原因是，random forest 或者xgboost的目标是把分类分清，那么它
预测概率小于0.5很多的时候，分类已经分清了，所以这两个模型就没有继续降低预测
的概率。random forest和xgboost似乎都是基于树的，主要关注于分类边界情况，对于
extreme cases并不敏感。理论上我可以手动cutoff一下，认为高价或者低价情况的
random forest或者xgboost的模型计算，可是这样形同作弊啊。
求教一下我的理解对不对，已经这种情况下用什么模型更加合理。
q*i
3 楼
这么简单的评论？
s*h
4 楼
你说的这个顾客购买概率随着价格变化而下降，这个是有数据了吗？
怎么知道到了一定程度概率不再变小的？
我怎么觉得你现在的问题根源在于这个“不再变小”的假设？
怎么知道到了一定程度概率不再变小的？
我怎么觉得你现在的问题根源在于这个“不再变小”的假设？
c*h
5 楼
等你看完唐一个
【在 q*****i 的大作中提到】
: 这么简单的评论？
【在 q*****i 的大作中提到】
: 这么简单的评论？
n*3
6 楼
common sense?
【在 s*********h 的大作中提到】
: 你说的这个顾客购买概率随着价格变化而下降，这个是有数据了吗？
: 怎么知道到了一定程度概率不再变小的？
: 我怎么觉得你现在的问题根源在于这个“不再变小”的假设？
【在 s*********h 的大作中提到】
: 你说的这个顾客购买概率随着价格变化而下降，这个是有数据了吗？
: 怎么知道到了一定程度概率不再变小的？
: 我怎么觉得你现在的问题根源在于这个“不再变小”的假设？
l*r
7 楼
能对好莱坞灾难片写出长篇评论的，不是豆瓣雇的枪手就是大脑年龄没满18。。。
8岁，按您的高标准
对了，场面还是不错的。其实光把那10分钟左右剪给我看就满足了
【在 q*****i 的大作中提到】
: 这么简单的评论？
8岁，按您的高标准
对了，场面还是不错的。其实光把那10分钟左右剪给我看就满足了
【在 q*****i 的大作中提到】
: 这么简单的评论？
s*h
8 楼
我是说到一定程度不会下降了。
【在 n*****3 的大作中提到】
: common sense?
【在 n*****3 的大作中提到】
: common sense?
q*i
9 楼
我显然不准备看这个
【在 c*******h 的大作中提到】
: 等你看完唐一个
【在 c*******h 的大作中提到】
: 等你看完唐一个
e*r
10 楼
你应该设定最优化条件的boundary，比如价格到某个程度再升就是不合理的，或者销售
数量一定要大于某个值也有商业意义。
数量一定要大于某个值也有商业意义。
i*1
11 楼
中国部分讲的是藏语 所以看不懂 呵呵
【在 l****r 的大作中提到】
: 1.好莱坞灾难片必活定理：当男主角
: 必死定理：跟男主角抢一个女人
: 2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
: 动。
: 3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
【在 l****r 的大作中提到】
: 1.好莱坞灾难片必活定理：当男主角
: 必死定理：跟男主角抢一个女人
: 2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
: 动。
: 3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
s*h
12 楼
问题原因其实你已经说得很清楚了。
解决办法不就在原因里么？呵呵。
用LR的结果找到合理价的范围，然后再用xgboost在合理范围内找最优。
解决办法不就在原因里么？呵呵。
用LR的结果找到合理价的范围，然后再用xgboost在合理范围内找最优。
i*1
13 楼
aglee
【在 l****r 的大作中提到】
: 能对好莱坞灾难片写出长篇评论的，不是豆瓣雇的枪手就是大脑年龄没满18。。。
: 8岁，按您的高标准
: 对了，场面还是不错的。其实光把那10分钟左右剪给我看就满足了
【在 l****r 的大作中提到】
: 能对好莱坞灾难片写出长篇评论的，不是豆瓣雇的枪手就是大脑年龄没满18。。。
: 8岁，按您的高标准
: 对了，场面还是不错的。其实光把那10分钟左右剪给我看就满足了
s*n
14 楼
用RF建模之后，尝试不同利率，观察到的现象。
【在 s*********h 的大作中提到】
: 我是说到一定程度不会下降了。
【在 s*********h 的大作中提到】
: 我是说到一定程度不会下降了。
wh
15 楼
“荷尔蒙分泌过量的目光”是什么，暧昧火辣？
鸡皮疙瘩还能乱跳啊，哈哈。
【在 l****r 的大作中提到】
: 1.好莱坞灾难片必活定理：当男主角
: 必死定理：跟男主角抢一个女人
: 2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
: 动。
: 3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
鸡皮疙瘩还能乱跳啊，哈哈。
【在 l****r 的大作中提到】
: 1.好莱坞灾难片必活定理：当男主角
: 必死定理：跟男主角抢一个女人
: 2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
: 动。
: 3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
s*n
16 楼
主要是这个boudary不好设，有拍脑袋的嫌疑。
另外我很怀疑Random forest里头给的概率本身定义不是我们一般理解的概率，它们本
来只是树投票的结果，只是分类中使用的参数。RF分类可能比Logistic regression准
，这个概率的预测可能在任何rate下都是不准的。。。
【在 e*********r 的大作中提到】
: 你应该设定最优化条件的boundary，比如价格到某个程度再升就是不合理的，或者销售
: 数量一定要大于某个值也有商业意义。
另外我很怀疑Random forest里头给的概率本身定义不是我们一般理解的概率，它们本
来只是树投票的结果，只是分类中使用的参数。RF分类可能比Logistic regression准
，这个概率的预测可能在任何rate下都是不准的。。。
【在 e*********r 的大作中提到】
: 你应该设定最优化条件的boundary，比如价格到某个程度再升就是不合理的，或者销售
: 数量一定要大于某个值也有商业意义。
l*r
17 楼
实际上还有个更准确简洁的形容词，我都没好意思写下来
xian shi
别问我这是哪两个字哦
【在 wh 的大作中提到】
: “荷尔蒙分泌过量的目光”是什么，暧昧火辣？
: 鸡皮疙瘩还能乱跳啊，哈哈。
xian shi
别问我这是哪两个字哦
【在 wh 的大作中提到】
: “荷尔蒙分泌过量的目光”是什么，暧昧火辣？
: 鸡皮疙瘩还能乱跳啊，哈哈。
s*h
18 楼
所以你的意思是说模型的预测结果是这样子？我以为是你从train data中已经观测到这
一结果了。
这是正常的吧。random forecast 和其他tree based model都无法预测出超过train
data的范围。
【在 s***n 的大作中提到】
: 用RF建模之后，尝试不同利率，观察到的现象。
一结果了。
这是正常的吧。random forecast 和其他tree based model都无法预测出超过train
data的范围。
【在 s***n 的大作中提到】
: 用RF建模之后，尝试不同利率，观察到的现象。
s*y
19 楼
显示
【在 l****r 的大作中提到】
: 实际上还有个更准确简洁的形容词，我都没好意思写下来
: xian shi
: 别问我这是哪两个字哦
【在 l****r 的大作中提到】
: 实际上还有个更准确简洁的形容词，我都没好意思写下来
: xian shi
: 别问我这是哪两个字哦
s*n
20 楼
aglee
【在 l****r 的大作中提到】
: 1.好莱坞灾难片必活定理：当男主角
: 必死定理：跟男主角抢一个女人
: 2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
: 动。
: 3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
【在 l****r 的大作中提到】
: 1.好莱坞灾难片必活定理：当男主角
: 必死定理：跟男主角抢一个女人
: 2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
: 动。
: 3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
s*n
21 楼
昨天看了2012，前30分钟很忧桑，后30分钟很残酷。
回来以后做了个梦，梦里狠忧桑，梦醒后搅得现实其实狠残酷。
【在 l****r 的大作中提到】
: 1.好莱坞灾难片必活定理：当男主角
: 必死定理：跟男主角抢一个女人
: 2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
: 动。
: 3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
回来以后做了个梦，梦里狠忧桑，梦醒后搅得现实其实狠残酷。
【在 l****r 的大作中提到】
: 1.好莱坞灾难片必活定理：当男主角
: 必死定理：跟男主角抢一个女人
: 2.总统女儿荷尔蒙分泌过量的目光看得我鸡皮疙瘩乱跳。继美味关系后再次产生杀人冲
: 动。
: 3.没有字幕，一看到中国部分反而看不懂了。好郁闷。
M*N
22 楼
what is it?
现世？咸湿？han se
【在 l****r 的大作中提到】
: 实际上还有个更准确简洁的形容词，我都没好意思写下来
: xian shi
: 别问我这是哪两个字哦
现世？咸湿？han se
【在 l****r 的大作中提到】
: 实际上还有个更准确简洁的形容词，我都没好意思写下来
: xian shi
: 别问我这是哪两个字哦
相关阅读
请教NLP 问题 工作4年及以上的人每天/每周/每月花多少时间在学习上？ (转载)借人气一问 有没有在linked的站友新人签到，大家好啊著名人類學家胡家奇擔憂：納米機器人或滅絕人類求助：社科转CS怎么申请数据科学管理层职位？Uber数据科学组招几个DA和DS (转载)风险与机遇并存的娃妈转行魔幻之旅irvine周边或者南加地区data scientist 求内推。当作数学来学 -- 最新最创意的英文写作提高三部曲刷题就得快糙猛 (转载)美国的machine learning 方向ms 发展的不错。求教：matlab (转载)本人工科博士，过去做研究涉及大量的数据处理有人成功转行到AWS么?【工作内推】Principal Science & Analytics晴天霹雳！汉奸组织咔咔CACAA阴谋断绝华人绿卡之路 (转载)百万人民币招聘博士学历人才求内推，重酬