PyTorch统治学术论文!TensorFlow只占4%,LeCun:还能为啥?
点击下方卡片,关注“CVer”公众号
AI/CV重磅干货,第一时间送达
萧箫 发自 凹非寺
转载自:量子位(QbitAI)
“对于Python而言,为什么TensorFlow正在慢慢死去?”
这篇观点尖锐的文章一出,就被LeCun的转发推向风口浪尖:
还能为啥,当然是因为PyTorch啊。
紧接着“PyTorch和TensorFlow谁更好?”这个经久不息的论战再次被掀起,网友们也纷纷开始从文章中找到共鸣、或予以反驳。
有TensorFlow深度使用者现身说法:现在我改用PyTorch了。
但也有尝试过好几种框架的网友表示:TensorFlow和Keras做快速实验更方便,而且TensorFlow看起来对Apple M1 GPU支持更好。
当然,在这里面也出现了一些独特的声音:
JAX不比这两个框架好多了?
所以,文章作者究竟是如何得出这一结论的?
“PyTorch统治学术论文”
这篇文章的作者Ari Joury,是法国索邦大学的粒子物理学博士生,但对将AI和机器学习方法应用在粒子物理学探索上很感兴趣。
作为一个Python爱好者,她在接触两种框架时察觉到了二者的区别。
好奇哪种框架目前关注度更高,她便对Stack Overflow上3种主流框架Keras、TensorFlow和PyTorch进行了一个统计:
简单来说,就是TensorFlow关注度更高,Keras陷入停滞甚至下降,而PyTorch虽然起步较晚,但这两年一直呈现关注度稳定上升的趋势。
(不过,也有网友认为文章中用Stack Overflow数据做论据,根本不能算是统计框架的“受欢迎度”,反而只能证明这些框架“让人困惑的程度”)
那么,为什么会得出“对Python爱好者来说,TensorFlow关注度会继续下降”这一结论?
Ari Joury给出了几大理由。
其一,PyTorch用起来“更Python”。
Ari Joury表示,她使用Python编写TensorFlow框架的工作量,可能是PyTorch的两倍,此外后者编写代码的感受比TensorFlow更自然。
其二,PyTorch可用模型更多,且更适合学生和研究者使用。
据统计,在HuggingFace中,85%的大模型框架是用PyTorch实现的。
剩余的框架中,除了多个框架实现以外,只有8%的大模型框架是通过TensorFlow实现的。
这意味着PyTorch在AI大模型研究者中受欢迎程度更高。
不止大模型,使用PyTorch实现论文研究框架的人,变得越来越多。
这一观点也在Papers with Code网站统计上得到了印证。
在代码开源的那些论文研究中,单从框架使用率来看,这4年来PyTorch占比正急剧上升。
PyTorch从最初和TensorFlow持平,到如今远超TensorFlow、稳定成为使用率第一(占比62%)的框架,相比之下TensorFlow占比只有4%:
其三,PyTorch的生态发展更快。
虽然目前TensorFlow在生态体系上发展比PyTorch更好,但从PyTorch使用增长情况来看,这一趋势将在不久的将来得到逆转。
当然,TensorFlow自身也有一些不可取代的优势,例如部署更方便(类似TensorFlow Serving和TensorFlow Lite的工具很多)、以及对其他语言的支持更好等。
毕竟目前对于JavaScript、Java、C++、Julia和Rust等语言来说,TensorFlow还是更好的选择。
PyTorch则基本以Python为中心,即使有个C++ API,但其他语言的整体支持仍然比不上TensorFlow。
因此Ari Joury最终认为,这两个框架的选择,很大程度上取决于用户对Python的喜爱程度。
所以,那些AI大牛们又是怎么站队的呢?
AI大牛们选择哪些框架?
除了Yann LeCun一直是PyTorch的深度支持者以外(毕竟是Meta的人),不少AI大牛也都表态过自己更看好的框架。
至少在几年前TensorFlow推出2.0的时候,“TF2.0和PyTorch谁更好”这个话题就已经开始了。
当时,前Kaggle总裁兼首席科学家、fast.ai创始人Jeremy Howard,更看好PyTorch框架。
Keras创始人François Chollet,则在这个话题中投了TensorFlow一票,当时他认为PyTorch会走向下坡路。
至少在2020年的时候,他的观点依旧如此:“如果你是PyTorch粉丝,我的工作与你无关。”
但如今来看,PyTorch依旧保持一个活跃的状态。
你更看好哪个深度学习框架呢?
参考链接:
[1]https://twitter.com/ylecun/status/1614186881171742720
[2]https://levelup.gitconnected.com/why-tensorflow-for-python-is-dying-a-slow-death-ba4dafcb37e6
[3]https://paperswithcode.com/trends
点击进入—>CV微信技术交流群
CVPR/ECCV 2022论文和代码下载
后台回复:CVPR2022,即可下载CVPR 2022论文和代码开源的论文合集
后台回复:ECCV2022,即可下载ECCV 2022论文和代码开源的论文合集
后台回复:Transformer综述,即可下载最新的3篇Transformer综述PDF
目标检测和Transformer交流群成立
扫描下方二维码,或者添加微信:CVer222,即可添加CVer小助手微信,便可申请加入CVer-目标检测或者Transformer 微信交流群。另外其他垂直方向已涵盖:目标检测、图像分割、目标跟踪、人脸检测&识别、OCR、姿态估计、超分辨率、SLAM、医疗影像、Re-ID、GAN、NAS、深度估计、自动驾驶、强化学习、车道线检测、模型剪枝&压缩、去噪、去雾、去雨、风格迁移、遥感图像、行为识别、视频理解、图像融合、图像检索、论文投稿&交流、PyTorch、TensorFlow和Transformer等。
一定要备注:研究方向+地点+学校/公司+昵称(如目标检测或者Transformer+上海+上交+卡卡),根据格式备注,可更快被通过且邀请进群
▲扫码或加微信号: CVer222,进交流群
CVer学术交流群(知识星球)来了!想要了解最新最快最好的CV/DL/ML论文速递、优质开源项目、学习教程和实战训练等资料,欢迎扫描下方二维码,加入CVer学术交流群,已汇集数千人!
▲扫码进群
▲点击上方卡片,关注CVer公众号
整理不易,请点赞和在看
微信扫码关注该文公众号作者