小中小留在AI研究领域占据绝对主力
假以时日,在这方面的领导者也应该是他们。
假以时日,在这方面的领导者也应该是他们。
CS以后的发展像医生看齐,本科就是pre med, 考博士就是考医学院。
S在AI方面一直走在前沿,而且各个方面都牛,很全面
神经网络,人机交互,Symbolic Systems,深度学习,而且不都是在CS系
language models是computional linguistics里面的很重要的课题
https://www.usnews.com/education/best-global-universities/artificial-intelligence
即使是现在,fine tune model 方面中国领先,但是base model方面美国领先。
fine tune 相当于 app, base model 相当于 platform。
国内出了不少startup, 用几片GPU,几周就可以fine tune 出一个不错的模型,然后商业化,速度非常快。
下面、以前也需要语言专家的介入,现在凭借变压器和自注意力机制,帅了语言专家了
一直是NLP,他上过一些linguistics
其他的不知道
整个STEM PhD program, 恐怕百分六七十都是国外的优秀人才
computational linguistics和NLP是啥关系。感谢哈
language model指的是什么。但是现在AI所说的large language model和linguistics没有一点关系,甚至我觉得和language都没什么关系,只是language方向是它最直接,普通人最容易接触到的应用而已
我问孩子估计他会给我一篇文献或者让我读一本书,就像我们以前对他一样
所以就想了解一下,算一个潜在的不拼爹妈的资源啊
后来本世纪前20年基于马尔可夫统计模型的NLP,只用到了很少很基础的linguistics知识。
然后transformer的横空出世又是一条新路,整个淘汰了原来的NLP方法