Redian新闻
>
未来大模型顶会?陈丹琦等人组织首届COLM,为语言建模研究提供新平台

未来大模型顶会?陈丹琦等人组织首届COLM,为语言建模研究提供新平台

公众号新闻

机器之心报道

编辑:大盘鸡

获得了众多学术大牛的支持。

随着 ChatGPT 的爆火,NLP、大模型领域已经是个「一天不看新闻就会落后」的地方。


虽然如今 AI 领域的顶级学术会议已经不少,但似乎也无法满足大家投论文的速度了。


现在,一批知名的青年学者们,组织了一个名为 COLM(Conference on Language Modeling)的新会议。


COLM 是一个专注于语言建模研究的学术场所。在会议介绍中,组织这门十分明确地讲述了他们的目的是创建一个具有不同科学专业知识的研究人员社区,专注于理解、改进和评论语言模型技术的发展。这不仅是学术界的一次创新尝试,也是搭起了语言模型交流互鉴的新桥梁,进一步促进其探索和合作。



会议连接 https://colmweb.org/


组织者介绍


该会议的组织者们是 NLP 头部科学家们,在语言建模研究有着相当成果的。他们其中既有来自业界的研究人员,也有来自学术界的研究人员。组织者共有七人,分别是 Yejin Choi、Denny Zhou、Dipanjan Das、陈丹琦、Yoav Artzi、Angela Fan、Alexander Rush。



而组织者中的 Denny Zhou、陈丹琦、Angela Fan 等人也是我们熟知的 AI 华人学者。


陈丹琦



陈丹琦是普林斯顿大学计算机科学的助理教授,也是普林斯顿 NLP 小组的共同负责人。本科就读于清华大学,后获得斯坦福大学计算机科学博士学位。陈丹琦凭借其在自然语言处理领域取得的一系列成果,荣膺 2019 年《麻省理工科技评论》「35 岁以下科技创新 35 人」中国区得主,获奖时年龄 29 岁。就在前些天,陈丹琦团队提出 LLM-Shearing 大模型剪枝法。


Denny Zhou



Denny Zhou 是 Google DeepMind 的首席科学家 / 研究主管,他是推理团队的创立者和现任负责人。主要研究兴趣在于构建和教导大语言模型实现类人的推理能力。他领导的团队已经开发了思维链提示、自洽性解码、最少到最多提示、指令调优(FLAN2)、LLM 自我调试等大语言模型的各种涌现属性。Denny Zhou 曾获得 2022 年谷歌研究技术影响力奖(Google Research Tech Impact Award)。


Angela Fan



Angela Fan 是 Meta AI Research Paris 的研究科学家,主要研究机器翻译。此前她曾在南锡 INRIA 和巴黎 FAIR 攻读博士学位,主要研究文本生成。在此之前,她是一名研究工程师,并在哈佛大学获得了统计学学士学位。


会议投稿主题


组织者们为本次会议的投稿提供了广泛而全面的主题


  • 对齐:微调、指令微调、强化学习(包括人工反馈)、提示调整和上下文对齐

  • 数据:预训练数据、对齐数据和通过人工或算法分析、整理和生成的合成数据

  • 评估:基准、模拟环境、可扩展监督、评估协议和指标、人工或机器评估

  • 社会影响:偏见、公平、滥用、就业、气候变化等

  • 安全:安全、隐私、错误信息、对抗性攻击和防御

  • LM 的科学性:扩展规律、基本限制、新兴能力、解密、可解释性、复杂性、训练动态、学习理论

  • 高效计算 LM:蒸馏、压缩、量化等

  • 大型 LM 的工程设计:不同硬件设置上的分布式训练和推理、训练动态、优化不稳定性

  • LM 的学习算法:学习、元学习、模型混合法、持续学习等

  • LM 的推理算法:解码算法、推理算法、搜索算法、规划算法

  • 人类心智、大脑、哲学、法律与 LM:从认知科学、神经科学、语言学、心理语言学、哲学或法律角度看待 LM

  • 面向所有人的 LM:多语言、低资源语言、方言、多元文化、价值多元化

  • LM 与世界:事实性、检索增强型 LM、知识模型、常识推理、心智理论、社会规范、语用学和世界模型

  • 具身 LM:感知、行动、机器人和多模态

  • LM 与互动:对话、互动学习和多人学习

  • LM 与工具和代码:与工具和 API 的集成、LM 驱动的软件工程

  • 关于各种模式和新型应用的 LM:视觉 LM、代码 LM、数学 LM 等,特别鼓励研究较少的模式或应用,如化学、医学、教育、数据库等


COLM 发表后,获得了许多支持与期待。



与 ICLR 相似,COLM 也是领域中的创新会议,它们都有着知名学者们的倾力支持。除此之外,ICLR 采用的开放评审备受好评,并开公开透明之先河。COLM 投稿将采用双盲审核,并将使用开放评审的方式管理投稿。至于它是否能像 ICLR 一样后来居上,就请拭目以待吧。




© THE END 

转载请联系本公众号获得授权

投稿或寻求报道:[email protected]

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
陈丹琦团队新作:5%成本拿下SOTA,“羊驼剪毛”大法火了!廖良生院士:叠层OLED为实现高性能OLED提供新路径李开复零一万物发布首款大模型;马斯克xAI发布首个大模型;360、美团、昆仑万维等最新消息;vivo发布蓝心AI大模型普林斯顿陈丹琦团队:手把手教你给羊驼剪毛,5%成本拿下SOTA4k窗口长度就能读长文,陈丹琦高徒联手Meta推出大模型记忆力增强新方法BELLE-7B-1M逆袭ChatGLM?10B量级开源中文对话LLM,谁成常识问答任务的黑马?免费大模型实战课|首周聚焦百度智能云千帆大模型平台使用,《大模型应用实践》实训营11月16日开讲!祝贺2023年首届CNIW思达杯慈善高尔夫赛成功举行!OpenAI首届开发者大会内容曝光;马斯克xAI大模型进展公布;中国第二批大模型备案获批丨AIGC大事日报小模型如何比肩大模型,北理工发布明德大模型MindLLM,小模型潜力巨大香港大学揭示SaeR作为新的治疗靶点,为抗毒力治疗提供新思路!北京理工大学发布双语轻量级语言模型,明德大模型—MindLLM,看小模型如何比肩大模型ACL23 | 基于检索的大语言模型-陈丹琦报告阅读如何看待陈丹琦等大佬创建的大语言模型会议COLM?马毅、沈向洋联手,首届CPAL开奖!16人获新星奖,华人学者占据半壁江山国内首个“夫妻生活”大规模研究:近六成“圆房失败”与男女双方有关!当 Apache Doris 遇上大模型:探秘腾讯音乐如何基于大模型 + OLAP 构建智能数据服务平台AI 大语言模型 LLM,为啥老被翻译成「法学硕士」?!ChatGPT「化学助手」搜索文献、预测实验结果 ,为LLM加速科学发现提供新途径《高阳台 - 秋实》陈丹琦新作:一个LLM的评估基准LLMBar皮带哥的皮带断了,裤子落下陈丹琦团队新作:LLM-Shearing陈丹琦团队新作:5%成本拿下SOTA,“羊驼剪毛”大法火了为什么5%的GDP增长,经济还是很痛苦?陈丹琦 ACL'23 Tutorial - 基于检索的大语言模型 学习笔记NTU华科等最新研究:全自动化「提示越狱」,能打败大模型的只有大模型!登安全顶会NDSS手把手教你剪「羊驼」,陈丹琦团队提出LLM-Shearing大模型剪枝法度假加勒比 (五) 聖基茨(Kitts)下等人装聪明,中等人装实在,上等人……大规模研究揭示:常喝牛奶,与中国人癌症风险升高有关,尤其是肝癌和乳腺癌智源扔出大模型“全家桶”!推最强开源中英双语LLM,赶超Llama 2海外华人刘同学Sci Rep | 大规模研究表明前庭功能的丧失或会增加痴呆症风险让大模型看图比打字管用!NeurIPS 2023新研究提出多模态查询方法,准确率提升7.8%
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。