大模型infra专场：大模型系统层工作 | 第16届中国R会议暨2023X-AGI大会
第16届中国R会议暨2023X-AGI大会将于2023年11月25-30日在中国人民大学召开，本次会议由中国人民大学统计学院、中国人民大学应用统计科学研究中心、统计之都、原灵科技和中国商业统计学会人工智能分会（筹）主办，由中国人民大学统计学院数据科学与大数据统计系承办，得到宽德投资、明汯投资、和鲸科技、子博设计赞助支持，将以线上会议和线下会议相结合的方式举办。
欢迎进入中国R会议暨2023X-AGI大会官网，获取更多会议信息！
链接：https://china-r.cosx.org/bj2023/index.html
更多详情：统计之都公众号菜单栏点击“最新活动”->“最新R会”
下面为您奉上本次中国R会议暨2023X-AGI大会大模型infra专场演讲介绍，本会场主席为张先轶。
大模型infra专场
时间：2023年11月25日 下午15:30-17:00
会议地点：
线下：中国人民大学立德楼803
线上：点击阅读原文或扫描下方二维码
会场内容介绍
从OpenBLAS到PerfXAPI异构计算框架
张先轶
个人简介：
张先轶，博士，本科和硕士毕业于北京理工大学，博士毕业于中国科学院大学，曾于中科院软件所工作，之后分别在UT Austin和MIT进行博士后研究工作。国际知名开源矩阵计算项目OpenBLAS发起人和主要维护者。中国计算机学会高性能计算专业委员会委员，ACM SIGHPC China执行委员。2016年，创办PerfXLab澎峰科技，提供异构计算软件栈与解决方案。2016年获得中国计算机学会科学技术二等奖，2017年获得中国科学院杰出科技成就奖，2020年获得美国SIAM Activity Group on Supercomputing最佳论文奖。
报告摘要：
随着AI和工业软件等领域的蓬勃发展，对计算的需求不断上升。除了芯片和服务器硬件，还需建设丰富的计算软件生态，才能支持计算应用良好且高效运行。本报告将结合开源矩阵计算库OpenBLAS经验，介绍异构计算软件框架PerfXAPI，可以使应用在多种异构计算硬件无缝迁移，让异构计算更便捷，更高效。展示PerfXAPI在视觉CNN模型，以及语言大模型的应用情况。
Build enterprise-grade LLMs on your private data
Rachel Hu
个人简介：
Rachel Hu is the Co-founder & CEO of CambioML (YC S23). Previously, she was an Applied Scientist and developed LLMs at AWS AI. She also co-authored open-source ML projects, including D2L.ai (100k+ MAU), and served as a senior speaker for AWS. She received her master's degree in Statistics from the University of California, Berkeley, and her Bachelor's degree in Mathematics from the University of Waterloo, Canada.
报告摘要：
Are you interested in building your own enterprise-grade LLMs using your private data? In this talk, we will have a quick demo showing you how to train a customized AI agent on your private data via CambioML open-source toolkits. You will see how to use our open-source library, uniflow, to transform unstructured data (e.g., HTML, PDF, etc.) into structured question-answer (QA) pairs, then use our open-source library, pykoi, to finetune your own customized LLMs on the QA pairs with a few lines of Python code via RLHF.
AI编译和传统编译结合挖掘芯片算力潜能
赵家程
个人简介：
赵家程，博士，现任中国科学院计算技术研究所处理器芯片全国重点实验室副研究员、硕士生导师，计算所新百星。主要研究方向为面向领域定制架构的编译技术，包括针对GPU、NPU、DPU等的编程语言、编译系统和运行时系统。相关研究成果发表在OSDI、ASPLOS、HPCA、TOCS、TPDS、MLSYS，TACO、PACT、ICS等领域内国际期刊和会议上，主持了包括重点研发课题在内的多个项目，相关编译技术已经应用在寒武纪、华为昇腾等芯片上。
报告摘要：
充分的发挥芯片的性能是编译器长久以来的追求，并在AI时代显得更加重要。本报告将汇报一系列结合AI编译和传统编译的优化技术，探索如何利用跨越多个层次的编译优化技术构建高效的针对AI应用的基础设施。
面向大模型的多维度软硬件协同优化
李伯勋
个人简介：
李伯勋，清华大学电子工程系本硕，曾任职于百度深度学习研究院，360，旷视等公司，现任无问芯穹智能科技有限公司算法总监，负责自然语言及多模态大模型的模型训练与优化。
报告摘要：
人工智能的发展已经进入大模型时代，通用大模型已经在多个领域发挥作用。大模型的不断发展对算力产生了更多的需求。本次报告将介绍无问芯穹在大模型软硬件协同优化的最新进展，包括：1. 长文本训练与推理，从支持2k token的快速训练和推理到支持128k+ token的系统能力；2. 嵌入式优化，把语言或多模态生成模型部署到消费级显卡甚至手机等终端设备上；3. 一站式部署，高效部署工具链让大模型能够以低人力成本地部署到各种场景。
线下参与
本会场将线上线下同步进行，线下会场位于中国人民大学，线上会场为学说直播平台。线下参会者需要扫描下方二维码报名。欢迎各位线上线下的朋友共同参会！
关于会议
主办方：
中国人民大学统计学院
中国人民大学应用统计科学研究中心
统计之都
原灵科技
中国商业统计学会人工智能分会（筹）
赞助方：
宽德投资
明汯投资
和鲸科技
子博设计
联系方式
公众号：统计之都
会议邮箱：[email protected]
统计之都：专业、人本、正直的中国统计学社区。
关注方式：扫描下图二维码。或查找公众号，搜索 统计之都 或 CapStat 即可。
往期推送：进入统计之都会话窗口，点击右上角小人图标，查看历史消息即可。
微信扫码关注该文公众号作者