Redian新闻
>
直接告诉你张三怎么判!北大法律大模型ChatLaw火了,挤爆服务器

直接告诉你张三怎么判!北大法律大模型ChatLaw火了,挤爆服务器

公众号新闻

来自:机器之心

进NLP群—>加入NLP交流群

语言大模型不断向垂直行业领域拓展,这次出圈的是北大法律大模型。

大模型又「爆了」。


昨晚,一个法律大模型 ChatLaw 登上了知乎热搜榜榜首。热度最高时达到了 2000 万左右。


这个 ChatLaw 由北大团队发布,致力于提供普惠的法律服务。一方面当前全国执业律师不足,供给远远小于法律需求;另一方面普通人对法律知识和条文存在天然鸿沟,无法运用法律武器保护自己。


大语言模型最近的崛起正好为普通人以对话方式咨询法律相关问题提供了一个绝佳契机。



目前,ChatLaw 共有三个版本,分别如下:


  • ChatLaw-13B,为学术 demo 版,基于姜子牙 Ziya-LLaMA-13B-v1 训练而来,中文各项表现很好。但是,逻辑复杂的法律问答效果不佳,需要用更大参数的模型来解决;
  • ChatLaw-33B,也为学术 demo 版,基于 Anima-33B 训练而来,逻辑推理能力大幅提升。但是,由于 Anima 的中文语料过少,问答时常会出现英文数据;
  • ChatLaw-Text2Vec,使用 93w 条判决案例做成的数据集,基于 BERT 训练了一个相似度匹配模型,可以将用户提问信息和对应的法条相匹配。


根据官方演示,ChatLaw 支持用户上传文件、录音等法律材料,帮助他们归纳和分析,生成可视化导图、图表等。此外,ChatLaw 可以基于事实生成法律建议、法律文书。该项目在 GitHub 上的 Star 量达到了 1.1k。



官网地址:https://www.chatlaw.cloud/

论文地址:https://arxiv.org/pdf/2306.16092.pdf

GitHub 地址:https://github.com/PKU-YuanGroup/ChatLaw


目前,由于 ChatLaw 项目太过火爆,服务器暂时崩溃,算力已达上限。该团队正在修复,感兴趣的读者可以在 GitHub 上部署测试版模型。


小编本人也还在内测排队中。所以这里先展示一个 ChatLaw 团队提供的官方对话示例,关于日常网购时可能会遇到的「七天无理由退货」问题。不得不说,ChatLaw 回答挺全的。



不过,小编发现,ChatLaw 的学术 demo 版本可以试用,遗憾的是没有接入法律咨询功能,只提供了简单的对话咨询服务。这里尝试问了几个问题。


其实最近发布法律大模型的不只有北大一家。上个月底,幂律智能联合智谱 AI 发布了千亿参数级法律垂直大模型 PowerLawGLM。据悉该模型针对中文法律场景的应用效果展现出了独特优势。


图源:幂律智能


ChatLaw 的数据来源、训练框架


首先是数据组成。ChatLaw 数据主要由论坛、新闻、法条、司法解释、法律咨询、法考题、判决文书组成,随后经过清洗、数据增强等来构造对话数据。同时,通过与北大国际法学院、行业知名律师事务所进行合作,ChatLaw 团队能够确保知识库能及时更新,同时保证数据的专业性和可靠性。下面我们看看具体示例。


基于法律法规和司法解释的构建示例:



抓取真实法律咨询数据示例:



律师考试多项选择题的建构示例:



然后是模型层面。为了训练 ChatLAW,研究团队在 Ziya-LLaMA-13B 的基础上使用低秩自适应 (Low-Rank Adaptation, LoRA) 对其进行了微调。此外,该研究还引入 self-suggestion 角色,来缓解模型产生幻觉问题。训练过程在多个 A100 GPU 上进行,并借助 deepspeed 进一步降低了训练成本。


如下图为 ChatLAW 架构图,该研究将法律数据注入模型,并对这些知识进行特殊处理和加强;与此同时,他们也在推理时引入多个模块,将通识模型、专业模型和知识库融为一体。


该研究还在推理中对模型进行了约束,这样才能确保模型生成正确的法律法规,尽可能减少模型幻觉。



一开始研究团队尝试传统的软件开发方法,如检索时采用 MySQL 和 Elasticsearch,但结果不尽如人意。因而,该研究开始尝试预训练 BERT 模型来进行嵌入,然后使用 Faiss 等方法以计算余弦相似度,提取与用户查询相关的前 k 个法律法规。


当用户的问题模糊不清时,这种方法通常会产生次优的结果。因此,研究者从用户查询中提取关键信息,并利用该信息的向量嵌入设计算法,以提高匹配准确性。


由于大型模型在理解用户查询方面具有显著优势,该研究对 LLM 进行了微调,以便从用户查询中提取关键字。在获得多个关键字后,该研究采用算法 1 检索相关法律规定。



实验结果


该研究收集了十余年的国家司法考试题目,整理出了一个包含 2000 个问题及其标准答案的测试数据集,用以衡量模型处理法律选择题的能力。


然而,研究发现各个模型的准确率普遍偏低。在这种情况下,仅对准确率进行比较并无多大意义。因此,该研究借鉴英雄联盟的 ELO 匹配机制,做了一个模型对抗的 ELO 机制,以便更有效地评估各模型处理法律选择题的能力。以下分别是 ELO 分数和胜率图:



通过对上述实验结果的分析,我们可以得出以下观察结果


(1)引入与法律相关的问答和法规条文的数据,可以在一定程度上提高模型在选择题上的表现;

(2)加入特定类型任务的数据进行训练,模型在该类任务上的表现会明显提升。例如,ChatLaw 模型优于 GPT-4 的原因是文中使用了大量的选择题作为训练数据;

(3)法律选择题需要进行复杂的逻辑推理,因此,参数量更大的模型通常表现更优。


参考知乎链接:

https://www.zhihu.com/question/610072848

其他参考链接:

https://mp.weixin.qq.com/s/bXAFALFY6GQkL30j1sYCEQ



进NLP群—>加入NLP交流群

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
法律翻译 | 《纽大法律评论》第96卷第3期当 Apache Doris 遇上大模型:探秘腾讯音乐如何基于大模型 + OLAP 构建智能数据服务平台只给大模型LeetCode编号,也能解题!大模型表现好是源于对训练数据的记忆吗?请不要迷信大模型​华为版ChatGPT“盘古Chat”将于7月7日发布;比亚迪上调车辆保养价格;阿里云部分云服务器ECS产品价格将下调……法律翻译|《纽大法律评论》第97卷第1期目录+摘要柳士同诗稿挤爆服务器,北大法律大模型ChatLaw火了:直接告诉你张三怎么判大法官阿利托:国会无权监管最高法院大法官【城事】巴黎市长将重修Châtelet 广场以方便行人优化 Linux 服务器的 9 个小技巧,让 Linux 服务器效率起来两首合唱:《赤伶》&《是否》糟了!多伦多机场难民入境忽然狂飙400%,挤爆市中心!全因特鲁多,邹至蕙难办大模型中的「罗翔老师」!北大兔展联合团队搞出ChatLaw,发布即登顶热榜,可提供法律咨询第九张三类证纳入麾下!更完善的数坤数字脑版图如何扩展卒中诊疗路径?糟了!多伦多机场难民入境忽然狂飙400%,挤爆市中心!全因特鲁多百度华为阿里等入选大模型“国家队”;盘古大模型3.0发布;阿里云推AI绘画大模型丨AIGC大事日报《鬼谷八荒》终于做完了,制作人张三有话说,官宣开干《鬼谷2》热话丨港人爱上内地外卖,挤爆深圳口岸!巴黎市长将重修Châtelet 广场以方便行人他访华行程延期,中方直接告知其原因,一点不客气!中国团队自动驾驶大模型斩获CVPR最佳论文;Stability AI推出新文生图模型;京东大模型即将发布丨AIGC大事日报法律翻译 |《纽大法律评论》第97卷第6期退休生活杂记:晨景、洗牙保健、跑20英里80万留学生涌入加拿大,挤爆住房市场,有学生被迫露宿街头法律翻译|《纽大法律评论》第98卷第1期目录+摘要服务器推送事件:一种从服务器流式推送事件的简易方法 | Linux 中国Erklärung zur Zusammenarbeit后院鱼池轶事阿里达摩院大模型公开课上新!主讲中文个性化对话大模型ChatPLUG和模块化多模态大模型mPLUG-Owl奖金少了四成!怒告基金,法院这么判!北大团队开源首个法律大模型;联合国将就AI威胁和平会谈;Stability AI CEO称程序员将在5年内消失丨AIGC大事日报这些小费给不给,怎么给?咖啡店服务生告诉你真心话法律翻译|《纽大法律评论》第97卷第2期目录+摘要追剧 《听说你喜欢我》坚持做行业大模型,竹间智能给大模型造了一座「模型工厂」
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。