大模型杀疯了！谷歌、微软全All in

系列1 万物皆可大模型系列

1.GPT Plugin背后的机理

2.大模型与数据库交互

3.大模型玩MineCraft

系列2 后AI大模型时代，多模态助你弯道超车

1.多模态学习-大模型开启AI新时代

2.如何快速训练自己的多模态AI大模型

3.后AI时代，多模态的研究方向和热点

系列3 惊艳的大模型高效参数微调法

1.大模型微调-任务特定的P-tuning

2.大模型微调-任务/模型无关的LORA

3.大模型微调方法-Peft库使用实践(实战篇)

系列4 大模型在文本生成方向的最新尝试工作

1.对比学习在多模态和NLP领域的应用

最近，又相继出现了各方向领域的微调模型，这里给大家介绍几个比较有特色的新微调模型：

TransGPT为一个开源交通大模型，能够实现交通情况预测、智能咨询助手、公共交通服务、交通规划设计、交通安全教育、协助管理、交通事故报告和分析、自动驾驶辅助系统等功能。

模型基座采用LLaMA7B进行训练。

地址：

https://github.com/DUOMO/TransGPT

墨子（Mozi）大模型，主要完成科技文本理解和生成任务，覆盖了包括科技问答、对话、信息抽取和摘要理解等特定任务。

基于llama7b、Baichuan7b，使用的训练方法为QLoRA优化，使用8卡3090服务器训练约9天完成。模型支持最大输入长度为4096。

地址：

https://github.com/gmftbyGMFTBY/science-llm

天文领域微调模型：StarGLM，该项目整合了司天工程相关的语料数据与知识库资料，训练得到了天文大语言模型StarGLM(ChatGLM for Variable Star)，以期缓解大语言模型在部分天文通用知识和前沿变星领域的幻觉现象。

地址：

https://github.com/Yu-Yang-Li/StarGLM

在微调数据方面，先后经过ChatGPT-Corpus、Belle项目筛选数据、Firefly+Instinwild项目筛选数据、GPT-4-LLM项目筛选数据，并配合人工标注，共同组成20W条天文对话数据。