⛽
AI+行业解决方案

自ChatGPT为代表的大语言模型（Large Language Model，LLM）出现以后，由于其惊人的类通用人工智能（AGI）的能力，掀起了新一轮自然语言处理领域的研究和应用的浪潮。以ChatGLM、LLaMA等平民玩家跑起较小规模的LLM开源模型后，大家一致支持了非常多基于LLM的二次配置或应用的案例。本项目旨在收集和整理中文LLM相关的开源模型、应用、数据集及教程等资料，目前收录的资源已达100+个！​

同时也欢迎大家贡献本项目未收录的开源模型、应用、数据集等，可加入​ 核心会员群​

常见采购模型细节概述：

1.模型

1.1 文本法学硕士模型

•

聊天GLM：

◦

地址：https://github.com/THUDM/ChatGLM-6B

◦
简介：中文领域效果最好的开源模块之一，针对中文问答和对话进行了优化。经过约1T标识符的中英双语训练，辅以监督转向、反馈自助、人类反馈强化学习等技术的加持​

•

聊天GLM2-6B

◦

地址：https://github.com/THUDM/ChatGLM2-6B

◦
简介：基于开源中英双语对话模型第二代ChatGLM-6B的代版本，在保留了初代模型对话模型、部署多边等品种特性的基础之上，引入了GLM的混合目标函数，经过了1.4 T中英标识符的预训练与人类偏好训练；基础模型的上下文长度扩增了32K，并在对话阶段使用8K的上下文长度训练；基于多查询注意力技术实现更高效的推理速度推理和的显着占用；允许商业使用。​

•

聊天GLM3-6B

◦

地址：https://github.com/THUDM/ChatGLM3

◦
简介：ChatGLM3-6B 是ChatGLM3系列中的开源模型，在保留了前两代模型对话开发、部署驱动低等牲畜优秀特性的基础上，ChatGLM3-6B引入了如下特性：更强大的基础模型： ChatGLM3- 6B的基础模型ChatGLM3-6B-Base采用了更多样的数据训练、更充分的训练步数和更合理的训练策略；更完整的功能支持：ChatGLM3-6B采用了全新设计的提示格式，除正常的多轮对话外。同时初期支持工具调用（函数调用）、代码执行（代码解释器）和代理任务等复杂；场景更全面的开源序列：除了对话模型ChatGLM3-6B外，还是开源的基础模型ChatGLM3- 6B-Base、长文本对话模型ChatGLM3-6B-32K。以上话题重对学术研究完全开放，在填写表格进行登记后亦允许免费商业使用。​

•

中国-美洲驼-羊驼：

◦

地址：https://github.com/ymcui/Chinese-LLaMA-Alpaca

◦
简介：中文LLaMA&Alpaca大语言模型+本地CPU/GPU配置，在原版LLaMA的基础上增加了中文词表并使用了中文数据进行二次预训练​

•

Chinese-LLaMA-Alpaca-2：

◦

地址：https://github.com/ymcui/Chinese-LLaMA-Alpaca-2

◦
简介：该项目将发布中文LLaMA-2 & Alpaca-2大语言模型，基于可用于的LLaMA-2进行二次开发。​

•

中文-LlaMA2：

◦

地址：https://github.com/michael-wzhu/Chinese-LlaMA2

◦
简介：该项目基于可进行的LLaMA-2进行二次开发决策，在次开展Llama 2的中文汉化工作，包括Chinese-LlaMA2:对Llama 2进行中文预训练；第一步：先在42G中文上进行训练；后续将加大训练快速规模；Chinese-LlaMA2-chat：对Chinese-LlaMA2进行指令调节和多轮对话调节，以适应各种应用场景和多轮对话交互。同时我们也考虑更严重的中文改装方案：Chinese-LlaMA2-sft-v0:采用现有的开源中文配置配置或者是对话数据，对LlaMA-2进行直接配置（将于近期开源）。​

•

Llama2-中文：

◦

地址：https://github.com/FlagAlpha/Llama2-Chinese

◦
简介：该项目专注于Llama2模型在中文方面的优化和上层建设，基于大规模中文数据，从预训练开始对Llama2模型进行中文能力的持续迭代升级。​

•

奎文

◦

地址：https://github.com/QwenLM/Qwen

◦
简介：通义千问是阿里云研发的通义千问大模型系列模型，包括参数规模为18亿（1.8B）、70亿（7B）、140亿（14B）和720亿（72B）。规模的模型包括基础模型Qwen，即Qwen-1.8B、Qwen-7B、Qwen-14B、Qwen-72B，以及对话模型Qwen-Chat，即Qwen-1.8B-Chat、Qwen-7B-Chat、Qwen-14B -Chat和Qwen-72B-Chat。数据集包括文本和代码等多种数据类型，覆盖通用领域和专业领域，能支持8K的上下文长度，针对插件调用相关的横向数据做了特定优化，当前模型能有效调用插件以及升级为Agent。​

•

OpenChineseLLaMA：

◦

地址：https://github.com/OpenLMLab/OpenChineseLLaMA

◦
简介：基于LLaMA-7B经过中文数据集增量预产生的中文大语言模型底座，对比原版LLaMA，该模型在中文理解能力和生成能力方面均获得了更大提升，在下游下游任务中均取得了突出的成绩。​

•

美女：

◦

地址：https://github.com/LianjiaTech/BELLE

◦
简介：开源基于BLOOMZ和LLaMA优化后的一系列模型，同时包括数据、相关模型、训练代码、应用场景等，同时引入不同的数据、训练算法等对模型表现的影响。​