LLM大语言模型能力与开源框架选型
输入“/”快速插入内容
LLM大语言模型能力与开源框架选型
LLM大语言模型能力与开源框架选型
飞书用户19612024年7月17日修改
作者：爱吃牛油果的璐璐
大语言模型能力
LM的核心能力大致分为：生成（Generate）、总结（Summarize）、提取（Extract）、分类（Classify）、检索（Search）与改写（Rewrite）六部分。如果你对大语言模型已经有一定了解，可以看以下这篇文章，结合LangChain让你的LLM变得更强大：爱吃牛油果的璐璐：（万字长文）手把手教你认识学会LangChain
1、生成能力（Generate）
文本生成是给定输入与上下文生成新文本。生成能力是LLM最核心的能力。其能力的建立来源于对大量的文本进行训练，并捕捉了语言的内在联系与人类的使用模式。
【应用】：聊天助手、写作助手、知识问答助手、创意文案生成。
2、总结能力（Summarize）
总结是LLM的重要能力。通过Prompt Engineering，LLM可对用户输入的文本提炼总结。在工作中我们每天会处理大量会议、报告、文章、邮件等文本内容，LLM总结能力有助于快速获取关键信息，提升工作效率。
【应用】：在线视频会议、电话会议内容总结；私有化知识库文档总结；报告、文章、邮件等工作性文本总结。在推荐领域，还可以结合用户的历史数据、报表数据、case排查数据，生成总结文案和优化建议。
3、提取能力（Extract）
提取文本信息是NLP中常见需求。LLM有时可以提取比传统NLP方法更难提取的实体。利用LLM提取文本中的时间、地点、人物等信息，旨在将文本关键信息进行结构化表示。除此之外，还可用于提取摘录合同、法律条款中的关键信息。
【应用】：文档命名实体提取、文章关键词提取、视频标签生成。
4、分类能力（Classify）
大模型对文本内容分类的优势在于强语义理解能力与小样本学习能力。也就是说其不需要样本或需要少量样本学习即可具备强文本分类能力。而这与通过大量语料训练的垂域模型相比，在开发成本与性能上更具优势。比如，互联网社交媒体每天产生大量文本数据，商家通过分析文本数据评估对于公众对于产品的反馈，政府通过分析平台数据评估公众对于政策、事件的态度。与小模型相比，大模型在开发周期、模型性能更具优势。阿里巴巴达摩院&南洋理工&港中文的一篇验证性文章《Sentiment Analysis in the Era of Large Language Models: A Reality Check 》，也验证了大模型在文本情感分析中相对于小模型的优势。
总结起来大模型优势在于：仅通过few-shot学习可超越传统垂直领域模型能力。
【应用】：网络平台敏感内容审核（例如广告素材审核），社交媒体评论情感分析，电商平台用户评价分类。
5、检索能力（Search）
文本检索是根据给定文本在目标文档中检索出相似文本。最常用的是搜索引擎，搜索引擎根据输入返回高度相关的内容或链接。而传统方式采用关键词匹配，只有全部或部分关键词在检索文档中命中返回目标文档。这对于检索质量是不利的，原因是对于关键词未匹配但语义高度相关的内容没有召回。在检索应用中，LLM的优势在于能够实现语义级别匹配。LLM语义检索可弥补传统关键词匹配检索不足，在本地知识库与搜索引擎中的语义搜文、以文搜图中存在应用价值。
【应用】：文本语义检索、图片语义检索、视频语义检索；电商产品语义检索；招聘简历语义检索。
6、改写能力（Rewrite）
通过LLM对输入文本按照要求进行润色、纠错。通过LLM与提示词工程（Prompt Engineering）自动对文本内容纠错。此外，还可用其对文章进行润色处理，使文章在表述上更加清晰流畅。
【应用】：文本纠错、文本润色、文本翻译。
开源框架选型
既然已经有了成功ChatGPT这一成功的案例，大家都想基于LLaMA把这条路再走一遍，以期望做出自己的ChatGPT。对于开源社区来说，LLaMA2是一举成为"全村的希望"。它的出现将进一步缩小开源和闭源大型语言模型之间的差距，使每个人都有机会基于它构建自己的大型模型应用。
ChatGPT演化的路径可以归纳为三个阶段：Stage 1: 预训练(Pretrain)；Stage 2: 监督微调(SFT)；Stage 3: 对齐(Reward Model + RLHF)，如果说GPT系列是苹果手机，那么LLaMA就是安卓。基于LLaMA的模型虽然很多，但是基本都可以放到上面3个框架当中。
Stage1 预训练
1、 LLaMA 复现
RedPajama 参考LLaMA论文中的训练数据，收集并且开源可商用。
2、Baichuan-7B(支持中文)
采用LLaMA的相同架构，在中文上做预训练。可商用。目前Baichuan可以算是第一个LLaMA中文预训练模型，所以后面的工作都可以在这上面都走一遍，估计没多久Baichuan-Alapca, Baichuan-Vicuna就都出来了。https://github.com/baichuan-inc/baichuan-7B
3、OpenLLaMA
参考LLaMA的代码，在Apache 2.0 license下的重新实现和训练。使用了RedPajama训练集合。https://github.com/openlm-research/open_llama
4、Lit-LLaMA
Stage2 监督微调
因为预训练模型本质上还是个续写模型，所以并不能很好的满足人们的需求，所以监督微调的作用就是微调模型产生理想的回复。有钱可以全参数微调，没钱就只能使用一些低成本的方法，英文叫PEFT(Parameter-Efficient Fine-Tuning)。PEFT确实是像我这种平民玩家的首选，但是有钱也可以用PEFT，它可以让你微调更大的模型。
（1）LLaMA + Instruction Finetuning(全量参数)
小羊驼Alpacal：lama7b + self-instruct数据指令微调。算是最早迈出LLaMA+SFT这一步的模型。Alpaca模型是基于LLaMA模型的微调版本，其主要特点是使用了层次化的结构，以及针对特定任务进行了优化。Alpaca模型在LLaMA模型的基础上，增加了更多的层次，从而能够更好地处理长序列。同时，Alpaca模型还引入了任务特定的层，能够针对不同的任务进行优化。这些优化使得Alpaca模型在多项NLP任务中取得了优异的性能。最开始并没有提供权重，后来通过diff的方式给出，需要LLaMA原始模型才能恢复，github上有教程。当时他们采用1张8卡A100(80G显存)，52k的数据，训练了3个小时。训练成本大概是100刀。https://github.com/tatsu-lab/st
Vicunal：lama13b + ShareGPT对话数据，微调研发团队基于Vicuna发布了FastChat对话机器人。和Alpaca一样，受协议限制，vicuna模型公布的权重也是个delta，每个参数要加上llama原来的权重才是模型权重。Build software better, together
WizardLM：采用了Evol-Instruct来构造指令，可以产生一些很难的指令.深度演化包括五种操作：添加约束、深化、具体化、增加推理步骤并使输入复杂化。In-breadth Evolving 是突变，即根据给定的指令生成全新的指令进化是通过提示+LLM来实现的。https://github.com/nlpxucan/Wiz