首页 > 其他分享> > 大型语言模型景观

大型语言模型景观

2022-09-02 00:30:59 作者：互联网

我们经常高估短期内可以做的事情，而低估长期可以做的事情。大型语言模型 (LLM) 就是这种情况。我经常听到关于 LLM 迫在眉睫的影响的谈论，好像 LLM 是语言解决方案的整体。为了理解和规划未来，分解 LLM 的关键功能非常重要。

乙下图描述了当前的大语言模型（ 法学硕士 ) 在功能、产品和工具生态系统方面的前景。

 分类  
 响应生成  
 文本生成  
 翻译  
 知识问答

各种 LLM 产品在不同程度上涵盖了这五个功能领域。

分类是一种监督学习形式，其中将文本分配给预定义的类。这与聚类有关，聚类是无监督学习，其中语义相似的文本被分组在一起，没有任何预先存在的类。

响应生成 是从示例对话创建对话流的概念，并采用机器学习方法。模型根据即时对话历史和最可能的下一个对话来确定要呈现给用户的下一个对话。

文本生成 可以描述为 LLM 的元能力，文本可以基于带有或不带有示例数据的简短描述生成。生成是几乎所有 LLM 共享的功能。小样本学习数据不仅可以广泛利用生成；经过 ** 铸件** ( 即时工程 ) 数据以某种方式决定了小样本学习数据的使用方式。

翻译是将文本从一种语言翻译成另一种语言的地方。这是直接完成的，无需任何中间语言。阅读更多关于它的信息这里 .

知识问答 是所谓的知识密集型 NLP (KI-NLP) 的实现，无需查询 API 或利用传统知识库即可回答广泛领域和一般问题。知识密集型 NLP 不是网络搜索，而是以语义搜索为基础的自包含知识库。

 Cohere、OpenAI、AI21labs、GooseAI、Blender Bot、DialoGPT、GODEL、BLOOM、NLLB、Sphere

当前的商业产品由三个较大的参与者组成（连贯 , AI21实验室 , 开放人工智能 ) 和一个崭露头角的小型实体鹅AI .

开源实现在其实现重点上往往不够全面，但更具体。

 以数据为中心的工具、游乐场、笔记本、提示工程工具、托管

LLM 作为 API 访问，因此使用其 API 所需的准系统工具是命令行、开发环境或 Jupyter Notebooks；连贯在推出内容方面做得非常出色，这些内容展示了如何通过简单的脚本和集成将 LLM 应用于现实生活中的用例。

供应商还清楚地意识到，为了使 LLM 的试验和采用更容易，他们需要以 Playgrounds 的形式提供无代码环境，以公开不同的任务和调整选项：这是了解可以实现什么的一个很好的起点。

下面是鹅AI 游乐场，这是与其他 LLM 提供者非常相似的方法。

The 鹅AI playground view, with tuning options on the right.

这些游乐场让您可以使用“即时工程”（这是您可以探索令人兴奋的文本生成功能的方式）。注意：我很惊讶我们还没有看到专注于 LLM“即时工程”的第三方工具/市场等出现更大的爆炸式增长，就像我们在图像生成模型（如 DALL- E 和最近的稳定扩散）。

我渴望看到 LLM 更深入地集成到开发会话 AI 和其他用例（如分析等）所需的“核心”工作流程中；似乎很明显，LLM API 及其嵌入空间的定位是为了解锁更强大的功能：

我不希望企业客户在供应商 Playgrounds 中进行此类工作——相反，我希望这些将是第三方工具（对话式 AI 平台本身或以数据为中心的专门解决方案）中包含的功能类型由 LLM API 提供支持。

到目前为止，我只见过以人为本在这种以数据为中心的产品中集成 LLM（他们目前似乎只支持连贯）。

最后，LLM 是海量模型，而且价格昂贵且难以运行。

这里提到的大多数技术（除了商业 LLM）都可以通过拥抱脸 .

您可以使用空间、模型卡或通过托管推理 API 与模型进行交互。有培训、部署和托管选项。显然，托管和计算需求将是过多的，而且不容易证明是合理的。

LLM 不是聊天机器人开发框架，不应将其与另一个进行比较。对话式 AI 中有特定的 LLM 用例，聊天机器人和语音机器人的实施肯定可以从利用 LLM 中受益。

cobusgreyling.medium.com

](/analysis-of-the-co-here-and-humanfirst-integration-6f5072251b47)

标签：medium,语言,AI,模型,景观,cobusgreyling,LLM,com
来源： https://www.cnblogs.com/amboke/p/16648325.html