API：语言模型适配器

对于每个无代码语言模型，Foundry提供了一个默认的模型适配器。此默认模型适配器提供了合理的默认参数和结构，以便与语言模型进行交互。下面列出的默认语言模型适配器将根据部署基础设施中的可用性正确地路由到CPU和GPU设备。

当前使用的模型适配器可以在建模目标应用中的模型提交页面查看。

建模目标应用中的模型提交页面显示正在使用的模型适配器

Seq2SeqLMModelAdapter

此模型适配器添加了对序列到序列语言模型 ↗的支持。适配器根据提供的输入文本生成文本。

示例： 预期的输入文本及其结构取决于所选的模型。我们强烈建议阅读模型详情以确保正确的提示工程。例如，flan-t5-large ↗模型可以执行从翻译到总结再到问答的多种提示。

在实时沙盒部署中的序列到序列查询示例

此模型适配器添加了对命名实体识别管道 ↗的支持。模型适配器提取文本中的实体并以列表形式返回它们。

示例： 当通过沙盒或实时部署将文本“我的名字是Max，我住在德国”发送到模型时，模型识别出两个实体：Max和德国。

在实时沙盒部署中的命名实体识别查询示例

输入<字符串> “text”： 语言模型生成输出预测的文本。
输出<列表<字典>> “prediction”： 模型的输出是一个字典列表，其中每个字典提供有关提取实体的详细信息。特别是，字典包含：
- entity： 识别出的实体类型。
- score： 特定实体的数值分数。
- index： 实体词元的索引（例如，索引为5表示识别的实体是输入文本中的第五个词元）。
- word： 识别的实体的字符串表示。
- start： 输入字符串中识别实体的起始索引。
- end： 输入字符串中识别实体的结束索引。

此模型适配器根据模型的注意力掩码 ↗计算给定文本的嵌入。此适配器执行“平均池化”和归一化，与sentenced-transformers ↗的默认设置对齐。

示例：

在实时沙盒部署中的嵌入查询示例

此模型适配器对输入文本进行预定义类别的分类。文本分类的常见示例包括情感或语言检测。

示例：

在实时沙盒部署中的文本分类查询示例

输入<字符串> “text”： 语言模型生成输出预测的输入文本。
输出<字符串> “prediction”： 最可能的类别。
输出<列表> “logits”： 每个类别的logit值。
输出<列表<字符串>> “classes”： 模型可以预测的类别。顺序与logits的顺序相同（例如，第一个logit条目对应于类别列表中的第一个条目）。

此模型适配器根据预测时提供的类别列表对输入文本进行分类。此行为使模型适配器能够对文本进行分类，而无需对语言模型进行特定应用案例的微调。

示例： 当发送文本“我喜欢开发新的语言模型”和候选标签“旅行”、“体育”、“工作”和“娱乐”时，模型将对标签进行评分并将"工作"评为最可能的分类。

在实时沙盒部署中的零样本分类查询示例

输入<字符串> “text”： 语言模型生成输出预测的输入文本。
输入<列表<字符串>> “candidate_labels”： 模型评分的输入文本的潜在标签列表。
输出<字典> “prediction”：
- sequence： 用于零样本分类的文本。
- labels： 根据模型分数按降序排列的候选标签。
- scores： 表示候选标签分类分数的浮点数。分数的顺序与标签的顺序匹配。