模型目录

模型目录是Foundry中的一个AIP应用程序，旨在帮助发现和定位所有Palantir提供的模型。

模型目录使搭建者能够：

• 查看AIP中可用的模型并发现新模型。
• 为您的应用案例选择合适的模型。即将发布的更新将提供更多工具和基准以便于比较和决策。
• 通过市场使用基本模板和整个应用案例模板起始工作流。
• 使用沙盒/游乐场测试不同的模型。

模型目录有两个主要视图：

• 模型目录主页
• 模型实体页面

模型目录主页

模型目录主页是一个发现和导航界面，显示用户在其Foundry注册中可用的所有大型语言模型。 在主页中有几种分类模型的方法：

• 模型类型
  • 完成模型：完成模型旨在通过预测和完成输入文本来生成上下文相关的文本。这使其适用于内容生成、自动完成、翻译和问答等任务。例如，GPT-4 Turbo、Mixtral 8x7B、Llama2 70B Chat。
  • 嵌入模型：嵌入模型将离散数据如单词和句子转换为连续的向量表示。它最常用于语义搜索和其他信息检索应用案例。例如，text-embedding-ada-002和Instructor Large。
  • 视觉模型：视觉模型经过训练来分析和解释视觉输入，使其能够识别对象、分类图像，并支持图像和视频数据的各种计算机视觉任务。例如，GPT-4 Vision和Gemini Pro Vision。
• 状态
  • 实验：实验模型可能被提供者或Palantir视为实验性，这意味着API可能更改，词元容量可能有限，或者模型可能会被终止。这些模型通常用于探索和测试，对长期稳定性和支持的关注较少。例如，Gemini Pro Vision目前被视为实验性。
    • 大多数注册被配置为仅显示“稳定”生命周期阶段内的模型。联系Palantir支持以访问实验模型。
  • 稳定：稳定的或普遍可用的模型是由提供者和Palantir认可的可靠解决方案。它提供强大的功能，保证支持，并设计用于长期使用，没有突然中断或API更改的风险。GPT-4o和Llama3.1是稳定模型的例子。
  • 终止：终止模型将在未来几个月内被弃用。尽管终止模型在其规定的弃用日期后不能再支持新的工作流，但模型可能仍然支持现有工作流。与其稳定的对应模型相比，终止模型不会获得同等水平的技术支持。GPT-4，OpenAI在2023年的旧版GPT模型是一个终止模型的例子，因为它被GPT-4o替代。
  • 弃用：在其终止期过后，Palantir会与模型提供者协调，从Foundry中移除或弃用模型。弃用的模型无法支持现有工作流，包括新的API调用，因此项目必须在模型弃用之前迁移到稳定模型以保持功能。Foundry保留并提供弃用模型的历史数据和日志访问。

• 模型创建者
  • 模型创建者是负责创建、开发和维护特定LLM的组织。示例包括Azure OpenAI、Anthropic、Google Gemini和Mixtral AI。模型创建者可能直接提供他们的LLM，或者通过与其他组织的合作提供，例如通过Azure的OpenAI和通过AWS的Anthropic。一些模型可能由Palantir自行提供和托管，例如Llama和Mixtral。

如果某个模型不可用或显示为灰色，这意味着它未为您的注册启用。要启用模型，请联系您的平台管理员或Palantir代表。 了解更多关于模型启用的信息。

模型实体页面

每个模型都有一个实体页面，其中包含三个主要部分：

• 游乐场： 一个供搭建者尝试不同模型的界面。
• 如何使用： 通过创建一个资源起始，资源已填充了开始搭建工作流所需的内容。模型目录当前支持函数和变换。
• 模型描述： 基本描述、法律免责声明、模型的上下文窗口（如词元限制、训练数据截止等）。

模型比较页面

模型目录比较页面允许搭建者高效比较和评估各种LLM的性能。界面允许用户选择两个LLM，并在相同的完成或视觉任务中测试它们。这使得决策更为明智，并使搭建者能够快速选择最适合其工作流的模型。