模型集成集成模型Models trained in Foundry升级模型适配器而不重新训练

注意:以下翻译的准确性尚未经过验证。这是使用 AIP ↗ 从原始英文文本进行的机器翻译。

升级模型适配器而不重新训练

此功能仅适用于在代码库中训练的模型。

回顾一下,模型是模型工件模型适配器的组合:

  • 模型工件: 保存训练模型的模型文件、参数、权重、容器或凭据。
  • 模型适配器: Foundry与模型工件交互以加载、初始化和对模型进行推理所需的逻辑和环境依赖。

有时,在不更改或再现模型工件的情况下更新模型适配器可能是有用的。例如:

  • 在不重新训练已保存模型的情况下修复模型适配器中的错误。
  • 更新模型的loadapipredictrun_inference方法。
  • 在发现Python依赖项存在漏洞或错误时更新模型的Python环境。

然而,更新模型适配器也可能会对模型的推理环境引入破坏性更改。在对模型适配器进行更改时必须注意以下几点:

  • 环境中任何Python依赖项的更改必须与现有模型工件兼容。
  • loadapipredictrun_inference的新实现必须与现有工件兼容。
  • 更新后的模型适配器必须位于与原始模型适配器相同的Python模块中,并具有相同的类名。

强烈建议在更新模型适配器时谨慎行事,并首先在新分支上测试更改。

从模型应用升级模型适配器

Foundry支持在保留已发布模型权重的同时,将模型版本的模型适配器升级到其最新的提交或标签。

要升级模型适配器,首先在定义模型适配器类的代码库中实现并发布更改。在代码库的模型训练模板中,更改将在每次提交后发布。在模型适配器模板中,更改将在创建新标签后发布。

接下来,在模型应用中,滚动到推理配置卡片。点击升级模型适配器

模型适配器升级按钮 模型适配器升级对话框

点击创建模型版本将使用更新后的模型适配器创建一个新的模型版本,并使用先前发布的模型工件。

如果先前的模型版本已提交至建模目标,则更新后的模型版本不会自动提交,必须重新提交。