首页 > TAG信息列表 > MINDIR
ModelArts部署紫东太初大模型推理服务经验分享
零、项目背景 需要在ModelArts上部署微调后的下游任务推理服务。 主要踩坑点： 一、环境准备 MindSpore 1.6.1 Docker 20.10.17 紫东太初模型代码https://gitee.com/mindspore/omni-perception-pretrainer ckpt权重文件 ModelArts账号 二、模型转换 1.参照测试代码初始化模ModelArts部署紫东太初大模型推理服务经验分享
零、项目背景 需要在ModelArts上部署微调后的下游任务推理服务。 主要踩坑点： 一、环境准备 MindSpore 1.6.1 Docker 20.10.17 紫东太初模型代码https://gitee.com/mindspore/omni-perception-pretrainer ckpt权重文件 ModelArts账号 二、模型转换 1.参照测试代码初始化模