阿里云PAI Model Gallery支持一键部署多种小参数模型

时间：2025-02-12 18:30

小编：小世评选

近日，阿里巴巴（中国）有限公司公布了一项重磅更新——阿里云PAI Model Gallery新增一键部署功能，支持多种小参数模型的快速上线，包括蒸馏版模型（-Distill）。这一更新将大大提升用户在人工智能应用中的效率和灵活性，尤其是对于需要快速迭代和选型的开发者和数据科学家而言。

一、什么是PAI Model Gallery？

PAI Model Gallery作为阿里云人工智能PAI（Platform for Artificial Intelligence）的重要组成部分，是一个致力于整合和提供国内外优秀AI开源模型资源的在线。用户可以轻松访问和部署涵盖大语言模型（LLM）、生成式AI创作（AIGC）、计算机视觉（CV）、自然语言处理（NLP）等领域的预训练模型。

二、新增的一键部署功能

随着技术的不断进步，模型的复杂性和参数的丰富程度也越来越高，但对于某些特定的应用场景，尤其是边缘设备和实时处理任务，更需要轻量化的模型。阿里云此次更新的一键部署功能，旨在解决用户在选择和部署小模型过程中的繁琐步骤，使得模型部署变得简单、快速且高效。

小参数模型的优势

小参数模型（如蒸馏模型）通常是在保证模型性能的同时，通过模型蒸馏等技术大幅度减少参数量，降低计算资源需求。它们的优势包括：

1. 效率高：小参数模型在推理时可以显著节省计算资源，适合在有限的硬件环境中进行部署。

2. 响应快：更小的模型通常具备更快的推理速度，适合实时应用和在线服务。

3. 易于集成：对于需要内嵌AI功能的应用，轻量化的小参数模型可以更容易地集成到现有系统中。

4. 适用广泛：无论在移动端、边缘计算还是云端，小参数模型都能发挥其优势，满足多样化的应用需求。

三、如何使用PAI Model Gallery的一键部署功能

阿里云PAI Model Gallery的一键部署功能，使得用户在部署小参数模型时不再需要复杂的配置和环境搭建。以下是具体的操作步骤：

登录PAI控制台

用户需要登录阿里云PAI控制台，并根据自身需求选择合适的地域。

选择工作空间

在左侧导航栏中选择工作空间列表，用户只需点击指定的工作空间名称，就可以轻松进入对应的环境。

访问Model Gallery

通过导航栏选择“快速开始”下的“Model Gallery”选项，用户将能够看到丰富的模型列表。

选择并部署模型

在Model Gallery页面中，用户可以找到所需的模型卡片，例如“-Distill-Qwen-7B”模型，进入模型详情页面。用户点击右上角的“部署”按钮后，可以选择合适的加速方式。当前支持通过vLLM加速部署、Web应用部署以及蒸馏小模型采用的BladeLLM和vLLM加速部署。配置好部署资源后，便可一键生成PAI-EAS服务。

使用推理服务

完成部署之后，用户即可在服务页面中查看调用信息，包括Endpoint和Token。若想了解更多关于服务调用的方式，可以通过返回模型介绍页了解详细信息。