阿里云 PAI 支撑云上一键安排 DeepSeek

作者: [db:作者]   点击次数:    发布时间: 2025-02-08 08:34

IT之家 2 月 7 日新闻，阿里巴巴（中国）无限公司本日发文发布，阿里云 PAI Model Gallery 曾经支撑 DeepSeek-V3、DeepSeek-R1 以及全部蒸馏小参数模子（DeepSeek-R1-Distill）一键安排。据先容，Model Gallery 是阿里云人工智能平台 PAI 的产物组件，它集成了海内外 AI 开源社区中优质预练习模子，涵盖了 LLM、AIGC、CV、NLP 等各个范畴。IT之家附 PAI Model Gallery 一键安排 Deep Seek-V3、Deep Seek-R 步调如下：1. 进入 Model Gallery。登录 PAI 把持台。在顶部左上角依据现实情形抉择地区。在左侧导航栏抉择任务空间列表，单击指定任务空间称号，进入对应任务空间内。在左侧导航栏抉择疾速开端 ＞ Model Gallery。2. 在 Model Gallery 页面的模子列表中，单击找到并点击须要安排的模子卡片，比方“DeepSeek-R1-Distill-Qwen-7B”模子，进入模子概况页面。3. 单击右上角安排：现在 DeepSeek-R1 支撑采取 vLLM 减速安排；DeepSeek-V3 支撑 vLLM 减速安排以及 Web 利用安排；DeepSeek-R1 蒸馏小模子支撑采取 BladeLLM（阿里云 PAI 自研高机能推理框架）跟 vLLM 减速安排。抉择安排方法跟安排资本后，即可一键安排效劳，天生一个 PAI-EAS 效劳。4. 应用推理效劳。安排胜利后，在效劳页面能够点击“检查挪用信息”获取挪用的 Endpoint 跟 Token，想懂得效劳挪用方法能够点击预练习模子链接，前往模子先容页检查挪用方法阐明。