作为 AI 模型分析师，你是否还在靠人工逐版追踪模型迭代、手动逐条整理 ModelScope 热点信息？重复操作耗时耗力，还容易错过关键数据 —— 别再困在 “人力密集型” 工作里！今天给大家带来一套精准解决痛点的协同方案：以 OpenStation 为核心搭好 Agent “大脑”，靠 ModelScope MCP 建好 “工具库”，两步就能打造全自动模型分析智能体，让你的工作重心从繁琐的信息搜集，彻底转向更有价值的模型深度评估！
这套方案的核心优势，就在于把 “模型文件到可用 API” 的复杂转化过程做到了极致简化：不仅支持主流大模型一键部署，省去手动配置的麻烦；更关键的是提供了完整工具链，能将模型服务、ModelScope 工具、客户端无缝衔接 —— 而这种 “全链路打通” 的能力，正是构建高效 Agent 智能体的核心前提。
🧠第一步：搭 Agent “大脑”，搞定模型服务部署
模型服务是Agent的基础算力单元，相当于智能体的“大脑”。部署一个可用的模型服务，核心是实现“模型来源 - 节点资源 - 推理引擎”的三角匹配。由于个人本地资源有限，本文以部署 Qwen3-1.7B较小的蒸馏模型为例，步骤拆解如下：
-
模型来源选择：支持从平台模型库下载或本地路径上传模型文件（需确保文件结构完整）。本地部署时，个人更倾向于从模型库选择，避免因文件缺失导致部署失败。
-
节点资源评估：平台会自动检测节点的CPU核心数、GPU型号（如NVIDIA A100-PCIE-40GB）、显存总量，并与模型需求（如Qwen3-1.7B 需约4GB显存）匹配。多节点部署时，平台会采用张量并行 + 流水线并行的分布式策略。
-
推理引擎自动适配：根据节点配置，平台会按预设策略选择引擎（如下表所示），这对开发者极为友好 —— 无需记忆不同引擎的适用场景：
节点数
节点类型
推理引擎
核心优势
1
CPU
vLLM(CPU-only)
纯 CPU 环境下的高效推理
1
GPU
SGLang(GPU)
单卡环境低延迟响应
≥2
GPU
vLLM(GPU)
分布式部署，支持张量 / 流水线并行
-
高级参数调优：若需自定义，可在 “高级设置” 中修改推理引擎（如GPU节点强制用vLLM替代SGLang）或添加启动参数（如--dtype bf16节省显存、--max-num-batched-tokens 8192提升并发）。这些参数直接影响推理性能，建议根据模型大小和业务负载调整。
部署成功后，秒获 API 访问地址，“大脑” 正式上线！（如下图所示）：
🔧第二步：建 ModelScope “工具库”，打通数据通路
MCP 工具是连接大模型与 Confluence 的桥梁。OpenStation 的 MCP 工具管理模块支持两种集成方式：
-
预置工具开通：如果团队使用的是云托管版 Confluence，可直接通过官方 MCP 插件开通，只需在弹窗中填入Confluence的API Token；
-
自定义工具创建：对于本地部署的Confluence，需要手动配置服务参数。
由于平台没有内置 ModelScope 工具，本次直接选择了自定义创建：
-
在 "MCP 工具" 页面点击 "创建 MCP 服务"；
-
服务名称设为 " ModelScope "，描述为 "魔搭社区（ModelScope）官方 MCP 服务器，为你的 AI 应用提供一站式接入能力，轻松访问平台海量的模型、数据集、创空间、论文、MCP 服务，以及各种 AIGC 生成能力。"；
-
安装方式选择 "uvx"，服务配置中定义；
-
点击 "部署" 后，工具状态变为 "已部署"，表示大模型已能通过标准化接口访问 ModelScope。
自定义MCP工具配置信息如下图：
ModelScope 工具创建后如下图所示：
🤖第三步：部署 Agent，让 “大脑 + 工具” 自动干活
Agent是模型与工具的协同器，负责接收用户请求、规划调用步骤、整合返回结果。在 OpenStation 中创建 Confluence Agent 的过程：
1. 进入 "Agent 管理" 页面，点击 "部署 Agent";
2. 配置关键参数：
- 名称：“模型分析助手”；
- 选择模型：关联第一步部署的qwen服务；
- 选择工具：勾选刚才创建的 "ModelScope" 工具；
- System Prompt：提示词填入“请使用工具回答问题”；
- 描述："模型分析助手"；
3. 提交后，Agent 服务在 1 分钟内部署完成，获得独立的访问地址。
模型分析助手智能体服务部署后如下图：
📱第四步：连客户端测试，融入工作流
最后将 Agent 集成到日常工作流中。本次以 ChatBox 客户端为例：在设置中选择 “OpenAI API 兼容” 模式，填入 Agent 服务地址和 API Key，即可直接对话。
测试场景举例：
问题：
你是一个专业的AI模型分析师，请帮我从ModelScope平台获取并整理热点模型信息。
请按照以下格式和要求输出模型信息：
### 任务要求：
1. 搜索ModelScope平台上最新、最热门的AI模型
2. 重点关注下载量高、星标数多、最近发布的模型
3. 提供准确、完整、结构化的模型信息
### 输出格式：
请为每个模型提供以下信息（如果某项信息不可用，请标注"暂无"）：
**模型名称：** [中文名称] / [英文名称]
**模型ID：** [modelscope模型路径]
**访问地址：** [完整的ModelScope URL]
**下载次数：** [具体数字，如：1,234,567]
**星标数量：** [具体数字]
**发布时间：** [YYYY-MM-DD格式]
**最后更新：** [YYYY-MM-DD格式]
**模型类型：** [文本生成/图像生成/语音识别/多模态等]
**许可证：** [开源协议类型]
**模型介绍：** [详细的功能描述、特点、适用场景]
**技术特点：** [模型架构、参数量、性能优势等]
**支持推理：** [是/否，是否支持在线推理]
### 筛选标准：
1. 下载量 > 10万次
2. 发布时间在最近6个月内，或
3. 星标数 > 100，或
4. 最近7天内有更新
5. 优先选择知名机构发布的模型（如Qwen、DeepSeek、ZhipuAI等）
### 分类要求：
请按以下类别组织模型：
- 🔥 超热门模型（下载量>100万）
- �� 快速增长模型（最近1个月发布且下载量>1万）
- ⭐ 高星标模型（星标数>500）
- 🆕 最新发布模型（最近7天发布）
### 额外要求：
1. 确保所有URL链接都是可访问的
2. 提供准确的数据，不要估算或猜测
3. 如果信息不完整，请明确标注
4. 为每个模型添加简短的使用建议
5. 总结当前AI模型的发展趋势
请开始搜索并整理ModelScope平台的热点模型信息。模型分析助手答复内容：
部署指南：如何快速上手
OpenStation 部署步骤
项目地址：https://github.com/fastaistack/OpenStation
1. 在线安装（支持Ubuntu22.04 / 20.04 / 18.04系列及Centos7系列）
curl -O https://fastaistack.oss-cn-beijing.aliyuncs.com/openstation/openstation-install-online.sh
bash openstation-install-online.sh --version 0.6.6也可直接下载在线安装包（openstation-pkg-online-v0.6.6.tar.gz），上传至Linux服务器后执行：
tar -xvzf openstation-pkg-online-v0.6.6.tar.gz
cd openstation-pkg-online-v0.6.6/deploy
bash install.sh true2. 离线安装（仅支持Ubuntu 22.04.2/20.04.6/18.04.6）
点击「离线 OpenStation 安装包下载」，参考官方离线安装文档。
部署完成后，登录页面如下：
技术价值总结
这套方案彻底改变了模型分析的工作模式：从人工搜集的 “低效重复”，转向智能体驱动的 “高效精准”。OpenStation 简化了模型部署与工具衔接，ModelScope 提供海量优质资源，两者结合让 AI 模型分析师能聚焦核心 —— 评估模型性能、探索落地场景，真正实现 “智能密集型” 工作升级！
扫一扫
17万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
