快速开始
1. 登录服务商控制台
打开 服务商控制台,使用平台账号登录即可进入,用户端与服务商端共享登录状态
2. 下载节点程序
进入“节点接入”,选择 Linux amd64 或 arm64 的版本化节点程序并下载到独立运行目录:
bash
mkdir -p ~/imrouter-node
cd ~/imrouter-node
chmod +x ./imrouter实际下载地址来自服务商控制台发布记录,不要自行拼接固定对象地址。节点程序和登录生成的凭证应放在同一个可长期保留的运行目录
3. 登录并启动节点
bash
./imrouter login
./imrouter list
./imrouter show Qwen3.5-0.8B
./imrouter cuda install --version 12.9 --accept-license
./imrouter cuda list
./imrouter cuda verify --version 12.9
./imrouter engine install
./imrouter check
./imrouter pull Qwen3.5-0.8B
./imrouter list --local
./imrouter serve --model Qwen3.5-0.8B示例中的 Qwen3.5-0.8B 需要替换为模型仓库中的实际模型 ID。login 会使用服务商账号和邮箱验证码签发 proof.cert 与 .proof.key,请让它们与节点程序保持在同一目录,且不要公开或复制到其他机器
节点机器需要预先安装可用的NVIDIA驱动,并提供xz和可供nvcc调用的C/C++编译器;CUDA Toolkit、uv、Python、PyTorch和vLLM均可由节点安装。没有可用驱动时可先阅读NVIDIA 显卡驱动安装。示例安装节点私有CUDA Toolkit 12.9;应安装不高于nvidia-smi所示驱动上限的最高内置版本,依次选择12.9、12.8或12.6,驱动上限低于12.6时应先升级驱动。需要全局nvcc或/usr/local/cuda时,可改用CUDA Toolkit 安装中的系统级脚本。ARM64私有CUDA安装仅支持SBSA服务器,Jetson/Tegra需要自行提供兼容的系统Toolkit。pull会从平台获取ModelScope不可变快照并完成文件校验;按上述步骤在节点程序目录中执行命令时,模型保存在同目录下的models。节点通过上线自检后,可在服务商控制台查看在线状态。详细参数和排障方法见节点接入与管理
成功完成客户请求后会产生收益,详见 收益结算与提现
如需自主设置模型价格,可先开通专属路由并把对应节点切换为专属模式。平台会为专属节点已启用模型自动生成商品,服务商在“模型仓库”中改价、发布或下架;用户使用 username@模型名 调用,平台不参与该专属请求分成