Skip to content

DEPLOYMENT_GUIDE.md

Latest commit

 

History

History
306 lines (222 loc) · 7.69 KB

DEPLOYMENT_GUIDE.md

File metadata and controls

306 lines (222 loc) · 7.69 KB

DataMate 安装部署指南

概述

DataMate 是一个基于 Kubernetes 的机器学习平台，支持模型训练、数据标注等功能。本指南将帮助您完成 DataMate 在 Kubernetes 集群上的安装部署。

前置条件

  • Kubernetes 集群（建议版本 >= 1.20）
  • Helm 3.x 已安装
  • kubectl 已配置并可访问集群
  • 有足够的集群权限（包括创建命名空间、PVC、Service 等权限）
  • 镜像仓库访问权限

快速安装

基础安装

cd tools
./install.sh --repo <镜像仓库地址> -n model-engine

执行时需要输入镜像仓库密码。

完整安装（包含 Milvus 和 Label Studio）

./install.sh --repo <镜像仓库地址> -n model-engine

最小化安装（不包含 Milvus 和 Label Studio）

./install.sh --repo <镜像仓库地址> -n model-engine --skip-milvus --skip-label-studio

配套 ModelEngine 安装

当 DataMate 需要配套 ModelEngine 安装时，需使用以下参数：

参数

参数 说明 示例
--ns / -n / --namespace Kubernetes 命名空间，需与 ModelEngine 一致 model-engine
--repo 镜像仓库地址 https://registry.example.com/
--repo-user 镜像仓库用户名 admin
--storage-class / --sc 存储类名称 sc-system-manage
--dataset dataset pvc 容量 500Gi
--operator operator pvc 容量 50Gi
--skip-haproxy 跳过 HAProxy 配置（由 ModelEngine 统一管理） -

安装命令示例

ACE场景

bash ./install.sh \
  --ns model-engine \
  --repo https://registry.example.com/ \
  --repo-user admin \
  --storage-class sc-system-manage \
  --dataset 500Gi \
  --operator 50Gi \
  --port 30000

ECE场景

bash ./install.sh \
  --ns model-engine \
  --repo https://registry.example.com/ \
  --repo-user admin \
  --storage-class sc-system-manage \
  --dataset 500Gi \
  --operator 50Gi \
  --skip-haproxy

需要额外执行如下步骤：

  1. 通过terrabase指定datamate端口号，进入terrabase安装目录执行如下命令： 其中ip为《ModelEngine 25.0.RC1 安装部署指南》5.4.1步骤1设置的弹性ip地址，端口为自定义的datamate访问的前端端口号，建议为ModelEngine访问的前端端口号+1
bash ./install.sh --install \
  --ns model-engine \
  --repo https://registry.example.com/ \
  --repo-user admin \
  --sc sc-system-manage \
  --datamate https://<ip>:<port>
  1. 参考《ModelEngine 25.0.RC1 安装部署指南》5.4.1步骤4，创建用于数据使能的弹性负载均衡，其中5.4.1-表elb-service参数说明的参数“容器端口”与“服务端口”分别设置为上一步datamate访问的前端端口号和3000

注意事项

  • 命名空间必须与 ModelEngine 保持一致
  • dataset 和 operator 的 PVC 容量需根据实际业务需求合理设置

参数说明

必需参数

  • --repo <url>: 指定镜像仓库 URL
    • 示例：--repo https://registry.example.com/

可选参数

参数 说明 默认值
-n, --ns, --namespace Kubernetes 命名空间 model-engine
--sc, --storage-class 存储类名称 sc-system-manage
--repo-user 镜像仓库用户名 admin
--port 服务端口 30000
--address-type 地址类型（ip/domain） management
--node-port NodePort 端口 -
--operator operator pvc 容量 -
--dataset dataset pvc 容量 -
--path 本地存储主机路径（local-storage 时使用） -
--package 部署包文件路径 -

功能开关参数

参数 说明
--skip-push 跳过镜像推送
--skip-load 跳过镜像加载
--skip-milvus 跳过 Milvus 安装
--skip-label-studio / --skip-ls 跳过 Label Studio 安装
--skip-haproxy 跳过 HAProxy 配置
-h, --help 显示帮助信息

安装模式

1. 使用网络存储

./install.sh --repo https://registry.example.com/ \
  --sc nfs-storage \
  -n model-engine

2. 使用本地存储

./install.sh --repo https://registry.example.com/ \
  --sc local-storage \
  --path /opt/k8s \
  -n model-engine

注意：使用本地存储时，脚本会在指定路径下创建以下目录：

  • datamate/dataset
  • datamate/flow
  • datamate/database
  • datamate/operator
  • datamate/log
  • milvus/etcd
  • milvus/minio
  • milvus/milvus
  • milvus/milvus-log

3. 使用 NodePort 暴露服务

./install.sh --repo https://registry.example.com/ \
  --node-port 30080 \
  -n model-engine

4. 指定 PVC 容量

./install.sh --repo https://registry.example.com/ \
  --operator 50Gi \
  --dataset 500Gi \
  -n model-engine

5. 安装到已有环境（不加载镜像）

如果镜像已经存在于集群的镜像仓库中：

./install.sh --repo https://registry.example.com/ \
  --skip-load \
  --skip-push \
  -n model-engine

6. 安装自定义算子包

./install.sh --repo https://registry.example.com/ \
  --package /path/to/operator-package.zip \
  -n model-engine

组件说明

DataMate

核心平台，提供模型训练、任务管理等功能。

Milvus

向量数据库，用于存储和检索向量数据。

Label Studio

数据标注工具，支持多种标注类型。

安装流程

脚本会按以下顺序执行：

  1. 配置解析：读取命令行参数
  2. 配置写入：更新 values.yaml 配置文件
  3. 存储配置：创建必要的本地存储目录（如使用 local-storage）
  4. 证书获取：从现有部署中获取证书密码（如存在）
  5. 镜像处理：加载并推送镜像到镜像仓库
  6. Helm 安装：使用 Helm 部署各组件
  7. 路由配置：配置 HAProxy 路由规则（如未跳过）
  8. 等待就绪：等待所有 Pod 进入 Ready 状态
  9. 算子安装：加载自定义算子包（如指定）

访问服务

默认访问方式

安装完成后，可通过以下方式访问：

  • DataMate 前端：http://<节点IP>:30000
  • Label Studio：http://<节点IP>:30001

使用 NodePort

如果指定了 --node-port：

  • DataMate 前端：http://<节点IP>:<node-port>
  • Label Studio：http://<节点IP>:<node-port+1>

查看服务状态

# 查看 Pod 状态
kubectl get pods -n model-engine

# 查看 Service
kubectl get svc -n model-engine

# 查看 PVC
kubectl get pvc -n model-engine

故障排查

镜像加载失败

检查镜像仓库地址和密码是否正确，网络是否可达。

Pod 无法启动

kubectl describe pod <pod-name> -n model-engine
kubectl logs <pod-name> -n model-engine

PVC 无法绑定

检查存储类是否配置正确，集群是否有足够的存储资源。

HAProxy 配置失败

确保 HAProxy 组件正常运行，且有相应权限。

升级与卸载

升级

./install.sh --repo https://registry.example.com/ -n model-engine

卸载

helm uninstall datamate -n model-engine
helm uninstall milvus -n model-engine
helm uninstall label-studio -n model-engine

kubectl delete ns model-engine

注意事项

  1. 使用本地存储（local-storage）时，请确保节点有足够的磁盘空间
  2. 如果目录已存在且包含数据，脚本会提示确认是否删除
  3. 镜像仓库密码不会被存储，仅用于本次安装
  4. 安装过程会等待最多 300 秒让所有 Pod 就绪
  5. 建议在测试环境先验证配置后再在生产环境部署

帮助与支持

查看完整参数说明：

./install.sh --help