DataMate是面向模型微调与RAG检索的企业级数据处理平台,支持数据归集、数据管理、算子市场、数据清洗、数据合成、数据标注、数据评估、知识生成等核心功能。
如果您喜欢这个项目,希望您能给我们一个Star⭐️!
- 核心模块:数据归集、数据管理、算子市场、数据清洗、数据合成、数据标注、数据评估、知识生成
- 可视化编排:拖拽式数据处理流程设计
- 算子生态:丰富的内置算子和自定义算子支持
- Git (用于拉取源码)
- Make (用于构建和安装)
- Docker (用于构建镜像和部署服务)
- Docker-Compose (用于部署服务-docker方式)
- kubernetes (用于部署服务-k8s方式)
- Helm (用于部署服务-k8s方式)
本项目支持docker-compose和helm两种方式部署,请在执行命令后输入部署方式的对应编号,命令回显如下所示:
Choose a deployment method:
1. Docker/Docker-Compose
2. Kubernetes/Helm
Enter choice:git clone git@github.com:ModelEngine-Group/DataMate.git
cd DataMatemake installmake build-mineru
make install-mineru- 修改runtime/deer-flow/.env.example,添加SEARCH_API_KEY和EMBEDDING模型配置
- 修改runtime/deer-flow/.conf.yaml.example,添加基础模型服务配置
- 执行
make install-deer-flow
本地代码修改后,请执行以下命令构建镜像并使用本地镜像部署
make build
make install REGISTRY=""感谢您对本项目的关注!我们非常欢迎社区的贡献,无论是提交 Bug 报告、提出功能建议,还是直接参与代码开发,都能帮助项目变得更好。
• 📮 GitHub Issues:提交 Bug 或功能建议。
• 🔧 GitHub Pull Requests:贡献代码改进。
DataMate 基于 MIT 开源,您可以在遵守许可证条款的前提下自由使用、修改和分发本项目的代码。