910B 300T系列服务器部署mindie

# MindIE 部署文档

## 1. 拉取 MindIE 镜像

```bash
docker pull swr.cn-south-278.aipcc-gz.com/ai-guangzhou/mindie:2.0.T17-Atlas800-9000-py311-openeuler24.03-lts
```

---

## 2. 启动 MindIE 容器

根据实际挂载的 NPU 数量，`--device=/dev/davinci0` 可以重复添加（如有多卡，依次添加 `/dev/davinci1`、`/dev/davinci2` 等）。

```bash
docker run -itd --ipc=host --net=host -u root \
--device=/dev/davinci0 \
--device=/dev/davinci_manager \
--device=/dev/devmm_svm \
--device=/dev/hisi_hdc \
-v /usr/local/Ascend/driver:/usr/local/Ascend/driver \
-v /usr/local/Ascend/add-ons/:/usr/local/Ascend/add-ons/ \
-v /usr/local/sbin/npu-smi:/usr/local/sbin/npu-smi \
-v /usr/local/sbin/:/usr/local/sbin/ \
-v /var/log/npu/conf/slog/slog.conf:/var/log/npu/conf/slog/slog.conf \
-v /var/log/npu/slog/:/var/log/npu/slog \
-v /home:/home \
-v /usr/share/zoneinfo/Asia/Shanghai:/etc/localtime \
-v /模型权重地址:/模型权重地址 \
--name=mindie_docker \
swr.cn-south-278.aipcc-gz.com/ai-guangzhou/mindie:2.0.T17-Atlas800-9000-py311-openeuler24.03-lts
```

> **注意：**  
> - `/模型权重地址` 请替换为实际的模型权重文件夹路径。  
> - 多卡时请依次添加 `--device=/dev/davinci1`、`--device=/dev/davinci2` 等参数。

---

## 3. 进入容器

```bash
docker exec -it mindie_docker /bin/bash
```

---

## 4. 修改配置文件

### 4.1 修改 MindIE 服务配置

编辑 `/usr/local/Ascend/mindie/latest/mindie-service/conf/config.conf` 文件：

- **pathModel**：修改为实际的模型权重路径（与挂载路径一致）。
- **port**：将 `10025` 改为 `1025`。
- **device_id**：单卡时改为 `[[0]]`，多卡无需修改。
- **worldSize**：单卡时改为 `1`，多卡无需修改。

示例（单卡）：

```ini
pathModel = /模型权重地址
port = 1025
device_id = [[0]]
worldSize = 1
```

---

### 4.2 修改模型权重文件夹下的 `conf.json`

进入模型权重文件夹，编辑 `conf.json` 文件，将 `bfloat16` 改为 `float16`：

```json
{
  // ... 其他配置 ...
  "dtype": "float16"
}
```

---

## 5. 启动 MindIE 服务

在容器内执行：

```bash
cd /usr/local/Ascend/mindie/latest/mindie-service/bin/
./mindiedaemon_service
```

---

## 6. 常见问题

- **多卡启动**：只需在 `docker run` 时多加 `--device=/dev/davinciX`，配置文件无需更改 `device_id` 和 `worldSize`。
- **端口冲突**：如 `1025` 端口被占用，可修改为其他未被占用端口，并同步修改配置文件。

---

如有其他问题，请根据实际报错信息进行排查，或联系技术支持。