Ascend 310啥时候可以兼容Qwen3-14B呀？_MindIE_昇腾论坛

# Ascend 310啥时候可以兼容Qwen3-14B呀？_MindIE_昇腾论坛

## 概述

本文档基于昇腾社区论坛帖子生成的技术教程。

**原始链接**: https://www.hiascend.com/forum/thread-0272185715834386001-1-1.html

**生成时间**: 2025-08-27 10:34:00

---

## 问题描述

如题我看Qwen3的所有系列模型都不支持Ascend 310设备而Qwen2.5只有Instruct版本的模型 感觉被卡的好难受进退两难 R1的推理很耗时间而且折中解决方案的效果也不好我需要一个可以没有推理的方案且没有延时的所以就看到了qwen3 至于Janus-Pro-7B我看它的语言性能还不如qwen蒸馏的R1-14B模型唯一能考虑的是多模态解决不了我的问题 [qwen3 14b模型地址](https://www.hiascend.com/software/modelzoo/models/detail/0de1ceeec3c34510a9508ca429f3d766) 用t18版本 我MindIE用的2.0.RC2-300I-Duo-py311-openeuler24.03-lts这个版本的镜像不过我看modelzoo里是说只支持Ascend 910... 然后跑量化脚本会报错 [W619 17:53:14.317193791 compiler_depend.ts:508] Warning: NPU warning, error code is 507013[Error]: [Error]: System Direct Memory Access (DMA) hardware execution error. Rectify the fault based on the error information in the ascend log. EH9999: Inner Error! rtDeviceSynchronizeWithTimeout execute failed, reason=[sdma copy error][FUNC:FuncErrorReason][FILE:error_message_manage.cc][LINE:53] EH9999: [PID: 3426326] 2025-06-19-17:53:14.717.148 wait for compute device to finish failed, runtime result = 507013.[FUNC:ReportCallError][FILE:log_inner.cpp][LINE:161] TraceBack (most recent call last): (functi...

## 完整内容

如题我看Qwen3的所有系列模型都不支持Ascend 310设备而Qwen2.5只有Instruct版本的模型 感觉被卡的好难受进退两难 R1的推理很耗时间而且折中解决方案的效果也不好我需要一个可以没有推理的方案且没有延时的所以就看到了qwen3 至于Janus-Pro-7B我看它的语言性能还不如qwen蒸馏的R1-14B模型唯一能考虑的是多模态解决不了我的问题 [qwen3 14b模型地址](https://www.hiascend.com/software/modelzoo/models/detail/0de1ceeec3c34510a9508ca429f3d766) 用t18版本 我MindIE用的2.0.RC2-300I-Duo-py311-openeuler24.03-lts这个版本的镜像不过我看modelzoo里是说只支持Ascend 910... 然后跑量化脚本会报错 [W619 17:53:14.317193791 compiler_depend.ts:508] Warning: NPU warning, error code is 507013[Error]: [Error]: System Direct Memory Access (DMA) hardware execution error. Rectify the fault based on the error information in the ascend log. EH9999: Inner Error! rtDeviceSynchronizeWithTimeout execute failed, reason=[sdma copy error][FUNC:FuncErrorReason][FILE:error_message_manage.cc][LINE:53] EH9999: [PID: 3426326] 2025-06-19-17:53:14.717.148 wait for compute device to finish failed, runtime result = 507013.[FUNC:ReportCallError][FILE:log_inner.cpp][LINE:161] TraceBack (most recent call last): (function npuSynchronizeDevice) [W619 17:53:14.318781920 compiler_depend.ts:151] Warning: NPU warning, error code is 507013[Error]: [Error]: System Direct Memory Access (DMA) hardware execution error. Rectify the fault based on the error information in the ascend log. EH9999: Inner Error! rtDeviceSynchronizeWithTimeout execute failed, reason=[sdma copy error][FUNC:FuncErrorReason][FILE:error_message_manage.cc][LINE:53] EH9999: [PID: 3426326] 2025-06-19-17:53:14.718.742 wait for compute device to finish failed, runtime result = 507013.[FUNC:ReportCallError][FILE:log_inner.cpp][LINE:161] TraceBack (most recent call last): (function empty_cache) --- 直接部署的话也不行会说llm启动失败 这个报错好像是因为使用多张卡导致的emmmmm T18我也跑不起来有什么需要特别注意的地方吗比如只能用单卡 不过我现在打算用Qwen2.5-Instruct的方式部署一下Qwen2.5-14B看看行不行 目前官方说不兼容但是有些土方法是可以跑起来的 https://www.hiascend.com/forum/thread-0255182144444158080-1-1.html 感谢我试试看

---

## 技术要点总结

基于以上内容，主要技术要点包括：

1. **问题类型**: 错误处理
2. **涉及技术**: HTTPS, NPU, MindIE, 昇腾, AI
3. **解决方案**: 请参考完整内容中的解决方案

## 相关资源

- 昇腾社区: https://www.hiascend.com/
- 昇腾论坛: https://www.hiascend.com/forum/

---

*本文档由AI自动生成，仅供参考。如有疑问，请参考原始帖子。*