爱科技

3月28日，北京大学鲲鹏昇腾科教创新卓越中心特训营在北京大学新燕园校区计算机大楼成功举办，本次特训营旨在深入探讨昇腾技术栈在大模型应用中的前沿技术，特别是基于北京大学自研SCOW平台和华为昇腾的DeepSeek本地化部署与推理优化，并通过实践操作和技术专家面对面交流，进一步激发学生们的创新思维与学术视野。

深入解析：DeepSeek推理技术与昇腾平台的融合

活动伊始，昇腾生态技术专家许涛就“DeepSeek-MoE模型技术演变分析”，深入解读了DeepSeek系列模型技术演变。DeepSeek-MoE模型自推出以来不断优化，通过增加模型大小和专家数量，降低专家激活比，来提升性能，在架构和训练策略上持续创新。在技术实现方面，模型采用了多种优化方法，如在训练过程中，利用DualPipe双向流水线方法减少通信开销，根据不同的算子需求选择合适精度计算，引入MTP方法，以多个Token作为监督优化模型。同时，昇腾已经完成对Deepseek的适配，可以高效利用超节点内的高速通信带宽，有望在DeepSeek时代取得更好的发展。

（昇腾生态技术专家 许涛）

实践分享：基于昇腾的DeepSeek全栈开源推理方案

北京大学联合华为发布的DeepSeek全栈开源推理方案依托全栈开源组件构建，基于北京大学自主研发的SCOW算力平台系统，整合了DeepSeek、openEuler、MindSpore与vLLM/RAY等社区开源组件，通过开放协作打破技术壁垒，持续推动技术创新。北京大学计算中心工程师龙汀汀在特训营中详细介绍了该方案，现场演示了系统如何快速适应不同的AI框架，并展示其在多种应用场景下的高效性能。

（北京大学计算中心工程师 龙汀汀）

上手实操：边缘设备上的昇腾技术实践

在本次特训营的开发实战环节，学生们基于昇思MindSpore框架，在香橙派AI Pro开发板（20TOPS）上进行模型部署。值得一提的是，目前香橙派昇腾系列产品已经率先完成了与 DeepSeek 模型的深度适配，利用开箱即用模型，让边缘离线部署变得轻松高效。通过实操，学生们亲身感受到了昇腾无需依赖云端的强大算力，直接在边缘设备上实现高性能计算及积木式开发，既保障了数据处理的隐私安全，又大幅提升了响应效率。这种“端侧智能”的实战体验，不仅让学习更直观，更让大家领略到AI落地应用的无限可能。

（北京大学学生现场实操香橙派AI Pro开发板）

开放讨论：技术专家与学者面对面答疑

在活动的最后，学生们与华为计算战略规划专家、北京大学计算中心工程师、AI安全解决方案专家、昇腾生态技术专家们一起进行了面对面的互动，从鲲鹏昇腾设备使用到技术难题再到未来发展趋势，涵盖诸多领域。在算子开发与适配方面，学生们提出的问题得到了专家们细致且富有前瞻性的解答。关于自定义算子绑定复杂、编译耗时的问题，专家们表示除了相关QA文档资源会随商业版本尽快发布外，也可直接咨询华为研发专家加速问题解决。同时欢迎高校师生将自身解决问题的过程发布为案例教程，这些无疑为学生们后续的开发工作提供了有力支持。对于开源编译器支持的疑问，专家们详细介绍了相关接口的开源情况以及正在推进的研发工作，让学生们了解到未来算子开发将更加简化，这极大地激发了学生们探索新技术的热情。

硬件性能与生态建设也是互动的焦点。学生们关心的端侧异构模型部署问题，专家深入浅出地讲解了华为在这方面的布局和技术优势。他们提到，华为在端侧NPU和GPU的协同工作上有着长远的规划，并且在泛边缘或泛端场景下，软件体系的通用性为开发者提供了更为广阔的发展空间，这让学生们认识到华为计算生态的潜力，也为他们未来的研究方向提供了新的思路。

（开放交流环节 专家学者与学生们互动）

本次特训营的圆满举办是北京大学鲲鹏昇腾科教创新卓越中心在AI技术创新和人才培养方面的一次成功实践。北京大学鲲鹏昇腾科教创新卓越中心自成立以来，致力于构建基于鲲鹏昇腾技术路线的校级生态合作平台，围绕大学计算产业前沿课题研究、课程体系建设、研究人才培养等方面展开合作，为产业输出高质量鲲鹏昇腾创新人才，孵化和培育根植中国的世界级科研创新成果。未来，鲲鹏昇腾科教创新卓越中心将继续开展一系列针对高校师生的培训活动，帮助他们在科研创新与技术应用中取得更好的成果，推动人工智能技术的进步与产业的发展。