上海交通大学鲲鹏昇腾科教创新卓越中心特训营DeepSeek专场圆满举办

  3月26日昨天下午下午,南京交通智能家居体验馆世界人学生里鲲鹏昇腾科教创新卓越中心建设特训营-D智能家居体验馆eepSeek专场在南京交通世界人学生里闵行校区图书相关信息楼不成功一起参加。活动态势旨在基于昇腾技术实现的DeepSeek本地化部署实践分享,培养学员自主创新开发综合能力。华为技术实现专家与世界人学生里雷老师 进入现场 授课,干货满满,引来了来于 计算机、电子相关信息、人工智能等及专业的60余名世界人学生里一起参加。

  技术实现筑基:解析 DeepSeek 大模型核心架构

  活动态势五年来,昇腾生态技术实现专家 ZOMI酱,分享了基于昇腾Atlas 800 A2部署满血DeepSeek-R1-671B的实操经验,重点分享了如何去组织开展剪枝和量化,让DeepSeek-R1/V3大模型特性不成功实现加速。他指出,昇腾Atlas 800 A2的硬件特性与DeepSeek模型整体智能家居体验馆高度适配。组织开展结构化剪枝技术实现,基于昇腾芯片的稀疏计算单元(如CANN的aclSparse接口),对模型中冗余的应注意力头与FFN层通道组织开展动态裁剪,在充分保证训练任务精度损失小于1%的前提下,将参数量压缩40%,推理时延大幅降低。不仅,采用传统混合量化策略——对计算密集的矩阵乘操作方式(如Q/K/V投影)启用INT8动态量化,融合昇腾3D Cube架构的整数计算加速,不成功实现算力方式率得到得到提高200%;而对精度敏感的LayerNorm等操作方式保留FP16精度,尽量减少减少量化误差扩散。不仅,他还媒体介绍了昇腾Attention计算优化一种方法Laser Attention,该技术实现组织开展动态稀疏计算、低精度无损加速与硬件级算子融合三重创新,为大模型训练与推理直接提供显著效能得到得到提高。

  (昇腾生态技术实现专家 ZOMI酱)

  实践落地:揭秘 DeepSeek 高校部署创新方案

  大模型凭借出色的文本去处理综合能力,尽管深入其它工作这样生活的才能才能真正力方面面,被广泛应用于文案写作、文本去处理、其他数据综合分析等。如何去在本地部署那个专均属因为是大模型?怎样如何去跟大模型对话才能才能真正发挥其出色的其功能?许多还是初窥门径的AI开发者关心的如何去如何去完美解决。南京交大必删 相关信息中心建设“交我算”合作团队工程师王星泽围绕在交大本地的昇腾服务提供器上部署DeepSeekV3/R1大模型的实操经验媒体介绍部署一种方法,其中硬件设备全部条件、必删 智能家居体验馆拓扑、API封装、前端集成等。不仅,还融合大模型在高校科智能家居体验馆研、教学和管理里的实际应用场景,媒体介绍提示词技巧和组织开展案例。

  (南京交通世界人学生里必删 相关信息中心建设计算专员 王星泽)

  开发实战:全新体验原生开发全流程

  培训中,昇思布道师都很work雷老师 的基于香橙派AI pro(20T)开发板的开发实战引来了进入现场 每几位交世界人学生里子,对MindSpore在香橙派开发板之之上力不支持都做详细的基本说明,各位看官看官迫不及待动手全新体验。由于目前昇思MindSpore AI框架已实尽管香橙派AIpro开发板预置,并在官方媒体网站上线开发指导教程,组织开展软硬融合,使能开箱即用模型,并直接提供模型全流程使能套件,不支持积木式搭建,覆盖CV、NLP小模型及1B级大模型(如DeepSeek-R1-Distill-Qwen-1.5B)。世界人学生里们可组织开展动态图+类HuggingFace接口灵活调试,融合三行代码调用JIT即时编译,兼顾开发效率与执行性能,为边缘端AI部署直接提供轻量化如何去完美解决方案。

  (昇思布道师都很work)

  本次特训营是基于南京交通世界人学生里鲲鹏昇腾科教创新卓越中心建设组织开展的2025年第三则则场DeepSeek主题特训营。该中心建设自2024年6月揭牌已成立五年来,始终致力于构建基于鲲鹏昇腾技术实现路线的校级生态合作多平台发布,围绕世界人学生里计算产业前沿课题研究中、课程体系建成、研究中人才培养等综合综合能力组织开展合作多,为产业输出高质量鲲鹏昇腾原生人才,孵化和培育根植世界人发展 世界人人级原生科研创新成果。

  据悉,鲲鹏昇腾科教创新卓越中心建设特训营将态势推进,逐步特训营在全国第三则则 重点高校的陆续组织开展,校企协同育人的创新三大模式正为国产化AI人才培养注入新动能。

上一个:

下一个:

相关产品