9 月 30 日,DeepSeek 通过官方公众号宣布,正式开源面向华为昇腾算力平台的基础设施组件,涵盖 TileLang 高级语言编译工具、计算库、分布式通信库,与此前面向英伟达平台的开源组件一一对应。
TileLang 昇腾版本对昇腾 Ascend C 底层指令进行封装,提供高级语言的编程方式,同时不损失硬件性能。目前 DeepSeek 训练中用到的每一个 TileLang 算子,在昇腾上都有对应的高性能实现。
本次开源还包括昇腾平台核心计算与通信组件:DeepGEMM 加速通用矩阵运算;DeepEP 提供高效的大规模跨设备通信;TileKernels 提供数据处理所需的常规向量计算和访存算子;FlashMLA 提供稀疏注意力算子,提升长上下文处理效率;DeepSelect 实现高效的数据筛选。在多项关键测试用例中,上述组件的计算与通信性能已接近硬件上限。
来源:IT之家
文章末尾固定信息

我的微信
我的微信
一个码农、工程狮、集能量和智慧于一身的、DIY高手、小伙伴er很多的、80后奶爸。



服务器0元试用,首购低至0.9元/月起



评论