国产GPU AI训推达到国际水准！摩尔线程已媲美RTX 4090、A100
摘要 快科技6月14日消息，摩尔线程官方宣布，2024年5月份与智谱AI开展了新一轮GPU大模型适配、性能测试，包括大模型推理、基于夸娥（KUAE）千卡...
快科技6月14日消息，摩尔线程官方宣布，2024年5月份与智谱AI开展了新一轮GPU大模型适配、性能测试，包括大模型推理、基于夸娥（KUAE）千卡智算集群的大模型预训练。
测试使用的相关大模型，来自智谱AI基座大模型及其开源版本。
测试结果表明，在推理方面，摩尔线程自研全功能GPU显著优于基准对比产品RTX 3090和RTX 4090，其中全部测试用例中优于RTX 3090，在多batch下优于RTX 4090。
在训练方面，摩尔线程夸娥千卡智算集群的训练精度与A100集群相比，误差在1％以内，而集群性能扩展系数超过90％，模型算力利用率（MFU）与A100集群相当。
郑重声明：本文版权归原作者所有，转载文章仅为传播更多信息之目的，如作者信息标记有误，请第一时候联系我们修改或删除，多谢。