蚂蚁集团已建设超过万卡异构算力集群

最新信息

蚂蚁集团已建设超过万卡异构算力集群
2023-11-09 12:35:00
蚂蚁集团首席技术官何征宇表示,目前已形成包括大模型底层基础设施、基础大模型、行业大模型、应用产品在内的完整技术链条。“我们是从集群开始自己搭的,蚂蚁建设了超过万卡的异构集群,其中硬件算力效率(HFU)超过60%,集群有效训练时长占比90%以上,RLHF训练在同等模型效果下训练吞吐性能相较于业界方案提升3.59倍,推理性能相较于业界方案提升约2倍。”
(文章来源:财联社)
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。

蚂蚁集团已建设超过万卡异构算力集群

sitemap.xml sitemap2.xml sitemap3.xml sitemap4.xml