上海企业无问芯穹发布了业内首个千卡规模异构芯片混训平台

　　随着国产GPU芯片的兴起，如何将进口和国产GPU有效结合在一起，打造异构芯片算力集群，成为发展人工智能的一个重要问题。为此，2024世界人工智能大会上，上海企业无问芯穹发布了业内首个千卡规模异构芯片混训平台，其算力利用率最高达到97.6%。无问芯穹的这款异构芯片混训平台采用了无问芯穹自主研发的异构芯片技术，结合了来自清华大学电子工程系、清华大学、上海交通大学等机构的科研力量，能够实现对多种品牌芯片的交叉混合训练。这意味着，用户可以轻松地将来自不同厂商的GPU芯片进行集成，形成一个强大的异构芯片算力集群，从而提高模型的训练效率和准确性。未来，我们期待无问芯穹能够继续保持领先的态势，为用户带来更高效、更强大的异构芯片算力解决方案。

　　据介绍，Infini-AI云平台具备大模型异构芯片混合训练的能力，是行业内首个能够进行单任务千卡规模异构芯片混合训练的平台。此外，该平台还具备万卡扩展性，并支持使用华为昇腾、AMD、英伟达等六种异构芯片的大模型混合训练。

　　与国际上模型层与芯片层“相对集中”的格局相比，国内模型层与芯片层更加“百花齐放”。这是市场竞争充分的一种表现，但大量的异构芯片也造成了“生态隔离”，给算力的使用方带来一系列技术挑战。据不完全统计，宣布拥有千卡规模的国内算力集群不少于100个，但存在难以有效整合与利用的问题，这是当前大模型行业面临“算力荒”的一个重要原因。

　　无问芯穹为解决这个问题提出了一种方案：开发一种高效的算力平台，该平台将整合异构算力资源，并支持软硬件联合优化和加速，从而使异构芯片能够真正实现大算力。