为缓解大模型行业“算力荒” 首个千卡异构GPU芯片混训平台发布

　　随着国产GPU（图形处理器）芯片的兴起，如何将进口和国产GPU有效结合在一起，打造异构芯片算力集群，成为发展人工智能的一个重要问题。2024世界人工智能大会上，上海企业无问芯穹发布了业内首个千卡规模异构芯片混训平台，其算力利用率最高达到97.6%。这家源于清华大学电子工程系的企业与清华大学、上海交通大学科研团队合作，实现了华为昇腾、天数智芯、沐曦、摩尔线程、AMD、英伟达等6种品牌芯片的交叉混合训练，为大模型训练提供了算力解决方案。

　　“打开水龙头时，我们不需要知道水是从哪条河里来的。同样道理，今后我们用各种AI应用时，也不需要知道它调用了哪些基座模型，用到了哪种加速卡的算力。”无问芯穹联合创始人兼CEO夏立雪说。

　　为了实现算力基础设施的“自然供应”，他带领团队开发出“Infini-AI大模型开发与服务云平台”。4个月前，这个云平台首次公测，目前已有智谱AI、月之暗面、生数科技等大模型企业在Infini-AI上稳定使用异构算力，还有20余家大模型应用创业公司在云平台上持续调用各种预置模型API（应用程序编程接口），使用无问芯穹提供的工具链开发模型应用产品。