安信通信基础设施系列报告之算力与服务器需求测算:ChatGPT提升算力需求增长中枢,超算服务器出货量有望大幅提升
- 2023-04-10 23:35:23上传人:如梦**幻。
-
Aa 小 中 大
ChatGPT对算力需求受每日用户数量和模型参数影响,保守估计每日所需算力约为50EFLOPs: 随着ChatGPT模型的不断升级,其参数量和模型规模也不断增大,因此对计算资源的需求也越来越高。尤其是在推理过程中,需要将模型加载到计算节点上进行运算,因此需要高性能的计算设备来支持模型的推理。同时,由于ChatGPT模型需要进行海量的预训练和微调,因此需要大量的算力资源来支持这些任务。Chat
报告网所有机构报告是由用户上传分享,未经用户书面授权,请勿作商用!