购物车
我要投稿
版权投诉
2025-2030年中国消费电子设备市场专题研究及市场前景
2025-12-06
算力专题研究二：从训练到推理：算力芯片需求的华丽转身
- 2024-08-25 14:35:27上传人：人逝**落空
-
Aa 小 中 大
投资要点：推理算力：算力芯片行业的第二重驱动力我们在此前外发报告《如何测算文本大模型AI训练端算力需求？》中，对未来三年AI训练卡需求持乐观态度。我们认为，推理侧算力对训练侧算力需求的承接不意味着训练需求的趋缓，而是为算力芯片行业贡献第二重驱动力。当前推理算力市场已然兴起，24年AI推理需求成为焦点。据Wind
- 1 如何测算文本大模型 AI 推理端算力需求？
- 2Scaling Laws& 长文本趋势：推理 需求 的核心驱动力
- 2.1 关于模型参数量： Scaling Laws 仍为核心
- 2.2 关于数据规模（ tokens ）：长文本趋势已确立
- 3 文本大模型云端 AI 推理对 GPU 的需求量如何求解？
- 4 风险提示
- 图表 1： 英伟达 FY2024 数据中心推理与训练占比
- 图表 2： 中国人工智能服务器负载及预测
- 图表 3： 文本大模型云端 AI 推理 算力供给需求公式
- 图表 4： 云端 AI 推理需求公式拆解
- 图表 5： 大模型训练的 Scaling Law
- 图表 6： 海外 主流 AI 大模型训练侧算力供给需求情况
- 图表 7： 国内 主流 AI 大模型训练侧算力供给需求情况
- 图表 8： 云端 AI 推理需求公式进一步拆解
- 图表 9： 文本大模型网站访问量周度数据（单位：万次）
- 图表 10 ： 文本大模型网站访问量周度数据（单位：万次）
- 图表 11： 图片大模型网站访问量周度数据（单位：万次）
- 图表 12 ： 视频大模型网站访问量周度数据（单位：万次）
- 图表 13 ： OpenAI Platform Tokenizer
- 9华福证券
- 华福证券
报告网所有机构报告是由用户上传分享，未经用户书面授权，请勿作商用！
