AI 大推理时代的到来,意味着过去主要依靠训练需求驱动的 AI 产业,逐步过渡到推理需求驱动。主要表现为:(1)模型侧:OpenAI o1 的发布使得大模型发展进入新范式,推理消耗算力大幅增加;(2)算力侧:科技巨头纷纷布局自研 ASIC 等硬件,并推送供应链解耦以做到降本同时保证供应链安全;(3)应用侧:AI Agent 爆发使得推理算力需求与用户数或 AI 载体数挂钩。
AI 大推理时代的到来,意味着过去主要依靠训练需求驱动的 AI 产业,逐步过渡到推理需求驱动。主要表现为:(1)模型侧:OpenAI o1 的发布使得大模型发展进入新范式,推理消耗算力大幅增加;(2)算力侧:科技巨头纷纷布局自研 ASIC 等硬件,并推送供应链解耦以做到降本同时保证供应链安全;(3)应用侧:AI Agent 爆发使得推理算力需求与用户数或 AI 载体数挂钩。