电子行业专题报告:端侧AI,模型创新快速迭代,看好苹果引领AI硬件起飞
端侧 AI 革新人机交互,模型快速升级,巨头引领行业发展:AI 自主化能力沿着“以指令为中心“到“以意图为中心”持续提升。LLM 从各个层面改造终端,其中 Agent 对开放式问题必不可少,背后是大模型带来的理解复杂输入、进行规划推理/合理使用工具的能力。据头豹,端侧 AI 市场规模 2023-2028 年预计 CAGR 高达 58%,2028 年超过 1.9 万亿元。从具体小模型性能表现上看,参数量对模型性能影响巨大,但受限于硬件,小模型的技术创新更加积极以提升有限参数量下的性能表现,其中量化/剪枝/蒸馏是最主要的模型压缩方式,各家小模型因数据集/压缩精度/量化混合方式等差异预计带来小模型的百花齐放。Agent 架构中,基础模型本身要引入新的输入类型,成为 VLA 模型,同时还增加了个性化和内存操作要求,均需要额外的优化。