大模型

AI大模型是“大数据+大算力+强算法”结合的产物，凝聚了大数据内在精华的“隐式知识库”。以ChatGPT为代表的大语言模型展现出了理解人类语言的潜力，在互联网上引发了大量的关注。大语言模型可能颠覆过去互联网发展中的许多业态，并对实体经济和产业发展产生巨大的影响。英伟达CEO黄仁勋，把当下这场由ChatGPT推动的AI热潮称为“人工智能的iPhone时刻”。

本报告主要解决：1）tokens调用量概念界定、2）tokens调用量应用端拆解、3）tokens调用量展望三方面问题。

本白皮书旨在针对大模型与边缘智算融合所面临的机遇与挑战，提出边缘智算的融合架构设计、大模型与边缘智算融合的关键技术、应用场景和对未来的展望。希望能够为各行业在规划设计边缘智算相关技术、产品和解决方案时提供参考和指引。

存储器是半导体产业规模最大的分支之一，目前供应仍以美、日、韩大厂主导：根据世界半导体贸易统计组织(WSTS) 的统计，2024年，全球半导体市场销售额约6305.49亿美元，其中，逻辑电路销售额约为2157.68亿美元，存储芯片销售额约为1655.16亿美元。根据闪存市场数据显示，2024年第四季度全球NAND Flash市场规模为174.1亿美元，环比减少8.5%，同比增长42.4%。在这一领域，排名前五的企业分别是三星、SK海力士、铠侠、美光和西部数据，这五家企业共占据了全球92.7%的市场份额。2024年第四季度全球DRAM市场规模攀升至293.45亿美元，环比增长13.5%，同比增幅高达66.1%。在这一细分领域，三星、SK 海力士、美光、南亚和华邦占据前五，五家企业合计市场份额达 95.7%。

OpenAI 问世后，各路大模型如雨后春笋般涌现，它们基于互联网上爬到的数据进行训练，要花费成千上万张 GPU 资源才能训练出来，这些大模型可以陪人闲聊、回答问题甚至求解方程，但是它无法知道的企业流水线的工艺制造方式、学校对学生的个性培养计划、医院为老人的病症诊疗方案。这些大模型我们称其为“通用大模型”，它知道的很多很杂、但不深不准。如果要让 AI 真正服务于千行百业，需要的是把“通用大模型”与行业数据充分结合，再通过算力加工成“行业大模型”。“行业大模型”的发展，需要迈过三座大山，一是模型部署太贵，企业要部署一套聪明的大模型动辄要大几百万上千万，二是数据流通不畅，企业的生产数据通过互联网传输既不安全也不高效，三是算力使用不便，国家建设了大量的公共算力却未充分被企业所知所用。

AI 大模型的跨域训练是全球范围关注的前沿技术方向，它是指将多个不同的智算中心组合在一起训练同一个 AI 大模型。为什么需要跨域训练？业界通常的认知在于，当大模型未来发展到万亿、十万亿参数规模时，根据 Scaling Law 需要用到万卡甚至十万卡才能完成其预训练过程，这样的体量规模如果集中到一个集群内部，在技术、能源、配套等方面都存在着严峻的挑战，因此需要通过网络连接多个集群并加以组合，以共同训练同一个万亿/十万亿的大模型。

AI智能体与大模型解决方案

在生成式人工智能技术重构全球数字经济版图的当下，AI陪伴聊天赛道成为大模型商业化落地的黄金入口。随着模型参数规模突破万亿级，该领域正迎来从工具属性向情感交互生态跃迁的临界点，孕育现象级产品的产业土壤已然成熟。当技术红利与用户期待形成共振，如何系统性构建兼具技术可行性与用户体验价值的AI陪伴聊天应用，已成为行业关注的焦点命题。

在大模型技术浪潮的推动下，摄像头等硬件的消费属性正经历着深刻且不可逆的变革。产品形态被重塑，价值体系被重新定义，共同驱动人们迈向更加智能、便捷、美好的未来生活。

在科技飞速发展的当下，AI大模型与5G、物联网等的融合正成为一股不可阻挡的浪潮，深刻地改变着物联网行业的格局。从智能家居到工业制造，从智慧医疗到辅助驾驶，AI大模型的应用为物联网带来了前所未有的机遇和变革。2025年，AI将在物联网的边缘设备上得到广泛应用，例如智能视频传输设备、工业设备等，实现本地化的实时数据处理和推理。这种融合不仅减少了数据传输延迟，还降低了云端计算和存储的压力，同时提高了数据隐私和安全性。

商汤是人工智能软件公司的领军企业之一。作为全球领先的人工智能平台公司，商汤科技自 2014 年成立以来，始终以技术创新为核心驱动力，在计算机视觉、深度学习、大模型等领域取得了一系列突破性成果。公司业务主要分为生成式 AI、传统 AI 与智能汽车三大板块，2024 年生成式 AI 核心业务营收突破人民币 24 亿元，同比增长 103.1%。2024 年起，商汤以“1+X”组织架构重组推动资源的战略聚焦，部分子公司已相继获得独立融资。

与互联网产业一样，人工智能行业也遵循“技术-硬件-终端-应用”的发展范式，只不过技术端由通信网络变为大模型理论研究，其发展高度取决于上游 AI芯片与算力硬件水平。当前国产芯片厂商正加速技术突破，叠加应用生态持续完善，推动生成式 AI 在多行业实现深度落地。大模型及其硬件基础架构构成产业核心价值，相关领域投资将同时获得技术突破红利与产业升级收益。