企业AI投入Token成本核算

过去两年，企业里听到最多的声音是“我要上AI”，但AI具体用来干什么、用得效果怎么样，很多人并没有感知。 太多企业选择“先用起来再说”，直到某一天，一张天价Token账单突然爆出来，才发现这笔投入根本算不清。 但也有企业把这笔账算得清清楚楚：一家超市连锁巨头用AI去谈供应商合同，成本节省了3%，ROI达到4倍，付款账期还延长了35天… … 对企业应用来说，到底怎么能把AI的账算明白，正变得前所未有地重要。

过去两年，AI行业最容易被看见的变化，是模型越来越大、算力越来越强，但进入智能体和企业级应用阶段之后，企业开始面对一个更现实的问题：花出去的算力和Token，究竟换回了什么？ 这也是“Token经济学”开始走进产业视野的原因。 据国家数据局披露：2024年年初，中国日均Token调用量为1000亿； 到2025年底，跃升至100万亿； 今年3月，已突破140万亿，两年增长超千倍。 这组数据背后代表的是，AI的使用方式正在发生改变。

过去企业习惯计算买了多少张GPU、建了多少数据中心，现在算的则是一笔AI投入究竟完成了多少任务，节省了多少时间，又创造了多少收入。 当AI从“生成内容”走向“持续干活”，Token也正在从技术指标变成经营指标。 过去，Token更多只是模型调用时的计量单位，现在，随着智能体开始进行多轮推理、调用工具、拉取上下文，甚至让多个智能体长时间协作，对Token的需求也变得更加多元化。

在NVIDIA中国区工程和解决方案副总裁赖俊杰博士看来，一个智能体任务可能涉及50到500次连续的模型调用，多智能体协作还会进一步放大Token消耗。 这意味着，企业AI上的账，正在重新计算。 因此，真正值得关注的不再只是Token有多便宜，而是Token本身的价值如何被定义，需求如何预测，供给如何提高效率，以及最终如何转成业务回报。 NVIDIA将其概括为Token经济学的四个支柱：价值、需求、供给和变现。 从这个角度看，Token经济学真正讨论的，其实是AI产业从技术投入走向生产力兑现之后，一套新的经营逻辑。

如果说上一阶段企业讨论AI，核心问题是要投入多少算力，那么这一阶段真正的问题正在变成，这些算力生产出来的Token，能不能形成可持续衡量的业务价值。 围绕这个问题，光锥智能创始人王一粟和NVIDIA中国区工程和解决方案副总裁赖俊杰博士做了一场关于“Token经济学”的播客。 NVIDIA站在AI基础设施一侧，讨论的是模型、GPU、网络、推理优化和Serving框架如何共同决定Token的单位成本与交付效率。

而光锥智能作为产业观察者则从企业应用角度出发，追问AI究竟有没有进入真实业务，又该如何把Token消耗、流程效率和最终经营结果放到同一张表上。 以下为对话实录，光锥智能进行了不改变原意的编辑：问：请两位结合自己的实际经验，聊聊如何更经济、更有效率地使用Token？ 赖博：在NVIDIA内部，我们很鼓励员工探索如何把AI融入日常工作流程，让AI成为提升个人效率的助手。 我们的CEO黄仁勋先生也提到过，未来每一个员工都会拥有自己的AI助手。

我们内部所有团队，工程、产品、法务、市场、财务等等，都在不断探索如何把AI融入具体的工作流程。 从这个角度说，人与AI的协作正在成为新的工作方式。 从我个人的使用体验来说，使用Token的关键并不是简单地追求减少消耗，而是找到AI能够真正放大个人能力的场景，让每一次AI交互都产生更高的价值。 比如在信息整理、资料分析、问题拆解或者其他重复性高的任务中，让AI参与更多环节，可以帮我们减少重复性工作，从而有更多时间投入到判断和创造性的部分。 王一粟：我们已经离不开AI了。

作为内容创作者，我们主要的花费在深度内容研究和视频制作上，我个人也尝试过一些AI Coding的小软件。 具体来讲，日常写作时的资料查询、深度研究用得最多，视频团队在素材生成上也开始用得越来越多。 花费上，每个人大概每月几百块钱，国外一些AI软件的会员、国内主流的优质AI会员，我们都在用。 问：同样100万Token，调用不同的模型、应用在不同的任务中，最终产生的价值可能完全不一样。 赖博能不能先讲讲，Token到底是什么？

赖博：Token是AI模型处理和生成信息的基本单位，也可以说是AI工厂产出的智能的最小单位，是衡量AI工作负载的重要指标。 但Token本身并不等同于价值。 我们可以用一个简单的公式来理解：每单位Token的成本，等于数据中心每小时的综合运营成本，除以该数据中心每小时实时交付的Token数量。 这里的成本包含很多方面，GPU、CPU、网络、存储、供电等等。 很多企业在评估AI基础设施投资时，往往容易只盯着其中某一项成本，比如GPU的价格。

但真正决定Token成本的往往是整体效率，同样的投入到底能产生多少可用的Token。 所以从Token经济学的角度，我们需要同时关注数据中心的整体拥有成本和端到端产出效率，把评估标准从投入指标转向产出指标。 问：也就是说，Token的价值不是单一的，而是和它背后的基础设施、模型能力、应用场景以及最终的业务结果相关。 那影响Token价值的关键因素具体有哪些？ 赖博：判断一个Token有没有价值，可以看两个核心维度。 第一个维度是智能含量。

同样100万Token，由具备长上下文能力的前沿推理模型生成，和由轻量级模型生成，背后承载的理解能力、推理能力和上下文信息完全不同，前者的智能密度更高。 第二个维度是交互性，也就是Token到达用户的速度。 对编程助手、高频对话这样的场景，接近实时到达的Token才有价值； 而批量处理文档这类任务，对Token延迟就没那么敏感。 但这两个维度都要落到一个前提上：价值是相对于用例的。 一个针对特定场景后训练的小模型，可能只用几分之一的成本，就可以达到甚至超过大模型的效果。 多付的智能溢价，只有在用得上的时候才值得付。

所以企业实际评估时可以问自己几个问题：这个任务需要多强的智能？ 多快的响应？ 结果错误的代价有多高？ 比如在医疗、金融等场景，准确性和可靠性就是硬指标。 王一粟：Token本身更像一种基础投入，最终能产生多大价值，取决于它被应用在哪些任务中，以及企业如何把它融入业务流程。 据我观察，AI的场景大致可以分为两类。 一类是横向场景，即跨行业都存在的通用需求，比如企业知识助手、客服Agent、办公助手、代码助手等等。 这类应用覆盖面比较广，价值更多体现在帮员工提升效率、减少重复性工作上。

另一类是垂类行业场景，即结合特定行业知识和业务流程的应用，比如金融领域的投研分析、医疗领域的辅助诊断、制造领域的设备运维等等，这类场景通常需要AI理解更专业的数据流程和业务逻辑。 这两种场景下，Token都是可以直接产生经济价值的。 问：什么是Token经济学？ 为什么它会成为今天企业讨论AI时越来越重要的框架？ 赖博：从NVIDIA的视角看，Token经济学指的是Token生成和使用背后的经济学。 随着数据中心从存储和处理数据的场所，演变成专门生产智能的AI工厂，Token就是AI工厂产出的产品单元。

Token经济学要回答的不只是“一个Token值多少钱”，而是四件事：第一，Token如何被估值，即它承载的智能和交互体验值多少； 第二，如何被消费，即谁在用、用多少、在什么场景用； 第三，如何被供给，即怎样通过基础设施把Token高效、低成本地生产出来； 最后，如何变现，即最终怎样转化为收入和业务价值。 这个概念越来越重要，很大程度上是因为AI正在从试点和大规模训练阶段，进入规模化应用和持续推理阶段。

随着AI智能体的发展，一个任务可能需要更长的上下文、更多轮推理以及工具调用，Token的需求量和使用方式都会发生很大变化。 当Token进入规模化生产和使用之后，企业就需要像管理一个生产系统一样，去关注它的产量、效率、单位成本。 从这个角度说，Token经济学把AI的技术投入和经济产出连接了起来，企业既要考虑Token能不能更高效、更低成本地生成，也要考虑这些Token被用在了什么地方，最终能支持怎样的业务应用和价值创造。 王一粟：我先说一个数字，这个数字让我觉得Token经济学必须被认真讨论。

从2024年初到2026年3月，中国日均Token调用量从1000亿直接飙到140万亿，两年涨了1400倍。 这个数字背后有三件事正在同时发生。 第一件，企业过去习惯看算力投入，现在要看智能产出。 以前的逻辑是你买了多少张卡、用了多少度电、建了几个数据中心，这是从投入维度核算。 Token经济学出现之后，企业要算另外一笔账：我花1美元买Token，它帮我完成了多少任务？ 节省了多少时间？ 创造了多少收入？ 这是产出维度的核算。 从投入到产出，这是整个AI行业从技术竞赛切换到商业落地的转折点。

第二件，企业内部出现了新的计量单位来重新管理AI投入。 最典型的就是今年有公司提出了DAA，日活智能体数。 为什么会有这个东西？ 因为一个企业只看烧了多少Token，跟钢铁厂只看烧了多少煤是一回事，煤烧得多不多，不代表钢铁产出好不好。 IDC也发了一份DAA的报告，我们还观察到部分运营商开始按“用户数+AI终端渗透率+Token消耗量+单位Token经济价值”重新设计商业模型。 第三件，企业内部的AI管理正在变成CFO和CIO共同的事。

过去AI投入是CIO一个人管，但现在Token的消耗量级已经到了CFO必须介入的程度。 越来越多企业内部开始设立专门管理AI资源消耗