利益关系披露:DragonAI 运营 AI 产品经理课程。本文与配套 JSON 是第一方成本决策记录框架,不是会计准则、财务预测、投资建议、厂商报价或项目收益保证;不包含真实账单、客户、用量、节省、收入或 ROI 结果。币种、税费、价格、条款和组织分摊会变化,采用前须由产品、工程、财务、采购、安全、数据和业务责任人按实际用途复核。
30 秒答案:先定义“合格任务”,再谈单位成本
如果只用模型账单除以请求数,成本会随着一次任务拆成多少次调用而失真;如果只看总账单,又无法比较规模变化和产品结果。更可执行的口径是:在冻结的产品版本和时间窗内,先分摊全部适用成本,再除以达到预设质量门槛的任务数。
可下载 AI 产品成本与价值证据卡 JSON,把范围、分摊、用量、结果、全量成本、预测和决定连接起来。
| 口径 | 分子 | 分母 | 适合回答 | 不能单独证明 |
|---|---|---|---|---|
| 每次模型调用成本 | 模型调用费用 | 调用次数 | 模型资源效率 | 一项用户任务的总成本 |
| 每个发起任务成本 | 适用运行成本 | 发起任务数 | 使用负担 | 任务是否成功 |
| 每个完成任务成本 | 适用运行成本 | 完成任务数 | 流程效率 | 结果是否合格 |
| 单位合格任务成本 | 全量适用成本 | 通过质量门槛的任务数 | 产品交付效率 | 收益或 ROI |
| 单位目标结果成本 | 全量适用成本 | 有可验证目标结果的任务数 | 成本与价值连接 | 因果归因 |
与大模型选型的边界:一个比较候选,一个核算产品
大模型选型是在冻结任务、负载和质量门槛下比较候选模型,单位合格任务成本只是候选证据之一。本页假设产品架构已经明确,进一步核算模型之外的检索、工具、数据、共享平台、人工作业、固定投入和价值归因。需要换模型时先回到选型评测;需要预算、预测或 ROI 证据时使用本页,避免两份记录互相替代。
一、先冻结估算范围,不要先抄模型价格
记录成本模型 ID、产品与发布版本、目标用户和任务、环境、起止时间、币种、汇率与日期、含税口径、直接/共享/固定成本边界、排除项和责任人。开发、测试与生产应分开;一次性建设与持续运行也应分开,不能为了得到好看的单位成本随意移动成本。
Google Cloud 的 AI/ML 成本优化指导建议理解成本驱动、设置支出控制,并把训练、推理、存储、网络等单位成本与业务价值指标连接。这里不要求使用特定云平台,而是要求成本范围和业务目标先有明确关系。
二、建立可复核的成本分摊规则
直接成本可以按发布、任务或租户标签归集;共享网关、向量库、监控、安全、平台团队和支持费用需要预先选择分摊依据,例如调用量、存储、运行时间、活跃租户或固定比例。每条规则保存数据源、公式、适用对象、未分摊余额、版本和生效时间。
FinOps Foundation 的成本分摊能力强调用账户、标签、层级和共享成本策略把费用连接到责任对象。分摊不是会计事实本身;同一共享成本采用不同合理规则可能得到不同结果,所以必须显示规则和未分摊项。
三、记录一次任务实际消耗的完整调用链
逐时间窗记录发起任务、模型调用、输入输出量、缓存读取与写入、嵌入、检索、工具/API、存储、网络、图片/音频处理、失败、重试、超时、人工复核与接管。对自托管方案还要记录利用率、空闲容量和伸缩边界;对按量 API 则保存计价单位、费率来源和核对时间,不把当前单价永久固化。
一次任务可能调用模型零次、一次或多次。只有 taskId、调用链与成本标签可以关联时,才能从“每次调用”上升到“每项任务”。无法关联的成本应留在 unallocated,不得悄悄删除。
四、把质量门槛放进成本分母
同时记录发起、完成、合格、目标结果和人工接管任务数。合格任务必须引用冻结的评测量表、严重失败规则与版本;若任务失败、需要多次重试或最终由人工完成,相应资源和人工成本仍在分子中。
FinOps 的单位经济能力区分资源效率单位与业务单位,并建议把技术成本连接到每笔交易、每个客户、每个解决案例等业务结果。对 AI 产品而言,“每 Token”是资源单位,“每个达到门槛的任务”才更接近产品单位。
五、形成全量成本,而不是只算边际推理
把模型与基础设施、检索工具、数据处理、监控安全、人工作业、失败返工、支持运维和摊销后的一次性投入分别列出。结果至少同时展示运行边际成本、全量单位成本、未分摊成本和数据完整性。不要把已经购买的闲置容量写成零,也不要把尚未发生的未来规模折扣当作当前成本。
Microsoft 的 AI 工作负载设计原则把成本优化定义为最大化投入价值,而不只是压低费用,并要求理解建设/采购、技术、计费、许可、训练和运营的直接与间接影响。降低质量、安全或恢复能力换来的便宜不自动是优化。
六、用情景和敏感性分析预测,不给伪精确单点
至少准备低、中、高用量情景,分别假设任务结构、输入输出量、合格率、重试率、人工接管、缓存命中、模型路由、共享成本、价格和汇率。输出总成本、单位合格任务成本、容量缺口和最敏感变量,并标注哪些是假设、哪些来自实测。
预测必须与实际持续回填。模型、提示、检索、工具、价格、数据、流量或质量门槛变化时,应生成新版本,不要覆盖旧预测以制造“预测准确”。
七、把成本、结果与价值证据分层决定
决定可以是 continue_measurement、optimize、narrow_scope、pause 或 stop。绑定成本版本、质量门槛、基线、目标范围、反对证据、预算护栏和复审触发器。若成本降低但合格率下降、人工接管上升或高风险切片失败,应重新评测而不是直接放量。
Google 的机器学习项目指导区分产品或业务指标与模型指标,并指出好的模型指标不自动产生业务成功。ROI 也应区分收益来源、反事实基线、采用率、实现时间和置信范围;没有足够归因证据时,保留为 not_estimated,而不是把潜在省时写成现金收益。
使用边界
本文不替代会计政策、税务处理、采购报价、云成本管理、统计因果评估或财务审批。模板中的空值、公式字段和状态不代表任何成本或收益已测量;没有账单、用量、任务结果和责任人核对时,应保持 unknown、partial 或 not_estimated。
