发布时间：2024-05-20 21:31:11 来源: sp20240520
“降价的基本逻辑是，我们有信心用技术手段降低成本，市场也需要更低价的大模型。”5月15日，字节跳动豆包大模型在火山引擎原动力大会上发布，火山引擎总裁谭待在公布豆包大模型定价时如是说。
豆包大模型的超低价格引起业内关注。据悉，豆包主力模型的推理输入价格只有0.0008元/千Tokens（数据中的基本单元），比行业价格便宜99.3%。对此，谭待坦言：“降价是用技术优化成本来实现的。如果只是补贴，用亏损换收入是不可持续的，我们不会走这条路。”
对大模型推理成本的优化，可通过很多技术手段实现。首先是模型本身，模型结构、训练方法都可以持续改进，包括业界很关注的MoE（混合专家模型），就是优化推理成本很好的解决方案。其次是工程上的优化。大模型的调用量越大，优化推理成本的空间也越大。以前的模型都是单机推理，大模型用的是分布式推理。所以如果能把各种各样的底层算力用得更好，推理成本就会大大降低。
谭待表示，豆包大模型平均每天处理1200亿Tokens文本、生成3000万张图片，不同任务有不同的负载，可以把它们混合在一起，通过智能调度提高它们的利用率，就能极大地提升资源利用率，实现整体成本的优化。
“大的使用量，才能打磨出好模型，大幅降低模型推理的单位成本。”谭待拿字节跳动内部业务举例，飞书的主要流量高峰在工作时间，抖音在下班后休闲时间的流量更高，这些不同业务的大模型推理，也能根据业务特点错峰使用，降低成本。
豆包大模型原名“云雀”，是国内首批通过算法备案的大模型之一。字节跳动基于豆包大模型打造了AI对话助手“豆包”、AI应用开发平台“扣子”、互动娱乐应用“猫箱”，以及星绘、即梦等AI创作工具，并把大模型接入抖音、番茄小说、飞书、巨量引擎等50余个业务，用以提升效率和优化产品体验。
大模型从以分计价到以厘计价，将助力企业以更低成本加速业务创新。“比如一个人现在要创业，如果要花1万元钱调用大模型，可能会觉得有点贵。我们把价格降到1%都不到，相当于花100元钱，就能把大模型用起来，相关想法也就更容易得到尝试。”谭待表示，企业的AI转型充满不确定性，试错成本要尽量低，才能更快更多地实现大模型的应用落地，从而让整个行业受益。
(责编：杨曦、陈键)