研究称AI推理成本每季度下降47%

IT时代网10月4日消息,据Chosun报道,非营利研究机构EpochAI发布报告称,达到同等性能水平的AI成本自2023年以来以每季度约47%的幅度下降,一年之内推理成本降至原先的十三分之一,降幅速度被描述为人类工业史上罕见。

报告给出的对比是:即便计入通胀因素,AI推理成本的下降速度也是DNA分析技术的4倍、计算机算力进步的6倍、锂离子电池改进的18倍。与此同时,全球数据中心累计支出预计到2050年将超过30万亿美元,与美债发行规模相当,AI基础设施投入与直接计算成本呈现出截然相反的走势。

具体到模型层面,OpenAI在2025年1月发布的模型o3,要在测试博士级物理、化学与生物水平的GPQA Diamond考试中达到75%准确率,平均每道题成本为30美分;而一年半之后发布的新模型实现同等性能,成本仅剩0.04美分。EpochAI打了个比方:这相当于一辆5000万韩元的新车在18个月内跌到7万韩元。

成本加速下降的驱动因素,一是先进AI模型的迭代,二是蒸馏训练方法的普及——通过有效模仿高性能模型,这一路径让成本每季度骤降66%。EpochAI指出,即便科技巨头投入巨额资本与能源开发前沿模型,通过溢价定价将技术优势变现的窗口也十分短暂。

编辑:林一舟

THE END