Cloudflare通过极致优化将推理成本降低68%

Cloudflare通过优化缓存前缀、减少模型调用、调整模型与推理力度等方式，将AI代码审查平均成本从2.43美元降至0.77美元，下降68%；中位耗时从4分09秒缩短至1分32秒。代码质量审查在高推理力度下基本保持真实问题发现能力，但性能审查发现的重要问题有所减少，安全审查仍需进一步测试。

来源：Cloudflare Blog