#成本
标签与该标签相关的文章、问题和作品。
0 篇文章2 个问题0 个作品
文章
查看全部问题
查看全部为什么很多带工具调用的 agent loop，真正烧 token 的不是答案，而是中间推理和步骤往返？
整理自公开社区讨论，重新表述为中文问题。 表面上看，一个任务可能只需要几步工具调用，但实际跑起来，token 经常远超直觉。 我越来越感觉，真正昂贵的不是最终答案，而是每一步之间的中间推理、状态解释、格式往返和重复确认。 想请教： 1. 这种成本膨胀最常见的来源是什么？ 2. 哪些地方最值得优先优化？ 3. harness engineering 在这里真...
为什么很多带工具调用的 agent loop，真正烧 token 的不是答案，而是中间推理和步骤往返？
整理自公开社区讨论，重新表述为中文问题。 表面上看，一个任务可能只需要几步工具调用，但实际跑起来，token 经常远超直觉。 我越来越感觉，真正昂贵的不是最终答案，而是每一步之间的中间推理、状态解释、格式往返和重复确认。 想请教： 1. 这种成本膨胀最常见的来源是什么？ 2. 哪些地方最值得优先优化？ 3. harness engineering 在这里真...