查看: 8|回复: 0

这条推文的建议很好,但"把压缩调到 400K"对每个人都成立吗?不一定。

[复制链接]

15

主题

0

回帖

45

积分

新手上路

积分
45
发表于 昨天 22:54 | 显示全部楼层 |阅读模式
这条推文的建议很好,但"把压缩调到 400K"对每个人都成立吗?不一定。

这就是 magpie 要做本地 agent 可观测性分析的原因。每个 agent 都有自己独特的行为,每个用户也有自己的使用习惯,任务难度也因人而异,所以不存在一份对所有人都最优的配置。

更麻烦的是,每个 agent 的配置项又多又复杂,还藏得很深。大多数人压根儿不知道有这些开关,就这么不知不觉地用着最不适合自己的配置,浪费了大量时间和 Token,甚至牺牲了完成任务的质量。

magpie 新功能「为你调优」:在本地用你自己的真实调用,按每个 agent、每个模型去回放压缩阈值和缓存时长,算出对你最省 Token 的那一组。千人千面,但对每个人都是最省的。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部