[技术树洞] 换掉JSON格式,LLM幻觉直降81.1%

[复制链接]
发表于 昨天 12:23 | 显示全部楼层 |阅读模式
把DFIR(数字取证与事件响应)遥测数据丢给大模型时,多数工具的做法还是塞进一整坨JSON。规模一上来,上下文就被撑爆:延迟爬升,模型开始编造,分析师还得逐条复核它说过的话。


一篇新论文盯住了一个很窄的问题:序列化的形态,是不是比模型本身更关键?

研究团队拿谷歌的开放知识格式(OKF v0.1)与扁平JSON做对比。OKF是一种图原生、可选择性遍历的格式。测试覆盖五种开源模型架构,跑了7,680次推理循环,并按递增的诱饵密度分成四个难度层级。

相对JSON的结果是:

最高难度层级下,幻觉被压制了81.1%
Token开销减少33.6%
诱饵增加时,噪声不变召回率维持在0.94–0.99
真正有价值的不是"OKF更好"这个结论,而是背后的机制:当模型能遍历到相关子图,而不是吞下一整块单体转储时,上下文保持小而扎实——产生幻觉的那种失效模式,从一开始就没被加载进来。

如果你的事件响应智能体还在吃JSON遥测,这是一个可以在动模型之前先测一测的格式决策。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 Licensed © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部