在大型模型推理领域,如何在固定算力下高效探索解题路径是一个悬而未决的难题。过去的方法受困于“并行采样”的内存溢出与“剪枝”的算力闲置,本质原因是它们无法将从失败路径释放的算力,主动重新投入到有潜力的路径上。
本文的核心洞见是:把并行的推理过程重新看作动态的“思维级”集束搜索(beam search)。由此,“剪除低质路径、复制高质前缀”这一关键操作使问题得以解开,它既能淘汰无效探索,又能立即用算力增殖最优希望的思考分支,持续保持硬件满载。
这项工作真正留下的遗产是一种算力动态重分配的推理范式。它为后来者打开的新门是如何在生成任务中,用算法主动管理有限的计算资源以最大化“有效思考”的密度。但尚未跨过的门槛是:如何设计出更精准的路径评估器,以避免在早期错误地剪除真正有潜力的解法。
arxiv.org/abs/2608.08020 #机器学习# #人工智能# #论文# #AI创造营#