💥逆天了!支持多模态的本地 Jev 模型来了!图文皆可喂!

💥逆天了!支持多模态的本地 Jev 模型来了!图文皆可喂!

LLM2Jev 把本地大模型变成结构化决策引擎,图文都能一起喂进去,模型可以看着图做判断,开源、数据不出本地、模型随便换。

核心亮点
🔹仅需 prefill,不做自回归解码
🔹图文多模态正式支持(SGLang / Transformers)
🔹Choice / Score / Noul 三类结构化输出,选项顺序不影响分数
🔹兼容 System One API,后续还有 MLX
🔹三个新 Demo:网页秒懂玩法、AI 自己玩贪吃蛇、视觉判断驱动机械臂

上手 4 步
1️⃣git clone https://github.com/Yinsongxu/LLM2Jev.git
2️⃣cd LLM2Jev && uv sync --extra sglang
3️⃣source .venv/bin/activate
4️⃣python examples/sglang_inference.py --model-path /你的模型路径

文档、原理、测试结果都齐了,新朋友也能从零上手。

GitHub:https://github.com/Yinsongxu/LLM2Jev





分类