查看: 8|回复: 0

💥逆天了!支持多模态的本地 Jev 模型来了!图文皆可喂!

[复制链接]

12

主题

1

回帖

38

积分

新手上路

积分
38
发表于 昨天 19:50 | 显示全部楼层 |阅读模式
💥逆天了!支持多模态的本地 Jev 模型来了!图文皆可喂!

LLM2Jev 把本地大模型变成结构化决策引擎,图文都能一起喂进去,模型可以看着图做判断,开源、数据不出本地、模型随便换。

核心亮点
🔹仅需 prefill,不做自回归解码
🔹图文多模态正式支持(SGLang / Transformers)
🔹Choice / Score / Noul 三类结构化输出,选项顺序不影响分数
🔹兼容 System One API,后续还有 MLX
🔹三个新 Demo:网页秒懂玩法、AI 自己玩贪吃蛇、视觉判断驱动机械臂

上手 4 步
1️⃣git clone https://github.com/Yinsongxu/LLM2Jev.git
2️⃣cd LLM2Jev && uv sync --extra sglang
3️⃣source .venv/bin/activate
4️⃣python examples/sglang_inference.py --model-path /你的模型路径

文档、原理、测试结果都齐了,新朋友也能从零上手。

GitHub:https://github.com/Yinsongxu/LLM2Jev





本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关注公众号

相关侵权、举报、投诉及建议等,请发 E-mail:2776601884@qq.com

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|青ICP备2025004122号-1

在本版发帖
关注公众号
返回顶部