这看起来有点离谱，但微软真把它做出来了。100B参数的模型，CPU也能跑。关键不是换了更强的硬件，而是微软的BitNet直接把计算方式改了。传统LLM大量依赖浮点乘法，BitNet却把权重限制成 -1、0、1。于是原本 ...

Grok App 现已开源！推荐一个第三方 Grok 桌面客户端：grok-app，Mac 和 Windows 都能用，支持 Apple Silicon、Intel Mac 以及 Windows x86。它不只是简单套个 Grok 网页壳，而是往 AI Agent 工作台的方向做： ...

看懂一个GitHub项目，为什么一定要从代码开始？GitReverse玩了个反向操作：把仓库还原成一条可能的初始Prompt。丢一个GitHub链接进去，它读取项目元数据、目录结构和README，再交给LLM推测当初可能下达的开发指 ...

如果想开发网络电台应用，可以试试这个项目。收录了全球 5w 多个电台。丢给Codex，十多分钟就开发好了。地址见评论区

又挖到个宝，H3 现在能出任意时长的视频，一张 4090 就能跑。有人拿 ComfyUI 插件做出来的，思路就是把时长拆成好几段，一次跑完再缝到一起，同一个种子接着上一段的尾巴往下续，重叠帧自动删掉，音画一块合。官方 ...

LLM 优化面试笔记：KV Cache、投机解码、ZeRO 与 DualPipe，训练与推理的核心考点一次讲透（附多方学习资源）@gauri__gupta 自述这是她为几家头部 AI 实验室的技术面试准备期间整理的笔记，把大模型系统（MLSys） ...

把本地大模型的下载、推理服务运行和对话、语音、图片、视频、OCR、翻译等应用收进一个桌面工作台，免去在多个工具之间来回切换，全程本地优先。https://github.com/kunpengtalk/OmniStudio模型市集基于 ModelSc ...

家人们，刚看到一个本地跑的 ElevenLabs 替代品，直接给我看愣了。一个独立开发者搞的，纯免费，GitHub 上已经 19.4K 星。本地跑的意思就是，你电脑够顶，声音克隆、视频配音、有声书生成，全部离线搞定。11La ...

输入一个主题，就能自动写文案、生图生视频、配音、加 BGM，再一键合成短视频。开源项目 Pixelle-Video 把短视频生产链路全打通：支持数字人口播、图生视频、动作迁移，也能接 ComfyUI / RunningHub，或直连万相 ...

10个GitHub仓库，能把网页洗成AI能吃的数据！先收藏。这种权限，公司通常要先见销售、再签合同！1.Firecrawl丢一个网址，它把整站爬完、把JS渲染完，吐出结构化数据。十三万星，进过全站前一百。不少AI创业公司 ...

一个请求进入 LLM 推理引擎后，到底经历了什么？Together AI 工程师 Zain 讲明白了一个请求的一生：一次传播产一个 token，prefill 吃算力、decode 吃显存，KV 缓存、连续批处理层层接力，Agent 循环再把 GPU 榨干 ...

GPT-6 Astra最佳用法是把思考调到Low很多人上手 GPT-6 Astra，习惯性把思考档位拉到高，结果不仅额度烧得飞快，模型内部过长的思考链也拖慢了工作效率。最近很多海外开发者实测的体感都是，只要不写复杂算法，把思 ...

想死磕LLM推理的，这套东西值得盯死。有老哥搞了一份LLM工程师实战手册time-to-first-token，每天半个小时，磨它10周，总共50堂课。从零垒一套能上生产的完整技术栈：1️⃣ 先建认知模型，吃透Decode为什么撑爆 ...

一个项目能拿 4 万+ Star，确实有点东西。free-claude-code 更像一个统一的 AI 编程入口，可以把 Claude Code、Codex 等工具接到不同模型服务上。NVIDIA NIM、OpenRouter、Gemini 等多种模型都能切换，云端、本 ...

Codex 提示：一套由 Astra 编排、兼顾成本效益的 Luna + Sol 智能体工作流。在确定工作强度时，综合考量了 DeepSWE 的通过率、单任务平均成本以及智能体执行步骤。请将此方案交给 Codex 进行配置 👇 ...