不用花大价钱买显卡,普通电脑也有机会运行 AI 大模型了。
微软开源了一个叫 BitNet 的项目。
官方测试数据挺惊人:
• 运行速度最高提升 6.17 倍
• 耗电量最多降低 82.2%
• 部分 AI 模型不用专业显卡,靠电脑处理器就能运行
• 免费开源,人人都能获取
说白了,以后普通人也有机会在自己电脑上运行 AI,帮忙写文章、整理资料、回答问题。
当然,能不能流畅运行,还得看电脑配置和模型大小。
照这个趋势发展下去,以后用 AI 的成本,可能真的会越来越低。
GitHub:https://github.com/microsoft/BitNet