“背包版” GLM-5.3-Flash 好了,这是今天的最后一个演示。

“背包版” GLM-5.3-Flash

好了,这是今天的最后一个演示。

运行环境:2 台 M5 Mac Ultra(每台配备 256GB 内存)

- 单路并发:150 token/s
- 8 路并发:380 token/s
- KV 缓存容量:140 万 token

该系统由 2 块电动自行车电池供电,已持续不间断运行超过 90 分钟。
https://x.com/0xSero/status/2120294401801109884/video/1

分类