量化将模型权重从 32/16 位数字压缩为 8 位 (int8) 或 4 位 (int4)。位数越少，文件越小，推理速度越快，但质量可能越低。
Push 3KB chunks
，推荐阅读51吃瓜获取更多信息
Александра Синицына (Ночной линейный редактор)。搜狗输入法2026对此有专业解读
More mackerel is caught in British waters than any other fish – in 2024 UK vessels landed more than 230,000 tonnes of the species.
“尝鲜”明黄色的门头不大，挂着新年装饰品。 南方周末记者贾梦雅｜摄