量化

用低精度数值（如 8-bit、4-bit）表示模型权重以压缩体积、加速推理。

量化把 FP16 权重压缩为 INT8/INT4 等，可将显存占用降至 1/2~1/4，推理成本大幅下降，是本地部署与成本优化的首选手段。主流方案有 GPTQ、AWQ、GGUF 等。