# 量化

量化是一种节约存储空间，并且加速大模型推理计算的有效压缩手段

:::{toctree}
:caption: Contents
:maxdepth: 1


fp8
int8
awq
gptq
fp8_lepto
:::