看点量化 SmoothQuant/AWQ 为什么开始看量化了,我也不知道 量化原理 我们一般谈LLM的精度,会涉及到FP32,FP16,BF16,INT8,INT4等字样。这些... 深度学习 · 2024-03-18