W4A16
mixed 有损
Weight 4-bit / activation 16-bit; generic name for AWQ and GPTQ family
权重位数
bits/weight
4
激活位数
bits/activation
16
支持硬件
of total
2/39
实测案例
0
支持硬件 (2)
海外
使用此量化的案例 (0)
尚无案例引用此量化方案。
Weight 4-bit / activation 16-bit; generic name for AWQ and GPTQ family
尚无案例引用此量化方案。