【论文分享】A White Paper on Neural Network Quantization【3】PTQ部分

本文目录

• 3. PTQ训练后量化（离线量化）
• • 3.1 设置量化范围
  • • Min-max
    • Mean squared error (MSE)
    • Cross entropy
    • BN base ranage setting
    • 对比：权重量化的范围设置方法💡
  • 3.2 Cross-Layer Equalization（CLE）
  • • Absorbing high biases
    • 实验💡
  • 3.3 Bias correction
  • • 经验偏差校正
    • 分析偏差校正
    • 实验💡
  • 3.4 AdaRound（自适应取整&#x