¿Cuántos bits necesita un modelo?

El clasificador de dígitos de este lab, cuantizado a menos bits delante de ti: la precisión sobre 300 imágenes reales se mide en tu navegador con cada formato. De fp32 a int8 apenas se pierde nada; en int2 el modelo se derrumba. Esta idea es la que permite correr modelos enormes en un portátil.