El error de cuantización
La cuantización consiste en coercionar los posibles valores de cada pixel a un
conjunto determinado.
No produce un daño potencialmente tan grave como el muestreo, y en realidad su
efecto puede modelarse fácilmente como el agregado de una señal estocástica a
la señal antes de cuantizar, llamada error de cuantización o algunas
veces ruido de cuantización.
Diferentes técnicas producen mejores o peores resultados dependiendo del
contexto.
Ejemplos de señales a considerar (scan-lines)
Cuantización uniforme
Consiste en coercionar cada valor de luminancia, al más próximo de un conjunto
uniformemente distribuido.
Una imagen uniformemente cuantizada a cuatro valores
Cuantización uniforme y espectros de los errores de cuantización
La frecuencia para la cual el ojo es más sensible es aproximadamente 2 osc./grado de
arco, lo cual para un monitor normal (15'') a distancia normal (60cm.) y con resolución
normal (800x600) representa aproximadamente 44 osc./scanline (23 osc./pantalla, o
una osc. cada 18 pixels).
Esa frecuencia, en los espectros del error, está un 12% a la izquierda (el ancho del
diagrama es de 400 osc./scanline).
Se puede observar que es la zona donde el error tiene mayor energía, sobre todo cuando
la imagen tiene bajas frecuencias.
La idea sería buscar la manera de distribuír el espectro del error en frecuencias
mayores.
Dithering
La idea consiste en transformar la distancia al valor más cercano en una probabilidad.
Manipulando algebraicamente, el resultado es idéntico a sumar una variable aleatoria
uniforme antes de la cuantización.
Una imagen cuantizada con dithering aleatorio a cuatro valores
Cuantización con dithering aleatorio y espectros de los errores de cuantización
Se observa que el error de cuantización se distribuye más uniformemente en todas las
frecuencias.
Difusión del error
Consiste en acumular el error cometido en cada paso de cuantización, y ese error
agregarlo en el paso siguiente, de manera de que la media del error tienda a cero.
Una imagen cuantizada con difusión del error a cuatro valores
Cuantización con dithering aleatorio y espectros de los errores de cuantización
Se observa que el error es menor, y está distribuido en las frecuencias más altas.
Otras técnicas
En determinados contextos, la función aleatoria es reemplazada por una función de permutación,
lo cual genera el dithering ordenado (muy usado para el halftoning).
Todas estas técnicas se pueden combinar con la corrección gamma del monitor, lo cual no
reduce el valor absoluto del error, pero lo hace menos perceptible.