La redundancia está ligada a la probabilidad de ocurrencia de los signos: cuando todos los signos emitidos son equiprobables se les asigna convencionalmente un valor de un bit (binary digit).

La redundancia es la reducción de información que resulta de la frecuencia desigual de los signos. Un código que consiste en signos de diferentes probabiliad de ocurrencia se lo llama redundante