Algoritmos básicos para la compresión sin pérdidas

Transcripción

Algoritmos Huffman
Algoritmos Lempel–Ziv
Compresión aritmética
Algoritmos básicos para la compresión sin
pérdidas
(CTI: Parte II de la Lección 2, Compresores sin pérdidas)
Ramiro Moreno Chiral
Dpt. Matemàtica (UdL)
Febrero de 2010
Ramiro Moreno (Matemàtica, UdL)
Algoritmos básicos compresión sin pérdidas
Febrero de 2010
1 / 25
Algoritmos Huffman
Índice
1
Algoritmos Huffman
2
3
Febrero de 2010
2 / 25
Algoritmos Huffman
Los códigos Huffman son optimales
Huffman básico
Huffman adaptativo
Índice
1
Algoritmos Huffman
Huffman básico
Huffman adaptativo
2
3
Febrero de 2010
3 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Resumen
Febrero de 2010
4 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Resumen
Veremos en este apartado
Febrero de 2010
4 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Resumen
Por qué los códigos Huffman son optimales.
Febrero de 2010
4 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Resumen
El algoritmo del Huffman básico, algoritmo en dos pasos.
Febrero de 2010
4 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Resumen
El algoritmo del Huffman básico, algoritmo en dos pasos.
Finalmente, el algoritmo de Gallager–Knuth para los
Huffman adaptativos o en un paso o universal.
Febrero de 2010
4 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Cota inferior de la longitud media de un código
instantáneo
Febrero de 2010
5 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
instantáneo
Proposición
La longitud esperada, L, no necesariamente mínima, de un
código instantáneo d-ario para una fuente simple S = (X , X ),
con |X | = r , es
L ≥ Hd (X ),
Febrero de 2010
5 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
instantáneo
Proposición
con |X | = r , es
L ≥ Hd (X ),
alcanzándose la igualdad cuando pi = d −li , 1 ≤ i ≤ r , es decir,
cuando X tiene una distribución de probabilidad d-ádica
respecto a las longitudes de las palabras–código.
Febrero de 2010
5 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
instantáneo
Proposición
con |X | = r , es
L ≥ Hd (X ),
alcanzándose la igualdad cuando pi = d −li , 1 ≤ i ≤ r , es decir,
cuando X tiene una distribución de probabilidad d-ádica
respecto a las longitudes de las palabras–código.
Para esas fuentes d-ádicas los códigos de Shannon alcanzan
su longitud media mínima, igualando la entropía.
Febrero de 2010
5 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Árboles ponderados por hojas
Febrero de 2010
6 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Definición
Febrero de 2010
6 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Definición
Dados un árbol con raíz T , con r hojas, y un conjunto de pesos
F = {f1 , . . . , fr }, fi ∈ Z>0 , asociamos a cada hoja un peso fi y a
cada vértice interno la suma de los pesos de las hojas
descendientes de ese vértice.
Febrero de 2010
6 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Definición
descendientes de ese vértice. Llamaremos árbol ponderado
por hojas según F al par (T , F )
Febrero de 2010
6 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Definición
descendientes de ese vértice. Llamaremos árbol ponderado
por hojas según F al par (T , F ) y definimos el peso de (T , F )
como
r
X
Peso(T ) =
fi hi ,
i=1
siendo hi , 1 ≤ i ≤ r , los niveles de las hojas de T .
Febrero de 2010
6 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Costo de un código
Febrero de 2010
7 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Costo de un código
Definición
Sea C un código instantáneo par a una fuente S con
estadística F = {f1 , . . . , fr }, y sea T su árbol de representación
literal.
Febrero de 2010
7 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Costo de un código
Definición
literal.
Llamaremos árbol ponderado asociado a C al árbol
ponderado por hojas de T según F .
Febrero de 2010
7 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Costo de un código
Definición
literal.
Llamaremos costo del código C al peso de su árbol
ponderado asociado.
Febrero de 2010
7 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Costo de un código
Definición
literal.
Llamaremos costo del código C al peso de su árbol
ponderado asociado.
Diremos que C es un código de costo mínimo, o un código
optimal, si cualquier otro código instantáneo sobre S tiene
un costo mayor o igual.
Febrero de 2010
7 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Costo de un código: Ejemplo
Febrero de 2010
8 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
•
0
1
0
•
0
1
10
•
0
1
110
111
Asociamos a las hojas del árbol del código C sus frecuencias
absolutas como pesos,
Febrero de 2010
8 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
•; 100
0
1
0; 50
•; 50
0
1
10; 30
•; 20
0
110; 15
1
111; 5
Asociamos a las hojas del árbol del código C sus frecuencias
absolutas como pesos,
C = {0, 10, 110, 111} → F = {50, 30, 15, 5}, obteniendo un
árbol ponderado por hojas según F .
Febrero de 2010
8 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
•; 100
0
1
0; 50
•; 50
0
1
10; 30
•; 20
0
110; 15
El peso,
P
1
111; 5
fi hi , del árbol asociado a C es
Febrero de 2010
8 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
•; 100
0
1
0; 50
•; 50
0
1
10; 30
•; 20
0
110; 15
El peso,
P
1
111; 5
fi hi , del árbol asociado a C es
Peso(TC ) = 50 × 1 + 30 × 2 + 15 × 3 + 5 × 3 = 170.
Febrero de 2010
8 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
•; 1
0
1
0; 0’5
•; 0’5
0
1
10; 0’3
•; 0’2
0
110; 0’15
1
111; 0’05
Nótese que si las frecuencias fuesen relativas el peso sería la
longitud media:
Peso(TC ) = L = 10 7.
Febrero de 2010
8 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Hojas hermanas en los árboles ponderados
Febrero de 2010
9 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Lema
Dado un conjunto ordenado de pesos, F = {f1 ≤ f2 ≤ · · · ≤ fr },
existe un árbol d-ario T ponderado por hojas según F , de peso
mínimo, tal que
Febrero de 2010
9 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Lema
mínimo, tal que
Si fj > fk , los niveles de esas hojas verifican hj ≤ hk .
Febrero de 2010
9 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Lema
mínimo, tal que
Los d niveles superiores de T , h1 , . . . , hd son iguales:
h1 = · · · = hd .
Febrero de 2010
9 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Lema
mínimo, tal que
Los d niveles superiores de T , h1 , . . . , hd son iguales:
h1 = · · · = hd .
Y las d hojas correspondientes, las de menores
frecuencias f1 , . . . , fd , son hermanas, es decir, hijas de un
mismo vértice interno.
Febrero de 2010
9 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Construcción de códigos optimales
Febrero de 2010
10 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Teorema (Huffman)
Febrero de 2010
10 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Teorema (Huffman)
Dada una fuente S con r caracteres y un código instantáneo C,
d-ario, con las propiedades del lema para S,
Febrero de 2010
10 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Teorema (Huffman)
d-ario, con las propiedades del lema para S, se construye otro
código C (r ) , reducido del C, para una fuente con r − d + 1
caracteres, que coincide con S en los r − d caracteres más
frecuentes y tiene un carácter nuevo con frecuencia la suma de
las d frecuencias menores de S.
Febrero de 2010
10 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Teorema (Huffman)
las d frecuencias menores de S. Entonces, si C (r ) es optimal
para la nueva fuente, C también lo es para S.
Febrero de 2010
10 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Teorema (Huffman)
las d frecuencias menores de S. Entonces, si C (r ) es optimal
para la nueva fuente, C también lo es para S.
Corolario (Código de Huffman)
Aplicando sucesivamente el teorema se obtiene un código de
Huffman que es optimal.
Febrero de 2010
10 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Compresor Huffman básico
Primer paso
Febrero de 2010
11 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Primer paso
Dado un fichero fuente sobre un alfabeto X = {a, b, c, d, e},
realizamos una lectura, primer paso, que asigne a cada
carácter fuente la frecuencia absoluta con que se presenta.
Febrero de 2010
11 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Primer paso
a;12
b;20
c;15
d;41
e;12
Obtenemos así una lista inicial de los caracteres y sus
frecuencias absolutas o pesos.
Febrero de 2010
11 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Primer paso
a;12
e;12
c;15
b;20
d;41
Para llegar finalmente a esa lista inicial ordenada por pesos.
Febrero de 2010
11 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Segundo paso: construcción del árbol de Huffman
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Consideremos el mismo ejemplo anterior: alfabeto–fuente X =
{a, b, c, d, e} y pesos F = {12, 20, 15, 41, 12}, y la lista ordenada
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Consideremos el mismo ejemplo anterior: alfabeto–fuente X =
{a, b, c, d, e} y pesos F = {12, 20, 15, 41, 12}, y la lista ordenada
a;12
e;12
c;15
b;20
d;41
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
a;12
e;12
c;15
b;20
24
d;41
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
c;15
b;20
a;12
24
d;41
e;12
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
c;15
24
b;20
a;12
35
d;41
e;12
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
24
a;12
35
e;12
c;15
d;41
b;20
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
24
a;12
35
e;12
c;15
d;41
59
b;20
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
59
d;41
24
a;12
35
e;12
c;15
b;20
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
d;41
59
100
24
a;12
35
e;12
c;15
b;20
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
100
d;41
59
24
a;12
35
e;12
c;15
b;20
Febrero de 2010
12 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Segundo paso: codificación
Febrero de 2010
13 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Codificamos la secuencia ejemplo ’acd’.
raiz
0
1
d
0
0
a
1
1
0
e
c
1
b
Febrero de 2010
13 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
0
1
d
0
0
a
1
1
0
e
c
1
b
Febrero de 2010
13 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
1
0
d
0
a
0
100
1
1
0
e
c
1
b
Febrero de 2010
13 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
0
1
d
0
0
a
1
1
0
e
c
1
b
Febrero de 2010
13 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
1
0
d
0
0
a
110
1
0
1
e
c
1
b
Febrero de 2010
13 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
0
1
d
0
a
0
1
1
0
e
c
1
b
Febrero de 2010
13 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
0
1
d
0
a
0
0
1
1
0
e
c
1
b
Febrero de 2010
13 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Descompresor Huffman básico
Febrero de 2010
14 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Construído el árbol Huffman a partir de la estadística,
decodificamos la secuencia ’1001100’.
raiz
0
1
d
0
0
a
1
1
0
e
c
1
b
Febrero de 2010
14 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
d
0
0
a
1
1
0
1
1
0
e
c
1
b
Febrero de 2010
14 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
d
0
0
a
0
1
0
1
1
0
e
c
1
b
Febrero de 2010
14 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
0
1
0
a
d
0
0
a
1
1
0
e
c
1
b
Febrero de 2010
14 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
raiz
d
0
0
a
1
1
0
1
1
0
e
c
1
b
Febrero de 2010
14 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Introducción a los códigos adaptativos Huffman (CAH)
Febrero de 2010
15 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Un código universal es el que no depende de la estadística de
la fuente y por ello es de aplicación “universal”.
Febrero de 2010
15 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Un código universal es el que no depende de la estadística de
la fuente y por ello es de aplicación “universal”.
Los códigos adaptativos Huffman, CAH, son universales, en
cambio el Huffman básico no.
Febrero de 2010
15 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Características básicas de los CAH
Febrero de 2010
15 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Se construyen árboles de Huffman dinámicos: El carácter
(k + 1)-ésimo se codifica a partir del árbol construído con
los k caracteres anteriores.
Febrero de 2010
15 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Se mantiene una lista de todos los vértices del árbol,
ordenada por sus pesos .
Febrero de 2010
15 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Se mantiene una lista de todos los vértices del árbol,
ordenada por sus pesos .
La modificación de cada árbol mantiene la “sibling
property” o de los vértices hermanos: dos vértices
hermanos son consecutivos en la lista y el padre de ambos
es posterior, no obligatoriamente inmediato, a ambos.
Febrero de 2010
15 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Actualización del árbol adaptativo
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Lista actual de vértices y pesos
Vért.
Pesos
1
2
2
3
3
5
4
5
11
9
10
11
3
6
6
7
10
8
11
9
11
10
21
11
32
32
7
21
8
10
5
4
1
5
5
2
5
5
2
5
11
6
6
3
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Path desde el vértice actual al raíz
Vért.
Pesos
1
2
2
3
3
5
4
5
11
9
10
11
3
6
6
7
10
8
11
9
11
10
21
11
32
32
7
21
8
10
5
4
1
5
5
2
5
5
2
5
11
6
6
3
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Vértice actual y sigs. con igual peso
Vért.
Pesos
1
2
2
3
3
5
4
5
11
9
10
11
3
6
6
7
10
8
11
9
11
10
21
11
32
32
7
21
8
10
5
4
1
5
5
2
5
5
2
5
11
6
6
3
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Vértice actual (sig. en el path), y sigs. con igual peso
Vért.
Pesos
1
2
2
3
3
5
4
5
11
9
10
11
3
6
6
7
10
8
11
9
11
10
21
11
32
32
7
21
8
10
5
4
1
5
5
2
5
5
2
5
11
6
6
3
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Intercambio de subárboles y actualización del path
Vért.
Pesos
1
2
2
3
3
5
4
5
11
9
5
5
10
7
5
8
11
9
11
10
21
11
32
21
8
10
4
5
1
7
10
32
11
3
6
6
5
2
11
6
5
2
6
3
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Vért.
Pesos
1
2
2
3
3
5
4
5
11
9
5
5
10
7
5
8
11
9
11
10
21
11
32
21
8
10
4
5
1
7
10
32
11
3
6
6
5
2
11
6
5
2
6
3
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Intercambio de subárboles y actualización del path
Vért.
Pesos
1
2
2
3
3
5
4
5
5
5
6
6
7
10
8
11
9
11
10
21
11
32
11 32
9
5
1
2
10
11
5
2
6
6
3
3
7
5
21
10
4
8
11
5
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Vért.
Pesos
1
2
2
3
3
5
4
5
5
5
6
6
11
9
5
1
2
7
10
10
2
6
6
3
3
7
5
9
11
10
21
11
32
Raiz:
FIN
32
11
5
8
11
21
8 11
10
4
5
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Actualización de los pesos del path
Vért.
Pesos
1
2
2
4
3
5
4
5
5
6
6
6
11
9
5
1
2
7
10
10
6
2
4
6
3
9
12
10
21
11
33
33
12
6
8
11
7
5
21
8 11
10
4
5
Febrero de 2010
16 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
Tratamiento de los caracteres de peso cero
Febrero de 2010
17 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
33
21
12
6
6
4
2
0
11
10
5
5
2
w x y z
Febrero de 2010
17 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
33
21
12
6
6
4
2
0
w x y z
11
10
5
5
2
C(y)=000010
Febrero de 2010
17 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
33
21
12
6
6
4
2
5
5
2
0
0
11
10
0
w x z
Febrero de 2010
17 / 25
Algoritmos Huffman
Huffman básico
Huffman adaptativo
34
21
13
6
7
3
1
0
4
11
10
5
5
2
1 C(y)=00001
w x z
Febrero de 2010
17 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Índice
1
Algoritmos Huffman
2
Algoritmo LZ77
Algoritmo LZ78
3
Febrero de 2010
18 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación Lempel–Ziv
Generalidades
Febrero de 2010
19 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Generalidades
Dada una cadena x ∈ X ∗ se “reproduce” a partir de sus
prefijos.
Febrero de 2010
19 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Generalidades
prefijos.
Se usa un puntero p y la longitud, l, que indican desde
dónde y cuánto se reproduce.
Febrero de 2010
19 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Generalidades
prefijos.
Una reproducción se construye con el menor p que
permita la mayor l.
Febrero de 2010
19 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Generalidades
prefijos.
permita la mayor l.
Se añade un caracter nuevo para formar una producción.
Febrero de 2010
19 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Generalidades
prefijos.
permita la mayor l.
Febrero de 2010
19 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Generalidades
prefijos.
permita la mayor l.
Definición
Llamaremos complejidad Ziv–Lempel de una cadena x al
número c(x) de producciones que “reproducen” x.
Febrero de 2010
19 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Reproducción de una secuencia
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Sea la secuencia x = 0001101001000101 ∈ {0, 1}∗ .
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
secuencia actual⇒producción
p
l
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
λ⇒0
p
–
l
–
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
λ⇒0
0⇒001
p
–
1
l
–
2
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
λ⇒0
0⇒001
0 · 001⇒10
p
–
1
4
l
–
2
1
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
λ⇒0
0⇒001
0 · 001⇒10
0 · 001 · 10⇒100
p
–
1
4
5
l
–
2
1
2
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
λ⇒0
0⇒001
0 · 001⇒10
0 · 001 · 10⇒100
0 · 001 · 10 · 100⇒1000
p
–
1
4
5
7
l
–
2
1
2
3
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
λ⇒0
0⇒001
0 · 001⇒10
0 · 001 · 10⇒100
0 · 001 · 10 · 100⇒1000
0 · 001 · 10 · 100 · 1000→ 101
p
–
1
4
5
7
5
l
–
2
1
2
3
3
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
λ⇒0
0⇒001
0 · 001⇒10
0 · 001 · 10⇒100
0 · 001 · 10 · 100⇒1000
0 · 001 · 10 · 100 · 1000→ 101
p
–
1
4
5
7
5
l
–
2
1
2
3
3
Por lo tanto la complejidad es c(x) = 6.
Febrero de 2010
20 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Algoritmo
Febrero de 2010
21 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Algoritmo
Se dispone de una memoria buffer con n caracteres: L
para el presente y n − L para el pasado.
Febrero de 2010
21 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Algoritmo
Inicialmente el pasado se llena con un carácter arbitrario y
se “alimenta” el presente con los primeros L caracteres de
la secuencia a codificar.
Febrero de 2010
21 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Algoritmo
En cada paso del algoritmo
Febrero de 2010
21 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Algoritmo
1
se busca el menor p en el pasado que reproduzca la
cadena del presente de l mayor;
Febrero de 2010
21 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Algoritmo
1
2
se forma la producción π con los primeros l + 1 caracteres
del presente;
Febrero de 2010
21 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Algoritmo
1
2
3
del presente;
se codifica π como C = C1 kC2 kC3 , con C1 = (p − 1)r ,
C2 = (l)r , C3 es el carácter (l + 1)-ésimo del presente yr
r = |X |;
Febrero de 2010
21 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Algoritmo
1
2
3
4
del presente;
se codifica π como C = C1 kC2 kC3 , con C1 = (p − 1)r ,
C2 = (l)r , C3 es el carácter (l + 1)-ésimo del presente yr
r = |X |;
se desplazan l + 1 caracteres hacia el pasado en todo el
buffer y se realimenta el presente con l + 1 nuevos.
Febrero de 2010
21 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Ejemplo
Febrero de 2010
22 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Ejemplo
Sea X = {a, b, c}, r = 3, un buffer de n = 18 caracteres,
L = 9 y x = aababacbacbacbcacbacbcaa.
Febrero de 2010
22 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Ejemplo
pasado
presente
Febrero de 2010
22 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Ejemplo
pasado
0
1
2
3
4
presente
5
6
7
8
Febrero de 2010
22 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Ejemplo
pasado
presente
0
1
2
3
4
5
6
7
8
a
a
a
a
a
a
a
a
a
a
a
b
a
b
a
c
b
a
Febrero de 2010
22 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Ejemplo
pasado
presente
0
1
2
3
4
5
6
7
8
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
a
b
a
a
a
b
b
a
a
c
b
b
a
a
c
c
b
b
a
a
Febrero de 2010
22 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Ejemplo
pasado
presente
0
1
2
3
4
5
6
7
8
a
a
a
a
a
a
a
a
a
a
a
a
a
a
b
a
a
a
a
a
b
a
a
a
a
b
c
a
a
b
a
b
a
b
a
c
a
c
b
b
b
a
a
a
c
c
c
b
b
b
c
a
a
a
Febrero de 2010
22 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ77
Ejemplo
pasado
presente
0
1
2
3
4
5
6
7
8
a
a
a
c
a
a
a
b
a
a
a
a
a
a
a
c
a
a
b
b
a
a
a
a
a
a
b
c
a
a
a
b
a
b
c
c
a
a
b
a
a
b
a
c
b
a
c
b
a
c
b
a
b
b
a
c
a
a
c
b
c
c
b
c
b
b
c
a
a
a
a
a
Febrero de 2010
22 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ78
Ejemplo en la web de Data Compression
Febrero de 2010
23 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ78
En vez de usar un buffer como en el caso LZ77, ahora, en el
modelo LZ78, las producciones se almacenan dinámicamente
en un diccionario y se codifican como punteros a ese
diccionario.
Febrero de 2010
23 / 25
Algoritmos Huffman
Algoritmo LZ77
Algoritmo LZ78
Codificación LZ78
En vez de usar un buffer como en el caso LZ77, ahora, en el
modelo LZ78, las producciones se almacenan dinámicamente
en un diccionario y se codifican como punteros a ese
diccionario.
Ved un ejemplo de este modelo en la web de Data
Compression,
http:
//www.data-compression.com/lempelziv.shtml
Febrero de 2010
23 / 25
Algoritmos Huffman
Índice
1
Algoritmos Huffman
2
3
Febrero de 2010
24 / 25
Algoritmos Huffman
Compresión aritmética, CA
Febrero de 2010
25 / 25
Algoritmos Huffman
Para una idea del algoritmo básico ver las transparencias 1–38
del fichero arit-PPM.pdf, Implementació d’un compresor
aritmètic utilitzant el model estadístic PPM, trabajo de CTI en
2001 de Damià Castellà y Daniel Llobera.
Febrero de 2010
25 / 25
Algoritmos Huffman
Para más información sobre la CA ver el fichero
ArithCodWNC.pdf, Arithmetic coding for data compression,
1987, de los creadores de este modelo de compresión,
I. H. Witten, R. M. Neal y J. G. Cleary.
Febrero de 2010
25 / 25
Algoritmos Huffman
Para más información sobre la CA ver el fichero
ArithCodWNC.pdf, Arithmetic coding for data compression,
1987, de los creadores de este modelo de compresión,
I. H. Witten, R. M. Neal y J. G. Cleary.
Y para entender los modelos adaptativos en la CA, como el
PPM, Prediction by partial match, ver el PPMunbounded.pdf,
Unbounded length contexts for PPM, 1997, de J. G. Cleary,
W. J. Teahan y I. H. Witten.
Febrero de 2010
25 / 25

Algoritmos básicos para la compresión sin pérdidas

Transcripción

Documentos relacionados

Grupo de Seguridad de las Tecnologías de la Información y

[email protected]

Formatos gráficos. 1ª Parte

Presentación de PowerPoint - Arquitectura y Tecnología de