Encontrando o comprimento mínimo rle
https://stackoverflow.com/questions/2261318
-
20-09-2019 - |
italiano
english
français
española
中国
日本の
العربية
Deutsch
한국어
Português
RussianPergunta
O algoritmo RLE clássico comprime dados usando números para representar quantas vezes o caractere seguindo um número aparece no texto nessa posição. Por exemplo:
Aaabbaaabbcece => 3a2b3a2b1c1e1c1e
No entanto, no exemplo acima, esse método resulta em ainda mais espaço sendo usado pelo texto compactado. Uma idéia melhor seria usar números para representar quantas vezes o substring Seguindo um número aparece no texto especificado. Por exemplo:
Aaabbaaabbcece => 2aaabb2ce ("aaabb" duas vezes, depois "ce" duas vezes).
Agora, minha pergunta é: como eu poderia implementar um algoritmo eficiente que descobre o número mínimo de caracteres em um RLE ideal usando esse método? Existem métodos de força bruta, mas preciso de algo mais rápido (no máximo O (comprimento2)). Talvez possamos usar programação dinâmica?
Solução
Pode ser feito em quadrático cúbico Tempo quadrático por programação dinâmica.
Aqui está algum código Python:
import sys
import numpy as np
bignum = 10000
S = sys.argv[1] #'AAABBAAABBCECE'
N = len(S)
# length of longest substring match bet s[i:] and s[j:]
maxmatch = np.zeros( (N+1,N+1), dtype=int)
for i in xrange(N-1,-1,-1):
for j in xrange(i+1,N):
if S[i] == S[j]:
maxmatch[i,j] = maxmatch[i+1,j+1]+1
# P[n,k] = cost of encoding first n characters given that last k are a block
P = np.zeros( (N+1,N+1),dtype=int ) + bignum
# Q[n] = cost of encoding first n characters
Q = np.zeros(N+1, dtype=int) + bignum
# base case: no cost for empty string
P[0,0]=0
Q[0]=0
for n in xrange(1,N+1):
for k in xrange(1,n+1):
if n-2*k >= 0:
# s1, s2 = S[n-k:n], S[n-2*k:n-k]
# if s1 == s2:
if maxmatch[n-2*k,n-k] >=k:
# Here we are incrementing the count: C x_1...x_k -> C+1 x_1...x_k
P[n,k] = min(P[n,k], P[n-k,k])
print 'P[%d,%d] = %d' % (n,k,P[n,k])
# Here we are starting a new block: 1 x_1...x_k
P[n,k] = min(P[n,k], Q[n-k] + 1 + k)
print 'P[%d,%d] = %d' % (n,k,P[n,k])
for k in xrange(1,n+1):
Q[n] = min(Q[n], P[n,k])
print
print Q[N]
Você pode reconstruir a codificação real lembrando suas escolhas ao longo do caminho.
Deixei de fora uma pequena ruga, que é que podemos ter que usar um byte extra para manter C+1 se C for grande. Se você estiver usando INTs de 32 bits, isso não ocorrerá em nenhum contexto em que o tempo de execução desse algoritmo seja viável. Se às vezes você está usando INTs mais curtos para economizar espaço, terá que pensar sobre isso e talvez adicionar outra dimensão à sua tabela com base no tamanho do mais recente C. em teoria, isso pode adicionar um fator de log (n), mas Eu não acho que isso será aparente na prática.
EDIT: Para o benefício do @moron, aqui está o mesmo código com mais declarações de impressão, para que você possa ver mais facilmente o que o algoritmo está pensando:
import sys
import numpy as np
bignum = 10000
S = sys.argv[1] #'AAABBAAABBCECE'
N = len(S)
# length of longest substring match bet s[i:] and s[j:]
maxmatch = np.zeros( (N+1,N+1), dtype=int)
for i in xrange(N-1,-1,-1):
for j in xrange(i+1,N):
if S[i] == S[j]:
maxmatch[i,j] = maxmatch[i+1,j+1]+1
# P[n,k] = cost of encoding first n characters given that last k are a block
P = np.zeros( (N+1,N+1),dtype=int ) + bignum
# Q[n] = cost of encoding first n characters
Q = np.zeros(N+1, dtype=int) + bignum
# base case: no cost for empty string
P[0,0]=0
Q[0]=0
for n in xrange(1,N+1):
for k in xrange(1,n+1):
if n-2*k >= 0:
# s1, s2 = S[n-k:n], S[n-2*k:n-k]
# if s1 == s2:
if maxmatch[n-2*k,n-k] >=k:
# Here we are incrementing the count: C x_1...x_k -> C+1 x_1...x_k
P[n,k] = min(P[n,k], P[n-k,k])
print "P[%d,%d] = %d\t I can encode first %d characters of S in only %d characters if I use my solution for P[%d,%d] with %s's count incremented" % (n\
,k,P[n,k],n,P[n-k,k],n-k,k,S[n-k:n])
# Here we are starting a new block: 1 x_1...x_k
P[n,k] = min(P[n,k], Q[n-k] + 1 + k)
print 'P[%d,%d] = %d\t I can encode first %d characters of S in only %d characters if I use my solution for Q[%d] with a new block 1%s' % (n,k,P[n,k],n,Q[\
n-k]+1+k,n-k,S[n-k:n])
for k in xrange(1,n+1):
Q[n] = min(Q[n], P[n,k])
print
print 'Q[%d] = %d\t I can encode first %d characters of S in only %d characters!' % (n,Q[n],n,Q[n])
print
print Q[N]
As últimas linhas de sua saída no abcdabcdabcdbcd são assim:
Q[13] = 7 I can encode first 13 characters of S in only 7 characters!
P[14,1] = 9 I can encode first 14 characters of S in only 9 characters if I use my solution for Q[13] with a new block 1C
P[14,2] = 8 I can encode first 14 characters of S in only 8 characters if I use my solution for Q[12] with a new block 1BC
P[14,3] = 13 I can encode first 14 characters of S in only 13 characters if I use my solution for Q[11] with a new block 1DBC
P[14,4] = 13 I can encode first 14 characters of S in only 13 characters if I use my solution for Q[10] with a new block 1CDBC
P[14,5] = 13 I can encode first 14 characters of S in only 13 characters if I use my solution for Q[9] with a new block 1BCDBC
P[14,6] = 12 I can encode first 14 characters of S in only 12 characters if I use my solution for Q[8] with a new block 1ABCDBC
P[14,7] = 16 I can encode first 14 characters of S in only 16 characters if I use my solution for Q[7] with a new block 1DABCDBC
P[14,8] = 16 I can encode first 14 characters of S in only 16 characters if I use my solution for Q[6] with a new block 1CDABCDBC
P[14,9] = 16 I can encode first 14 characters of S in only 16 characters if I use my solution for Q[5] with a new block 1BCDABCDBC
P[14,10] = 16 I can encode first 14 characters of S in only 16 characters if I use my solution for Q[4] with a new block 1ABCDABCDBC
P[14,11] = 16 I can encode first 14 characters of S in only 16 characters if I use my solution for Q[3] with a new block 1DABCDABCDBC
P[14,12] = 16 I can encode first 14 characters of S in only 16 characters if I use my solution for Q[2] with a new block 1CDABCDABCDBC
P[14,13] = 16 I can encode first 14 characters of S in only 16 characters if I use my solution for Q[1] with a new block 1BCDABCDABCDBC
P[14,14] = 15 I can encode first 14 characters of S in only 15 characters if I use my solution for Q[0] with a new block 1ABCDABCDABCDBC
Q[14] = 8 I can encode first 14 characters of S in only 8 characters!
P[15,1] = 10 I can encode first 15 characters of S in only 10 characters if I use my solution for Q[14] with a new block 1D
P[15,2] = 10 I can encode first 15 characters of S in only 10 characters if I use my solution for Q[13] with a new block 1CD
P[15,3] = 11 I can encode first 15 characters of S in only 11 characters if I use my solution for P[12,3] with BCD's count incremented
P[15,3] = 9 I can encode first 15 characters of S in only 9 characters if I use my solution for Q[12] with a new block 1BCD
P[15,4] = 14 I can encode first 15 characters of S in only 14 characters if I use my solution for Q[11] with a new block 1DBCD
P[15,5] = 14 I can encode first 15 characters of S in only 14 characters if I use my solution for Q[10] with a new block 1CDBCD
P[15,6] = 14 I can encode first 15 characters of S in only 14 characters if I use my solution for Q[9] with a new block 1BCDBCD
P[15,7] = 13 I can encode first 15 characters of S in only 13 characters if I use my solution for Q[8] with a new block 1ABCDBCD
P[15,8] = 17 I can encode first 15 characters of S in only 17 characters if I use my solution for Q[7] with a new block 1DABCDBCD
P[15,9] = 17 I can encode first 15 characters of S in only 17 characters if I use my solution for Q[6] with a new block 1CDABCDBCD
P[15,10] = 17 I can encode first 15 characters of S in only 17 characters if I use my solution for Q[5] with a new block 1BCDABCDBCD
P[15,11] = 17 I can encode first 15 characters of S in only 17 characters if I use my solution for Q[4] with a new block 1ABCDABCDBCD
P[15,12] = 17 I can encode first 15 characters of S in only 17 characters if I use my solution for Q[3] with a new block 1DABCDABCDBCD
P[15,13] = 17 I can encode first 15 characters of S in only 17 characters if I use my solution for Q[2] with a new block 1CDABCDABCDBCD
P[15,14] = 17 I can encode first 15 characters of S in only 17 characters if I use my solution for Q[1] with a new block 1BCDABCDABCDBCD
P[15,15] = 16 I can encode first 15 characters of S in only 16 characters if I use my solution for Q[0] with a new block 1ABCDABCDABCDBCD
Q[15] = 9 I can encode first 15 characters of S in only 9 characters!
Outras dicas
Não acredito que a programação dinâmica funcione aqui, pois você pode ter sub-rastreamento cerca de metade do comprimento da sequência completa na solução. Parece que você precisa usar força bruta. Para um problema relacionado, confira o Algoritmo Lempel-Ziv-Welch. É um algoritmo eficiente que encontra uma codificação mínima usando substringas.
Uma maneira muito comum de codificar dados compactados da RLE é designar um byte especial como o "dle" (desculpe, não me lembro do que esse termo significa), o que significa "o próximo é uma contagem seguida por um byte".
Dessa forma, apenas as seqüências repetidas precisam ser codificadas. Normalmente, o símbolo DLE é escolhido para minimizar a chance de ocorrer naturalmente nos dados não compactados.
Para o seu exemplo original, vamos definir a parada completa (ou ponto) como o DLE, isso codificaria seu exemplo da seguinte forma:
AAABBAAABBCECE => 3A2B3A2B1C1E1C1E <-- your encoding
AAABBAAABBCECE => .3ABB.3ABBCECE <-- my encoding
Você codificaria apenas uma sequência se ela realmente acabar como espaço para economizar. Se você limitar o comprimento das seqüências a 255, de modo que a contagem se encaixe em um byte, uma sequência pega 3 bytes, o dle, a contagem e o byte para repetir. Você provavelmente não codificaria sequências de 3 bytes, porque a decodificação desses carrega um pouco mais de sobrecarga do que uma sequência não codificada.
No seu exemplo trivial, a economia é inexistente, mas se você tentar comprimir um bitmap contendo uma captura de tela de um programa principalmente branco, como o bloco de notas ou um navegador, verá uma economia de espaço real.
Se você encontrar o personagem DLE naturalmente, basta emitir uma contagem de 0, já que sabemos que nunca codificaríamos uma sequência de 0 comprimentos, o DLE seguido por um 0 byte significa que você o decodifica como um único byte.
Maneiras muito inteligentes de encontrar substâncias correspondentes podem levar a considerar árvores de sufixo e matrizes de sufixo. Pensando em matrizes de sufixo e compressão pode levá -lo ao http://en.wikipedia.org/wiki/burrows%E2%80%93wheeler_transform. Essa pode ser a maneira mais elegante de aumentar a codificação de comprimento de corrida.
