Herenegun eta atzo ikusten genuen nóla 1 bit zen hóri informazio-kantitatea zein den aurkitzen an aukera binario bat non bi emaitza posibleak dirén ekiprobrableak [adibidez, txanpon regular bat airera botata: P(aurpegi) = P(gurutze) = (1/2)]:
H(1/2, 1/2) = (1/2)*log2(2)+(1/2)*log2(2) = 2*(1/2)*log2(2) = log2(2) = 1 bit = 1 txanpon
eta nóla, adibidez 2 txanpon regular boteaz, lortzen genuen egoera probabilistiko bat zeinen emaitza transmititzeko nahikoa lirakén 2 bit [P(aurpegi, aurpegi) = P(aurpegi, gurutze) = P(gurutze, aurpegi) = P,(gurutze, gurutze) = (1/4)]:
H(1/4, 1/4, 1/4, 1/4) = (1/4)*log2(4)+(1/4)*log2(4)+(1/4)*log2(4)+(1/4)*log2(4) = 4*(1/4)*log2(4) = log2(4) = 2 bit = 2 txanpon
halan ze,
... halako saio baten emaitza jakinarazteko (4 emaitza posible eta ekiprobableak), nahikoa litzaké kode bat non emanen zirén bi erantzun binario (hain zuzen, 2 "binary unit", 2 bit).
Eta horrela, 3 txanpon regular aldi berean botata, izanen genuke saio aleatorio bat kin 8 emaitza posible ekiprobable, zeinen emaitza transmititzeko nahikoa lirakén 3 bit:
H(1/8, 1/8, 1/8, 1/8,1/8, 1/8, 1/8, 1/8) = log2(8) = 3 bit = 3 txanpon
non daukagu ze, bitárten bit-kopurua den progresatzen aritmetikoki (géhituz 1), saioaren emaitza posibleak progresatzen dirá geometrikoaki (bidérkatuz bider 2):
H(1/16, 1/16, 1/16, 1/16,1/16, 1/16, 1/16, 1/16,1/16, 1/16, 1/16, 1/16,1/16, 1/16, 1/16, 1/16) = log2(16) = 4 bit = 4 txanpon [16 emaitza posible]
H(1/32, ..., 1/32) = log2(32) = 5 bit = 5 txanpon [32 emaitza posible]
H(1/256, ..., 1/256) = log2(256) = 8 bit = 8 txanpon [256 emaitza posible]
H(1/(2^n), ..., 1/(2^n)) = log2(2^n) = n bit = n txanpon [2^n (alegia, 2 ber n) emaitza posible]
Saio aleatorio batean 2 ber n (2^n) emaitza posible ekiprobable egonda [adibidez, 2^20=1.048.576], nahikoa lirakén n bit [adibidez, log2(2^20) = 20 bit] ki transmititu bere emaitza.
Esan nahi baita ze konsideratuko bagenu saio aleatorio bat kin 32.768 emaitza posible ekiprobable, nahikoa litzaké kode bat non emanen zirén 15 erantzun binario (hain zuzen, 15 "binary unit", 15 bit) afin transmititu bere emaitza:
H(1/(2^15), ..., 1/(2^15)) = log2(2^15) = 15 bit = 15 txanpon [32.768 emaitza posible]
Eta, kodean, beste 5 bit gehiago erabilita, jaso geinke emaitza ti saio aleatorio bat kin 1.048.576 emaitza posible ekiprobable:
2^20 = 1.048.576 eta hortaz log2(2^20 = 1.048.576) = 20 bit = 20 txanpon [1.048.576 emaitza posible]
20 bit, 20 erantzun binario, 20 txanpon, 1.048.576 emaitza posible, 1.048.576 aukera kodifikagarri.
Eta hurrengo bit-ak emanen dú
beste 1.048.576 aukera (kodifikagarri) gehigarri (diogunez, bit-en
botere kodifikatzailea progresatzen dá
geometrikoki). [1288] [
>>>]
Etiketak: Shannon