1 bit (binary digit: unitatea on eduki informatiboa): dá kantitatea on eduki informatiboa zein den gordetzen an aukera binario ekiprobabilistiko bat

Shannon (1948) zúen galdetzen (ikus atzoko sarrera):

Hortaz, demagun egoera probabilistiko bat non txanpon regular bat airera bota behar dugun afin erábaki zerbait. Horrek esan nahi du ze bi emaitza posible dauzkagu: aurpegi (A) ala gurutze (G), eta bakoitzaren probabilitatea berdina dela (0,5). Nóla neurtuko genuke zénbat "choice" dagoen, edo noláko inseguruak gauden gain emaitza?

Ba, jarráiki formula ganik Shannon:

non hartzen dugún K = 1 (arrén sinplifikatu emaitza) eta logaritmo-oinarria = 2 (arrén emaitzak interpretazio binarioa izan da(g)ien), eta non, aplikatuz logaritmoen propietate bat, daukagun ze: 

log2(1/p) = -log2(p)

Formula hori honela aplikatuko zaio ki gure goragoko egoera probabilistiko hori:

H(1/2, 1/2) = (1/2)*log2(2)+(1/2)*log2(2) = 1 bit 

non emaitza dén justuki 1 bit (1 binary unit). Esan nahi baita ze aukera binario ekiprobabilistko batek ematen digú ha unitatea on informazioa (1 bit). [1286] [>>>]