1 bit (binary digit: unitatea e eduki informatiboa): dá kantitatea e eduki informatiboa zein gordetzen da an aukera binario ekiprobabilistiko bat

Shannon (1948) zúen galdetzen (ikus atzoko sarrera):

Hortaz, demagun egoera probabilistiko bat non txanpon regular bat airera bota behar dugun afin erábaki zérbait. Horrek esan nahi du ze bi emaitza posible dauzkagu: aurpegi (A) ala gurutze (G), eta bakoitzaren probabilitatea berdina dela (0,5). Nóla neurtuko genuke zénbat "choice" dagoen, edo noláko inseguruak gauden gain emaitza?

Ba, jarraiki formula ganik Shannon:

non K = 1 (afin sinplifikatu emaitza) eta logaritmo-oinarria = 2 (afin emaitzak interpretazio binarioa izan da(g)ien), eta non, aplíkatuz logaritmoen propietate bat, daukagun ze: log2(1/p) = -log2(p); formula hori honela aplikatuko zaio ki gure goragoko egoera probabilistiko hori:

H(1/2, 1/2) = (1/2)*log2(2)+(1/2)*log2(2) = 1 bit 

non emaitza dá justuki 1 bit (1 binary unit). Esan nahi baita ze aukera binario ekiprobabilistko batek ematen digú kantitate unitarioa e informazioa (1 bit). [⇶]