Shannon (1948): "Can we find a measure of how much 'choice' is involved in the election of the event or of how uncertain we are of the outcome?"

Atzo ikusten genuen nóla kalkulatu a entropia e aldagai aleatorio bat finéz kalkulatu neurri bat zein interpreta liteke nola aldagai horren eduki informatiboa. Gehiago, irakurtzen genuen nóla atzoko autoreak referitzen ziren ki eduki informatibo hori nola "Shannon information content", zeren kontzeptu eta neurri hori izan zen aurkeztua, aztertua eta aplikatua an esparru informatiboa ganik Claude Shannon an bere "A Mathematical Theory of Communication" (1948). Hortaz, utzi deiogun ki Shannon (1948) zehazten zéin galderari erantzun nahi zion noiz planteatu zuen kontzeptu (erantzun) hori:

Hauxe zen galdera, beraz:

Can we find a measure of how much 'choice' is involved in the election of the event or of how uncertain we are of the outcome? [Shannon, 1948]

Azkenik esan ze Shannon-en goragoko formula hori dá atzoko formula bera non hautatu den K = 1 eta logaritmo-oinarria = 2 (eta non: log2(1/p) = -log2(p)). Bi aukera horiek (K =1 eta logaritmo-oinarria =2) daukaté zerikusirk kin unitatea zein aukeratu dén, zeini deitu zaion bit-a (lotzen da kin aukera binarioak), eta zeintaz mintzatuko garen aurrerago. [⇶]