Nóla kalkulatu ha entropia on aldagai aleatorio bat (nahizik jáso bere informazio-edukia)

Ikus daigun orain neurri bat zein den erabili batzutan an artikuluak gain prozesamendu linguistikoa: entropia. Zehazki, ikus daigun nóla definitzen den ha entropia on aldagai aleatorio bat xedé kuantifikatu bere informazio-edukia (an "Information Theory, Inference and Learning Algorithms" ganik Mackay, 2003):

Hortxe daukagu entropiaren formula: (4.2), zein saiatuko garen hobekiago ulertzen an datozen sarrerak. [1284] [>>>]