Archivi tag: comunismo

La teoria dell’informazione e i comunisti

Standard

Secondo la teoria dell’informazione di Shannon il contenuto informativo di un certo simbolo emesso da una sorgente è definito nel seguente modo.Dove, P(xi) misura la probabilità che il simbolo i venga emesso dalla sorgente, la base due è stata scelta in modo da misurare I in bit, dove per bit si intende la minima quantità di informazione necessaria a discernere tra due eventi equiprobabili (i.e. -log2(1/2)=1).

Se andiamo a fare la media della quantità di informazione di tutti i possibili simboli emessi dalla sorgente, definiamo una nuova grandezza a cui ci si riferisce come entropia della sorgente x, ovvero H(x).In cui per semplicità ci limitiamo al caso che la sorgente possa emettere solo due simboli. Contrariamente alla funzione che misura la quantità di informazione, che è illimitata, la funzione entropica ha una forma precisa, che è la seguente. Leggi il resto di questa voce

Annunci