Originariamente inviato da Angioletto

Devo forse cambiare punto di osservazione?
Cioè, se l'entropia associata ad un evento è massima, significa che io osservatore non so nulla di questo evento, dunque non ho informazione.
Allora, quando l'entropia (nel senso di Informazione) è massima vuol dire che il realizzarsi di un evento ti da molta informazione.
Un piccole esempio: hai 2 dadi, li lanci insieme, io ti chiedo "Che numero è uscito sul secondo dado?", e poi aggiungo "Guarda che sul primo è uscito 5".
L'aggiunta dell'informazione "è uscito il numero 5 sul primo dado" ha entropia nulla, perchè di fatto non aggiunge nessuna informazione alla domanda che tu devi rispondere (che cosa è uscito sul secondo dado).
Un altro esempio è la frase "Nel Sahara in Agosto farà caldo", in questo caso il grado informativo non è nullo ma bassissimo.