Ingegneria informatica
Torna a Matematica

Teoria dell'informazione

La teoria dell'informazione misura sorpresa, compressione, trasmissione e perdita di dati.

Interattivo

Prova subito

Modifica i dati e controlla risultato e passaggi senza aspettare il server.

Teoria dell'informazione entropia 1 bit
  1. Evento con probabilita 0,5.
  2. L'entropia misura quanta incertezza rimane prima di conoscere il risultato.

Teoria

  • Teoria dell'informazione
  • Matematica Concetto Idea Uso Bit Scelta tra due possibilita.
  • Entropia Misura incertezza media.
  • Compressione e ML.
  • Codifica Rappresenta messaggi con simboli.
  • File e protocolli.
  • Canale Mezzo che trasporta informazione.
  • Rete, radio, memoria.

Esempi

  1. La compressione funziona bene quando alcuni simboli sono molto piu frequenti di altri.
  2. Quanti bit servono per distinguere 8 possibilita uguali
  3. Soluzione: 2 3 = 8, quindi 3 bit.

Esercizi

Collegamenti