Calcolatore dell'entropia di Shannon
Calcola l'entropia di Shannon e il contenuto informativo di qualsiasi stringa di testo.
Come utilizzare il calcolatore dell'entropia di Shannon
- Digita o incolla qualsiasi testo nel campo di input.
- Fare clic su Calcola: vengono visualizzate l'entropia in bit per simbolo, le informazioni totali in bit, l'entropia massima e la ridondanza.
- Rivedi la tabella della frequenza dei caratteri per vedere la probabilità e il contenuto informativo individuale di ciascun simbolo.
- Confronta i valori di entropia in testi diversi per comprenderne la relativa casualità e comprimibilità.
Riferimento Rapido
| Da | A |
|---|---|
| aaaaaaa (7 caratteri identici) | 0.000 bit/simbolo |
| abababab (2 caratteri) | 1.000 bit/simbolo |
| abcdefgh (8 caratteri univoci) | 3.000 bit/simbolo |
| Testo inglese (tipico) | ~4,0–4,5 bit/simbolo |
| ASCII casuale (95 caratteri) | ~6,57 bit/simbolo |
| Byte casuali (256 val) | 8.000 bit/simbolo |
Casi d'Uso
- •Stima della comprimibilità di un testo prima di applicare un algoritmo di compressione senza perdita di dati.
- •Analisi della casualità di password, chiavi o dati crittografici.
- •Studiare i concetti di teoria dell'informazione nei corsi di informatica e comunicazione.
- •Confronto della densità informativa di diverse lingue o stili di scrittura.
Formula
L'entropia di Shannon H viene calcolata come H = −Σ p(x) · log₂(p(x)), dove p(x) è la probabilità di ciascun simbolo univoco x nella stringa.
Domande Frequenti
Cos'è l'entropia di Shannon?
L'entropia di Shannon, introdotta da Claude Shannon nel 1948, misura la quantità media di informazione (o incertezza) in una fonte di dati.
Cosa significa entropia in bit per simbolo?
L'entropia in bit per simbolo indica quanti bit sono necessari in media per rappresentare ciascun carattere se la stringa fosse codificata in modo ottimale.
Cos'è la ridondanza nel contesto dell'entropia?
La ridondanza misura quanto spazio in più utilizza la codifica originale rispetto al minimo teorico.