Calculateur d'entropie de Shannon
Calculez l'entropie de Shannon et le contenu informatif de n'importe quelle chaîne de texte.
Comment utiliser le calculateur d'entropie de Shannon
- Tapez ou collez n'importe quel texte dans le champ de saisie.
- Cliquez sur Calculer : l'entropie en bits par symbole, les informations totales en bits, l'entropie maximale et la redondance sont affichées.
- Consultez le tableau de fréquence des caractères pour voir la probabilité et le contenu des informations individuelles de chaque symbole.
- Comparez les valeurs d'entropie dans différents textes pour comprendre leur caractère aléatoire et leur compressibilité relative.
Référence rapide
| De | Vers |
|---|---|
| aaaaaaa (7 caractères identiques) | 0,000 bits/symbole |
| abababab (2 caractères) | 1 000 bits/symbole |
| abcdefgh (8 caractères uniques) | 3.000 bits/symbole |
| Texte anglais (typique) | ~4,0–4,5 bits/symbole |
| ASCII aléatoire (95 caractères) | ~6,57 bits/symbole |
| Octets aléatoires (256 valeurs) | 8 000 bits/symbole |
Cas d'utilisation
- •Estimation de la compressibilité d'un texte avant d'appliquer un algorithme de compression sans perte.
- •Analyse du caractère aléatoire des mots de passe, des clés ou des données cryptographiques.
- •Étudier les concepts de la théorie de l'information dans les cours d'informatique et de communication.
- •Comparer la densité d'informations de différentes langues ou styles d'écriture.
Formule
L'entropie de Shannon H est calculée comme H = −Σ p(x) · log₂(p(x)), où p(x) est la probabilité de chaque symbole unique x dans la chaîne.
Questions fréquemment posées
Qu'est-ce que l'entropie de Shannon ?
L'entropie de Shannon, introduite par Claude Shannon en 1948, mesure la quantité moyenne d'informations (ou d'incertitude) dans une source de données.
Que signifie l'entropie en bits par symbole ?
L'entropie en bits par symbole vous indique combien de bits sont nécessaires en moyenne pour représenter chaque caractère si la chaîne était codée de manière optimale.
Qu'est-ce que la redondance dans le contexte de l'entropie ?
La redondance mesure la quantité d'espace supplémentaire utilisée par l'encodage d'origine par rapport au minimum théorique.