シャノン エントロピー計算機
任意のテキスト文字列のシャノン エントロピーと情報内容を計算します。
シャノン エントロピー計算機の使用方法
- 入力フィールドにテキストを入力または貼り付けます。
- 「計算」をクリックします — シンボルごとのビット単位のエントロピー、ビット単位の合計情報、最大エントロピー、および冗長性が表示されます。
- 文字頻度表を確認して、各シンボルの確率と個別の情報内容を確認してください。
- さまざまなテキストのエントロピー値を比較して、相対的なランダム性と圧縮性を理解します。
クイックリファレンス
| 変換元 | 変換先 |
|---|---|
| aaaaaaa (7 つの同一の文字) | 0.000 ビット/シンボル |
| アバババブ (2 文字) | 1.000 ビット/シンボル |
| abcdefgh (8 つの固有の文字) | 3.000 ビット/シンボル |
| 英語のテキスト (通常) | ~4.0 ～ 4.5 ビット/シンボル |
| ランダムな ASCII (95 文字) | ~6.57 ビット/シンボル |
| ランダムなバイト (256 値) | 8.000 ビット/シンボル |
使用例
- •可逆圧縮アルゴリズムを適用する前にテキストの圧縮率を推定します。
- •パスワード、キー、または暗号データのランダム性を分析します。
- •コンピューター サイエンスとコミュニケーションのコースで情報理論の概念を勉強しています。
- •さまざまな言語または文体の情報密度を比較します。
計算式
シャノンのエントロピー H は、H = −Σ p(x) · log₂(p(x)) として計算されます。ここで、p(x) は文字列内の各一意のシンボル x の確率です。
よくある質問
シャノンのエントロピーとは何ですか?
シャノン エントロピーは、1948 年にクロード シャノンによって導入され、データ ソース内の情報 (または不確実性) の平均量を測定します。
シンボルあたりのビット数で表したエントロピーは何を意味しますか?
シンボルあたりのビット数で表したエントロピーは、文字列が最適にエンコードされた場合に各文字を表すために平均で何ビットが必要かを示します。
エントロピーの文脈における冗長性とは何ですか?
冗長性は、元のエンコーディングが理論上の最小値と比較してどれだけ多くのスペースを使用するかを測定します。