Формула Шеннона
Выбор правильной стратегии в игре «Угадай число»
Практическое задание «Определение количества информации»
Контрольные вопросы. Задания. Компьютерный практикум
Существует множество ситуаций, когда возможные события имеют различные вероятности реализации. Например, если монета несимметрична (одна сторона тяжелее другой), то при ее бросании вероятности выпадения «орла» и «решки» будут различаться.
Формулу для вычисления количества информации для событий с различными вероятностями предложил К. Шеннон в 1948 году.
В этом случае количество информации определяется по формуле:
(2.3)
Для частного, но широко распространенного и рассмотренного выше случая, когда события равновероятны (рi = 1/N), величину количества информации I можно рассчитать по формуле:
(2.4)
Следующая страница Задание «Бросание пирамидки»