Вероятностный подход
к измерению информации
в 1928 году американский инженер Ричард Хартли
подметил закономерность и предложил меру для измерения количества информации:
где N - количество равновероятных событий;
I - количество бит в сообщении о том, что любое из N событий произошло.
Не все ситуации имеют одинаковые вероятности реализации. Существует много таких ситуаций, у которых вероятности реализации различаются. Например, если бросают несимметричный предмет
Еще один бытовой пример – «правило бутерброда»