Подходы к определению количества информации

Август 8, 2022

Главная
Информатика
Подходы к определению количества информации

Содержание

2. Измерение информации: алфавитный подход *
3. Алфавитный подход к измерению информации Познакомимся с способом измерения информации, который не связывает количество информации с
4. Алфавит и его мощность Все множество используемых в языке символов будем традиционно называть алфавитом. Обычно под
5. Сколько информации несет один символ в русском языке Представьте себе, что текст к вам поступает последовательно,
6.  АЛФАВИТНЫЙ ПОДХОД К ИЗМЕРЕНИЮ ИНФОРМАЦИИ МОЩНОСТЬ АЛФАВИТА число символов в алфавите (его размер) N ИНФОРМАЦИОННЫЙ
7. Достаточный алфавит Удобнее всего измерять информацию, когда размер алфавита N равен целой степени двойки. Например, если
8. Единицы измерения информации *
10. Скачать презентацию

Слайд 2

Измерение информации: алфавитный подход
*

Слайд 3

Алфавитный подход к измерению информации
Познакомимся с способом измерения информации, который не

связывает количество информации с содержанием сообщения.
При алфавитном подходе к определению количества информации отвлекаются от содержания информации и рассматривают информационное сообщение как последовательность знаков определенной знаковой системы.

Слайд 4

Алфавит и его мощность
Все множество используемых в языке символов будем традиционно

называть алфавитом.
Обычно под алфавитом понимают только буквы, но поскольку в тексте могут встречаться знаки препинания, цифры, скобки, то мы их тоже включим в алфавит. В алфавит также следует включить и пробел, т.е. пропуск между словами.
Полное количество символов алфавита принято называть мощностью алфавита.
Будем обозначать эту величину буквой N. Например, мощность алфавита из заглавных русских букв без буквы ё равна 32.
АБВГДЕЖЗИЙКЛМНОПРСТУФХЦЧШЩЬЪЭЮЯ

Слайд 5

Сколько информации несет один символ в русском языке
Представьте себе, что текст

к вам поступает последовательно, по одному знаку, словно бумажная ленточка, выползающая из телеграфного аппарата. Предположим, что каждый появляющийся на ленте символ с одинаковой вероятностью может быть любым символом алфавита.
В каждой очередной позиции текста может появиться любой из N символов.
Тогда, согласно известной нам формуле 2I = N , каждый такой символ несет I бит информации, которое можно определить из решения уравнения: 2I = 32.
Получаем: I = 5 бит.

Привет! как дела?

Слайд 6


АЛФАВИТНЫЙ ПОДХОД К ИЗМЕРЕНИЮ ИНФОРМАЦИИ
МОЩНОСТЬ АЛФАВИТА
число символов в алфавите (его

размер)

ИНФОРМАЦИОННЫЙ ВЕС СИМВОЛА
количество информации в одном символе

I= K × i

АЛФАВИТ – это вся совокупность символов, используемых в некотором
языке для представления информации
МОЩНОСТЬ АЛФАВИТА ( N ) – это число символов в алфавите.

2 i = N

ЧИСЛО СИМВОЛОВ В СООБЩЕНИИ

КОЛИЧЕСТВО ИНФОРМАЦИИ В СООБЩЕНИИ

Слайд 7

Достаточный алфавит
Удобнее всего измерять информацию, когда размер алфавита N равен целой

степени двойки. Например, если N=16, то каждый символ несет 4 бита информации потому, что 24 = 16. А если N =32, то один символ «весит» 5 бит.
Ограничения на максимальный размер алфавита теоретически не существует. Однако есть алфавит, который можно назвать достаточным. Это алфавит мощностью 256 символов.
Поскольку 256 = 28, то один символ этого алфавита «весит» 8 бит. Причем 8 бит информации — это настолько характерная величина, что ей даже присвоили свое название — байт.
1 байт = 8 бит

Слайд 8

Подходы к определению количества информации

Содержание

Измерение информации: алфавитный подход*

Алфавитный подход к измерению информацииПознакомимся с способом измерения информации, который не

Алфавит и его мощностьВсе множество используемых в языке символов будем традиционно

Сколько информации несет один символ в русском языкеПредставьте себе, что текст

АЛФАВИТНЫЙ ПОДХОД К ИЗМЕРЕНИЮ ИНФОРМАЦИИМОЩНОСТЬ АЛФАВИТА число символов в алфавите (его

Достаточный алфавитУдобнее всего измерять информацию, когда размер алфавита N равен целой

Единицы измерения информации*

Похожие презентации