Измерение информации

Сентябрь 12, 2022

Главная
Информатика
Измерение информации

Содержание

2. Множество символов, используемых при записи текста называется алфавитом. Полное количество символов в алфавите называется мощностью алфавита.
3. Пример: N=2, i=1бит N=4, i=2бит N=8, i=3бит N=256, i=8бит 8 бит=1 байт K – число символов
5. Вероятностный подход ,где N – число событий; I – количество информации, заключенное в этом сообщении (в
6. Формулу для вычисления количества информации для событий с различными вероятностями предложил К. Шеннон в 1948 году.
8. Скачать презентацию

Слайд 2

Множество символов, используемых при записи текста называется алфавитом.
Полное количество символов

в алфавите называется мощностью алфавита.

i=log2N

i – количество информации, которое несет каждый символ алфавита;
N – мощность алфавита.

N=2i

Слайд 3

Пример: N=2, i=1бит
N=4, i=2бит
N=8, i=3бит
N=256, i=8бит
8 бит=1 байт
K

– число символов в тексте;
I – объем информации всего текста;
i – информационный объем одного символа в используемом алфавите.

Слайд 4

Слайд 5

Вероятностный подход
,где N – число событий; I – количество информации, заключенное

в этом сообщении (в битах).

Минимальный размер сообщения о том, что произошло одно из двух равновозможных событий, равен одному биту.

Слайд 6

Формулу для вычисления количества информации для событий с различными вероятностями предложил

К. Шеннон в 1948 году.

где I – количество информации, N – количество возможных событий, pi – вероятности отдельных событий.