Измерение информации: содержательный подход

Июль 23, 2022

Главная
Информатика
Измерение информации: содержательный подход

Содержание

2. Информативность сообщения Сообщение несет информацию для человека, если содержащиеся в нем сведения являются для него новыми
3. Единица измерения информации Очевидно, различать лишь две ситуации: «нет информации» — «есть информация» для измерения информации
4. Пример: После сдачи зачета или выполнения контрольной работы студент мучается неопределенностью, он не знает, какую оценку
5. Пример: На книжном стеллаже восемь полок. Книга может быть поставлена на любую из них. Сколько информации
6. Формула вычисления количества информации Если обозначить возможное количество событий, или, другими словами, неопределенность знаний N, а
7. Пример : Сколько информации содержит сообщение о выпадении грани с числом 3 на шестигранном игральном кубике?
9. Скачать презентацию

Слайд 2

Информативность сообщения
Сообщение несет информацию для человека, если содержащиеся в нем сведения

являются для него новыми и понятными.

Слайд 3

Единица измерения информации
Очевидно, различать лишь две ситуации: «нет информации» — «есть

информация» для измерения информации недостаточно. Нужна единица измерения, тогда мы сможем определять, в каком сообщении информации больше, в каком — меньше.
Единица измерения информации была определена в науке, которая называется теорией информации. Эта единица носит название «бит». Ее определение звучит так:
Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.
Неопределенность знаний о некотором событии — это количество возможных результатов события.

Слайд 4

Пример:
После сдачи зачета или выполнения контрольной работы студент мучается неопределенностью, он

не знает, какую оценку получил.
«Зачет», «незачет»? «2», «3», «4» или «5»?
Наконец, преподаватель объявляет результаты, и он получает одно из двух информационных сообщений: «зачет» или «незачет», а после контрольной работы одно из четырех информационных сообщений: «2», «3», «4» или «5».
Информационное сообщение об оценке за зачет приводит к уменьшению неопределенности знания в два раза, так как получено одно из двух возможных информационных сообщений. Информационное сообщение об оценке за контрольную работу приводит к уменьшению неопределенности знания в четыре раза, так как получено одно из четырех возможных информационных сообщений.

Слайд 5

Пример:
На книжном стеллаже восемь полок. Книга может быть поставлена на любую

из них. Сколько информации содержит сообщение о том, где находится книга?

Задаем вопросы:
- Книга лежит выше четвертой полки?
- Нет.
- Книга лежит ниже третьей полки?
- Да .
- Книга — на второй полке?
- Нет.
- Ну теперь все ясно! Книга лежит на первой полке!
Каждый ответ уменьшал неопределенность в два раза.
Всего было задано три вопроса. Значит набрано 3 бита информации. И если бы сразу было сказано, что книга лежит на первой полке, то этим сообщением были бы переданы те же 3 бита информации.

Слайд 6

Формула вычисления количества информации
Если обозначить возможное количество событий, или, другими словами,

неопределенность знаний N, а буквой I количество информации в сообщении о том, что произошло одно из N событий, то можно записать формулу:
2I = N
Количество информации, содержащееся в сообщении о том, что произошло одно из N равновероятных событий, определяется из решения показательного уравнения: 2I = N.

Слайд 7