Содержание
- 2. Содержательный подход Содержательный подход к измерению информации применяется для измерения количества информации в сообщении, получаемом человеком.
- 3. 1) Перед тем, как событие произойдет, имеется неопределенность знания человека об ожидаемом событии. Это неопределенность может
- 4. Формула, используемая для вычисления количества информации, зависит от ситуаций, которых может быть две: 1. Все возможные
- 5. Содержательный подход: равновероятные события Если обозначить за i количество информации в сообщении о том, что произошло
- 6. Пример 1. Сколько информации содержит сообщение о том, что из колоды карт достали даму пик? Решение.
- 7. Пример 2. Сколько информации содержит сообщение о выпадении грани с числом 3 на шестигранном игральном кубике?
- 8. Если вероятность некоторого события равна p, а i (бит) — это количество информации в сообщении о
- 9. Пример 3. На автобусной остановке останавливаются два маршрута автобусов: № 5 и № 7. Определить, сколько
- 10. Формула Хартли (1) – частный случай формулы Шеннона(3). Если имеется N равновероятных событий (результат бросания монеты,
- 11. Пример 4. На остановке останавливаются автобусы № 5 и № 7. Сообщение о том, что к
- 12. Пример Находим p5: Теперь вспомним соотношение p5 = 2 · p7 : Ответ: i7 = 5
- 13. Содержательный подход: неравновероятные события Из полученного результата следует вывод: уменьшение вероятности события в 2 раза увеличивает
- 14. Измерение информации: алфавитный подход Алфавитный подход используется для измерения количества информации в тексте, представленном в виде
- 15. Измерение информации: алфавитный подход Каждый символ текста несет определенное количество информации – информационный вес символа. Информационный
- 16. Все множество различных символов, используемых для записи текстов, называется алфавитом. Размер алфавита — целое число, которое
- 17. Определение информационных весов символов может происходить в двух приближениях: 1) в предположении равной вероятности (одинаковой частоты
- 18. Если допустить, что все символы алфавита в любом тексте появляются с одинаковой частотой, то информационный вес
- 19. Измерение информации: алфавитный подход Согласно формуле К.Шеннона, количество информации, которое несет символ, вычисляется следующим образом: i
- 20. Измерение информации: алфавитный подход Зная информационный вес одного символа (i) и размер текста, выраженный количеством символов
- 21. Измерение информации: алфавитный подход Из формулы (2) следует, что при N = 2 (двоичный алфавит) информационный
- 22. Измерение информации: алфавитный подход Для представления текстов, хранимых и обрабатываемых в компьютере, часто используется алфавит мощностью
- 23. Измерение информации: алфавитный подход Приближение разной вероятности встречаемости символов в тексте В реальном тексте разные символы
- 24. Измерение информации: алфавитный подход Статистический анализ русских текстов показывает, что частота появления буквы “о” составляет 0,09.
- 25. Измерение информации: алфавитный подход Самой редкой в текстах буквой является буква “ф”. Ее частота равна 0,002.
- 26. Измерение информации: алфавитный подход Информационный объем текста с учетом разных информационных весов символов алфавита вычисляется по
- 27. Пример 1. Для записи текста используются только строчные буквы русского алфавита и “пробел” для разделения слов.
- 28. Пример Решение. В русском алфавите 33 буквы. Сократив его на две буквы (например, “ё” и “й”)
- 29. Пример 2. Вычислить информационный объем текста размером в 2000 символов, в записи которого использован алфавит компьютерного
- 30. Пример 3. Объем сообщения, содержащего 2048 символов, составил 1/512 часть Мегабайта. Каков размер алфавита, с помощью
- 31. Пример Решение. Переведем информационный объем сообщения из мегабайтов в биты. Для этого данную величину умножим дважды
- 32. Пример Пример 4. В алфавите племени МУМУ всего 4 буквы (А, У, М, К), один знак
- 33. Пример Решение. Поскольку объем книги достаточно большой, то можно допустить, что вычисленная по ней частота встречаемости
- 34. Пример
- 36. Скачать презентацию