Теория информации (лекция 1)

Июль 30, 2022

Главная
Информатика
Теория информации (лекция 1)

Содержание

2. Содержание Информационные характеристики случайных систем Информационные характеристики каналов связи Кодирование информации Сжатие информации Помехоустойчивое кодирование информации
3. Литература Ватолин, Д. Методы сжатия данных. Устройство архиваторов, сжатие изображений и видео /Д. Ватолин, А. Ратушняк,
4. Литература Панасенко, С.П. Алгоритмы шифрования: специальный справочник /С.П. Панасенко. – СПб: БХВ-Петебург, 2009. Панин, В.В. Основы
5. Информационные характеристики случайных систем Система Дискретная случайная система Энтропия Количество информации Информационные характеристики непрерывной случайной системы
6. Система
7. Целостность системы Система – это нечто большее, чем совокупность ее частей.
8. Классификация систем по виду сигналов
9. Непрерывные и дискретные сигналы
10. Классификация систем по определенности
11. Детерминированные и случайные системы
12. Дискретная случайная система
13. Энтропия
14. Основание логарифма
15. Единица измерения энтропии Двоичный логарифм: бит Натуральный логарифм: нат Десятичный логарифм: дит, харт, бан
16. Свойства энтропии Энтропия – величина вещественная, ограниченная, неотрицательная Система имеет максимальную энтропию при равновероятном распределении состояний
17. Энтропия – величина вещественная и неотрицательная
18. Энтропия – величина ограниченная
19. Максимальное значение энтропии
20. Система с равномерным распределением вероятностей
21. Энтропия бинарной системы
22. График бинарной энтропии
23. Значения для расчета энтропии
24. Сложная система
25. Энтропия сложной системы
26. Условная энтропия
27. Энтропия объединения
28. Количество информации
29. Количество информации по Хартли
30. Количество информации по Шеннону
31. Взаимная информация
32. Расчет взаимной информации
33. Непрерывная случайная система
34. Информационные характеристики непрерывной случайной системы
36. Скачать презентацию

Слайд 2

Содержание
Информационные характеристики случайных систем
Информационные характеристики каналов связи
Кодирование информации
Сжатие информации
Помехоустойчивое кодирование информации
Шифрование

информации

Слайд 3

Литература
Ватолин, Д. Методы сжатия данных. Устройство архиваторов, сжатие изображений и видео

/Д. Ватолин, А. Ратушняк, М. Смирнов, В. Юкин. – М.: ДИАЛОГ–МИФИ, 2002.
Вельшенбах, М. Криптография на Си и C++ в действии: учебное пособие /М. Вельшенбах. – М.: Издательство Триумф, 2004.
Вернер, М. Основы кодирования: учебник для ВУЗов /М.Вернер. – М.: Техносфера, 2004.
Кудряшов, Б.Д. Теория информации: учебник для вузов / Б.Д. Кудряшов. – СПб.: Питер, 2009.
Лидовский, В.В. Теория информации: учебное пособие /В.В. Лидовский. – М.: Компания Спутник+, 2004.
Морелос-Сарагоса, Р. Искусство помехоустойчивого кодирования. Методы, алгоритмы, применение / Р. Морелос-Сарагоса. – М.: Техносфера, 2005.

Слайд 4

Литература
Панасенко, С.П. Алгоритмы шифрования: специальный справочник /С.П. Панасенко. – СПб: БХВ-Петебург,

2009.
Панин, В.В. Основы теории информации. Учебное пособие для вузов /В.В.Панин. – М.: БИНОМ, Лаборатория знаний, 2011.
Смарт, Г. Криптография /Г. Смарт. – М.: Техносфера, 2005.
Сэломон, Д. Сжатие данных, изображений и звука /Д. Сэлоион. – М.: Техносфера, 2004.
Умняшкин. С.В. Теоретические основы цифровой обработки и представления сигналов: учебное пособие /С.В. Умняшкин. – М.: ИД «ФОРУМ»: ИНФРА-М, 2008.
Яглом, А.М. Вероятность и информация /А.М. Яглом, И.М. Яглом. Изд. 4-е, стереот. – М.: КомКнига, 2006.

Слайд 5