Информация и информационные процессы. 11 класс

Информация и информационные процессы

§ 1. Количество информации

Формула Хартли (1928)

I – количество информации в битах
N – количество

Алфавитный подход

N – мощность алфавита

Информационный объём
символа:

сообщения длиной L:

Пример: сообщение длиной

Количество различных сообщений

N – мощность алфавита
L – длина сообщения
Q – количество

Информация и вероятность

Доля символов в русских текстах:

из 1000 символов около 175

Вероятность

Вероятность события – число от 0 до 1, показывающее, как часто

Вероятность

N – количество испытаний
m – сколько раз произошло событие

ровно 2:

чётное:

меньше 3:

2 и

Вероятность и информация

…АААААААААААААААААА

получили букву «А»:

…BАААААААААААААААААА

получили букву «В»:

Чем более неожиданно событие, тем

Вероятность и информация

при K = 1 ⇒ информация в битах

Если событие

Вероятность и информация

Аддитивность:

по 8 шариков разного цвета

всего 8⋅8 = 64 варианта

Связь с формулой Хартли

N равновероятных событий

совпадает с формулой Хартли

Если вероятности разные:

«Васе

Формула Шеннона

Количество полученной информации равно уменьшению неопределенности.

I = ΔH = Hнач

Формула Шеннона

«Идёт ли сейчас снег?» (1 – да, 2 – нет)

зимой:

летом:

Когда неопределённость наибольшая?

Система двух событий:

Неопределенность максимальна, когда все события равновероятны.

совпадает

Информация и информационные процессы

§ 2. Передача данных

Скорость передачи данных

Скорость передачи данных – это количество битов (байтов, Кбайт

Обнаружение ошибок

Бит чётности:

00 01 10 11

⇒ 000 011 101 110

Если в

Помехоустойчивые коды

111 000 000 111 000 – утроение каждого бита

принято:

Расстояние Хэмминга

Расстояние Хэмминга – это количество позиций, в которых отличаются два

Передача 3-битных блоков

dmin= 3 ⇒ r = 1

d(000000, x) = ?

Исправление

Помехоустойчивые коды Хэмминга

4 полезных бита, 3 контрольных

избыточность 3/4 =75%

3 = 1

Код Хэмминга: исправление ошибки

бит 1: (1 + 1 + 0) mod

Длинные коды Хэмминга

Контрольные биты:
1, 2, 4, 8, 16, … , 2k

Информация и информационные процессы

§ 3. Сжатие данных

Что такое сжатие?

Сообщение: АBА CАBАBА

A → 00
B → 01

АBА CАBАBА

Коэффициент сжатия

Сообщение: 10240 символов

Словарь: 5 байтов

Длина кода:
10240×2 = 20480

Сжатие без потерь

Сжатие без потерь – это такое уменьшение объема закодированных

Алгоритм RLE

RLE (англ. Run Length Encoding, кодирование цепочек одинаковых символов)

100

100

200 байтов

Файл

Алгоритм RLE

АААААААААААААААБВ

Распаковка:

15

2

Применение:
сжатие рисунков *.bmp (с палитрой)
один из этапов сжатия рисунков *.jpg

Неравномерные коды

Идея: кодировать часто встречающиеся символы более короткими кодовыми словами.

Азбука Морзе:

Префиксные коды

Префиксный код – это код, в котором ни одно кодовое

Код Шеннона-Фано

Количество символов в сообщении:

На 2 группы с примерно равным

Код Шеннона-Фано

Декодирование:

01100110001101111001

01

10

01

10

00

110

111

10

01

Т

O

Т

O

Е

Н

О

Т

Код Шеннона-Фано

учитывается частота символов
не нужен символ-разделитель
код префиксный – можно декодировать по

Алгоритм Хаффмана

По увеличению частоты:

Алгоритм Хаффмана

0

Т

100

Н

101

Код Хаффмана:

Е

110

О

111

Сравнение алгоритмов

Количество символов в сообщении:

Равномерное кодирование (8-битный код):

(179 +

Сравнение алгоритмов

Количество символов в сообщении:

(179 + 89 + 50) ⋅

Алгоритм Хаффмана

код оптимальный среди алфавитных кодов

нужно заранее знать частоты символов
при ошибке

Алгоритм LZW

1977: А. Лемпел и Я. Зив, 1984: Т. Велч

Идеи:
кодировать

Сжатие с потерями

Сжатие с потерями – это такое уменьшение объема закодированных

Снижение глубины цвета

размер ↓

качество ↓

Сжатие JPEG

Y = 0,299⋅R + 0,587⋅G + 0,114⋅B
Cb = 128 –

Сжатие JPEG

Идея: глаз наиболее чувствителен к яркости

12 чисел

+ дискретное косинусное преобразование,

Сжатие JPEG

Артефакты – заметные искажения из-за сжатия с потерями

Сжатие рисунков с потерями и без

Сжатие звука (MP3)

MP3 = MPEG-1 Layer 3, кодирование восприятия

Битрейт – это

Сжатие видео

видео = изображения + звук

Кодек (кодировщик/декодировщик) – это программа для

Сжатие: итоги

Хорошо сжимаются:
тексты (*.txt)
документы (*.doc)
несжатые рисунки (*.bmp)
несжатый звук (*.wav)
несжатое видео (*.avi)
Плохо

Информация и информационные процессы

§ 4. Информация и управление

Кибернетика

Кибернетика – это наука, изучающая общие закономерности процессов управления и передачи

Что такое система?

Система – это группа объектов и связей между ними,

Что такое система?

Свойства системы: компоненты + связи (алмаз, графит)

Подсистема: компонент-система.

Системный

Системы управления

Разомкнутая система – регулятор не получает информации о состоянии объекта

Системы с обратной связью

Замкнутая система – регулятор получает информации о состоянии

Типы систем управления

Автоматические – работают без участия человека.

Автоматизированные – собирают и

Информация и информационные процессы

§ 5. Информационное общество

Что такое информационное общество?

Прогресс в обработке информации:
письменность (около 3000 лет до

Информатизация

Информатизация – переход к информационному обществу:
внедрение информационных технологий во все сферы

Информатизация

Негативные последствия:
усиление влияния СМИ
разрушается частная жизнь людей
сложно выбрать качественные и достоверные

Информационные ресурсы

Ресурсы – условия, позволяющие после некоторой «обработки» получить желаемый результат.

Информационные технологии

Технология – это способ сделать «продукт» из исходных материалов (с

Автоматизированные системы управления

Ресторан+

Автоматизированные системы управления

… технологическими процессами (АСУ ТП)

рабочее место оператора

блок сбора информации

датчики

блок

САПР

САПР – системы автоматизированного проектирования

Геоинформационные системы (ГИС)

Дистанционное обучение

видеолекции
самостоятельная работа
письменные задания
работа с тьютором (наставником)
консультации по Интернету

тьютор

Дистанционное обучение

www.intuit.ru

www.edx.org

www.udacity.com

www.coursera.org

Гарвардский университет
Массачусетский технологический институт

Стэнфорский университет
Университет Виргиния

33 университета

www.khanacademy.org

Компьютерные тренажёры

Информационная культура

Для общества – способность общества
эффективно использовать информационные ресурсы и средства

Конец фильма

ПОЛЯКОВ Константин Юрьевич
д.т.н., учитель информатики
ГБОУ СОШ № 163, г. Санкт-Петербург
kpolyakov@mail.ru