Измерение количества информации. Вероятностный подход

Содержание

Слайд 2

2-я с.с. была придумана математиками ещё в XVII – XIX вв.

2-я с.с. была придумана математиками ещё в XVII – XIX вв.
Великий

немецкий учёный Лейбниц считал:
«Вычисление с помощью двоек… является для науки основным и порождает новые открытия… При сведении чисел к простейшим началам, каковы 0 и 1, везде появляется чудесный порядок».
Слайд 3

Позже 2-я с.с. была забыта, и только в 1936 – 1938

Позже 2-я с.с. была забыта, и только в 1936 – 1938

гг. американский инженер и математик Клод Шеннон нашёл замечательное применение 2-й с.с. при конструировании электронных схем.
Слайд 4

Почему всё-таки 2-е кодирование? Для двоичного кодирования нужно закодировать всего 2

Почему всё-таки 2-е кодирование?
Для двоичного кодирования нужно закодировать всего 2 состояния:

0 и 1. В технике как раз проще найти именно два устойчивых состояния: есть сигнал/нет сигнала; высокое напряжение/низкое напряжение; намагничено/ненамагничено; есть прожиг/нет прожига.
Слайд 5

Правила выполнения арифметических действий достаточно просты:

Правила выполнения арифметических действий достаточно просты:

Слайд 6

Неопределённость знаний (два возможных события) ? ! Неопределённость знаний уменьшилась в

Неопределённость знаний (два возможных события)

?

!

Неопределённость знаний уменьшилась в 2 раза

Измерение количества

информации. Вероятностный подход.
Слайд 7

1 бит – это количество информации, которое содержит сообщение, уменьшающее неопределённость наших знаний в 2 раза.

1 бит – это количество информации, которое содержит сообщение, уменьшающее неопределённость

наших знаний в 2 раза.
Слайд 8

Выбор оптимальной стратегии в игре «Угадай число» Интервал: от 1 до

Выбор оптимальной стратегии в игре «Угадай число»
Интервал: от 1 до 16
1-й

участник загадал число 3
? 2-й участник отгадывает число
Слайд 9

Слайд 10

Ответ: 1 бит. №1. (Задача про монетку)

Ответ: 1 бит.

№1. (Задача про монетку)

Слайд 11

№2. Выбор оптимальной стратегии в игре «Угадай число» Ответ: 4 бита.

№2. Выбор оптимальной стратегии в игре «Угадай число»

Ответ: 4 бита.

Слайд 12

Решите следующие уравнения: 22 = 2х; 4 = 2х; 23 =

Решите следующие уравнения:
22 = 2х; 4 = 2х; 23 = 2х;

8 = 2х; 24 = 2х; 16 = 2х;
22 * 23 = 2х; 32 = 2х; 23 * 23 = 2х; 64 = 2х;
Слайд 13

Решение задач «Вы выходите на следующей остановке?» – спросили человека в

Решение задач
«Вы выходите на следующей остановке?» – спросили человека в автобусе.

«Нет», - ответил он. Сколько бит информации содержит ответ?
Группа школьников пришла в бассейн, в котором 4 дорожки для плавания. Тренер сообщил, что группа будет плавать на дорожке №3. Сколько информации получили школьники из этого сообщения?
В корзине лежат 8 шаров. Все шары разного цвета. Сколько информации несёт сообщение о том, что из корзины достали красный шар?
Слайд 14

Решение задач: Была получена телеграмма: «Встречайте, вагон 7». Известно, что в

Решение задач:
Была получена телеграмма: «Встречайте, вагон 7». Известно, что в составе

поезда 16 вагонов. Какое количество информации было получено?
В школьной библиотеке 16 стеллажей с книгами. На каждом стеллаже 8 полок. Библиотекарь сообщил Пете, что нужная ему книга находится на 5-м стеллаже на 3-й сверху полке. Какое количество информации библиотекарь передал Пете?
При угадывании целого числа в диапазоне от 1 до N было получено 7 битов информации. Чему равно N?
Слайд 15

Решение задач: При угадывании целого числа в некотором диапазоне было получено

Решение задач:
При угадывании целого числа в некотором диапазоне было получено 6

битов информации. Сколько чисел содержит этот диапазон?
Сообщение о том, что ваш друг живёт на 10 этаже , несёт 4 бита информации. Сколько этажей в доме?
Сообщение о том, что Петя живёт во втором подъезде, несёт 3 бита информации. Сколько подъездов в доме?
Слайд 16

Единицы измерения количества информации: 1 байт = 8 бит = 23

Единицы измерения количества информации:
1 байт = 8 бит = 23 бит
1

Кбайт (Килобайт) = 1024 байт =
= 210 байт = 213 бит
1 Мбайт (Мегабайт) = 1024 Кбайт =
= 210 Кбайт = 220 байт = 223 бит
1 Гбайт (Гигабайт) = 1024 Мбайт =
= 210 Мбайт = 220 Кбайт = 230 байт =
= 233 бит

÷

×