Измерение информации. Содержательный подход

Содержание

Слайд 2

При использовании объёмного подхода для определения количества информации содержательная сторона текста

При использовании объёмного подхода для определения количества информации содержательная сторона текста

в учёт не берётся.
Совершенно бессмысленное сочетание символов с данной позиции имеет ненулевой информационный объём.
Слайд 3

Содержательный подход Количество информации связывается с содержанием (смыслом) полученного человеком сообщения.

Содержательный подход

Количество информации связывается с содержанием (смыслом) полученного человеком сообщения.
Количество информации,

заключённое в сообщении, должно быть тем больше, чем больше оно пополняет наши знания
Слайд 4

Теория информации Клода Шеннона Сообщение, уменьшающее неопределённость знания в два раза, несёт 1 бит информации.

Теория информации Клода Шеннона

Сообщение, уменьшающее неопределённость знания в два раза, несёт

1 бит информации.
Слайд 5

Неопределённость знания о результате некоторого события (бросания кубика, монеты, вытаскивания жребия

Неопределённость знания о результате некоторого события (бросания кубика, монеты, вытаскивания жребия

и др.) – это количество возможных результатов.
Узнав результат бросания монеты, мы получаем 1 бит информации.
Слайд 6

Главная формула информатики 2i=N Количество информации (i). содержащееся в сообщении об

Главная формула информатики

2i=N

Количество информации (i). содержащееся в сообщении об одном из

N равновероятных
результатов некоторого события, определяется из решения показательного уравнения.
Слайд 7

Слайд 8

Слайд 9

Вопросы Что такое неопределённость знаний о результате какого-либо события? Приведите примеры,

Вопросы

Что такое неопределённость знаний о результате какого-либо события? Приведите примеры,

когда неопределённость знания можно выразить количественно.
Как определяется единица измерения количества информации?
В каких случаях и по какой формуле можно вычислить количество информации, содержащейся в сообщении, используя содержательный подход?