Колмогоровская сложность случайных последовательностей

Слайд 2

Шенноновская энтропия. Проблемы применения к индивидуальным объектам Энтропия — мера неопределенности

Шенноновская энтропия. Проблемы применения к индивидуальным объектам

Энтропия — мера неопределенности некоторой

системы, например, какого-либо эксперимента, который может иметь разные исходы.
Недостатки подхода Шеннона:
Если применить энтропию Шеннона к текстам, то выходит, что количество информации в тексте зависит только от частот символов, но не зависит от их порядка.
При таком подходе получается, что два текста: исходный и отсортированный по символам – содержат одинаковое количество информации.
Слайд 3

Новизна теории сложности Колмогорова В начале 1960-х гг. Колмогоров, Соломонов, Левин

Новизна теории сложности Колмогорова

В начале 1960-х гг. Колмогоров, Соломонов, Левин и

другие ученые сформулировали способ измерения количества информации в конкретных объектах (строках), а не случайных величинах.
Основная идея теории сложности Колмогорова в том, что сложность строки определяется длиной наикратчайшей компьютерной программы, способной ее выдать.
Слайд 4

Колмогоровская сложность Пусть F – алгоритм, аргументами и результатами которого являются

Колмогоровская сложность

Пусть F – алгоритм, аргументами и результатами которого являются двоичные

слова.
Слово x является описанием слова y, если F(x) = y.
Сложность слова y относительно F – длина его кратчайшего описания:
KF(y) = min {|x|: F(x) = y}.
Слайд 5

Колмогоровская сложность

Колмогоровская сложность

 

Слайд 6

Колмогоровская сложность

Колмогоровская сложность

 

Слайд 7

Функция K является перечислимой сверху

Функция K является перечислимой сверху

 

Слайд 8

Невычислимость Колмогоровской сложности. Идея доказательства от противного. Парадоксы Не существует такого

Невычислимость Колмогоровской сложности. Идея доказательства от противного. Парадоксы

Не существует такого алгоритма,

который по данному слову y определяет его колмогоровскую сложность.
Парадокс интересных чисел связан с утверждением, что все числа интересные:
1 – это первое число. 2 – первое чётное число. 3 – первое нечётное простое число. 4 – интересное число, потому что 4 = 2 × 2 и 4 = 2+2.
В какой-то момент мы можем встретить число без интересных свойств. И мы можем назвать это число первым неинтересным номером – но это само по себе уже интересное свойство. В итоге неинтересные числа тоже оказываются интересными.