Стохастическая модель

Содержание

Слайд 2

Случайная функция (1) Случайная функция X(t) – это функция, сечение которой

Случайная функция (1)

Случайная функция X(t) – это функция, сечение которой (т.е.

если зафиксировать t), представляет собой обычную случайную величину с определенной плотностью вероятности. В результате проведения опыта (т.е. реализация X(t) ) случайная функция превращается в обычную функцию. Например (рис. 1) случайная функция обозначает изменение напряжения в сети (допустим оно должно колебаться около значения u0. Тогда реализация случайной функции будет представлять собой детерминированную функцию, колеблющуюся около значения u0. Если было проведено несколько экспериментов, то получается семейство реализаций (рис. 2).
Случайная функция, параметром которой является время t, называется случайным процессом.

Рис. 1

Рис. 2

Сечение

Слайд 3

Случайная функция (2) Случайная функция может зависеть от нескольких переменных. Например,

Случайная функция (2)

Случайная функция может зависеть от нескольких переменных. Например, броуновское

движение молекулы можно описать с помощью двух случайных функций X(t) и Y(t), описывающих положение частицы на плоскости. Такой случайный процесс называется векторным. При

фиксированном t такой процесс представляет собой систему двух
случайных величин, изображаемую случайным вектором Q(t) (см. рис. 1). При изменении t точка Q будет блуждать по плоскости (см. рис. 2).

Рис. 1

Рис. 2

Слайд 4

Случайная функция (3) Многомерный случайный процесс – когда существует множество описываемых

Случайная функция (3)

Многомерный случайный процесс – когда существует множество описываемых случайным

процессом параметров. Например, полет ракеты характеризуется ее координатами (X(t),Y(t),Z(t)), центра массы ракеты, объемом топлива, ориентацией (углами наклона) и т.д. В этом случае «блуждание» точки, описывающей состояние объекта или системы, в моменты времени t будет происходить в многомерном фазовом пространстве.
Случайный процесс, блуждающий по состояниям (процессы с качественными состояниями). Когда объект или система описываются счетным множеством состояний, в одном из которых система может находиться в момент времени t. Такой процесс описывается с помощью теории марковских процессов.
Слайд 5

Классификация случайных процессов (1) Процесс с непрерывными состояниями – процесс, сечение

Классификация случайных процессов (1)

Процесс с непрерывными состояниями – процесс, сечение которой

в любой момент t представляет собой непрерывную случайную величину (с.в.), т.е. множество значений с.в. непрерывно.
Процесс с дискретными состояниями – процесс, сечение которого в любой момент времени t, представляет собой дискретную с.в., т.е. множество значений с.в. либо конечно, либо счетно.
Слайд 6

Классификация случайных процессов (2) Процесс с непрерывным временем – процесс, при

Классификация случайных процессов (2)

Процесс с непрерывным временем – процесс, при котором

объект может изменять состояние в любой момент времени.
Процесс с дискретными временем – процесс, при котором объект может менять состояние в определенные моменты времени.
Таким образом, все случайные процесс можно разделить на четыре класса:
1а. С дискретным состояниями и дискретным временем (цепи Маркова).
1б. С дискретным состояниями и непрерывным временем (непрывные марковские процессы).
2а. С непрерывными состояниями и дискретным временем.
2б. С непрерывными состояниями и непрерывным временем.
Слайд 7

Характеристики случайных процессов Довольно часто в инженерных задачах пользуются только их

Характеристики случайных процессов

Довольно часто в инженерных задачах пользуются только их числовыми

характеристиками с.в.: мат. ожидание, дисперсия, ковариация, начальные и центральные моменты и т.д. Так, и для случайного процесса можно выделить аналог числовой характеристики с.в., только таким характеристиками будут функции аргумента t:

 

Слайд 8

Теория случайных процессов (функций) Р-схема моделирует случайный процесс Случайный процесс X(t)

Теория случайных процессов (функций)

Р-схема моделирует случайный процесс
Случайный процесс X(t) –

это функция, которая в любой момент времени t принимает значения, являющиеся случайной величиной (в случае P-схемы t – дискретная величина).
Реализация случайного
процесса X(t) :
одна из возможных
траекторий функции,
описываемой X(t).
Слайд 9

Примеры случайных процессов Случайны автомат (на дугах этого автомата стоят вероятности

Примеры случайных процессов

Случайны автомат (на дугах этого автомата стоят вероятности перехода

из одного состояния в другое.
Частица, совершающая броуновское движение, меняет свое состояние случайным образом.
ЭВМ в процессе эксплуатации: может пребывать в состояниях: работает нормально; имеет необнаруженную неисправность; неисправность обнаружена, ищется ее причина; ремонтируется.
Слайд 10

Стохастическая модель Цель исследования стохастической модели – нахождение характеристик объекта моделирования

Стохастическая модель

Цель исследования стохастической модели – нахождение характеристик объекта моделирования в

стационарном состоянии (стационарные вероятности), т.е. состояние объекта, когда время стремится к бесконечности (t→∞).

t

0

Слайд 11

P-схема моделирования t t0 t1 t2 t3 t4 t5 t6 t7

P-схема моделирования

t

t0

t1

t2

t3

t4

t5

t6

t7

Слайд 12

А.А. Марков (старший) – основоположник теории сетей Маркова А.А. Марков (1856

А.А. Марков (старший) – основоположник теории сетей Маркова

А.А. Марков (1856 -

1922)
Оставил труды в области Теории вероятностей и случайных процессов, математическом анализе и теории чисел.
Не путать с А.А. Марковым младшим (сын), создателем алгорифмов Маркова.
Слайд 13

Модель представляет собой граф, где узлы обозначают состояние моделируемого объекта, а

Модель представляет собой граф, где узлы обозначают состояние моделируемого объекта, а

дуги – вероятность перехода из одного состояния в другое.

Sk - состояние объекта моделирования
λij- вероятность переходи из i-го состояния в j-ое

Марковский процесс

Слайд 14

Марковские процессы Марковские процессы делятся на два вида: Дискретные (цепи Маркова),

Марковские процессы

Марковские процессы делятся на два вида:
Дискретные (цепи Маркова), где система

меняет свое состояние в определенные такты времени (P-схема)
Непрерывные цепи Маркова, где система меняет свое состояние в произвольный момент времени (q-схема)

t

t0

t1

t2

t3

t4

t5

t6

t7

t

t0

t1

t2

t3

t4

t5

t6

t7

Слайд 15

Свойство марковости

Свойство марковости

 

Слайд 16

Условная вероятность Условной называется вероятность, что произойдет какое-либо событие, если известно,

Условная вероятность

Условной называется вероятность, что произойдет какое-либо событие, если известно, что

произошло до этого произошло другое событие.
Условная вероятность записывается в виде:
Р(A/B) или Р(A|B), где A – событие, B – событие, которое уже произошло.
Условная вероятность вычисляется по формуле:
Р(A/B)=Р(AB)/ Р(B),
где Р(AB) – вероятность того, что произойдут сразу два события A и B.
Если Р(A/B)= Р(A)*Р(B), то события A и B независимы.
Слайд 17

Примеры дискретных марковских процессов 1. Ветвящийся процесс Гальтона – Ватсона Наблюдается

Примеры дискретных марковских процессов

1. Ветвящийся процесс Гальтона – Ватсона
Наблюдается популяция живых

организмов в дискретные моменты времени t=0,1,2,… . В единицу времени один организм производит случайное количество потомков X. pn – вероятность того, что X=n. Xt – число особей в момент t. Стохастическая последовательность X1, X2, … , Xt образует цепь Маркова.
2. Случайный автомат (автомат, который случайным образом переходит из одного состояния в другое; к дугам, показывающим переход, приписывается вероятность перехода из одного состояния в другое). Переход в новое состояние происходит в определенные моменты времени.
3. Моделирование надежности работы прибора. В систему входит n приборов. Состояния S0 – нет исправных приборов, S1 – один исправный прибор,…, Sn – все приборы исправны. Состояние прибора проверяется регулярно в определенные моменты времени.
Слайд 18

Дискретная сеть Маркова (P-схема) Матрица переходных вероятностей (P) π(i) =(1,0,0,0) –

Дискретная сеть Маркова (P-схема)

Матрица переходных вероятностей (P)

π(i) =(1,0,0,0) – вектор вероятностей

состояний (показывает вероятность того, что система будет находиться в i-м состоянии). π(i) – это сечение случайного процесса.
Слайд 19

Матрица вероятностей перехода Сумма всех элементов в строке матрицы вероятностей равняется единице!!! =1 =1 =1 =1

Матрица вероятностей перехода

Сумма всех элементов в строке матрицы вероятностей равняется единице!!!

=1

=1

=1

=1

Слайд 20

Имитационное моделирование дискретной сети Маркова π(n)=π(n-1)*P (*), где n – номер

Имитационное моделирование дискретной сети Маркова

π(n)=π(n-1)*P (*), где n – номер шага

моделирования.
Моделирование представляет собой последовательность вычислений по формуле * (шаг моделирования). После применения формулы перепишем значение из P’ в P (т.е. P=P’) и совершим еще один шаг моделирования. Вычисления продолжаются до тех пор, пока среднеквадратичное отклонение между P и P’ не будет меньше заданного значения ε (||P-P’||) < ε.
Слайд 21

Однородная и неоднородная цепи Маркова Однородная цепь – где на каждом

Однородная и неоднородная цепи Маркова

Однородная цепь – где на каждом шаге

применяется одна и та же таблица вероятностей перехода.

Неоднородная цепь – где для каждого шага существует своя таблица вероятностей перехода (если моделируется n переходов, то необходимо n матриц (P1,P2,…,Pn).

n

Слайд 22

Разложимая и эргодическая цепи Маркова Разложимая цепь – содержит невозвратные (поглощающие)

Разложимая и эргодическая цепи Маркова

Разложимая цепь – содержит невозвратные (поглощающие) состояния

(множества состояний). Из таких вершин не выходит ни одна дуга. В установившемся режиме вероятность пребывания в таком состоянии равна 1. Необходимым условием того, что состояние i является поглощающим является: pii=1.

Неразложимая цепь – Не содержит поглощающих состояний или поглощающих подмножеств узлов. Такие цепи описываются сильно связным графом.

ПОГЛОЩАЮЩЕЕ СОСТОЯНИЕ

1

Слайд 23

Периодическая цепь Маркова Периодической цепью называется такая цепь, последовательность смены состояний

Периодическая цепь Маркова

Периодической цепью называется такая цепь, последовательность смены состояний которой

меняются периодически. В случае периодической цепи все состояний имеют один и тот же период.
Слайд 24

Эргодическая марковская система Эргодической называется неразложимая и нециклическая марковская система. Для

Эргодическая марковская система

Эргодической называется неразложимая и нециклическая марковская система. Для такой

системы имеется возможность определить стационарные вероятности (т.е. вероятности событий при времени, стремящимся к бесконечности (или числе шагов моделирования, стремящимся к бесконечности. Вероятности этих состояний не зависят от вероятностей системы в начальный момент.
Слайд 25

Теорема о существовании предельных вероятностей марковской цепи

Теорема о существовании предельных вероятностей марковской цепи

 

Слайд 26

Пример моделирования цепи Маркова (1) π =(1,0,0,0) – начальное состояние; 1

Пример моделирования цепи Маркова (1)

π =(1,0,0,0) – начальное состояние;
1 шаг: P’=(0.8,

0.2, 0, 0); ε= 0.1633 (СКО);
2 шаг: P’=(0.64, 0.26, 0.1, 0); ε= 0.1143;
3 шаг: P’=(0.542, 0.258, 0.13, 0.07); ε= 0.0717;
4 шаг: P’=(0.4726, 0.2654, 0.129, 0.133); ε= 0.0543;
5 шаг: P’=(0.4168, 0.2804, 0.1327, 0.1701); ε= 0.0397;
6 шаг: P’=(0.3732, 0.2916, 0.1402, 0.195); ε= 0.03;
7 шаг: P’=(0.3407, 0.2984, 0.1458, 0.2151); ε= 0.0227;
8 шаг: P’=(0.3163, 0.3034, 0.1492, 0.2311); ε= 0.0172;
Слайд 27

Пример моделирования цепи Маркова (2) Шаг моделирования Вероятности состояний

Пример моделирования цепи Маркова (2)

Шаг моделирования

Вероятности состояний

Слайд 28

Пример моделирования цепи Маркова (2) π=(0.25, 0.25, 0.25, 0.25); 1 шаг:

Пример моделирования цепи Маркова (2)

π=(0.25, 0.25, 0.25, 0.25);
1 шаг: P’=(0.275, 0.275,

0.125, 0.325); ε= 0.087;
2 шаг: P’=(0.2575, 0.3225, 0.1375, 0.2825); ε= 0.039;
3 шаг: P’=(0.542, 0.258, 0.13, 0.07); ε= 0.072;
4 шаг: P’=(0.2473, 0.3257, 0.1613, 0.2657); ε= 0.018;
5 шаг: P’=(0.4168, 0.2804, 0.1327, 0.1701); ε= 0.0397;
6 шаг: P’=(0.2462, 0.3186, 0.1629, 0.2723); ε= 0.0057;
7 шаг: P’=(0.2458, 0.3175, 0.1593, 0.2774); ε= 0.0037;
8 шаг: P’=(0.2444, 0.3189, 0.1587, 0.2780); ε= 0.0012;
Слайд 29

Пример моделирования цепи Маркова (4) Шаг моделирования Вероятности состояний

Пример моделирования цепи Маркова (4)

Шаг моделирования

Вероятности состояний

Слайд 30

Аналитическое моделирование цепи Маркова

Аналитическое моделирование цепи Маркова

 

Слайд 31

Пример аналитического моделирования цепи Маркова (1) P= PT= 1) 2) 3) 4) (PT - E)= =

Пример аналитического моделирования цепи Маркова (1)

P=

PT=

1)

2)

3)

4)

(PT - E)=

=

Слайд 32

Пример аналитического моделирования цепи Маркова (2) 5) Решим линейную систему уравнений

Пример аналитического моделирования цепи Маркова (2)

5)

Решим линейную систему уравнений (PT -

E)=(0,0,…,0,1)T

=

6)

Заменим четвертую строку матрицы PT на единичную строку

P=

Решение:
π=(0.24,0.32,0.16,0.28)

Слайд 33

Пример аналитического моделирования цепи Маркова (2) 5) Решим линейную систему уравнений

Пример аналитического моделирования цепи Маркова (2)

5)

Решим линейную систему уравнений (PT -

E)=(0,0,…,0,1)T

=

6)

Заменим четвертую строку матрицы PT на единичную строку

P=

Решение:
π=(0.24,0.32,0.16,0.28)

Слайд 34

Моделирование приводимой цепи Маркова Матрица переходных вероятностей (P) π(0)=(0.25,0.25,0.25,0.25)

Моделирование приводимой цепи Маркова

Матрица переходных вероятностей (P)

π(0)=(0.25,0.25,0.25,0.25)

Слайд 35

Пример моделирования приводимой цепи Маркова π =(0.25,0.25,0.25,0.25) – начальное состояние; 1

Пример моделирования приводимой цепи Маркова

π =(0.25,0.25,0.25,0.25) – начальное состояние;
1 шаг: P’=(0.575

0.25 0.05 0.125); ε= 0.232 (СКО);
2 шаг: P’=(0.76 0.15 0.05 0.04); ε= 0.131;
3 шаг: P’=(0.885 0.062 0.03 0.023); ε= 0.09;
4 шаг: P’=(0.9432 0.0308 0.0124 0.0136); ε= 0.04;
5 шаг: P’=(0.97036 0.01704 0.00616 0.00644); ε= 0.0184;
6 шаг: P’=(0.985 0.0086 0.0034 0.0031); ε= 0.01;
7 шаг: P’=(0.992 0.00422 0.0017 0.00165); ε= 0.005
Слайд 36

Методика моделирования по схеме дискретных марковских процессов Сформулируем методику моделирования по

Методика моделирования по схеме дискретных марковских процессов

Сформулируем методику моделирования по схеме дискретных марковских процессов (марковских

цепей):
Зафиксировать исследуемое свойство системы. Определение свойства зависит от цели исследования. Например, если исследуется объект с целью получения характеристик надежности, то в качестве свойства следует выбрать исправность. Если исследуется загрузка системы, то - занятость. И
Определить конечное число возможных состояний системы и убедиться в правомерности моделирования по схеме дискретных марковских процессов.
Составить и разметить граф состояний.
Определить начальное состояние.
По рекуррентной зависимости или аналитическим способом определить искомые вероятности.