Основы цифровой обработки сигналов (лекция 12)

Содержание

Слайд 2

Тема 7. Дискретные случайные процессы 7. Дискретные случайные процессы 7.1. О

Тема 7. Дискретные случайные процессы

7. Дискретные случайные процессы
7.1. О характеристиках случайных

величин
7.2. О характеристиках случайных процессов
7.3. Преобразование случайного стационарного процесса линейной непрерывной системой
7.4. Преобразование случайного стационарного процесса линейной дискретной системой
7.5. О спектральной факторизации
7.6. Методы определения спектральной плотности дискретного случайного процесса
Слайд 3

Дискретные случайные процессы При решении задач предыдущих разделов предполагалось, что входы

Дискретные случайные процессы

При решении задач предыдущих разделов предполагалось, что входы в

системы являются детерминированными функциями, вид которых заранее известен. Однако, в основном на системы воздействуют случайные сигналы, изменение которых заранее неизвестно, величина которых в каждый момент времени случайна. Напомним некоторые сведения, известные из предыдущих дисциплин и начнем с изложения необходимых сведений о случайных величинах.
Слайд 4

7.1. О характеристиках случайных величин Случайной называют величину, которая в результате

7.1. О характеристиках случайных величин

Случайной называют величину, которая в результате

испытания примет одно числовое значение, зависящее от случайных факторов и заранее непредсказуемое.
Случайные величины делятся на 2 большие группы:
1. Дискретная случайная величина – принимает отдельно взятые, изолированные значения. Количество этих значений конечно (либо бесконечно, но счётно).
2. Непрерывная случайная величина – принимает все числовые значения из некоторого конечного или бесконечного промежутка.
Слайд 5

О характеристиках случайных величин Сначала рассмотрим дискретные случайные величины. Дискретная случайная

О характеристиках случайных величин

Сначала рассмотрим дискретные случайные величины. Дискретная случайная величина

Х случайным образом может принимать конечное число значений х1, х2 … хn. Может быть известным значение вероятности того, что случайная величина Х примет конкретное значение хк, и это значение вероятности будем обозначать
P(Х = xk) = p(xk) = pk
Совокупность этих вероятностей pk называется законом распределения случайных величин Х (см. рис. ниже). Например, рост студента и его успеваемость.
Слайд 6

О характеристиках случайных величин Таким образом закон распределения дискретной случайной величины

О характеристиках случайных величин

Таким образом закон распределения дискретной случайной величины –

это соответствие между возможными значениями этой величины и их вероятностями. Чаще всего закон записывают таблицей (см. табл. ниже):
Вероятность p(xk) можно сопоставить с частотой uk, с которой случайная величина будет принимать значения xk в серии опытов. Так, если p(xk) = 0,1, то в серии из 1000 опытов значение xk выпадает примерно 100 раз. Появление этого значения xk точно 100 раз маловероятно, но появление около ста раз имеет большую вероятность.
Пусть имеются две дискретные случайные величины X и Y со своими законами распределения р(х) и р(y). Вероятности р(х) и р(y) называются априорными вероятностями.
Слайд 7

О характеристиках случайных величин Если закон распределения одной случайной величины не

О характеристиках случайных величин

Если закон распределения одной случайной величины не зависит

от того, какие значения приняла другая случайная величина, то такие случайные величины называются независимыми. В противном случае величины называются зависимыми. Например, посещаемость студентом занятий и его успеваемость. И успеваемость и посещаемость студента случайные величины, но они зависимы. Пусть средняя оценка студента по конкретной дисциплине 3,5. Но если известно значение другой случайной величины – 100% посещаемость, то вероятность отличной оценки в зачётке повышается.
У зависимых случайных величин наряду с априорными вероятностями p(xi) и p(yi) существуют условные вероятности p(xi/yi) и p(yi/xi) – вероятности случайной величины Х, когда известно значение другой случайной величины Y и наоборот.
Слайд 8

О характеристиках случайных величин Для вычисления вероятности совместного появления заданной пары

О характеристиках случайных величин

Для вычисления вероятности совместного появления заданной пары значений

двух случайных величин из теоремы произведения вероятностей следует:
P[x = xi и y=yi] = p(xi)p(yi/xi) = p(yi)p(xi/yi)
Условия независимости случайных величин, как это следует из определения, можно записать в следующих видах
p(xi/yi) = p(xi)
p(yi/xi) = p(yi)
p[x=xi и y=yi] = p(xi)*p(yi)
Слайд 9

О характеристиках случайных величин Моментом К-го порядка случайной величины называется среднее

О характеристиках случайных величин

Моментом К-го порядка случайной величины называется среднее значение

Хk:
Момент первого порядка называется математическим ожиданием или средним значением случайной величины:
Дисперсией случайной величины называется математическое ожидание квадрата центрированного значения случайной величины
Слайд 10

О характеристиках случайных величин Дисперсия характеризует размах – амплитуду отклонения случайной

О характеристиках случайных величин

Дисперсия характеризует размах – амплитуду отклонения случайной величины

от среднего значения (т.е. математического ожидания). Отклонения возводятся в квадрат , чтобы положительные отклонения не компенсировались отрицательными.
Среднеквадратичным отклонением или стандартом называет корень квадратный из дисперсии
Дисперсия суммы независимых случайных величин равна сумме дисперсий этих величин
Dx+y+z = Dx + Dy + Dz
Если величины зависимы, то последнее равенство неверно.
Слайд 11

О характеристиках случайных величин Непрерывная случайная величина может принимать случайным образом

О характеристиках случайных величин

Непрерывная случайная величина может принимать случайным образом любое

значение внутри заданного конечного или бесконечного интервала.
Таким образом, непрерывная случайная величина может принимать бесконечно большое число значений. Поэтому вероятность какого-то конкретного значения равна нулю. Следовательно, закон распределения вероятностей здесь надо вводить по-другому.
Исходным является интегральный закон распределения вероятностей (см. рис. ниже).
Слайд 12

О характеристиках случайных величин Значение интегрального закона распределения F(x0) равен вероятности

О характеристиках случайных величин

Значение интегрального закона распределения F(x0) равен вероятности нахождения

случайной величины в интервале xmin… x0. Интегральный закон есть возрастающая функция, причём
F(x) = 1, при x > xmax
Производная от интегрального закона называется плотностью вероятности (см. рис. ниже)
Слайд 13

О характеристиках случайных величин Заштрихованная площадь на рис. выше равна вероятности

О характеристиках случайных величин

Заштрихованная площадь на рис. выше равна вероятности попадания

значений случайной величины на отрезок dx. Отметим, что:
Для непрерывной случайной величины выражение для математического ожидания равно
Дисперсия равна
В пакете MATLAB для определения математического ожидания заданной реализации можно использовать функцию mean, а для определения дисперсии можно использовать функцию var.
Слайд 14

О характеристиках случайных величин Для определения стандарта (т.е. среднеквадратичное отклонение )

О характеристиках случайных величин

Для определения стандарта (т.е. среднеквадратичное отклонение ) –

функцию std.
Две непрерывные случайные величины X и Y, если их рассматривать порознь, имеют вероятностные характеристики, а именно априорные плотности вероятности
w(х) и w(у).
Если эти величины зависимы, то плотности вероятности одной будут зависеть от того, в каком состоянии находится другая случайная величина. Априорные плотности вероятности превращаются в условии плотности вероятности
w(x|y) и w(y|x).
Переменная, указанная после черты, означает, что, если значение второй случайной величины известно, то это значение определяет вид плотности вероятности первой случайной величины.
Слайд 15

О характеристиках случайных величин Если случайные величины независимы, априорные и условные

О характеристиках случайных величин

Если случайные величины независимы, априорные и условные плотности

вероятности одинаковы, а плотность вероятности одной величины не зависит от того, в каком состоянии плотности другая случайная величина.
Вероятность совместного появления значений в заданном квадрате определяется состоянием
w(x,y) – двумерная плотность вероятности, пропорциональная вероятности совместных значений обеих случайных величин в бесконечно малом квадрате dx dy.
Эта двумерная плотность вероятности в соответствии с формулой вероятности совместного появления событий равна
w(x,y) = w(x) w(y|x) = w(y) w(x|y)
Слайд 16

О характеристиках случайных величин Если случайные величины независимы, то w(x|y) =

О характеристиках случайных величин

Если случайные величины независимы, то
w(x|y) = w(x) w(y|x) =

w(y) w(x,y) = w(x)w(y)
Для системы двух случайных величин кроме их матожиданий и дисперсий
mx, my, Dx, Dy.
рассматривается смешанный центрированный момент второго порядка, называемый корреляционным моментом
Часто рассматривают коэффициент корреляции:
Корреляционный момент показывает степень зависимости случайных величин. Если величины независимы, то корреляционный момент равен нулю. Покажем это.
Слайд 17

О характеристиках случайных величин Действительно, в этом случае приведенное выше выражение

О характеристиках случайных величин

Действительно, в этом случае приведенное выше выражение для

Rxy можно записать
Случайные величины, корреляционный момент которых равен нулю, называются некоррелированными. Однако, независимость следует из некоррелируемости только для нормальных случайных величин, для которых плотность вероятности описывается формулой
Слайд 18

О характеристиках случайных величин График плотности вероятности нормальной непрерывной случайной величины

О характеристиках случайных величин

График плотности вероятности нормальной непрерывной случайной величины приведен

на рис. ниже
Другим крайним случаем является жесткая связь между случайными величинами. При жесткой связи модуль коэффициента корреляции принимает максимальное значение равное единице.
Слайд 19

О характеристиках случайных величин Рассмотрим выражение Матожидание неотрицательно, т.к. осредняется неотрицательная

О характеристиках случайных величин

Рассмотрим выражение
Матожидание неотрицательно, т.к. осредняется неотрицательная величина. Преобразуем
Положив

rxy = 1 и в двух приведенных выше выражениях выбрав знак минус, получим
Слайд 20

Тогда из приведенных выше двух выражений следует, что: во- первых, матожидание

Тогда из приведенных выше двух выражений следует, что:
во- первых, матожидание равно

нулю, поскольку матожидание берётся от тождественного нуля, значит
и хотя обе величины случайные, но определив значение одной величины, из выражения выше определяем значение другой величины;
- во-вторых, из полученного выше выражения
2 - 2rxy ≥ 0
следует, что модуль коэффициента корреляции не может быть больше единицы.

О характеристиках случайных величин

Слайд 21

Следовательно, рассмотрены крайние случаи. Когда величины жёстко связна (rxy = 1),

Следовательно, рассмотрены крайние случаи. Когда величины жёстко связна (rxy = 1),

пары значений x и y лежат на одной прямой (см. рис. ниже).
Когда величины не коррелированы, появление одной величины не ограничивает область появления другой величины, а когда величины коррелированы, появление одной величины сужает возможную область появления другой величины (см. рис. ниже).

О характеристиках случайных величин

Слайд 22

О характеристиках случайных величин Рис. Коррелированные и некоррелированные величины В пакете

О характеристиках случайных величин

Рис. Коррелированные и некоррелированные величины
В пакете Матлаб функция

cor выдаёт значение дисперсий и корреляционных моментов, а функция corrcoef выдаёт значение коэффициента корреляции.
Слайд 23

7.2. О характеристиках случайных процессов Случайные процессы являются частными случаями случайных

7.2. О характеристиках случайных процессов

Случайные процессы являются частными случаями случайных функций.

Случайные функции меняют своё значение при изменении аргумента, причём изменение происходит случайным образом и заранее не может быть предсказано.
Случайный процесс – это случайная функция, у которой аргументом является время.
Пусть имеем случайный процесс x(t). Начинаем эксперимент – время меняется и случайный процесс фиксирует на осциллограмме какую-то кривую (реализацию) x1(t). Для второго опыта реализацию x2(t). и т.д. Даже если условия опыта одинаковы, реализации отличаются (см. рис. ниже).
Слайд 24

О характеристиках случайных процессов Рис. Реализации случайных процессов (

О характеристиках случайных процессов

Рис. Реализации случайных процессов
(

Слайд 25

О характеристиках случайных процессов (на рис. выше внести изменения: обозначения осей

О характеристиках случайных процессов

(на рис. выше внести изменения: обозначения осей ординат

заменить x1 на x1(t), x2 на x2(t))
Если зафиксируем момент времени, то в сечении можно говорить о непрерывной случайной величине, то есть в любые моменты времени имеем случайное значение. В другие моменты – другие случайные величины.
Статистические характеристики случайного процесса можно ввести двумя способами.
Первый способ заключается в определении плотностей вероятностей. В этом способе надо определять плотность вероятности для каждого момента времени, а их бесконечное число. Кроме того, надо вводить условные вероятности, чтобы знать зависимости между значениями процесса в соседние моменты времени. Затем нужно связывать три соседних момента времени и т.д. Задача становится нереальной.
Слайд 26

О характеристиках случайных процессов Второй способ описания случайных процессов заключается в

О характеристиках случайных процессов

Второй способ описания случайных процессов заключается в определении

обычных и центрированных моментов. Для случайного процесса момент первого порядка – математическое ожидание в конкретный момент времени представляет собой среднее значение, вычисленное по всем возможным реализациям в этот момент времени. Для разных моментов времени средние значения могут быть различными, следовательно, матожидание случайного процесса есть функция времени
mx(t) = M[x(t)]
В качестве момента второго порядка возьмём корреляционный момент двух значений случайного процесса в разные моменты времени x(t1) и x(t2).
Rx (t1,t2) = M{[x(t1) – mx(t1)][x(t2) – mx(t2)}
Для случайных процессов корреляционный момент между значениями случайного процесса в два момента времени называется корреляционной функцией
Слайд 27

О характеристиках случайных процессов Описание случайного процесса с помощью моментов не

О характеристиках случайных процессов

Описание случайного процесса с помощью моментов не упрощает

задачу, т.к. требует бесконечное число моментов, чтобы связать все возможные пары, тройки, четверки и т.д. значений процесса. Однако этот метод в теории случайных процессов используется в подавляющем числе случаев по следующим причинам:
- при прохождении случайного сигнала через динамическую систему проще найти изменение моментов, чем плотностей вероятности;
- случайные процессы в динамических системах по окончании переходных процессов начинают приближаться к нормальным.
Нормальные случайные процессы полностью описываются двумя моментами: матожиданием и корреляционной функцией.
Слайд 28

О характеристиках случайных процессов Случайные процессы называются нормальными, если закон распределения

О характеристиках случайных процессов

Случайные процессы называются нормальными, если закон распределения совокупности

любого числа n его сечений представляет собой n-мерный нормальный закон.
В дальнейшем используется описание случайного процесса с помощью математического ожидания и корреляционной функции. Теория случайных процессов, построенная таким образом, называется корреляционной теорией