Лекции по теории вероятностей и математической статистике Теория вероятностей источник

Скачать 2.66 Mb.

Название	Лекции по теории вероятностей и математической статистике Теория вероятностей источник
страница	6/12
Дата публикации	01.10.2013
Размер	2.66 Mb.
Тип	Документы

100-bal.ru > Математика > Документы

1 2 3 4 5 6 7 8 9 ... 12

18. Для n-мерной случайной величины (X₁, X₂,  , X_n) роль дисперсии играет так называемая ковариационная матрица:

Dcov(X_i, X_j),

или

Dr_ij_i_j,

гдеr_i_jr(X_i, X_j), _i, _j

D – симметричная матрица размера nn с диагональными элементами, равными дисперсиям случайных величин.

Найдём ковариационную матрицу n-мерного нормального закона, задаваемого совместной плотностью

p(x₁, x₂,  , x_n)exp((xa)^T(xa)),

где x^T(x₁, x₂,  , x_n), a^T(a₁, a₂,  , a_n), A^TA||a_i_j||.

С помощью линейного преобразованияYA(Xa)можно привести квадратичную форму(xa)^T(xa)к сумме квадратов переменных y₁, y₂,  , y_n.

Плотность p(x₁, x₂,  , x_n) постоянна на эллипсоидах (xa)^T(xa)const. Из соображений симметрии ясно, что центр тяжести такого распределения лежит в точке (a₁, a₂,  , a_n), так что вектор математических ожиданий равен

(MX₁, MX₂,  , MX_n)(a₁, a₂,  , a_n).

Ковариационная матрица выглядит поэтому так:

DM[(X_ia_i)(X_ja_j)].

Общий элемент этой матрицы равен

cov(X_i, X_j)(x_ia_i)(x_ja_j)exp(a_i_j(x_ia_i)(x_ja_j))dx₁dx_n.

Переходим к новым переменным y₁, y₂,  , y_n по формулеYA(Xa).Якобиан этого преобразования, очевидно, равен J. Матрица A обратима, так чтоXaA^¹Y.

При вычислении интеграла учёт чётности и нечётности отдельных слагаемых даёт:

cov(X_i, X_j) y_k²(A^¹)_ki(A^¹)_kjexp(y_i²)dy₁dy_n
(A^¹)_ki(A^¹)_k_j,

а это есть, очевидно, общий элемент матрицы (A^TA)^¹. Отсюда следует, что ковариационная матрица D есть матрица, обратная матрице :

D^¹.

Нормальный n-мерный закон можно поэтому задать с помощью вектора математических ожиданий a(a₁, a₂,  , a_n) и ковариационной матрицы D:

p(x₁, x₂,  , x_n)exp((xa)D^¹(xa)^T).

Ковариационная матрица двумерного нормального закона равна:

D.

В соответствии с правилами нахождения обратной матрицы, известными из алгебры, легко вычислить D^¹, т. е. матрицу :

.

Поэтому двумерную нормальную плотность можно задать следующей формулой:

p(x, y)exp{[2r]}.

Устройство матрицы A можно понять из геометрических соображений. Поскольку положительно определённая квадратичная форма определяет эллипсоид, можно с помощью поворота координатной системы, т. е. с помощью ортогонального преобразованияXaOY, YO^T(Xa)направить оси координат по осям симметрии эллипсоида. Это приводит квадратичную форму в показателе экспоненты к сумме_iy_i²:

p(y₁, y₂,  , y_n)exp(Y^TO^TOY),

гдеO^TO– диагональная матрица:diag(₁, ₂,  , _n).

19. Пусть X₁, X₂,  , X_n – попарно некоррелированные случайные величины с одинаковыми математическими ожиданиями и одинаковыми дисперсиями:

MX_ia, DX_i², i1, 2, … , n.

Обозначим через среднее арифметическое величин X₁, X₂,  , X_n:

X_i.

Тогда:a, ².

Эти равенства непосредственно следуют из теорем 3, 5 и 15.

Теорема 19, в частности, применима к последовательности X₁, X₂,  , X_n независимых и одинаково распределённых случайных величин, имеющих математическое ожидание и дисперсию. В этой схеме содержится случай повторных независимых измерений физической величины, точное значение которой равно a; в измерения вкрадываются случайные ошибки и n независимых измерений дают случайные значения X₁, X₂,  , X_n. Если измерения не содержат систематической ошибки (на вероятностном языке это означает, что MX_ia, i1, 2, … , n) и являются равноточными (т. е. DX_i², i1, 2, … , n), то среднее арифметическое обладает двумя упомянутыми свойствами:a, 
².Это означает, что среднее арифметическое также не содержит систематической погрешности, а его среднеквадратическая ошибка в раз меньше, чем ошибка одного измерения. Это объясняет выгодность повторения независимых измерений для более точного измерения. Однако в то же время ясно, что точность растёт медленнее, чем число наблюдений. Чтобы, например, повысить точность измерений в десять раз, нужно увеличить число наблюдений в сто раз.

Неравенство П. Л. Чебышёва и законы больших чисел

Неравенство Чебышёва.

Пусть случайная величина X такова, что математическое ожидание её квад-
рата существует и конечно: M(X²).

Тогда для любого 0 справедливо неравенство:

P{|X|}.

Доказательство.  Введём случайную величину Y:

Y

0, если |X|
², если |X|

Это дискретная случайная величина. Её закон распределения даётся двумя вероятностями:

P{Y0}P{|X|},
P{Y²}P{|X|};

её математическое ожидание равно:MY²P{|X|}.

Легко проверить, что YX². В самом деле, если Y0, то неравенство очевидно; если Y², то при этом |X|X²².Отсюда:MYM(X²),что можно переписать в виде:

P{|X|}. 

Неравенство Чебышёва записывают и в других формах. Например, применим его к случайной величине XMX, в предположении, что существует дисперсия DX:

P{|XMX|}.

Для противоположного события:

P{|XMX|}1.

Применим неравенство Чебышёва в последней форме к среднему арифметическому попарно некоррелированных случайных величин X₁, X₂,  , X_n c одинаковыми математическими ожиданиями MX_ia и одинаковыми дисперсиями DX_i²:

1P{|a|}1, 0.

Перейдём здесь к пределу при n:

P{|a|}1, 0.

Мы получили так называемый закон больших чисел в форме Чебышёва.

Закон больших чисел в форме Чебышёва

Среднее арифметическое отличается от истинного среднего значения
a меньше сколь угодно малого 0 при достаточно большом числе наблюде-
ний с вероятностью, сколь угодно близкой к единице.

Это утверждение кратко записывается так:a– и читается: " схо-
дится по вероятности к a."

В частности, закон больших чисел Чебышёва действует в схеме повторных независимых равноточных измерений без систематической погрешности любой физической величины a и оправдывает нашу интуитивную веру в среднее арифметическое как хорошее приближение для a. Мы получаем уверенность в том, что при достаточно большом числе измерений мы будем знать истинное значение измеряемой величины a сколь угодно точно со сколь угодно большой вероятностью. Однако закон больших чисел указывает лишь очень грубо, сколько наблюдений достаточно выполнить, чтобы добиться заданной точности: если мы хотим, чтобыP{|a|}1,достаточно произвестиnнаблюдений.

Из закона больших чисел Чебышёва следует закон больших чисел Бернулли.

Закон больших чисел в форме Бернулли.

Относительная частотасобытия A сходится по вероятности к вероят-
ности p события A:P{|p|}1 для 0.

Действительно, пусть проведено n независимых опытов, в которых событие A произошло m раз. Введём случайные величины

X_i

1, если событие A_i произошло,
0, если событие A_i не произошло.

Это дискретные случайные величины, причём:

MX_i1p0(1p)p,MX_i²1²p0²(1p)p,DX_iM(X_i²)(MX_i)²pp²pq,
(X_iX₂X_n).

Выполнены условия закона больших чисел Чебышёва, в котором ap, ²pq. Поэтому: p.

Закон больших чисел в форме Бернулли даёт обоснование нашей интуитивной веры в относительную частоту как приближение для вероятности: как бы ни было мало 0, для достаточно большого числа наблюдений n относительная частота события A будет отличаться от его вероятности p меньше этого  с вероятностью, как угодно близкой к единице.

Возможно нам хотелось бы большего, а именно: p. Но так много теория вероятностей дать не может. И это по существу! Например, при бросании монеты ничто не мешает ей всё время выпадать решкой, а для подобной серии испытаний относительная частота гербов равна нулю. Нетрудно также построить серию испытаний, для которойпринимает любое заданное значение на отрезке [0, 1], либо не существует. Тем удивительнее усиленный закон больших чисел, доказанный Борелем.

Усиленный закон больших чисел (Борель).

Предел относительной частотысобытия A существует и равен вероят-
ности p этого события почти наверное:P{p}1.

Связь относительной частоты и вероятности позволяет дать ещё одну мотивировку принятого в теории вероятностей определения математического ожидания и его толкования как среднего значения. Пусть дискретная случайная величина X с возможными значениями x_k и вероятностями p_k наблюдается n раз независимым образом; пусть частота x_k равна m_k, Среднее арифметическое этих наблюдений равно

x_km_kx_k.

Можно думать, что истинное среднее мы получим, сделав бесконечно много наблюдений, а относительные частоты при этом почти наверное будут равны вероятностям p_k. Это и даёт для истинного среднего выражение x_kp_k, т. е. MX.

Характеристические функции и моменты

До сих пор мы задавали случайные величины законом распределения. Характеристическая функция – ещё один способ представления случайных величин.

Пусть X – случайная величина. Её характеристической функцией f(t) назовём математическое ожидание случайной величины e^itX:

f(t)Me^itX,

где под комплекснозначной случайной величиной e^itX мы понимаем комплексное числоe^it^XcostXisintX,а

M(e^it^X)M(costX)iM(sintX);

независимая переменная t имеет размерность X^¹.

Характеристическая функция – преобразование Фурье-Стилтьеса функции распределения:

f(t)e^itxdF(x).

В непрерывном случае f(t) – преобразование Фурье плотности вероятности:

f(t)e^itxp(x)dx.

Если f(t) абсолютно интегрируема, то обратное преобразование Фурье позволяет восстановить плотность p(x) по характеристической функции:

p(x)e^^itxf(t)dt.

В дискретном случае:

f(t)e^itx^kp_k.

Особо отметим дискретные случайные величины с целочисленными значениями, например, при x_kk:

f(t)e^itkp_k;

здесь f(t) – ряд Фурье в комплексной форме, вероятности p_k играют роль коэффициентов Фурье и легко восстанавливаются по f(t):

p_ke^^ik^tf(t)dt.

В общем случае восстановление закона распределения по характеристической функции тоже возможно, но более сложно.

Важнейшим свойством характеристической функции, сделавшим её одним из главных инструментов современной теории вероятностей, оказалось то, что при суммировании независимых случайных величин их характеристические функции перемножаются: если X и Y независимы, то для случайной величины ZXY:f_Z(t)f_X(t)f_Y(t).

Действительно,

f_Z(t)M(e^it^Z)M(e^it⁽^X^^Y⁾)M(e^it^Xe^it^Y)M(e^it^X)M(e^it^Y)f_X(t)f_Y(t).

Законы распределения при суммировании независимых слагаемых ведут себя гораздо сложнее. Например, в непрерывном случае по свойству преобразования Фурье произведению характеристических функций соответствует свёртка плотностей:

p_Z(z)p_X(x)p_Y(zx)dx.

ЕслиYaXb,то

f_Y(t)M(e^it⁽^a^X^^b⁾)e^itbM(e^ita^X)e^itbf_X(at).

Другим важным свойством характеристических функций является их простая связь с моментами.

Начальным моментом порядка k называетсяm_kM(X^k).

Центральным моментом порядка k называется_kM[(XMX)^k].

В частности,MXm₁, DX₂. Отметим также, что m₀1, ₀1, ₁0.

Предполагая возможность дифференцирования под знаком математического ожидания в равенствеf(t)Me^itX,получим:f⁽^k⁾(t)i^kM(X^ke^it^X).

Приt0:f⁽^k⁾(0)i^kM(X^k)i^km_km_kf⁽^k⁾(0).

Таким образом, характеристическая функция позволяет заменить интегрирование при вычислении моментов дифференцированием.

В частности,

MXm₁f^(0),DXm₂m₁²f^^(0)[f^(0)²].

Если характеристическая функция f(t) разлагается в ряд Маклорена, то

f(t)f⁽^k⁾(0)t^k(it)^k,

и, если моменты существуют, то они однозначно определяют f(t), т. е. закон распределения случайной величины X. Таким образом, совокупность начальных моментов также может задавать случайную величину.

Центральные моменты просто связаны с начальными:

_kM[(XMX)^k](1)^k^^jm_jm₁^k^^j, k2, 3,  .

Обратно: начальные моменты m_k можно вычислять, зная центральные мо-
менты _k и математическое ожидание m₁:

m_kM{[(XMX)MX]^k}_jm₁^k^^j, k2, 3,  .

Характеристическую функцию определяют также и для n-мерной случайной величины (X₁, X₂, ,  , X_n):

f(t₁, t₂, ,  , t_n)M(expi(t₁X₁t₂X₂t_nX_n)).

Например, для n-мерного нормального закона:

f(t₁,  , t_n)exp[i(t₁X₁t_nX_n)(xa)^TD^¹(xa)]dx₁dx_n
exp(ia^Ttt^TDt),

где a и t задаются как столбцы, в чём можно убедиться, осуществляя преобразования, описанные в теореме 18.

Вычислениеf(t),MXиDXдля основных распределений

1 2 3 4 5 6 7 8 9 ... 12

Похожие:

	Сборник задач по теории вероятностей и математической статистике. Москва, «Наука», 1970 656с Баврин И. И.: Теория вероятностей и математическая статистика, Москва, Высшая школа, 2005 -160с		Письменный Д. Т. Конспект лекций по теории вероятностей, математической... Письменный Д. Т. Конспект лекций по теории вероятностей, математической статистике и случайным процессам. 3-е изд. М.: Айрис-пресс,...
	Теория вероятностей и математическая статистика Вам предлагаются обучающие тестовые задания по теории вероятностей. В этих заданиях вы должны отметить правильный ответ		Темы самостоятельных работ Вид работы Треугольник Паскаля Подготовить доклад Гмурман В. Е. Руководство к решению задач по теории вероятностей и математической статистике. М.: Юрайт, 2011. 480с
	Введение элементов комбинаторики и теории вероятностей «Теория вероятностей и математическая статистика» студентами 22-ой группы специальностей средних профессиональных учебных заведений....		Тесты по теории вероятностей. Уровень Условие Варианты ответов Вам предлагаются обучающие тестовые задания по теории вероятностей. В этих заданиях вы должны отметить правильный ответ
	Исследовательская работа тема: «Удача на егэ в формулах теории вероятностей» Вам предлагаются обучающие тестовые задания по теории вероятностей. В этих заданиях вы должны отметить правильный ответ		Темы рефератов Теория вероятностей Эбс университетская библиотека onlin гмурман В. Е. Теория вероятностей и математическая статистика : Учебное пособие для вузов. 12-е...
	Лекции по учебной дисциплине Теория вероятностей и математическая статистика		Вопросы по дисциплине «Теория вероятностей и математическая статистика»... «Теория вероятностей и математическая статистика» студентами 22-ой группы специальностей средних профессиональных учебных заведений....
	Методичекские рекомендации по дисциплине б. 5 Теория вероятностей... Целями освоения дисциплины Теория вероятностей и математическая статистика являются		Конспект лекций по высшей математике. В 2 частях. Часть М.: Айрис-пресс,... Баранова Е. С., Васильева Н. В., Федотов В. Л. Практическое пособие по высшей математике. Типовые расчеты. Учебное пособие. — Спб:...
	Тема урока: Повторение материала по теме "Элементы теории вероятностей"... Разберём весьма частный, однако, часто встречающийся случай:  состоит из конечного числа n равновероятных событий		Исф фгбоу впо «СПбгпу» И. И. Боголепов теория вероятностей и математическая статистика в технике Анонс книги: И. И. Боголепов. Теория вероятностей и математическая статистика к технике
	Рабочая программа дисциплины (модуля) «Математическая статистика и теория вероятностей» Целью освоения дисциплины «Математическая статистика и теория вероятностей» являются		Программа по формированию навыков безопасного поведения на дорогах... Основы дискретной математики, теории вероятностей, математической статистики и их роль в медицине и здравоохранении

Школьные материалы