7.4. Независимые случайные величины
Мы уже видели, какое большое значение имеет понятие независимости для случайных событий. Оказывается, что аналогичное понятие можно естественным образом ввести и для случайных величин.
Пусть в результате опыта могут наблюдаться две случайные величины ξ и η. Слова «могут наблюдаться» мы понимаем в том смысле, что для любых двух числовых множеств А и В мы можем сказать, произошло или не произошло каждое из двух событий < ξ A >и < η B >(напомним, что так для краткости обозначаются множества < ω:ξ(ω) A >и < ω:η(ω) B >).. «Независимость» случайных величин интуитивно понимается так, что, зная результат наблюдения над одной случайной величиной, мы ничего не можем сказать дополнительно о другой случайной величине. Этим мотивируется следующее
Определение 7.5. Две случайных величины ξ и η называются
независимыми , если для любых двух числовых множеств А и В события < ξ A >и < η B >независимы, т.е. (см. § 2, п. 2.2) вероятность их произведения равна произведению вероятностей этих событий:
Замечание . Произведение событий < ξ A >и < η B >, т.е. совокупность всех тех ω Ω, для которых одновременно ξ(ω) A и η(ω) B :
мы далее для краткости будем обозначать символом < ξ A ,η B >.
ω Ω , для которых одновременно ξ(ω) = a i и η(ω) = b j , т.е. произведение событий < ξ = a i >= < ω:ξ(ω) = a i >и < η = b j >= < ω:η(ω) = b j >:
Пусть x 1 , x 2 , . x n , . – возможные значения д.с.в. ξ и P (ξ = x i ) = p i , y 1 , y 2 , . y m , . – возможные значения д.с.в. η и P (η = y j ) = q j .
Если случайные величины ξ и η – независимы, то полагая в (7.14) A = < x i >и B = < y j >(одноточечные числовые множества), получим:
P ( ξ = x i ,η = y j ) = P (ξ = x i ) P (η = y j ) = p i q j .
Справедливо и обратное утверждение: если для всех
x 1 , x 2 , . x n , . и
всех y 1 , y 2 , . y m , . выполнено равенство (7.16), то случайные величины ξ иη– независимы.Действительно,длялюбыхчисловыхмножеств А и В имеем:
P ( ξ = x i ,η = y j )
∑ P (ξ = x i ) P (η = y j ) =
= ∑ P (ξ = x i ) ∑ P (η = y j ) = P (ξ A ) P (η B ),
что и требовалось.
Мы видим, таким образом, что справедлива следующая теорема.
Теорема 7.4 . Длянезависимости случайныхвеличинξиη необходимои достаточно, чтобы для любых x i и y j было выполнено равенство (7.16).
Установим теперь некоторые свойства математического ожидания и дисперсии, связанные с понятием независимости случайных величин.
Теорема 7.5. Если случайные величины ξ и η независимы и существуют
ожидание произведения ξη и
= ∑ x i y j P ( ξ = x i ,η = y j ) =
∑ x i y j p i q j = ( ∑ x i p i ) ( ∑ y j q j ) = M ξ M η, ч.т.д.
Обратимся теперь к дисперсии и рассмотрим вопрос о дисперсии суммы ξ + η двух случайных величин не предполагая , поначалу, что эти величины независимы. Вычислим:
D (ξ+η) = M [ ξ+η − M (ξ+η) ] 2 (7 = .6) M [ (ξ − M ξ) + (η − M η) ] 2 =
= M (ξ − M ξ) 2 + M (η − M η) 2 + 2 M [ (ξ − M ξ)(η − M η) ] .
Выражение cov(ξ,η)= M [ (ξ − M ξ)(η − M η) ] называется ковариацией величин ξ и η. Для независимых случайных величин в силу (7.8) и (7.17):
cov(ξ,η) = M (ξ − M ξ) M (η − M η) = 0.
Таким образом, нами доказана Теорема 7.6. Для любых случайных величин
D (ξ+η) = D ξ + D η+2cov(ξ,η).
Для независимых ξ и η
Следствие. Если случайные величины ξ 1 ,ξ 2 . ξ n попарно независимы
(т.е. любые две случайные величины ξ i и
дисперсии D ξ i ( i = 1,2. n ) существуют, то
D (ξ 1 +ξ 2 +. +ξ n ) = D ξ 1 + D ξ 2 + . + D ξ n .
Действительно , достаточно проверить равенство (7.20) для трех
попарно независимых случайных величин
получится по индукции.
Итак, пусть случайные величины ξ,η,ς попарно независимы. Тогда:
D (ξ+η+ς) = D (ξ+(η+ς)) = D ξ + D (η+ς)+2cov(ξ,η+ς) =
= D ξ + D (η+ς)+2cov(ξ,η+ς) = D ξ + D η + D ς + 2cov(ξ,η+ς).
Для cov(ξ,η+ς) имеем:
cov(ξ,η+ς) = M [ (ξ − M ξ)(η+ς − M (η+ς)) ] = = M [ (ξ − M ξ)(η+ς − M η − M ς) ] .
Производя перемножение внутри квадратных скобок и используя свойства математического ожидания и попарную независимость случайных величин ξ,η,ς, получаем cov(ξ,η+ς) = 0. Тогда формула (7.21) дает:
D (ξ+η+ς) = D ξ + D η + D ς
7.5. Неравенство Чебышёва
В этом разделе мы познакомимся с некоторыми важными результатами, использующими понятия математического ожидания, дисперсии и независимости случайных величин.
Теорема 7.7 (неравенство Чебышёва).
Пусть имеется д.с.в. ξ, у которой существуют M ξ и D ξ. Тогда для любого ε > 0 справедливо неравенство:
1. Обозначение P ( ξ − M ξ ≥ ε ) есть сокращенное обозначение для вероятности
x i : x i − M ξ ≥ ε
( x 1 , x 2 , . x n , . – возможные значения случайной величины ξ).
2. Смысл неравенства Чебышёва 56 состоит в том, при малых значениях дисперсии D ξ большие отклонения случайной величины ξ от ее математического ожидания M ξ маловероятны. Это подтверждает представление о дисперсии как мере отклонения случайной величины от ее математического ожидания.
Доказательство теоремы. Имеем:
D ξ = ∑ ( x i − M ξ) 2 P (ξ = x i ).
Если суммированиепо всем x i заменить суммированиемтолькопотем x i ,для которых x i − M ξ ≥ ε, то сумма не увеличится. Поэтому:
D ξ ≥ ∑ ( x i − M ξ) 2 P (ξ = x i ) ≥
x i : x i − M ξ ≥ ε
≥ ε 2 ∑ P (ξ = x i ) = ε 2 P ( ξ − M ξ ≥ ε ) ,
x i : x i − M ξ ≥ ε
что, очевидно, эквивалентно (7.22).
7.6. Закон больших чисел
56 Пафнутий Львович Чебышёв (1821-1894) – один из наиболее видных российских математиков второй половины XIX века, создатель петербургской научной школы, академик Петербургской Императорской Академии Наук с 1856 года.
Случайные величины возникают в приложениях как результаты измерений, причем либо сами измерения подвержены случайным ошибкам, либо объекты измерения случайным образом выбираются из некоторой совокупности. Давно было замечено, что, в то время как результаты отдельных измерений ξ 1 ,ξ 2 . ξ n могут колебаться сильно, их средние
арифметические 1 n (ξ 1 +ξ 2 +. +ξ n ) обнаруживают (при больших n ) гораздо
бóльшую устойчивость, т.е. меняются незначительно (так называемая «устойчивость средних»). Как правило, указанная величина среднего арифметического совокупности n измерений одной и той же физической величины принимается за ее среднее значение , т.е. приближенное значение, которое можно использовать в тех вычислениях, где эта физическая величина встречается. Здесь, однако, имеется определенная тонкость, требующая разъяснения.
Дело в следующем. При измерении физической величины мы не можем заранее указать все факторы, которые в той или иной степени повлияют на показания приборов, с помощью которых мы это измерение производим. Поэтому, результат каждого такого конкретного измерения представляет собой одно из возможных значений некоторой случайной величины, которая определяется совокупностью факторов (явлений-причин), которые сопровождают данный эксперимент по измерению интересующей нас физической величины. При проведении следующего (независящего от предыдущего) измерения той же самой физической величины , даже при соблюдении одинаковости 57 условий, в которых измерения проводятся, мы уже будем иметь дело с другой случайной величиной, одно из возможных значений которой и будет наблюдаться при втором измерении.
Иными словами, каждый конкретный эксперимент по измерению данной физической величины порождает свою случайную величину, одно из
57 В той мере, в которой такую «одинаковость» можно обеспечить. 130
возможных значений которой и наблюдается экспериментатором как показание соответствующего измерительного прибора . Таким образом, мы имеем дело с несколькими (по числу измерений) независимыми случайными величинами. Каждая такая случайная величина имеет свои собственные числовые характеристики (математическое ожидание и дисперсию), которые определяются распределениями каждой из этих случайных величин в отдельности. Интуитивно ясно, что разумнее всего в качестве значения измеряемой в эксперименте физической величины принять ее математическое ожидание, т.е. величину M ξ = ∑ x j p j .
Однако мы никогда непосредственно этого математического ожидания вычислить не можем, так как нам неизвестно распределение соответствующей случайной величины. На практике в качестве значения измеряемой физической величины принимают арифметическое среднее различных измерений этой величины , т.е. значение ( x (1) + x (2) + . + x ( n ) ) 
n , где в числителе стоят не возможные значения одной случайной величины, а какие-то из возможных значений разных независимых случайных величин (представляющих различные измерения). Естественно возникает вопрос, в какоймеретакойподходявляетсяудовлетворительным,т.е.великалиразница между математическим ожиданием M ξ и упомянутым арифметическим средним различных измерений?
Следующая теорема, представляющая собой знаменитый закон больших чисел (в форме Чебышёва), дает ответ на поставленный вопрос.
Теорема 7.8. Пусть случайные величины ξ 1 ,ξ 2 . ξ n попарно независимы и их дисперсии ограничены в совокупности, т.е. D ξ i ≤ c для всех
Независимость случайных величин
Пусть
Определение. Случайные величины x 1(w), x 2(w), …, xn (w) называются независимыми, если выполняется следующее равенство
 |
Как следствие, если взять в качестве Ai = (-¥, xi), i = 1,2. n, получим: случайные величины x 1, x 2, … xn независимы, если выполняется следующее равенство
Отметим, что имеет место и обратное утверждение, т.е. если случайные величины x 1, x 2, … xn независимы, то выполняется следующее равенство
(доказательство этого утверждения можно найти в [1]).
 |
Для проверки независимости двух случайных величин иногда удобно пользоваться следующими результатами.
Теорема. 1). Если случайный вектор x = (x 1, x 2) имеет дискретное распределение, то случайные величины x 1 и x 2 являются независимыми тогда и только тогда, когда выполняется равенство
 |
где ai, bj — значения случайных величин x 1 и x 2, соответственно.
 |
2) Если случайный вектор x = (x 1, x 2) имеет непрерывное распределение, то случайные величины x 1 и x 2 являются независимыми тогда и только тогда, когда выполняется равенство
 |
Пример 1. Пусть случайные величины x 1 и x 2 имеют совместную функцию распределения
Проверим, являются ли независимыми случайные величины x 1 и x 2. Найдем функции распределения этих случайных величин.
 |
Значит, x 1 и x 2 независимые случайные величины.
Пример 2. Пусть таблица распределения дискретного случайного вектора (x 1, x 2)следующая:
Проверим независимость случайных величин x 1 и x 2. Находим частные распределения x 1 и x 2 (см. 2.4.2.):
 |
Теперь проверим соотношение из пункта 1) теоремы 1:
 |
Соотношение 1) не выполнено. Отсюда получаем, что случайные величины x 1 и x 2 являются зависимыми.
Пример 3. Пусть x 1 и x 2 —независимые случайные величины. Рассмотрим случайную величину h = x 1+ x 2 Тогда, используя свойство 3 из предыдущего пункта и независимость случайных
величин x 1 и x 2, получаем
Дифференцируя последнюю формулу, получаем выражение для плотности p h(t) распределения суммы h = x 1+ x 2:
Полученное выражение носит название «формулы свертки».
 |
Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:
Научный форум dxdy
Каждая из случайных величин 
и 
принимает лишь два значения, причем 
. Докажите, что и независимы
Рассматриваю величины и , мат. ожидание которых равно нулю (если это не так, вычту из и их мат. ожидания и тогда из независимости полученных переменных будет следовать и независимость и ).
и принимают значения 
, 
, 
и , 
соответственно
Тогда: ![$Cov(X, Y) = E[X \cdot Y] = X_1 Y_1 \cdot P(X=X_1, Y=Y_1) + X_1 Y_2 \cdot P(X=X_1, Y=Y_2) + X_2 Y_1 \cdot P(X=X_2, Y=Y_1) + X_2 Y_2 \cdot P(X=X_2, Y=Y_2) = 0$](https://dxdy-01.korotkov.co.uk/f/c/4/a/c4a19461714e55c2c5840fcfe3e94ae982.png)
Но не могу понять как из этого доказать независимость и
Последний раз редактировалось vicvolf 22.03.2020, 12:33, всего редактировалось 7 раз(а).
Каждая из случайных величин и принимает лишь два значения, причем . Докажите, что и независимы
Если для невырожденных случайных величин 
выполняется: 
, то они являются независимыми. Напомню, что вырожденной случайной величиной называется случайная величина,принимающая одно значение с вероятностью равной 1. В данном случае случайные величины принимают два значения, поэтому являются невырожденными. Здесь все просто 
. Поэтому выполняется . (отредактировал текст)
Последний раз редактировалось Otta 22.03.2020, 12:46, всего редактировалось 1 раз.
А что именно «просто»?
Если для невырожденных случайных величин выполняется: , то они являются независимыми.
Последний раз редактировалось DeBill 22.03.2020, 12:51, всего редактировалось 1 раз.
Если для невырожденных случайных величин выполняется: , то они являются независимыми.
Здесь есть неточности: 1. Вместо запятой должно быть умножение, да?
2. Утверждение верно для ВЫРОЖДЕННЫХ (а для НЕ — не, вообще говоря)
И составляет это содержание стандартной задачи «приведите пример некоррелированных, но не независимых»
Независимые случайные величины
Иначе говоря, две случайные величины называются независимыми, если по значению одной нельзя сделать выводы о значении другой.
Независимость в совокупности
| Определение: |
| Случайные величины [math]\xi_1, \ldots ,\xi_n[/math] называются независимы в совокупности (англ. mutually independent), если события [math]\xi_1 \leqslant \alpha_1, \ldots ,\xi_n \leqslant \alpha_n[/math] независимы в совокупности. |
Примеры
Карты
Пусть есть колода из [math]36[/math] карт ( [math]4[/math] масти и [math]9[/math] номиналов). Мы вытягиваем одну карту из случайным образом перемешанной колоды (вероятности вытягивания каждой отдельной карты равны). Определим следующие случайные величины:
[math]\xi[/math] — масть вытянутой карты : [math]0[/math] — червы, [math]1[/math] — пики, [math]2[/math] — крести, [math]3[/math] — бубны
[math]\eta[/math] : принимает значение [math]0[/math] при вытягивании карт с номиналами [math]6, 7, 8, 9, 10[/math] или [math]1[/math] при вытягивании валета, дамы, короля или туза
Для доказательства того, что [math]\xi, \eta[/math] независимы, требуется рассмотреть все [math]\alpha,\beta[/math] и проверить выполнение равенства: [math]P((\xi \leqslant \alpha)\cap(\eta \leqslant \beta)) = P(\xi \leqslant \alpha) \cdot P(\eta \leqslant \beta)[/math]
Для примера рассмотрим [math]\alpha = 0, \beta = 0[/math] , остальные рассматриваются аналогично:
[math]P((\xi \leqslant 0)\cap(\eta \leqslant 0)) = [/math] [math] \dfrac<5> <36>[/math]
[math]P(\xi \leqslant 0) \cdot P(\eta \leqslant 0) = [/math] [math] \dfrac<1> <4>[/math] [math] \cdot [/math] [math] \dfrac<5> <9>[/math] [math] = [/math] [math] \dfrac<5> <36>[/math]
Тетраэдр
Рассмотрим вероятностное пространство «тетраэдр». Каждое число соответствует грани тетраэдра (по аналогии с игральной костью): [math]\Omega = \<0, 1, 2, 3\>[/math] . [math]\xi (i) = i \bmod 2[/math] , [math]\eta(i) = \left \lfloor \dfrac <2>\right \rfloor[/math] .
Рассмотрим случай: [math]\alpha = 0[/math] , [math]\beta = 1[/math] . [math]P(\xi \leqslant 0) = [/math] [math] \dfrac<1> <2>[/math] , [math]P(\eta \leqslant 1) = 1[/math] , [math]P((\xi \leqslant 0) \cap (\eta \leqslant 1)) = [/math] [math] \dfrac<1> <2>[/math] .
Для этих значений [math]\alpha[/math] и [math]\beta[/math] события являются независимыми, так же, как и для других (рассматривается аналогично), поэтому эти случайные величины независимы.
Заметим, что если: [math]\xi (i) = i \bmod 3[/math] , [math]\eta(i) = \left \lfloor \dfrac <3>\right \rfloor[/math] , то эти величины зависимы: положим [math]\alpha = 0, \beta = 0[/math] . Тогда [math]P(\xi \leqslant 0) = [/math] [math] \dfrac<1> <2>[/math] , [math]P(\eta \leqslant 0) = [/math] [math] \dfrac<3> <4>[/math] , [math]P((\xi \leqslant 0) \cap (\eta \leqslant 0)) = [/math] [math] \dfrac<1> <4>[/math] [math] \neq P(\xi \leqslant 0) \cdot P(\eta \leqslant 0)[/math] .
Честная игральная кость
Рассмотрим вероятностное пространство «честная игральная кость»: [math]\Omega = \<1, 2, 3, 4, 5, 6\>[/math] , [math]\xi (i) = i \bmod 2[/math] , [math]\eta (i) = \dfrac <\mathcal i><3 \mathcal
При [math]\alpha = 0, \beta = 1[/math] :
[math]P((\xi \leqslant 0)\cap(\eta \leqslant 1)) = [/math] [math] \dfrac<2> <6>[/math] [math] = [/math] [math] \dfrac<1> <3>[/math] , [math]P(\xi \leqslant 0) = [/math] [math] \dfrac<1> <2>[/math] , [math]P(\eta \leqslant 1) = [/math] [math] \dfrac<5> <6>[/math]
[math]P((\xi \leqslant 0)\cap(\eta \leqslant 1)) \neq P(\xi \leqslant 0) \cdot P(\eta \leqslant 1)[/math] , откуда видно, что величины не являются независимыми.