Математическое ожидание

Материал из GipsyTeam Wiki

Математи́ческое ожида́ние — понятие среднего значения случайной величины в теории вероятностей. В зарубежной литературе обозначается через $\mathbb{E}[X]$ , в русской $M [X]$ . В статистике часто используют обозначение $μ$ .

Содержание

1 Определение
2 Основные формулы для математического ожидания
- 2.1 Математическое ожидание дискретного распределения
  - 2.1.1 Математическое ожидание целочисленной величины
- 2.2 Математическое ожидание абсолютно непрерывного распределения
3 Математическое ожидание случайного вектора
4 Простейшие свойства математического ожидания
5 Дополнительные свойства математического ожидания
6 Примеры
7 Литература
8 Ссылки

Определение

Пусть задано вероятностное пространство $(\Omega,\mathcal{F},\mathbb{P})$ и определённая на нём случайная величина $X$ . То есть, по определению, $X\colon\Omega \to \mathbb{R}$ — измеримая функция. Тогда, если существует интеграл Лебега от $X$ по пространству $Ω$ , то он называется математическим ожиданием, или средним значением и обозначается $\operatorname{M} X$ .

$M[X]=\int\limits_{\Omega}\! X(\omega)\, \mathbb{P}(d\omega).$

Основные формулы для математического ожидания

Если $F X (x)$ — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

$M[X]=\int\limits_{-\infty}^{\infty}\!x\, dF_X(x)$ .

Математическое ожидание дискретного распределения

Если $X$ — дискретная случайная величина, имеющая распределение

$\mathbb{P}(X=x_i) = p_i,\; \sum\limits_{i=1}^{\infty} p_i = 1$ ,

то прямо из определения интеграла Лебега следует, что

$M[X]=\sum\limits_{i=1}^{\infty} x_i\, p_i$ .

Математическое ожидание целочисленной величины

Если $X$ — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

$\mathbb{P}(X=j) = p_i,\; j=0,1,...;\quad \sum\limits_{j=0}^{\infty} p_j = 1$

то её математическое ожидание может быть выражено через производящую функцию последовательности ${p i}$

$P(s)=\sum_{k=0}^\infty\;p_k s^k$

как значение первой производной в единице: $M [X] = P'(1)$ . Если математическое ожидание $X$ бесконечно, то $\lim_{s\to 1}P'(s)=\infty$ и мы будем писать $P'(1)=M[X]=\infty$

Теперь возьмём производящую функцию $Q (s)$ последовательности «хвостов» распределения ${q k}$

$q_k=\mathbb{P}(X>j)=\sum_{j=k+1}^\infty{p_j};\quad Q(s)=\sum_{k=0}^\infty\;q_k s^k.$

Эта производящая функция связана с определённой ранее функцией $P (s)$ свойством: $Q(s)=\frac{1-P(s)}{1-s}$ при $| s | < 1$ .

Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

M [X] = P'(1) = Q (1)

Математическое ожидание абсолютно непрерывного распределения

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью $f X (x)$ , равно

$M[X]=\int\limits_{-\infty}^{\infty}\! x f_X(x)\, dx$ .

Математическое ожидание случайного вектора

Пусть $X=(X_1,\dots,X_n)^{\top}\colon\Omega \to \mathbb{R}^n$ — случайный вектор. Тогда по определению

$M[X]=(M[X_1],\dots,M[X_n])^{\top}$ ,

то есть математическое ожидание вектора определяется покомпонентно.

Простейшие свойства математического ожидания

Математическое ожидание линейно, то есть

M [a X + b Y] = a M [X] + b M [Y]

,

где

X, Y

— случайные величины с конечным математическим ожиданием, а $a,b\in \mathbb{R}$ — произвольные константы;

Математическое ожидание сохраняет неравенства, то есть если $0 \leqslant X \leqslant Y$ почти наверное, и $Y$ — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины $X$ также конечно, и более того

$0 \leqslant M[X] \leqslant M[Y]$ ;

Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если $X = Y$ почти наверное, то

M [X] = M [Y]

.

Математическое ожидание произведения двух независимых случайных величин $X, Y$ равно произведению их математических ожиданий

M [X Y] = M [X] M [Y]

.

Дополнительные свойства математического ожидания

Неравенство Маркова;
Теорема Леви о монотонной сходимости;
Теорема Лебега о мажорируемой сходимости;
Тождество Вальда;
Лемма Фату.
Математическое ожидание случайной величины $X$ может быть выражено через её производящую функцию моментов $G (u)$ как значение первой производной в нуле: $M [X] = G'(0)$

Примеры

Пусть случайная величина имеет дискретное равномерное распределение, то есть $\mathbb{P}(X = x_i) = \frac{1}{n},\; i=1,\ldots, n.$ Тогда её математическое ожидание

$M[X] = \frac{1}{n} \sum\limits_{i=1}^n x_i$

равно среднему арифметическому всех принимаемых значений.

Пусть случайная величина имеет непрерывное равномерное распределение на интервале $[a, b]$ , где $a < b$ . Тогда её плотность имеет вид $f_X(x) = \frac{1}{b-a} \mathbf{1}_{[a,b]}(x)$ и математическое ожидание равно

$M[X] = \int\limits_{a}^b\!\frac{x}{b-a}\, dx = \frac{a+b}{2}$ .

Пусть случайная величина $X$ имеет стандартное распределение Коши. Тогда

$\int\limits_{-\infty}^{\infty}\!xf_X(x)\, dx = \infty$ ,

то есть математическое ожидание $X$ не определено.

Литература

В.Феллер Глава XI. Целочисленные величины. Производящие функции // Введение в теорию вероятностей и её приложения = An introduction to probability theory and its applicatons, Volume I second edition / Под ред. Е. Б. Дынкина. — 2-е изд. — М: Мир, 1964. — С. 270—272.

Ссылки