Оценка неизвестных параметров распределений

Оценка неизвестных
параметров распределений
Точечное оценивание
Виды параметров



Параметры сдвига
 математическое ожидание
 медиана
 мода
Параметры формы
 дисперсия
 асимметрия
 эксцесс
Моменты


начальные
центральные
2
Математическое ожидание
Дискретные распределения
M  X    pi  xi
i
Непрерывные распределения
M X  

 x  f  x  dx

3
Мода
Значение Mo непрерывной случайной
величины, при котором имеет место
максимум плотности распределения. Для
дискретной СВ -- ее наиболее вероятное
значение.
f(x)
Mo
4
Медиана

Значение случайной величины x = Med, которое
делит область ее значений на две части так,
что вероятности попадания в каждую из них
равна 0.5.
F(x)
1
0.5
F(Med ) = 0.5
Med
x
5
Параметры масштаба

Дисперсия Dx и среднеквадратичное
отклонение 2
Дискретные СВ
Dx   pi   xi  M  X 
2
i

Непрерывные СВ
Dx 
  x  M  x  f  x  dx
2

Dx   2
6
Параметры формы

Коэффициент асимметрии
ax > 0
ax 
3
 x3
ax< 0
7
Параметры формы

Эксцесс
Cx 
4
3
4
x
Cx > 0
Cx = 0
Cx < 0
8
Моменты


Начальные моменты
Центральные моменты
9
Методы построения оценок



Метод статистических аналогов
Метод моментов
Метод наибольшего правдоподобия
10
Требования к оценкам



Состоятельность
несмещенность
эффективность
11
Метод статистических
аналогов


Метод основан на интерпретации выборки как
дискретной СВ, у которой все значения
равновозможны, т.е.
1
pi 
n
Построенные в этом предположении числовые
характеристики называются выборочными
12
Выборочное среднее --- стат. аналог мат.
ожидания
Негруппированные данные
n
1
X   Xi
n i1
Группированные данные
k
1
X  mjZ j ,
n j 1
k
m
j 1
j
n
13
Выборочная дисперсия
Негруппированные данные
n
n
1
1
S 2   ( X i  X )2   X i2  X 2
n i1
n i1
Группированные данные
k
k
1
1
S 2   m j ( Z j  X ) 2   m j Z 2j  X 2 ,
n j 1
n j 1
k
m
j 1
j
n
14
Начальные моменты
Негруппированные данные
1 n l
al   X i
n i1
Группированные данные
1 k
al   m j Z lj
n j 1
15
Центральные моменты
n
1
l
Ml  ( Xi  X )
n i1
k
1
l
M l   m j (Z j  X )
n j 1
16
Метод моментов
Достоинством метода моментов является их
относительная простота получения.
Недостатки -- оценки обычно имеют эффективность
много меньше единицы и могут быть смещенными.
Метод не применим, когда моменты нужного порядка
не существуют.
Обычно их используют в качестве первых
приближений для нахождения последующих
приближений с большей эффективностью.
17
Лекция №4
Оценка неизвестных
параметров распределений
Методы построения точечных
оценок
Метод наибольшего
правдоподобия

Пусть имеем выборку X = {X1, X2, …, Xn }, компоненты
которой есть (до опыта) независимые, одинаково
распределенные случайные величины ( НОРСВ ). Закон
распределения случайных величин известен с точностью
до неизвестных параметров,
   1 ,  2 ,
, n 
значение которых надо оценить по реализации
данной выборки
x = {x1, x2, …, xn }.
19
По выражению Р. Фишера
«…В опыте происходит то, что должно произойти».
Т.е. реализуется такая выборка, которая имеет
наибольшую вероятность произойти.
Вероятность реализации выборки определяется
законом распределения, а, следовательно, зависит от
неизвестных параметров распределения.
Для полученной выборки наилучшими будут такие
параметры, которые обеспечивают максимум
вероятности реализации данной выборки.
20
Функция правдоподобия

Введем функцию правдоподобия
L  X1,

, X n ,    P  X 1  x1   P  X 2  x2 
P  X n  xn 
для дискретного распределения и для непрерывного
распределения
L  X1,
, X n ,    f ( x1 , )
f ( xn , )
21
Уравнение правдоподобия

ln{L  X 1 ,

, X n ,  }  0
22