Методы нахождения точечных оценок

§ 2. Основные методы нахождения точечных оценок.

Метод моментов (Гмурман. Руководство §2, с. 163-164, пример. 471) состоит в приравнивании теоретических моментов данного распределения соответствующим эмпирическим моментам того же порядка. Он основывается на том факте, что эмпирическая функция распределения при большом числе наблюдений мало отличается от теоретической, поэтому выборочные моменты являются асимметрично несмещенными и состоятельными оценками теоретических моментов.
В результате применения этого метода получают систему уравнений. При числе уравнений, большем 4, т.е. если параметров больше 4, этот метод не дает точной оценки.
Если распределение характеризуется 1 параметром, то для его отыскания приравнивают 1 теоретический момент одному эмпирическому моменту того же порядка. Например, можно приравнять начальный теоретический момент первого порядка начальному эмпирическому моменту первого порядка, т.е.
13 EMBED Equation.3 1415. (1)
Если известна плотность распределения вероятности f(x) = f(x, M(X)) в случае непрерывного распределения или закон распределения pi = P(X=xi, M(X)), то уравнение (1) в развернутом виде можно записать так
13 EMBED Equation.3 1415, если Х – дискретна,
13 EMBED Equation.3 1415, если Х – непрерывна.
Как видим, математическое ожидание является функцией от неизвестного параметра заданного распределения, поэтому, решив уравнение (1), получим его точечную оценку.
Для случая двух параметров, приравнивая, например, начальные моменты первого порядка и центральные моменты второго порядка, имеем систему
13 EMBED Equation.3 1415
Замечание. Метод моментов содержит неопределенность, поскольку можно получить уравнения для неизвестных параметров, приравняв как начальные, так и центральные моменты.
Пример. СВ Х распределена по закону Пуассона
13 EMBED Equation.3 1415,
где m – число испытаний в одном опыте, xi – число появлений события в i-ом опыте. Найти методом моментов по выборке 13 EMBED Equation.3 1415 точечную оценку неизвестного параметра
·.
Решение. Для оценки одного параметра достаточно одного уравнения вида (1). Т.к. для распределения Пуассона M(X) = 
·, то точечной оценкой этого параметра в силу уравнения (1) будет выборочная средняя, т.е. 13 EMBED Equation.3 1415.

Метод наибольшего правдоподобия (Гмурман. Руководство §3, с. 169-171, пример. 493) используется в том случае, когда известен вид функции распределения. Он состоит в построении по этой функции так называемой функции правдоподобия и нахождении максимума этой функции (или ее логарифма).
Пусть СВ Х в результате n испытаний приняла значения 13 EMBED Equation.3 1415. Будем считать, что закон распределения СВ Х известен – для дискретной СВ в виде вероятности p(xi,
·), а для непрерывной в виде плотности распределения вероятности f(xi,
·), но неизвестен параметр распределения
·.
Определение 5. Функцией правдоподобия СВ Х называется функция
13 EMBED Equation.3 1415 для дискретной СВ,
13 EMBED Equation.3 1415 для непрерывной СВ,
где 13 EMBED Equation.3 1415 - фиксированные числа.
Из определения следует, что функция правдоподобия является вероятностной мерой выборки 13 EMBED Equation.3 1415 и зависит от случайной оценки
· (она меняется от выборки к выборке) и от случайной выборки 13 EMBED Equation.3 1415. Следовательно, чем вероятнее (правдоподобнее) при фиксированном
· выборка 13 EMBED Equation.3 1415, тем больше значение функции правдоподобия.
Определение 6. Оценкой наибольшего правдоподобия параметра
· называется такое значение
·*, при котором функция правдоподобия достигает максимума.
Определение 7. Логарифмической функцией правдоподобия СВ Х называется функция ln L.
Функции L и ln L достигают максимума при одном и том же значении
·, поэтом вместо отыскания максимума функции L ищут, что удобнее, максимум ln L.
При отыскании точки максимума функции ln L аргумента
· поступают следующим образом.
Находят производную 13 EMBED Equation.3 1415.
Из уравнения правдоподобия, которое получается в результате приравнивания этой производной нулю, находят критическую
·*.
Находят вторую производную 13 EMBED Equation.3 1415. Если она при
· = 
·* отрицательна, то
·* - точка максимума функции ln L.
Пример. Найти методом наибольшего правдоподобия по выборке 13 EMBED Equation.3 1415 точечную оценку неизвестного параметра
· показательного распределения, плотность вероятности которого 13 EMBED Equation.3 1415 при неотрицательных x.
Решение. Учитывая, что
· = 
·, составим функцию правдоподобия
13 EMBED Equation.3 1415.
Найдем логарифмическую функцию правдоподобия
13 EMBED Equation.3 1415.
Составим уравнение правдоподобия
13 EMBED Equation.3 1415 или 13 EMBED Equation.3 1415,
из которого получаем критическую точку 13 EMBED Equation.3 1415.
Найдем вторую производную
13 EMBED Equation.3 1415,
которая отрицательна, при любом
·, т.е. полученная оценка
·* является оценкой наибольшего правдоподобия неизвестного параметра
·.
Замечание. Метод моментов отличается простотой, однако, оценки, полученные этим методом, как правило, смещены и малоэффективны. Исключение составляет нормальное распределение. Метод наибольшего правдоподобия дает состоятельную оценку; если существует эффективная оценка, то метод наибольшего правдоподобия дает ее; и оценка наибольшего правдоподобия асимптотически эффективна.



Приложенные файлы

  • doc 6085570
    Размер файла: 64 kB Загрузок: 0

Добавить комментарий