Предпосылки метода наименьших квадратов

При оценке параметров уравнения регрессии применяется МНК. При этом делаются определенные предпосылки относительно случайной составляющей .

В модели после определения параметров может быть сделана оценка случайной составляющей . Эти остатки можно считать некоторой выборочной реализацией неизвестного остатка . При изменении спецификации (числа факторов, формы) модели оценки остатков могут изменяться. Поэтому в задачу регрессионного анализа входит не только построение самой модели, но и исследование случайных отклонений , то есть реализаций неизвестного остатка .

Исследование остатков производят с целью проверки предпосылок МНК:

1) случайный характер остатков;

2) нулевая средняя величина остатков;

3) гомоскедастичность, то есть одинаковость дисперсий остатков в различных точках ;

4) отсутствие автокорреляции остатков, т. е. значения остатков по распределены независимо друг от друга;

5) остатки подчиняются нормальному закону распределения вероятностей.

Если все эти пять предпосылок МНК выполняются, то коэффициенты регрессии, найденные исходя из системы нормальных уравнений, будут несмещенными, эффективными и состоятельными. Для того, чтобы оценки параметров были несмещенными (т. е. не имели систематической ошибки), нужно, чтобы средняя величина остатков была равна нулю. Оценки считаются эффективными, если они характеризуются минимальной среди других оценок дисперсией. Состоятельность оценок означает повышение точности их оценки с увеличением числа наблюдений. Если рассмотренные предпосылки не выполняются, то не выполняются требования к оценкам параметров, и модель необходимо корректировать.

Прежде всего, проверяется случайный характер остатков - первая предпосылка МНК. С этой целью строится график зависимости остатков от теоретических значений результативного признака. Если на графике получена горизонтальная полоса, то остатки представляют собой случайные величины.

Если имеют место отклонения от случайного характера остатков, то нужно заново строить уравнение регрессии, менять форму связи.

Вторая предпосылка означает, что .

Третья предпосылка требует, чтобы дисперсия остатков была гомоскедастичной. Это значит, что для каждого значения фактора x остатки имеют одинаковую дисперсию. Если это условие применения МНК не соблюдается, то имеет место гетероскедастичность.

Наличие гетероскедастичности приводит к смещенности оценок коэффициентов регрессии (хотя, в основном, это зависит от соблюдения второй предпосылки – независимости остатков от величины факторов). Гетероскедастичность сказывается на уменьшении эффективности оценок а_i. При наличии гетероскедастичности переходят к использованию обобщенного МНК.

При малом объеме выборки, что характерно для эконометрических исследований для оценки гетероскедастичности используется метод Гольдфельда-Квандта, так как визуальный анализ практически невозможен. Их тест включает следующие шаги:

1. Упорядочение наблюдений по мере возрастания переменной x.

2. Исключение из рассмотрения центральных наблюдений. При этом , где m – число оцениваемых параметров.

3. Разделение совокупности из наблюдений на две группы (соответственно с малыми и большими значениями фактора х и определение по каждой группе уравнений регрессии).

4. Определение остаточной суммы квадратов для первой и второй групп и нахождение их отношения R.

При выполнении нулевой гипотезы о гомоскедастичности отношение R будет удовлетворять F-критерию с степенями свободы для каждой остаточной суммы квадратов. Чем больше величина R превышает табличное значение F-критерия, тем больше нарушена предпосылка о равенстве дисперсий остаточных величин (см. пример на стр. 165-167).

При построении регрессионных моделей очень важно соблюдение четвертой предпосылки МНК – отсутствие автокорреляции остатков, то есть значения остатковраспределены независимо друг от друга. Автокорреляция остатков означает наличие корреляции между остатками текущих и предыдущих или последующих наблюдений. Если коэффициент автокорреляции окажется существенно отличным от нуля, то остатки автокоррелированы, и функция распределения вероятностей остатков зависит как от j-ой точки наблюдения, так и от распределения значений остатков в других точках наблюдения.

Автокорреляция остатков вычисляется после того, как наблюдения упорядочены по фактору x.

Отсутствие автокорреляции остаточных величин обеспечивает состоятельность и эффективность оценок коэффициентов регрессии.

Наряду с предпосылками МНК как метода оценивания параметров регрессии при построении регрессионных моделей должны соблюдаться некие требования в отношении факторов, включаемых в модель, а именно, требование относительно числа факторов модели по заданному объему наблюдений – число наблюдений должно в 6÷7 раз превышать число факторов, включаемых в модель, иначе параметры регрессии оказываются статически незначимыми. Кроме того, не должно быть мультиколлинеарности факторов.

При несоблюдении основных предпосылок МНК приходится корректировать модель, изменяя ее спецификацию, добавлять или исключать некоторые факторы, преобразовывать исходные данные, чтобы получить оценки коэффициентов регрессии, обладающих свойствами несмещенности, эффективности и состоятельности. Этой цели служит, в том числе, и применение обобщенного метода наименьших квадратов.

Дата добавления: 2014-03-19; просмотров: 1275; Нарушение авторских прав

Мы поможем в написании ваших работ!