Пособие состоит из двух самостоятельных разделов

Вид материала

Документы

Содержание Регрессия с MA-ошибкой Оценивание регрессии с MA-ошибкой нелинейным МНК

Подобный материал:

• Пособие состоит из двух самостоятельных разделов, 1481.78kb.
• Экзамен по избранному виду спорта состоит из двух разделов теоретического и практического, 49.78kb.
• Экзамен по избранному виду спорта состоит из двух разделов теоретического и практического, 81.96kb.
• Курсовая работа по дисциплине Экономика предприятия состоит из двух разделов: теоретической, 153.63kb.
• Аннотации дисциплин, 456.29kb.
• Виктор Сергеевич Стародубцев учебное пособие, 718.78kb.
• Природоохранное и природоресурсное закон, 1307.64kb.
• -, 9049.93kb.
• Методические рекомендации по выполнению самостоятельной работы студентов по дисциплине, 54.29kb.
• Программа состоит из двух разделов: Примерная программа родительского всеобуча «Семейная, 451.17kb.

Регрессия с MA-ошибкой

Оценивание регрессия с MA(1)-процессом в ошибке полным методом максимального правдоподобия

Будем рассматривать регрессию Y = X  +  с MA(1)-про­цес­сом в ошибке:

 _i   _i +   _i–1  _i ~ N(0,  ²)

 ²  var( _i)  (1 +  ²) ²

Ковариационная матрица ошибок  _i имеет вид V( ², )   ² W().

W  (1 +  ²) I +  ,

где   .

Симметричную положительно определенную матрицу можно представить в виде W  H ^T H , где H — ортогональная матрица собственных векторов (H ^T   , а  — диагональная матрица, диагональ которой состоит из соответствующих собственных чисел. В данном случае, собственные вектора матрицы W совпадают с собственными векторами матрицы , и поэтому не зависят от . Типичный элемент матрицы H равен

H_kl  sin(  )

Типичный диагональный элемент матрицы  (собственное число) равен

_k   ² + 2  cos(  ) + 1.

Матрица W такова, что

W   H ^T H.

Несложно также найти определитель матрицы W:

|W|  .

Обозначим Y ^*  DHY, X ^*  DHX, где D  ^{– 1/2} — диагональная матрица.

Пусть e^*() — остатки из вспомогательной регрессии,  () — оценки коэффициентов из этой регрессии. Тогда

(Y – X  ())^T W () (Y – X  ()) = e^*() ^Te^*().

Концентрированная функция правдоподобия после исключения параметров ² и  приобретет вид

^c()  – (ln(1–  ^{2N + 2}) – ln(1–  ²)) – ln(e^*() ^Te^*()) + const.

Остается с помощью одномерного поиска максимизировать концентрированную функцию правдоподобия по  на отрезке [, 1]. В максимуме функции правдоподобия можно с ненулевой вероятностью получить  = 1 или   = –1.

Можно предложить и другую вспомогательную регрессию, которая применима и в общем случае MA(l)-процесса. Обозначим  = ₀. Тогда модель можно преобразовать к виду

0 = – + ₀,

Y₁ = X₁ +   + ₁,

Y₂ – Y₁ = (X₂ – X₁) – ²  + ₂,

и так далее для i =3,...,N.

Более компактно это можно записать как уравнение регрессии:

  +  + .

Здесь , и имеют по N+1 наблюдению и вычисляются по рекуррентным формулам:

_i = Y_i –  _i–1, ₀ = 0,

_i = X_i –  _i–1, ₀ = 0,

_i = –  _i–1, ₀ = –1.

Пусть () — остатки из вспомогательной регрессии,  () — оценки коэффициентов  из этой регрессии. Тогда можно показать, что (Y – X  ())^TW ()(Y – X  ()) = ()^T(). Соответственно, концентрированная функция правдоподобия равна

^c()  – (ln(1–  ^{2N + 2}) – ln(1–  ²)) – ln(()^T()) + const.

Оценивание регрессии с MA-ошибкой нелинейным МНК

Как и в случае регрессии с AR-процессом, можно получить оценку, которая асимптотически эквивалентна точной оценке максимального правдоподобия, если пренебречь первыми наблюдениями. В данном случае удобно считать, что довыборочные ошибки _i (i < 1) равны нулю. При этом из функции правдоподобия исчезает мешающий член –¹/₂ (ln(1–  ^{2N + 2}) – ln(1–  ²)), и модель сводится к нелинейной регрессии, которую можно оценить с помощью метода Гаусса-Ньютона. Требуется минимизировать сумму квадратов остатков

_i²(, )  min.

Остатки вычисляются рекуррентно по формуле

_i (, ) = Y_i – X_i  –  _i–1(, ) (₀(, ) = 0).

Производные функции _i (, ), необходимые для использования метода Гаусса-Ньютона также находятся рекуррентно:

 – X_i –   ( = 0).

= –   – _i–1 ( = 0).