Пособие состоит из двух самостоятельных разделов

Вид материала

Документы

Содержание Якобиан преобразования плотности распределения в функции правдоподобия Преобразование зависимой переменной. Модель Бокса-Кокса

Подобный материал:

• Пособие состоит из двух самостоятельных разделов, 1495.22kb.
• Экзамен по избранному виду спорта состоит из двух разделов теоретического и практического, 49.78kb.
• Экзамен по избранному виду спорта состоит из двух разделов теоретического и практического, 81.96kb.
• Курсовая работа по дисциплине Экономика предприятия состоит из двух разделов: теоретической, 153.63kb.
• Аннотации дисциплин, 456.29kb.
• Виктор Сергеевич Стародубцев учебное пособие, 718.78kb.
• Природоохранное и природоресурсное закон, 1307.64kb.
• -, 9049.93kb.
• Методические рекомендации по выполнению самостоятельной работы студентов по дисциплине, 54.29kb.
• Программа состоит из двух разделов: Примерная программа родительского всеобуча «Семейная, 451.17kb.

Якобиан преобразования плотности распределения в функции правдоподобия

Функция правдоподобия модели типа e = f (Y,q ₁)

Рассмотрим модель по отношению к которой регрессия является частным случаем:

e = f (Y,q ₁).

Здесь Y — зависимая переменная, e — ошибка, причем Y и e — вектора-столбцы одинаковой размерности. “Независимые переменные” (рег­рес­со­ры) X неявно содержатся в функции f (.). q ₁ — неизвестные параметры. Обозначаем их q ₁, а не q , потому что распределение ошибок e само может зависеть от вектора неизвестных параметров (q ₂), так что

q  = .

В частном случае линейной регрессии

f (Y,q ₁) = Y – Xb, q ₁ = b, q ₂ = s ².

Как правило, при построении эконометрической модели делают предположение о распределении ошибки, а уже из распределения ошибки выводят распределение зависимой переменной. Таким образом, задача состоит в том, чтобы из плотности распределения e получить плотность распределения Y (если мы имеем дело с непрерывным распределением).

Плотности распределения связаны между собой соотношением:

p_Y(Y,q ) = p_e( f (Y,q ₁),q ₂) abs |J(q ₁)|,

где J(q ₁) — матрица Якоби (якобиан), соответствующий преобразованию Y в e :

J(q ₁) = = {}_il

— матрица первых производных f  по Y. В выражении для плотности здесь стоит модуль определителя якобиана.

Функция правдоподобия — это по определению плотность распределения Y. Таким образом, логарифмическая функция правдоподобия равна

 = ln p_e( f (Y,q ₁),q ₂) + ln abs |J(q ₁)|.

Будем второе слагаемое здесь называть якобианным членом. Якобианный член уже присутствовал в логарифмических функциях правдоподобия, которые мы рассматривали выше (см. напр. регрессии с автокоррелированными ошибками). В модели с AR(1)-ошибкой e _i = r e _i–1 + x _i, где e _i = Y_i – X_i b. Выразим x через Y:

f_i(Y,q ₁) = x _i = (Y_i – X _i b) – r (Y_i–1 – X_i–1 b), i =1,...,N.

f₁(Y,q ₁) = (Y₁ – X₁b).

Здесь q ₁ = . f₁(Y,q ₁) определена таким образом, чтобы все элементы f имели одинаковую дисперсию. Для этой модели

J(q ₁) = = , abs |J(q ₁)| = .

Преобразование зависимой переменной. Модель Бокса-Кокса

В частном случае рассмотренной модели q ₁ состоит из b и d и

f_i (Y_i,q ₁) = h_i(Y_i,d) – X_i(d)b.

Модель является квазирегрессионной. Здесь X(d) — матрица “рег­рес­со­ров”, b — вектор регрессионных коэффициентов. Якобиан J = = зависит только от параметров d и является диагональной матрицей.

Такая модель возникает из регрессии, если применить к зависимой переменной преобразование, зависящее от оцениваемых параметров.

Пусть ошибки нормально распределены e _i~N(0,s ²) и некоррелированы.

p_e(z) = (2ps ²) exp(–  z^Tz).

Логарифмическая функция правдоподобия для такой модели:

 = ln p_e( f (Y,q ₁),q ₂) + ln abs |J(q ₁)| =

= – ln(2ps ²) –   f ^Tf  + ln abs |  | =

= – ln(2ps ²) –   (h(Y,d) – X(d)b)² + ln abs (  ).

Самое популярное преобразование зависимой переменной — это преобразование Бокса-Кокса:

h(Y_i,d) = .

В общем случае его можно применять при положительных Y_i.

Если d ® 0, то ® lnY_i, поэтому берут h(Y,0) = lnY.

Таким образом, имеем следующую простейшую модель Бокса-Кокса³:

 = X_i b +e _i .

Здесь регрессоры X детерминированы и не зависят от неизвестных параметров.

Якобиан равен

J = .

Функция правдоподобия для модели Бокса-Кокса равна

 = – ln(2ps ²) –   ( – X b )² – (1 – d )  lnY_i.

Концентрируя функцию правдоподобия по s ², получим

 = – ln(2p ) – – (1 – d )  lnY_i.

Обозначим среднее геометрическое Y_i:

= (_iY_i).

Тогда  = – ln(RSS) – N (1 – d ) ln  + const.

Максимизация  эквивалентна минимизации следующей суммы квадратов:

( ( – X b)).

Можно предложить два метода оценивания.

Первый метод заключается в одномерной минимизации по d, поскольку при фиксированном d задача сводится к ОМНК. Строим регрессию (Y – 1)/d  по X.

Второй метод заключается в использовании нелинейного МНК, в котором зависимой переменной является вектор, состоящий из нулей, а в правой части стоит ((Y – 1)/d  – X b ).

В обоих случаях мы найдем МП-оценки, но не найдем состоятельную оценку матрицы ковариаций оценок (ко­ва­ри­аци­он­ные матрицы из этих вспомогательных регрессий не годятся).