Повна версія

Головна arrow Економіка arrow Економетрика

  • Увеличить шрифт
  • Уменьшить шрифт


<<   ЗМІСТ   >>

РІВНЯННЯ МНОЖИННОЇ РЕГРЕСІЇ. ТЕОРЕМА ГАУССА - МАРКОВА

Чому ж в практичних додатках виявилися важливими властивості оцінок? Це пов'язано з тим, що при моделюванні реальних об'єктів, в тому числі економічних, параметри є не тільки числовими коефіцієнтами при змінних, а несуть на собі смислове навантаження, часто мають розмірність і по їх величинам роблять висновок про властивості об'єкта.

Наприклад, якщо модель (2.8) описує залежність витрат на споживання від доходу, то параметр a 1 є граничні витрати по доходу і показує, на скільки одиниць змінюються витрати на споживання при збільшенні доходу на одну одиницю.

Теорема Гаусса - Маркова [1] формулює умови, при яких МНК дозволяє отримати найкращі оцінки параметрів лінійної моделі множинної регресії.

Незважаючи на те, що Марков народився через рік після смерті Гаусса, теорема була названа за їхніми іменами. Заслуга Гаусса - в розробці МНК, заслуга Маркова - в формулюванні умов, при яких МНК дозволяє отримати спроможні оцінки.

Сформулюємо постановку задачі. Ми маємо:

1) специфікацію моделі у вигляді лінійного рівняння множинної регресії:

(5.20)

2) вибірку з n спостережень за поведінкою змінних моделі:

(5.21)

Значення змінних в кожному спостереженні пов'язані між собою за правилом (5.20). Отже, у відповідність кожному спостереженню можна поставити рівняння:

(5.22)

Система рівнянь (5.22) називається системою рівнянь спостереження або схемою Гаусса - Маркова.

Далі будемо використовувати такі позначення

  • - вектор спостережень за ендогенної змінної; (5.23)
  • - вектор параметрів лінійної моделі; (5.24)

(5.25)

У матриці X в першому стовпці записана одиниця.

Це "псевдопеременная" при параметрі . Ця одиниця з'являється в матриці X тільки в тих випадках, коли специфікація моделі містить вільний параметр . Якщо на етапі специфікації цей параметр не був записаний, то і в матриці X стовпець з одиниць відсутня.

У компактній записи з урахуванням введених позначень система рівнянь спостережень (схема Гауса - Маркова) має вигляд:

(5.26)

Завдання полягає в тому, щоб знайти:

  • 1) значення заможних оцінок параметрів моделі (5.20);
  • 2) значення незміщене помилок оцінок параметрів;
  • 3) оцінку помилки випадкового обурення;
  • 4) оцінку найкращого прогнозу за допомогою моделі (5.20);
  • 5) оцінку помилки прогнозу.

Теорема починається з опису умов, які накладаються на вектор випадкових збурень. Ці умови прийнято називати передумовами теореми Гаусса - Маркова.

Теорему умовно можна розбити на дві частини: "якщо" і "тоді".

У першій частині теореми ( "якщо") формулюються умови на випадкові обурення, при виконанні яких МНК-оцінки параметрів лінійної моделі множинної регресії відповідають властивостям незсуненості і ефективності. Ці умови прийнято називати передумовами теореми Гаусса - Маркова. У другій частині ( "тоді") формулюються оптимальні процедури обчислення оцінок параметрів моделі і основних функцій цих параметрів.

Теорема 5.1. "Якщо":

1. Математичне сподівання випадкових збурень у всіх спостереженнях дорівнює нулю:

(5.27)

2. Дисперсія випадкових збурень у всіх спостереженнях однакова і дорівнює константі :

(5.28)

3. Ковариация між парами випадкових збурень в спостереженнях дорівнюють нулю (випадкові обурення в спостереженнях незалежні):

(5.29)

4. Ковариация між вектором регресорів і вектором випадкових змінних дорівнює нулю (регресорів і випадкові обурення незалежні):

(5.30)

"Тоді": якщо матриця X (5.26) неколінеарна (немає жодного стовпчика, який можна було б представити у вигляді лінійної комбінації інших його стовпців)

1. Найкраща оцінка вектора параметрів лінійної моделі множинної регресії обчислюється, як

(5.31)

Вона відповідає методу найменших квадратів.

2. Коваріаційна матриця оцінок параметрів моделі обчислюється, як

(5.32)

3. Дисперсія випадкового обурення дорівнює

(5.33)

4. Найкращий прогноз за моделлю (5.20) в точці

обчислюється за правилом:

(5.34)

5. Помилка прогнозу ендогенної змінної дорівнює

(5.35)

З огляду на важливість теореми Гаусса - Маркова для економетрики, розглянемо її доказ.

Доведення. Скористаємося методом найменших квадратів:

(5.36) де

(5.37)

Підставляючи (5.37) в (5.36) і виконавши множення, одержимо:

(5.38)

Для отримання необхідної умови екстремуму диференціюючи (5.38) по вектору :

(5.39)

Звідси, система нормальних рівнянь для обчислення оцінок вектора має вигляд:

(5.40)

Тоді оцінка вектора є

Вираз (5.31) доведено.

Зауваження. Вимога неколінеарності матриці X забезпечує існування матриці . В іншому випадку процедура (5.31) нездійсненна.

Покажемо, що процедура (5.31) дає несмещенную оцінку параметрів моделі множинної регресії. Для цього необхідно обчислити математичне сподівання вектора

оцінки :

(5.41)

Таким чином, Незміщеність оцінки (5.31) доведена. Відзначимо, що Незміщеність досягнута в силу виконання першої передумови теореми Гаусса - Маркова.

Аналогічним чином доводиться справедливість виразу (5.32).

Зупинимося детальніше на передумовах теореми Гаусса - Маркова.

Перша передумова (5.27) говорить про те, що у всіх спостереженнях середнє значення (математичне очікування) випадкового обурення дорівнює нулю. Ця передумова відповідає за Незміщеність параметрів лінійної моделі множинної регресії. Саме виконання цієї передумови забезпечило рівність нулю другого доданка в (5.41) і дозволило отримати незсунені параметри моделі.

Друга передумова теореми вимагає, щоб у всіх спостереженнях дисперсія випадкового обурення була однаковою. Це властивість отримало назву властивості гомоскедастичність або однорідності, або однаковості дисперсій. У разі невиконання цієї умови кажуть, що випадкові обурення в рівняннях спостереження гетероскедастичних або неоднорідні. Якщо випадкові обурення гетероскедастичних, то оцінки параметрів моделі залишаються незміщеними, але втрачається ефективність оцінки дисперсій параметрів. Вони, як правило, виявляються завищеними.

Третя передумова теореми вимагає незалежності випадкових збурень. Іншими словами, яким би не було значення випадкового обурення в першому спостереженні, воно ніяк не позначається на значеннях випадкового обурення в будь-якому іншому спостереженні. Це властивість отримало назву неавтокорреліруемості випадкових збурень. Якщо це властивість не виконується, то це так само позначається на оцінках дисперсій параметрів моделі. В цьому випадку дисперсії, як правило, занижені.

Четверта передумова теореми вимагає незалежності випадкових збурень від значень регресорів (екзогенних змінних). Як ми вже відзначали, спостерігаючи результат побудови моделі парної регресії (5.9), невиконання цієї умови призводить до зміщення параметрів моделі. У тих випадках, коли значення регресорів фіксовані, тобто є константами, ця передумова виконується автоматично. Однак в ряді випадків регресорів можуть носити випадковий характер. Наприклад, якщо значення регресорів у вибірці є результат вимірювань, або коли в якості регресорів виступає лаговой ендогенна змінна.

  • [1] Карл Фрідріх Гаус (30.04.1777-23.02.1855) - німецький вчений - математик, фізик, астроном. Андрій Андрійович Марков (14.06.1856-20.07.1922) - російський математик.
 
<<   ЗМІСТ   >>