1.1.3. Пример 2. Парная регрессия. Начало [у доски]

Loading...

Из курса от партнера National Research University Higher School of Economics

Эконометрика (Econometrics)

320 оценки

National Research University Higher School of Economics

Эконометрика (Econometrics)

320 оценки

Эконометрика – наука, позволяющая исследовать закономерности в реальных данных. К концу курса мы научимся отвечать на два вопроса. Как одна переменная, y, зависит от другой переменной, x? Как спрогнозировать переменную y? Мы будем подробно изучать линейные регрессионные модели, рассмотрим наиболее частые отклонения от предпосылок классической линейной регрессии. Изучим базовые модели (логит и пробит) для качественных зависимых переменных. Наряду с теоретической основой мы будем работать с реальными данными, используя статистический пакет R. Необходимые знания: Теория вероятностей и математическая статистика. Линейная алгебра опционально.

Из урока

Метод наименьших квадратов или рабочая лошадка эконометриста, введение в R

Материалы всех недель доступны сразу, но в системе указаны рекомендуемые сроки выполнения всех заданий. Форум также открыт для Ваших вопросов. Ознакомьтесь с правилами оценивания и проведения контрольных работ. Обращаем Ваше внимание на то, что тест можно делать сколько угодно раз, но на каждые 8 часов даются только три попытки. Если Вы начали выполнять тест, то время на его выполнение неограничено. Ссылки на pdf-файлы лекций и скрипты для всех недель находятся в разделе Ценные ресурсы так же, как и правки к видео-фрагментам :) В первых же тестах есть вопросы, где необходимо использовать R, поэтому надеемся, что Вы уже успели поставить его на свои компьютеры. Если нет, то в Ценных ресурсах лежат подробные инструкции по установке софта. После установки не забудьте открыть в R-Studio (File -> Open file) файл "install_all.R" и запустите его, чтобы поставить все необходимые нам в ближайшее время пакеты. Выделите все строчки и запустите с помощью сочетания Ctrl + Enter на Windows или Cmd + Enter на Mac. Чтобы познакомиться с R поближе, в данной виньетке представлено краткое и наглядное описание интерфейса R-studio, шоткатов и других полезных вещей. Успехов!

1.1.1. Суть метода наименьших квадратов8:45

1.1.2. Пример 1. Регрессия на константу [у доски]8:21

1.1.3. Пример 2. Парная регрессия. Начало [у доски]6:58

1.1.4. Пример 2. Парная регрессия. Окончание [у доски]8:17

1.1.5. МНК на графике. Случай множества регрессоров11:17

Познакомьтесь с преподавателями

Boris Demeshev
Senior Lecturer
Department of Applied Economics

[МУЗЫКА]

[МУЗЫКА] Перейдем к

оценке второй, более сложной модели методом наименьших квадратов.

Ну, для начала нам понадобится некоторое просто вспомогательное наблюдение,

чтобы легче было следовать за выкладками.

Заметим, что если посчитать сумму всех x i-тых по Е от 1 до n,

поделить на количество наблюдений, получается среднее арифметическое,

которое мы обозначаем в этом нет ничего сложного.

Ну, из этого автоматом следует, что сумма хi-тых равняется ∑xi = n̅x,

а поскольку если складывать одинаковые слагаемые,

то это ровно n одинаковых слагаемых, то это еще можно сказать как сумма ∑

xi = n̅x = ∑ ̅x то есть сумма xi-тых равна сумме того же самого количества x средних.

Поскольку их просто n.

Это x среднее, плюс x среднее, плюс x среднее и так далее n раз.

И, например, можно эти две суммы еще вот так вот

объединить ∑ (xi – ̅x) = 0 Вот,

вооружившись таким предварительным знанием,

мы готовы переходить к оценке второй модели.

Значит, выписываем наш RSS

= ∑ (yi – ŷi)²

Для второй модели M2:

ŷi: = ˆβ1 + ˆβ2xi

Σi — это не прогнозируемая часть.

Подставляем ŷ в сумму квадратов

ошибок получаем, что это есть сумма по i = 1 до n,

RSS = ∑ (yi – ŷ)² = ∑ (yi –

ˆβ1 – ˆβ2xi)² и все это в квадрате.

И возьмем от, это получилась некая функция, эта функция зависит от ˆβ1 и ˆβ2

RSS = ∑ (yi – ŷ)² = ∑ (yi – ˆβ1 – ˆβ2xi)² = Q (ˆβ1, ˆβ2) И мы будем минимизировать

эту функцию по ˆβ1, ˆβ2 давайте сразу возьмем производные.

Если я беру производную производную по ˆβ1 ∂Q/∂ˆβ1

у меня получается сумма 2 —

производная от квадрата ∂Q/∂ˆβ1 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) ∂Q/∂ˆβ1 =

∑ 2 (yi – ˆβ1 – ˆβ2xi) помножить на производную

внутри скобки ∂Q/∂ˆβ1 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) (–1) должно равняться 0.

∂Q/∂ˆβ1 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) (–1) = 0 И второе уравнение,

которое у меня получается ∂Q/∂ˆβ2 ∂Q/∂ˆβ2 = ∑ 2 (yi

– ˆβ1 – ˆβ2xi) (–xi) = 0 ∂Q/∂ˆβ2

= ∑ 2 (yi – ˆβ1 – ˆβ2xi) (–xi) =

0 Это условие первого порядка и из этой системы уравнений у нас,

собственно, игреки нам даны, xi-тые нам даны,

и в этих страшных двух уравнениях неизвестными являются только ˆβ1 и ˆβ2.

Но у нас два уравнения, две неизвестных, как раз имеется возможность

из системы уравнений найти систему неизвестных, набор неизвестных.

=>ˆβ1, ˆβ2 Давайте, правда, еще сократим на 2, на –2 даже сократим и покажем, что

эти уравнения можно в очень простом виде записать, он нам в дальнейшем пригодится.

Посмотрите, вот это вот (yi – ˆβ1 – ˆβ2xi),

это не что иное как ошибка прогноза, то есть это ˆ∑i Соответственно,

наши два уравнения после сокращения на –2 записываются очень простым образом.

n∑i=1 ˆ∑i 1 = 0 Ну,

на 1, конечно, можно не умножать.

И n∑i=1 ˆ∑i xi = 0

То есть, наши уравнения записываются

очень просто.

Соответственно, теперь нам надо их решить.

Поехали.

Приводим, находим коэффициенты при ˆβ1 и ˆβ2 Получаем,

что останется от первого ∑yi

– ∑yi – ∑ˆβ1 –

∑ˆβ2 xi = 0 И то же самое делаем для второго уравнения,

раскрываем скобки, получаем ∑yixi

∑yixi – ∑ˆβ1xi

∑yixi – ∑ˆβ1xi – ∑yixi

– ∑ˆβ1xi – ∑ˆβ2 xi² ∑yixi – ∑ˆβ1xi

– ∑ˆβ2 xi² = 0 Мы сократили на –2 и раскрыли скобки.

Давайте поделим первое уравнение на n,

ну вынесем константы за знак суммы и поделим

на n каждое из этих уравнений, посмотрим, что получится.

Значит, здесь ∑yi – ∑yi – nˆβ1 потому

что ˆβ1 не зависит от номера

слагаемого ∑yi – nˆβ1 – ˆβ2

∑xi ∑yi – nˆβ1 – ˆβ2 ∑xi = 0

И здесь ∑yixi – ∑yixi – ˆβ1 ∑xi

∑yixi – ˆβ1 ∑xi – ˆβ2 ∑xi² = 0

Первое уравнение поделим на n, и его можно будет дать ему еще одну интерпретацию.

Если первое уравнение поделить на n, то получится,

что ̄y – ˆβ1

̄y – ˆβ1 – ˆβ2 ̄x

= 0 Или можно еще сказать,

что ̄y = ˆβ1 + ˆβ2 ̄y = ˆβ1

+ ˆβ2 ̄x Это первое уравнение, из него мы выразим ˆβ1, подставим во второе.

[МУЗЫКА]

Ознакомьтесь с нашим каталогом

Присоединяйтесь бесплатно и получайте персонализированные рекомендации, обновления и предложения.

Coursera делает лучшее в мире образование доступным каждому, предлагая онлайн-курсы от ведущих университетов и организаций.

© Coursera Inc., 2018 Все права защищены.

Загрузить из App Store

Загрузить в Google Play