[МУЗЫКА] [МУЗЫКА] Перейдем к оценке второй, более сложной модели методом наименьших квадратов. Ну, для начала нам понадобится некоторое просто вспомогательное наблюдение, чтобы легче было следовать за выкладками. Заметим, что если посчитать сумму всех x i-тых по Е от 1 до n, поделить на количество наблюдений, получается среднее арифметическое, которое мы обозначаем в этом нет ничего сложного. Ну, из этого автоматом следует, что сумма хi-тых равняется ∑xi = n̅x, а поскольку если складывать одинаковые слагаемые, то это ровно n одинаковых слагаемых, то это еще можно сказать как сумма ∑ xi = n̅x = ∑ ̅x то есть сумма xi-тых равна сумме того же самого количества x средних. Поскольку их просто n. Это x среднее, плюс x среднее, плюс x среднее и так далее n раз. И, например, можно эти две суммы еще вот так вот объединить ∑ (xi – ̅x) = 0 Вот, вооружившись таким предварительным знанием, мы готовы переходить к оценке второй модели. Значит, выписываем наш RSS = ∑ (yi – ŷi)² Для второй модели M2: ŷi: = ˆβ1 + ˆβ2xi Σi — это не прогнозируемая часть. Подставляем ŷ в сумму квадратов ошибок получаем, что это есть сумма по i = 1 до n, RSS = ∑ (yi – ŷ)² = ∑ (yi – ˆβ1 – ˆβ2xi)² и все это в квадрате. И возьмем от, это получилась некая функция, эта функция зависит от ˆβ1 и ˆβ2 RSS = ∑ (yi – ŷ)² = ∑ (yi – ˆβ1 – ˆβ2xi)² = Q (ˆβ1, ˆβ2) И мы будем минимизировать эту функцию по ˆβ1, ˆβ2 давайте сразу возьмем производные. Если я беру производную производную по ˆβ1 ∂Q/∂ˆβ1 у меня получается сумма 2 — производная от квадрата ∂Q/∂ˆβ1 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) ∂Q/∂ˆβ1 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) помножить на производную внутри скобки ∂Q/∂ˆβ1 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) (–1) должно равняться 0. ∂Q/∂ˆβ1 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) (–1) = 0 И второе уравнение, которое у меня получается ∂Q/∂ˆβ2 ∂Q/∂ˆβ2 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) (–xi) = 0 ∂Q/∂ˆβ2 = ∑ 2 (yi – ˆβ1 – ˆβ2xi) (–xi) = 0 Это условие первого порядка и из этой системы уравнений у нас, собственно, игреки нам даны, xi-тые нам даны, и в этих страшных двух уравнениях неизвестными являются только ˆβ1 и ˆβ2. Но у нас два уравнения, две неизвестных, как раз имеется возможность из системы уравнений найти систему неизвестных, набор неизвестных. =>ˆβ1, ˆβ2 Давайте, правда, еще сократим на 2, на –2 даже сократим и покажем, что эти уравнения можно в очень простом виде записать, он нам в дальнейшем пригодится. Посмотрите, вот это вот (yi – ˆβ1 – ˆβ2xi), это не что иное как ошибка прогноза, то есть это ˆ∑i Соответственно, наши два уравнения после сокращения на –2 записываются очень простым образом. n∑i=1 ˆ∑i 1 = 0 Ну, на 1, конечно, можно не умножать. И n∑i=1 ˆ∑i xi = 0 То есть, наши уравнения записываются очень просто. Соответственно, теперь нам надо их решить. Поехали. Приводим, находим коэффициенты при ˆβ1 и ˆβ2 Получаем, что останется от первого ∑yi – ∑yi – ∑ˆβ1 – ∑ˆβ2 xi = 0 И то же самое делаем для второго уравнения, раскрываем скобки, получаем ∑yixi ∑yixi – ∑ˆβ1xi ∑yixi – ∑ˆβ1xi – ∑yixi – ∑ˆβ1xi – ∑ˆβ2 xi² ∑yixi – ∑ˆβ1xi – ∑ˆβ2 xi² = 0 Мы сократили на –2 и раскрыли скобки. Давайте поделим первое уравнение на n, ну вынесем константы за знак суммы и поделим на n каждое из этих уравнений, посмотрим, что получится. Значит, здесь ∑yi – ∑yi – nˆβ1 потому что ˆβ1 не зависит от номера слагаемого ∑yi – nˆβ1 – ˆβ2 ∑xi ∑yi – nˆβ1 – ˆβ2 ∑xi = 0 И здесь ∑yixi – ∑yixi – ˆβ1 ∑xi ∑yixi – ˆβ1 ∑xi – ˆβ2 ∑xi² = 0 Первое уравнение поделим на n, и его можно будет дать ему еще одну интерпретацию. Если первое уравнение поделить на n, то получится, что ̄y – ˆβ1 ̄y – ˆβ1 – ˆβ2 ̄x = 0 Или можно еще сказать, что ̄y = ˆβ1 + ˆβ2 ̄y = ˆβ1 + ˆβ2 ̄x Это первое уравнение, из него мы выразим ˆβ1, подставим во второе. [МУЗЫКА]