[ЗАСТАВКА] Давайте посмотрим, что мы получили, какую задачу мы получили. Нам были даны данные, пара чисел xi, yi, и мы нашли линейную функцию, мы нашли коэффициенты линейной функции, самым лучшим образом представляющие эти данные. Нет никакой другой линейной функции, которая лучше, чем найденная, представляет наши данные: наши данные ближе всего к этой линейной зависимости. Что мы не получили, решая таким образом задачу? Мы не ответили на вопрос, вообще правильно ли рассматривать линейное приближение. Например, наши данные — у наших данных могла быть совершенно другая зависимость. Мы могли, например, взять какие-то xi, yi вычислить по формуле yi = 1/xi. Никакой линейной зависимости здесь нет и не может быть. И не только 1/xi, какую угодно функцию могли взять и вычислить yi при помощи такой формулы. Почему бы нам нужно было искать линейную зависимость? Вообще говоря, нипочему. Есть здесь линейная зависимость или нет здесь линейной зависимости, наше решение ничего не говорит об этом, это нужно искать из других соображений, нужно обдумывать по-другому: нужно смотреть на данные, на природу этих данных. Решение задачи ничего не говорит о том, есть ли здесь линейная зависимость, осмысленно искать линейную зависимость или неосмысленно искать линейную зависимость. Мы просто из всех линейных зависимостей выбрали самую лучшую, а насколько она нелепая или она хорошая, мы ничего пока что сказать не можем, ничего решение этой задачи об этом не говорит, нашли просто самую лучшую из всех имеющихся. Однако, мы придумали некоторый метод решения задачи, и этим методом можно было искать не только то, что мы искали. Может быть, осмысленно искать какую-то другую зависимость. Может быть, можно искать функцию из какого-то другого семейства функций. Смотрите, мы искали функцию, зависящую от двух параметров a и b, ax + b. Может быть, данные таковы, природа данных такова, что зависимость естественно искать в виде y = x² + bx + c. Может быть, природа данных такова, — часто такое бывает в экономических задачах или в задачах, возникших откуда-то из живой природы, — что зависимость экспоненциальная, что естественно искать зависимость в виде y = e в степени kx + с. Довольно часто в экономических задачах или в естественнонаучных задачах возникает экспоненциальная зависимость. Бывает, что осмысленно ждать, что y будет равняться e в степени kx + b, где k и b — это какие-то значения параметров. Снова используя метод наименьших квадратов, можно найти самые подходящие k и b. Мы не можем ответить при помощи того метода, который мы сейчас обсудили, мы не можем ответить, правильно искать экспоненциальную, линейную, квадратичную, обратную, тригонометрическую — какую угодно зависимость. На этот вопрос мы ответить не можем. Этот вопрос зависит от природы данных. Но если мы придумали, какую зависимость мы хотим найти, метод наименьших квадратов поможет нам это сделать. Вот мы видим данные и видим семейство функций. Похоже, что эти данные хорошо приближаются одной из функций этого семейства. Метод наименьших квадратов поможет нам найти параметры функций из этого семейства, которые лучше всего приближают наши данные. Как действовать в этом случае? Действовать точно так же. Конечно, линейную функцию дифференцировать было просто, а когда мы дифференцируем нелинейную функцию, задача может оказаться сложной, может оказаться даже нерешаемой: может быть, получится такое уравнение, которое невозможно решить. Однако в случае простых функций обычно попадаются такие уравнения, которые решаются. Нужно выписать отклонения в зависимости от параметра, нужно взять квадрат отклонения в каждой точке, нужно сложить квадраты отклонений по всем точкам и минимизировать этот квадрат отклонений по значениям параметра, то есть найти минимальное значение функции: при каких параметрах функция принимает минимальное значение. Значит, надо будет найти производную функции по одному параметру, по другому параметру. Может быть, параметров будет не два, а один или три, или десять. Нужно будет найти частную производную по каждому из параметров. Соответственно, получится система уравнений такая, сколько было параметров, и, решая эту систему уравнений, мы получим значения параметров, которые лучше всего приблизят наши данные. [ЗАСТАВКА]