Метод еліпсоїдів для знаходження параметрів лінійної регресії

Abstract

Описано задачу визначення параметрів лінійної регресії у формі задачі мінімізації негладкої функції, що являє собою Lp-норму вектора-нев’язки системи лінійних рівнянь. Наведено загальна схема алгоритма методу еліпсоїдів для мінімізації цієї функції при довільному значенні параметра p ≥ 1. Описано спосіб запису задачі апроксимації спостережень квадратичною функцією як задачі визначення параметрів лінійної регресії. Проаналізовано результати обчислювальних експериментів для двох прикладів апроксимації спостережень лінійною та квадратичною функціями з використанням алгоритму методу еліпсоїдів.

Цель работы. Расширить алгоритм на базе метода эллипсоидов для решения задачи определения параметров линейной регрессии для произвольных значений параметра p ≥ 2 так, чтобы при больших значениях p решение задачи совпадало с решением, полученным минимаксным методом, который соответствует значению p= ∞. Описать формулировку задачи аппроксимации наблюдений квадратичной функцией как задачи определения параметров линейной регрессии. Проанализировать результаты работы алгоритма для большого количества наблюдений и выбросов. Сравнить результаты работы минимаксного метода и метода эллипсоидов для задачи определения параметров линейной регрессии при больших значениях параметра p.

The purpose of the paper is to extend the algorithm based on the ellipsoid method for a linear regression parameters determination problem with an arbitrary value of parameter p ≥ 2 so that under big values of p the solution of the problem equals minimax method solution, which corresponds to p= ∞ case. To describe the formulation of observation approximation problem with quadratic function as linear regression parameters determination problem. To analyze algorithm work results for great number of observations and outliers. To compare the minimax method and the ellipsoid method algorithm work results for linear regression parameters determination problem with big values of parameter p.