Ускорение субградиентного метода Поляка

Abstract

Исследуются свойства субградиентного метода Поляка для нахождения точки минимума выпуклой функции. Показано, что для овражных функций сходимость метода можно ускорить за счет линейного преобразования пространства переменных. Изложен субградиентный метод Поляка с преобразованием пространства в случае тупого угла между двумя последовательными субградиентами, что существенно сокращает количество итераций для гладких и негладких овражных функций.

Досліджуються властивості субградієнтного методу Поляка для знаходження точки мінімуму опуклої функції. Показано, що для яружних функцій збіжність методу можна прискорити за рахунок лінійного перетворення простору змінних. Розглянуто субградієнтний метод Поляка з перетворенням простору у випадку тупого кута між двома послідовними субградієнтами, що істотно скорочує кількість ітерацій для гладких і негладких яружних функцій.

The properties of Polyak’s subgradient method for finding the minimum point of a convex function is investigated. It is shown that for ravine functions the convergence of the method can be accelerated by a linear transformation of the space of variables. Polyak’s subgradient method with the transformation of the space in the case of the obtuse angle between two successive subgradients is considered. It significantly reduces the number of iterations for smooth and nonsmooth ravine functions.