Динамічні рекурентні нейронні мережі

Abstract

Розглянуто стан досліджень рекурентних нейронних мереж, в яких поєднані властивості детермінованих та відкритих динамічних систем. Подано огляд архітектури, принципів дії та методів навчання відомих моделей рекурентних нейромереж. Розглянуто проблему ресурсоємності їх навчання та запропоновано новий підхід до її вирішення. Запропоновано нову модель відкритої рекурентної нейромережі та неітеративний метод її навчання.

Рассмотрено состояние исследований рекуррентных нейронных сетей, в которых соединены свойства замкнутых и открытых динамических систем. Дан обзор архитектуры, принципов работы и методов обучения известных моделей рекуррентных нейросетей. Рассмотрена проблема ресурсоемкости их обучения, и предложен новый подход к ее решению. Предложены новая модель открытой рекуррентной нейросети и неитеративный метод ее обучения.

State of the in the area of recurrent neural networks, that have features of both deterministic and open dynamic research systems, is analyzed. Review of structure, work principles and training methods of known recurrent neural network models is given. Problem of resources, required for their training, is discussed, and new approach to its solution is considered. New model of open recurrent neural network, and non-iterative method of its training, are proposed.