Параметрическая оптимизация нелинейных нейронных сетей

Толстикова, Е. В.

Рассмотрена задача оптимальной настройки параметров искусственной нейронной сети произвольной структуры. Многослойные нейронные сети служат для аппроксимации или построения моделей нелинейных статических и динамических объектов. Рассмотрены статические нейронные сети, условия оптимальности нейронных сетей со скалярным или векторным выходом. Для вычисления оптимального набора параметров персептрона необходимо вычислять либо градиент минимизируемого функционала качества, либо градиент векторного выхода нейронной сети и градиент нелинейного функционала по вектору невязки. Показано, что для широкого класса искусственных нейронных сетей можно применять модифицированные градиентные методы поиска оптимальных параметров для работы сети в условиях наличия ошибок измерения и внешних помех. При использовании информационной функции потерь в задаче оптимизации, которая является достаточно гладкой для широкого круга статистических (в том числе полимодальных) распределений, риск зацикливания на локальных экстремумах функционала сводится к минимуму, приемлемому для различных областей практического применения искусственных нейронных сетей с текущей оптимизацией параметров.


	Наукова періодика України		Наукові записки Українського науково-дослідного інституту зв'язку