Наукова періодика України Доповіді Національної академії наук України


Norkin V. I. 
Substantiation of the backpropagation technique via the Hamilton—Pontryagin formalism for training nonconvex nonsmooth neural networks / V. I. Norkin // Доповіді Національної академії наук України. - 2019. - № 12. - С. 19-26. - Режим доступу: http://nbuv.gov.ua/UJRN/dnanu_2019_12_5
Простежується аналогія між задачами оптимального керування дискретними стохастичними динамічними системами та задачами навчання багатошарових нейронних мереж. Увага концентрується на вивченні сучасних глибоких мереж з негладкими цільовими функціоналами і зв'язками. Показано, що задачі машинного навчання можуть трактуватися як задачі стохастичного програмування, і для їхнього аналізу застосовано теорію неопуклого негладкого стохастичного програмування. Як модель негладких неопуклих залежностей використано так звані узагальнено диференційовані функції. Обгрунтовано метод обчислення стохастичних узагальнених градієнтів функціонала якості навчання для таких систем на основі формалізму Гамільтона - Понтрягіна. Цей метод узагальнює відомий метод "зворотного просування похибки" на задачі навчання негладких неопуклих мереж. Узагальнені (стохастичні) градієнтні алгоритми навчання поширено на неопуклі негладкі нейронні мережі.
  Повний текст PDF - 110.213 Kb    Зміст випуску     Цитування публікації

Цитованість авторів публікації:
  • Norkin V.

  • Бібліографічний опис для цитування:

    Norkin V. I. Substantiation of the backpropagation technique via the Hamilton—Pontryagin formalism for training nonconvex nonsmooth neural networks / V. I. Norkin // Доповіді Національної академії наук України. - 2019. - № 12. - С. 19-26. - Режим доступу: http://nbuv.gov.ua/UJRN/dnanu_2019_12_5.

      Якщо, ви не знайшли інформацію про автора(ів) публікації, маєте бажання виправити або відобразити більш докладну інформацію про науковців України запрошуємо заповнити "Анкету науковця"
     
    Відділ інформаційно-комунікаційних технологій
    Пам`ятка користувача

    Всі права захищені © Національна бібліотека України імені В. І. Вернадського