Для обучения нейронной сети (нахождения оптимальных значений всех весовых коэффициентов) необходимо
задать:
топологию сети со всеми функциями активации;
функцию потерь.
Для обучения нейронной сети MLP обычно используется метод обратного распространения ошибки (backpropagation)*.
Обучение нейронной сети
*Впервые метод был описан в 1974 г. А. И. Галушкиным, а также независимо и одновременно Полом Дж. Вербосом. Далее существенно развит в 1986 г. Дэвидом И. Румельхартом, Дж. Е. Хинтоном и Рональдом Дж. Вильямсом .Это итеративный градиентный алгоритм, который используется с целью минимизации ошибки работы многослойного перцептрона и получения желаемого выхода.