Что такое нейронные сети?

Содержание

Слайд 2

Что такое нейронные сети? Мозг состоит из простейших клеток – нейронов

Что такое нейронные сети?

Мозг состоит из простейших клеток – нейронов
 Нейрон –

элементарная структурная единица обработки информации
Мозг человека содержит в среднем 100 миллиардов нейронов (1011)
 Очевидно, из простейших нейронов можно собрать довольно сложную конструкцию
Биологические модели мозга привели к математическим моделям
 Искусственная нейронная сеть – компьютерная программа, моделирующая способ обработки мозгом конкретной задачи
Слайд 3

Нейрон головного мозга

Нейрон головного мозга

Слайд 4

Нейрон головного мозга Тело нейрона (сома) Дендриты Аксон Синапсы 5. Нервные

Нейрон головного мозга

Тело нейрона (сома)
Дендриты
Аксон
Синапсы
5. Нервные волокна

5

Нейрон получает сигналы (импульсы) от

аксонов других нейронов через дендриты и передает сигналы, сгенерированные телом клетки, вдоль своего аксона, который в конце разветвляется на волокна. На окончаниях этих волокон находятся специальные образования - синапсы, которые влияют на величину импульсов.
Слайд 5

Модель искусственного нейрона Маккалок Дж., Питтс У. Логические исчисления идей, относящихся

Модель искусственного нейрона

Маккалок Дж., Питтс У. Логические исчисления идей, относящихся к

нервной деятельности // Автоматы. М.: ИЛ, 1956
Слайд 6

Виды активационных функций нейрона {0,1}

Виды активационных функций нейрона

 

{0,1}

Слайд 7

Графики активационных функций нейрона Пороговая передаточная функция Логистическая функция

Графики активационных функций нейрона

Пороговая передаточная функция

Логистическая функция

Слайд 8

Перцептрон Розенблатта Подробно свои теории и предположения относительно процессов восприятия и

Перцептрон Розенблатта

Подробно свои теории и предположения относительно процессов восприятия и перцептронов

Розенблатт описал в 1962 году в книге «Принципы нейродинамики: Перцептроны и теория механизмов мозга»

Модель Мак-Каллока – Питтса была реализована Фрэнком Розенблаттом: в 1958 г. в виде компьютерной модели (перцептрона), в 1960 г. в виде электронного устройства, распознававшего рукописные изображения некоторых букв и цифр – первого в мире нейрокомпьютера Марк-1.

Слайд 9

Типы обучения нейронных сетей 1. Обучение с учителем Есть обучающая выборка,

Типы обучения нейронных сетей

1. Обучение с учителем
Есть обучающая выборка, содержащая данные

с правильными ответами
2. Обучение без учителя
Есть набор исходных данных без информации о правильных ответах
3. Обучение с подкреплением
Нет правильных ответов, но в процессе обучения сеть получает сигналы от внешней среды, которая при взаимодействии дает обратную связь . То есть, это обучение через опыт — так же, как учатся люди в течение жизни.
Слайд 10

Однослойный персептрон Обучение нейронной сети – подбор синаптических весов таким образом, чтобы сеть решала поставленную задачу

Однослойный персептрон

Обучение нейронной сети – подбор синаптических весов таким образом, чтобы

сеть решала поставленную задачу
Слайд 11

Алгоритм обучения однослойного персептрона (дельта-правило)

Алгоритм обучения однослойного персептрона (дельта-правило)

Слайд 12

входы выходной слой скрытые слои Многослойный перцептрон (MLP)

входы

выходной слой

скрытые слои

Многослойный перцептрон (MLP)

Слайд 13

Для обучения нейронной сети (нахождения оптимальных значений всех весовых коэффициентов) необходимо

Для обучения нейронной сети (нахождения оптимальных значений всех весовых коэффициентов) необходимо

задать:
топологию сети со всеми функциями активации;
функцию потерь. 
Для обучения нейронной сети MLP обычно используется метод обратного распространения ошибки (backpropagation)*.

Обучение нейронной сети

*Впервые метод был описан в 1974 г. А. И. Галушкиным, а также независимо и одновременно Полом Дж. Вербосом. Далее существенно развит в 1986 г. Дэвидом И. Румельхартом, Дж. Е. Хинтоном и Рональдом Дж. Вильямсом .Это итеративный градиентный алгоритм, который используется с целью минимизации ошибки работы многослойного перцептрона и получения желаемого выхода.

Слайд 14

Квадратичная функция ошибки при обучении с учителем

Квадратичная функция ошибки при обучении с учителем

Слайд 15

Теорема Колмогорова

Теорема Колмогорова