Нейронные сети

Содержание

Слайд 2

Что такое нейронные сети? Мозг состоит из простейших клеток – нейронов

Что такое нейронные сети?

Мозг состоит из простейших клеток – нейронов
 Нейрон –

элементарная структурная единица обработки информации
Мозг человека содержит в среднем 100 миллиардов нейронов (1011)
 Очевидно, из простейших нейронов можно собрать довольно сложную конструкцию
Биологические модели мозга привели к математическим моделям
 Искусственная нейронная сеть – компьютерная программа, моделирующая способ обработки мозгом конкретной задачи
Слайд 3

Нейрон головного мозга

Нейрон головного мозга

Слайд 4

Нейрон головного мозга Тело нейрона (сома) Дендриты Аксон Синапсы 5. Нервные

Нейрон головного мозга

Тело нейрона (сома)
Дендриты
Аксон
Синапсы
5. Нервные волокна

5

Нейрон получает сигналы (импульсы) от

аксонов других нейронов через дендриты и передает сигналы, сгенерированные телом клетки, вдоль своего аксона, который в конце разветвляется на волокна. На окончаниях этих волокон находятся специальные образования - синапсы, которые влияют на величину импульсов.
Слайд 5

Искусственный нейрон Маккалок Дж., Питтс У. Логические исчисления идей, относящихся к

Искусственный нейрон

Маккалок Дж., Питтс У. Логические исчисления идей, относящихся к нервной

деятельности // Автоматы. М.: ИЛ, 1956

суммарный сигнал

-

Слайд 6

Виды активационных функций нейрона

Виды активационных функций нейрона

 

Слайд 7

Графики активационных функций нейрона Пороговая передаточная функция Логистическая функция

Графики активационных функций нейрона

Пороговая передаточная функция

Логистическая функция

Слайд 8

Перцептрон Розенблатта Подробно свои теории и предположения относительно процессов восприятия и

Перцептрон Розенблатта

Подробно свои теории и предположения относительно процессов восприятия и перцептронов

Розенблатт описал в 1962 году в книге «Принципы нейродинамики: Перцептроны и теория механизмов мозга»

Модель Мак-Каллока – Питтса была реализована Фрэнком Розенблаттом: в 1958 г. в виде компьютерной модели (перцептрона), в 1960 г. в виде электронного устройства, распознававшего рукописные изображения некоторых букв и цифр – первого в мире нейрокомпьютера Марк-1.

Слайд 9

Однослойная нейронная сеть Обучение нейронной сети – подбор синаптических весов таким

Однослойная нейронная сеть

Обучение нейронной сети – подбор синаптических весов таким образом,

чтобы сеть решала поставленную задачу
Слайд 10

Многослойные нейронные сети Глубокая нейронная сеть – сеть с большим числом скрытых слоев

Многослойные нейронные сети

Глубокая нейронная сеть – сеть с большим числом скрытых

слоев
Слайд 11

Типы обучения нейронных сетей 1. Обучение с учителем Есть обучающая выборка,

Типы обучения нейронных сетей

1. Обучение с учителем
Есть обучающая выборка, содержащая данные

с правильными ответами
2. Обучение без учителя
Есть набор исходных данных без информации о правильных ответах
3. Обучение с подкреплением
Нет правильных ответов, но в процессе обучения сеть получает сигналы от внешней среды, которая при взаимодействии дает обратную связь . То есть, это обучение через опыт — так же, как учатся люди в течение жизни.
Слайд 12

Сверточные нейронные сети

Сверточные нейронные сети

Слайд 13

Архитектура сверточной нейронной сети

Архитектура сверточной нейронной сети

Слайд 14

Сверточный слой

Сверточный слой

Слайд 15

Cубдискретизирующий слой УМЕНЬШЕНИЕ РАЗМЕРНОСТИ: 1. Распознавание объектов вне зависимости от масштаба

Cубдискретизирующий слой

УМЕНЬШЕНИЕ РАЗМЕРНОСТИ:
1. Распознавание объектов вне зависимости от масштаба
 2. Факт наличия

признака важнее знания места его точного положения на изображении
Слайд 16

Полносвязный слой

Полносвязный слой

Слайд 17

Сверточная сеть LeNet-5 Back-Propagation Applied to Handwritten Zip Code Recognition /

Сверточная сеть LeNet-5

Back-Propagation Applied to Handwritten Zip Code Recognition /
Y.

LeCun, B. Boser, J. S. Denker et al. 1989

Почему сейчас??
1. Рост производительности компьютеров:
-Многоядерные процессоры
  -Графические ускорители GPU
2. Резкое увеличение количества накопленных данных