ВИДЫ АРХИТЕКТУР НЕЙРОННЫХ СЕТЕЙ

21 April 2018

____________________________________________________________________________________________________________

Часть 1. Общее представление об ИНС

Часть 2. История возникновения ИНС

Часть 3. ИНС с биологической точки зрения

Часть 4. Виды архитектур нейронных сетей(1)

Часть 5. Виды архитектур нейронных сетей(2)

____________________________________________________________________________________________________________

Персептроны

Персептрон — простейший вид нейронных сетей. Впервые был представлен нейрофизиологом Фрэнком Розенблаттом в 1960г и использован в нейрокомпьютере – «Марк-1», способном распознавать буквы английского алфавита.

Эта система состоит из разных типов сенсоров: сенсоры (S), ассоциативные (A) и реагирующие (R). Общая схема данной архитектуры представлена на рисунке ниже.

Архитектура персептрона
Архитектура персептрона

Первым делом определяется состояние S-элементов. Они могут быть либо возбуждены, либо находиться в состоянии покоя. Сигнал элемента равен соответственно 1 или 0.

Далее сигналы поступают в А-элементы по S-A связям, веса связи могут быть равны только -1, 0 или 1. А-элементы обрабатывают сигналы от нескольких S-элементов. Если сигналы, поступившие на A-элемент, в сумме превысят заданный порог, то этот A-элемент возбуждается и выдает сигнал, равный 1. Иначе генерируется нулевой сигнал.

В итоге R-элемент складывает друг с другом взвешенные сигналы от A-элементов и, если превышен определенный порог, генерирует выходной сигнал, равный 1. Если порог не превышен, то выход персептрона равен -1. Так как R-элемент определяет выход персептрона в целом, его назвали реагирующим.

Сеть Хопфилда

Сеть Хопфилда представляет собой N нейронов, число которых определяет количество входов и выходов сети, связанных между собой. Схематично эта сеть показана на рисунке ниже.

Архитектура сети Хопфилда
Архитектура сети Хопфилда

В этой сети каждый нейрон универсален: до обучения нейрон является сенсорным, пока идёт обучение, все они ассоциативные, после обучения — реагирующие. Эта сеть выдаёт ответ после принятия устойчивого состояния. Каждый нейрон имеет два состояния: 1 и -1. При этом выход каждого нейрона соединен с входами остальных нейронов, поэтому сеть Хопфилда является полносвязной.

Сеть Хопфилда используется для «дорисовки» картины событий, располагая лишь частью информации(ассоциативная память), например, для восстановления повреждённого изображения.

В следующей статье мы с Вами рассмотрим рекуррентные и свёрточные НС.

Подписывайтесь на канал, здесь много всего интересного)