Полносвязные Многослойные Слабосвязные

14. Полносвязные Многослойные Слабосвязные

15. Сети без обратных связей. В таких сетях нейроны входного слоя получают входные сигналы, преобразуют их и передают нейронам первого скрытого слоя, и так далее вплоть до выходного, который выдает сигналы для интерпретатора и пользователя.

16. Сети с обратными связями. В сетях с обратными связями информация с последующих слоев передается на предыдущие.

17. Сеть Элмана - частично рекуррентная сеть, подобна сетям Джордана (Elman networks are partially recurrent networks and similar to Jordan networks). Разница между сетью Элмана и Джордана в том, что в сети Элмана контекстные нейроны берут вход не от выходных нейронов, а от скрытых. Кроме того, в контекстных нейронах нет никакой прямой обратной связи.В сети Элмана число контекстных и скрытых нейронов должно быть одинаковым. Главное преимущество сетей Элмана состоит в том, что число контекстных нейронов определяется не размерностью выхода (как в сети Джордана) а количеством скрытых нейронов, что делает ее более гибкой. Можно легко добавить или убрать скрытые нейроны, в отличие от количества выходов. Сеть Джордана - частично рекуррентная сеть, подобна сетям Элмана (Jordan networks are partially recurrent networks and similar to Elman networks).Ее можно рассматривать как сеть прямого распространения с дополнительными нейронами контекста во входном слое.Эти контекстные нейроны принимают вход от себя (прямая обратная связь, direct feedback) и из выходных нейронов. Контекстные нейроны сохраняют текущее состояние сети. В сети Джордана количество контекстных и выходных нейронов должно быть одинаковым.

18. Нейронная сеть строится в два этапа: 1) Выбор типа (архитектуры) сети; 2) Подбор весов (обучение) сети. На первом этапе необходимо определить следующее: ¾ какие нейроны использовать (число входов, функции активации); ¾ каким образом следует соединить нейроны между собой; ¾ что взять в качестве входов и выходов сети.

19. Способность к обучению является фундаментальным свойством мозга. В контексте ИНС процесс обучения может рассматриваться как настройка архитектуры сети и весов связей для эффективного выполнения специальной задачи. Обычно нейронная сеть должна настроить веса связей по имеющейся обучающей выборке. Функционирование сети улучшается по мере итеративной настройки весовых коэффициентов. Свойство сети обучаться на примерах делает их более привлекательными по сравнению с системами, которые следуют определенной системе правил функционирования, сформулированной экспертами. 18 Для конструирования процесса обучения, прежде всего, необходимо иметь модель внешней среды, в которой функционирует нейронная сеть - знать доступную для сети информацию. Эта модель определяет парадигму обучения. Во-вторых, необходимо понять, как модифицировать весовые параметры сети - какие правила обучения управляют процессом настройки. Алгоритм обучения означает процедуру, в которой используются правила обучения для настройки весов.

20. Существуют три парадигмы обучения: ¾ "с учителем", ¾ "без учителя" (самообучение), ¾ смешанная.

21. Принимает .txt
Выдает .nnw

22. В следующем окне (рисунок 1.4) задаются параметры обучения и критерии остановки обучения, если она требуется. Использовать для обучения сети % выборки. Все примеры, подаваемые на вход нейросети, делятся на 2 множества – обучающее и тестовое. Заданный процент примеров будет использоваться в обучающей выборке. Записи, используемые для тестирования, выбираются случайно, но пропорции сохраняются. Критерии остановки обучения. Необходимо определить момент, когда обучение будет закончено

23. Программа может применяться для анализа информации, построения модели процессов и прогнозирования. Для работы с системой необходимо проделать следующие операции: 1. Собрать статистику по процессу. 2. Обучить нейросеть на приведенных данных. 3. Проверять полученные результаты. В результате обучения нейросеть самостоятельно подберет такие значения коэффициентов и построит такую модель, которая наиболее точно описывает исследуемый процесс.

24. В следующем окне визуализирован непосредственно сам процесс обучения (рис.1.6). Чтобы запустить обучение, нажмите кнопку «Пуск обучения». На верхней диаграмме показано распределение ошибки обучения: по горизонтали – значение ошибки (чем правее столбец, тем больше ошибка), по вертикали – количество примеров из выборки с данной ошибкой (чем выше столбец, тем больше примеров с указанной ошибкой). Зеленые столбцы – ошибка на рабочей обучающей выборке, красные – на тестовой. В процессе обучения столбцы должны стремиться в левую часть диаграммы. Ниже диаграммы отображается распределение примеров на рабочей и тестовой выборках. На этих графиках можно отслеживать насколько результаты, предсказанные нейронной сетью, совпадают со значениями в обучающей (слева) и тестовой (справа) выборке. Каждый пример обозначен на графике точкой. Если точка попадает на выделенную линию (диагональ), то нейросеть предсказала результат с достаточно высокой точностью. Если точка находится выше диагонали, значит нейросеть недооценила, ниже – переоценила. Необходимо добиваться, чтобы точки располагались как можно ближе к диагонали.

25. С математической точки зрения, обучение нейронных сетей — это многопараметрическая задача нелинейной оптимизации.

26. Нейросети наиболее приспособлены к решению широкого круга задач, так или иначе связанных с обработкой образов. Вот список типичных постановок задач для нейросетей:

· Аппроксимация функций по набору точек (регрессия)

· Классификация данных по заданному набору классов

· Кластеризация данных с выявлением заранее неизвестных классов-прототипов

· Сжатие информации

· Восстановление утраченных данных

· Ассоциативная память

· Оптимизация, оптимальное управление

⇐ Предыдущая 12