Нейросеревые модели
Курсовой проект - Компьютеры, программирование
Другие курсовые по предмету Компьютеры, программирование
Тема: Нейросеревые модели
Оглавление
1.Введение
.Основы из высшей математики
2.1 Векторные пространства
.2 Матрицы и линейные преобразования векторов
3.Биологический нейрон и его кибернетическая модель
.1 Биологический нейрон
.2 Нейронные сети
.3 Структура простой рефлекторной нейронной сети
.4 Биологическая изменчивость и обучение нейронных сетей
.5 Формальный нейрон
.6 Обучение нейрона детектированию границы черное - белое
.7 Классификация нейронных сетей
.Персептрон Розенблатта
.1 Теорема об обучении персептрона
.2 Линейная разделимость и персептронная представляемость
.Принцип WTA в модели Липмана-Хемминга
.Карта самоорганизации Кохонена
.Нейронная сеть встречного распространения
.Когнитрон и неокогнитрон Фукушимы
.1 Когнитрон - самоорганизующаяся многослойная нейросеть
.2 Неокогнитрон
.3 Неокогнитрон и инвариантное распознавание образов
.Общее понятие сетей АРТ
.1 Дилемма стабильности-пластичности восприятия
.2 Принцип адаптивного резонанса
.3 Обучение сети АРТ
.4 Теоремы АРТ
.Сжатие данных и ассоциативная память
.Распознавание образов, классификация, категоризация
.Современность нейросетевых технологий
.1 Черты современных архитектур
.2 Программное обеспечение
.3 Многообразие применения
Вывод
Практическая часть
Список литературы
1. Введение
Искусственные нейронные сети (ИНС) - математические модели, а также их программные или аппаратные реализации, построенные по принципу организации и функционирования биологических нейронных сетей - сетей нервных клеток живого организма. Это понятие возникло при изучении процессов, протекающих в мозге, и при попытке смоделировать эти процессы.
К рубежу 80-х годов были достигнуты значительные результаты в совсем молодой синергетике - науке о самоорганизации в неравновесных системах; систематизированы факты и проведены многочисленные новые эксперименты в нейрофизиологии, в частности, подробно изучено строение и механизм действия отдельных нейронов; сформулирован принцип работы и создана первая ЭВМ с параллельной архитектурой. Эти обстоятельства, по-видимому, стимулировали начало интенсивных исследований нейронных сетей, как моделей ассоциативной памяти.
Широкий интерес к нейронным сетям был инициирован после появления работы Хопфилда (Hopfield J.J., 1982), который показал, что задача с изинговскими нейронами может быть сведена к обобщениям ряда моделей, разработанных к тому моменту в физике неупорядоченных систем. Работа сети Хопфилда (наиболее подробно обсуждаемая в физической литературе) состоит в релаксации начального "спинового портрета" матрицы двоичных кодов к одному из стационарных состояний, определяемых правилом обучения (правилом Хебба). Таким образом, данная сеть может применяться для задач распознавания.
В 1986 году появилась работа Румельхарта, Хинтона и Вильямса (Rumelhart D.E., Hinton G.E., Williams R.J., 1986), содержавшая ответ на вопрос, долгое время сдерживавший развитие нейроинформатики - как обучаются иерархические слоистые нейронные сети, для которых "классиками" еще в 40-50 х годах была доказана универсальность для широкого класса задач. В последующие годы предложенный Хинтоном алгоритм обратного распространения ошибок претерпел бесчисленное множество вариаций и модификаций. Многообразие предлагаемых алгоритмов, характеризующихся различной степенью детальности проработки, возможностями их параллельной реализации, а также наличием аппаратной реализации, приводит к особой актуальности исследования по сравнительным характеристикам различных методик. "Подмигните компьютеру - он поймет". В начале 90-х под таким заголовком в старейшей уважаемой газете Нью-Йорк Таймс появилась статья, рассказывающая о современных достижениях и направлениях в области интеллектуальных компьютерных систем. Среди магистральных путей развития данной отрасли эксперты издания выделили:
Компьютеры с высокой степенью параллелизма обработки информации, которые могут разделить ту или иную задачу на части и обрабатывать их одновременно, тем самым значительно сокращая общее время вычислений;
Компьютеры, в которых вместо электронных сигналов для передачи информации используется оптика. Оптические сигналы уже начали использоваться для передачи данных между компьютерами;
Компьютеры с нейронными сетями, представляющие собой машины, работающие аналогично тому, как по нашим современным представлениям, функционирует мозг.
Третье направление представляет наибольший интерес, так как нейронные сети - мощный и на сегодня, пожалуй, наилучший метод для решения задач распознавания образов в ситуациях, когда в экспериментальных данных отсутствуют значительные фрагменты информации, а имеющаяся информация предельно зашумлена. Высокая степень параллельности, допускаемая при реализации нейросистем, обеспечивает обработку недоступных оператору объемов информации за времена, меньшие или сравнимые с допустимыми временами измерений.
Свой вклад в становление нейронауки внесли биология и физиология высшей нервной деятельности, психология восприятия, дискретная математика, статистическая физика и синергетика, и, конечно, кибернетика и, конечно, компьютерное мо