Geum.ru

Технология извлечения знаний из нейронных сетей: апробация, проектирование ПО, использование в психо...

Дипломная работа - Математика и статистика

Другие дипломы по предмету Математика и статистика

делить одни признаки, существенные для исходов президентских выборов в США, через другие? (пример применения нейросетевой технологии анализа связей) // Тезисы VI международной конференции "Математика. Компьютер. Образование". (25-30 января 1999 г. в г.Пущино). (Электронная версия:

  • Gorban P.A. Relations between Social, Economic and Political Traits of USA Political Situation. Abstract: USA-NIS Neurocomputing Opportunities Workshop, Washington, DC, July 12-17, 1999.
  • Горбань П.А. Демонстрация возможностей нейроимитатора NeuroPro 1.0 на примере выборов американских президентов. Материалы 6 Всероссийского семинара "Нейроинформатика и ее приложения" (2-4 октября 1998 г., Красноярск). Красноярск, изд. КГТУ. С. 43.
  • Горбань П.А. Нейросетевой анализ структуры индивидуального пространства смыслов Материалы 7 Всероссийского семинара "Нейроинформатика и ее приложения" (1-3 октября 1999 г., Красноярск). Красноярск, изд. КГТУ. С. 34-36.
  • Горбань П.А. Нейросетевая реализация метода семантического дифференциала и анализ выборов американских президентов, основанный на технологии производства явных знаний из данных // Материалы 37 Международной конференции "Студент и научно-технический прогресс" (Новосибирск, апрель 1999). Новосибирск: изд. НГУ, 1999. С. 43.

    •  

    Благодарности

     

    Автор благодарен своему научному руководителю, всем сотрудника группы "Нейрокомп" и, в особенности, В.Г. Царегородцеву за внимание к работе, поддержку и разрешение использовать результаты совместных работ в дипломе. Я существенно использовал в дипломной работе описание программы НейроПро (В.Г. Царегородцев), технический отчет с обзором экспертных систем (А. Батуро), а также лекции проф. А.Н. Горбаня по нейронным сетям.

     

     

     

     

     

     

     

     

     

     

     

     

     

     

     

    Приложение 1. Плакаты для защиты диплома.

     

    ТЕХНОЛОГИЯ ИЗВЛЕЧЕНИЯ ЗНАНИЙ ИЗ НЕЙРОННЫХ СЕТЕЙ:

     

    1. АПРОБАЦИЯ,
    2. ПРОЕКТИРОВАНИЕ ПО,
    3. ИСПОЛЬЗОВАНИЕ В ПСИХОЛИНГВИСТИКЕ

     

    ЦЕЛЬ РАБОТЫ

    1. апробация гибкой технологии извлечения знаний из нейронных сетей, настраиваемой с учетом предпочтений пользователя;
    2. тестирование, пробная эксплуатация и разработка новой версии программных средств, реализующих данную технологию;
    3. проведение исследований индивидуальных пространств смыслов на основе данной технологии.

     

     

    ОСНОВНЫЕ ЗАДАЧИ РАБОТЫ

     

    1. анализ разработанных методов извлечения явных знаний из нейронных сетей с указанием их ограничений и областей применимости;
    2. апробация гибкой настраиваемой на основе предпочтений пользователя технологии извлечения знаний, опирающейся на предварительное проведение комплексного упрощения нейронной сети, выполняющегося с учетом сформированных пользователем требований к результирующему виду извлекаемых знаний;
    3. тестирование, пробная эксплуатация и разработка новой версии программных средств, реализующих данную технологию;
    4. усовершенствование метода семантического дифференциала Осгуда при помощи технологии разреживания обучаемых нейронных сетей.

    НЕЙРОНЫ, СЕТИ, ОБУЧЕНИЕ

     

    Формальный нейрон

     

     

     

    Слоистая сеть

     

    ОБУЧЕНИЕ МИНИМИЗАЦИЯ ОШИБКИ НА ПРИМЕРАХ С ИЗВЕСТНЫМ ОТВЕТОМ

    МЕТОДЫ (АЛГОРИТМЫ)

    ОБРАТНОГО РАСПРОСТРАНЕНИЯ

    Вычисление сложной функции многих переменных представим, как движение по графу: в каждой его вершине производится вычисление простой функции (рис. а).

    Вычисление градиента (для оптимизации) представляется обратным движением (рис. б).

    Рис. а. Прохождение вершины в прямом направлении.

    Рис. б. Прохождение вершины в обратном направлении.

     

     

     

     

    Схематическое представление вычисления сложной функции одного переменного и ее производных.

     

     

    ЗАДАЧА ИЗВЛЕЧЕНИЯ ЗНАНИЙ ИЗ НЕЙРОННОЙ СЕТИ

     

     

    вырезание "всего лишнего"

    нейросеть логически прозрачная нейросеть

    данные неявные знания явные знания

    Нейросеть в ходе обучения формирует неявные знания, в ходе упрощения сети достигается логически прозрачная структура сети, удовлетворяющая некоторым заданным требованиям, и по ней сети возможно записать правила принятия решения в явном виде.

     

    Результатом процесса извлечения знаний должен являться набор правил, который с заданной точностью решает заданное число примеров обучающей выборки

     

    ЗНАЧИМОСТЬ И УПРОЩЕНИЕ

     

    Показатели значимости оценки изменения значения штрафной функции после некоторой модификации нейросети.

     

    Показатели значимости нулевого порядка, основаны на рассмотрении абсолютной величины веса синапса.

     

    Показатели значимости первого порядка оценивают по линейному приближению изменение значения штрафной функции после модификации.

     

    Показатели значимости второго порядка используют второе тейлоровское приближение изменения штрафной функции после модификации.

     

    КРИТЕРИИ ЛОГИЧЕСКОЙ ПРОЗРАЧНОСТИ

    1. Чем меньше слоев нейронов в сети, тем сеть более логически прозрачна. В более сложных случаях: чем меньше нейронов в каждом из имеющихся путей прохождения сигналов в сети от входа к выходу, тем лучше.
    2. Чем меньше число нейронов в каждом слое сети, тем лучше.
    3. Чем меньше входных си?/p>