Распознавание режимов работы авиационного ГТД с использованием технологии нейронных сетей
Курсовой проект - Компьютеры, программирование
Другие курсовые по предмету Компьютеры, программирование
?десь - число нейронов l-го слоя; и - величины смещения нейронов, соответственно, скрытого и выходного слоев;
- активационная функция нейрона.
В нашем случае , а .
Анализ различных архитектур НС показал, что в качестве нейронной сети целесообразно принять трехслойный персептрон.
Основными вопросами, требующими своего решения, после выбора архитектуры НС являются:
определение ширины окна L;
выбор вида функции активации нейронов;
поиск оптимального количества нейронов в скрытом слое;
выбор алгоритма обучения.
Перечисленные выше вопросы реализуются на следующем этапе.
.4 Выбор структуры НС
Очевидно, что малый размер ширины окна не позволит правильно распознать режимы работы ГТД, а большой размер ширины окна L захватит соседние классы, что уменьшит достоверность распознавания режимов. Зависимость ошибки обучения НС на выходе персептрона от размера временного окна показана на рисунке 5. В данном случае в качестве функции активации применялась сигмоидная функция вида [12]:
, (7)
число нейронов скрытого слоя принималось равным 35.
Аналогичные исследования проводились с целью выбора оптимального количества нейронов в скрытом слое. При этом учитывалось, что малое их количество приводит к некачественному обучению НС, а большое - к эффекту переобучения НС [13].
Рисунок 5 - Зависимость ошибки обучения НС от ширины временного окна
На рисунке 6 показана зависимость ошибки обучения персептрона (Е) от количества нейронов в скрытом слое (m2).
Рисунок 6 - Зависимость ошибки обучения от сложности НС
При обучении персептрона принималось значение ширины окна L = 10, что соответствует входам НС. Анализ рисунка 5 - рисунка 6 показывает, что при решении задачи классификации (распознавания) режимов работы ГТД достаточно принимать ширину временного окна равной 812, а число нейронов скрытого слоя 3550.
.5 Выбор алгоритма обучения
На данном этапе исследовались процессы обучения НС классификатора с помощью следующих алгоритмов обучения [12 - 15]:
) алгоритм обратного распространения ошибки (Back Propagation)
(8)
где h - величина, задающая скорость сходимости;
где - производная активационной функции нейрона (в данном случае сигмоидная функция).
) алгоритм быстрого распространения (Quick Propagation):
, (9)
где a - коэффициент момента, ; g - коэффициент минимизации абсолютных значений весовых коэффициентов (обычно g = 10-4);
) алгоритм сопряженных градиентов (Conjugate Gradients):
,
, (10)
где - вектор направления градиента;
- значение градиента;
Н - матрица Гессе (гессиан);
) алгоритм Quasi Newton:
(11)
График зависимости ошибки обучения НС от числа циклов (для различных алгоритмов обучения) приведен на рисунке 7. Как видно из этого рисунка наибольшей скоростью сходимости обладают алгоритмы (3) и (4). Требуемое число циклов обучения составляет 6001000.
1 - Back Propagation; 2 - Quick Propagation;
- Conjugate Gradients; 4 - Quasi Newton.
Рисунок 7 - Зависимость ошибки обучения НС от числа циклов (на разных алгоритмах обучения)
.6 Оценка эффективности
Как уже отмечалось выше, после процесса обучения НС на интервале обучения (25% выборки), необходимо проверить эффективность ее работы на тестовой выборке, составляющей 75% объема всей выборки.
Как видно из рисунке 8 - рисунке 9 эталонные значения выходов НС принимают значения 0 или 1, а фактические сигналы на выходе НС (в силу инерционности процесса перемещения временного (окна) могут принимать непрерывные значения в интервале [0; 1]. Поэтому приходится округлять вычисленные значения x1 и x2 до ближайшего целого числа:
(12)
При этом, могут иметь место ошибки I и II рода, т.е. отнесение состояния к классу .
На следующих рисунках (чч-чч) представлены значения выходов нейронной сети.
Рисунок 8 - Классификация режимов работы ГТД (1й выход НС)
Рисунок 10 - Классификация режимов работы ГТД (2й выход НС)
Рисунок 10 - Классификация режимов работы ГТД (3й выход НС)
Данные подходы нашли свое отражение в виде комбинированного решающего правила в соответствующем программном модуле, выполняющем нейросетевую классификацию режимов работы авиационного двигателя.
Для определения достоверности классификации можно воспользоваться следующими формулами (13). Здесь Кош, Ккач - коэффициенты ошибочной и качественной классификации:
(13)
где Тош - суммарное время участков, соответствующих ошибочной классификации;
То - длительность тестовой выборки (в нашем случае То = 4 мин).
В таблице 2 и таблице 3 приведены результаты сравнительного анализа ошибок классификации и качества классификации режимов работы двигателя для различных классов архитектур НС.
Таблица 2 - Ошибки классификации режимов для различных архитектур НС в (%)
Архитектура НСОшибка классификации на выходе 1 (e1)Ошибка классификации на выходе 2 (e2)Ошибка классификации на выходе 3 (e3)Персептрон0,42310,13180,2512Элмана0,44510,18610,1987Хемминга0,44130,32380,1912РБФ0,52120,79210,2012
Таблица 3 - Коэффициент качества классификации режимов для различных архитектур НС в (%)
Архитектура НСВыход_1 (x1)Выход_2 (x2)Выход_2 (x3)Персептрон99,9699,9999,97Элмана99,9699,9899,96Хемминга99,9599,9799,94РБФ99,9599,9299,92
Ан