Исследование трехслойных ИНС
Контрольная работа - Компьютеры, программирование
Другие контрольные работы по предмету Компьютеры, программирование
Контрольная работа
Исследование трехслойных ИНС
Брест 2007
Введение
Целью контрольной работы является исследование обучения, работы и прогнозирования многослойных ИНС, в данном случае 3-слойной.
Для изучения ИНС нам необходимо разработать программу, моделирующую процессы обучения, работы и прогнозирования ИНС. За основу возьмем программу, написанную в процессе выполнения лабораторной работы №2, с доработками. В результате получили программу с интерфейсом, представленным ниже:
Рисунок 1 - Интерфейс программы
Величину среднеквадратической ошибки примем равной 0,05. Функции активации слоев для простоты работы с ними примем сигмоидные.
В процессе исследования ИНС мы выполним:
поиск наиболее оптимальных ALFA для каждого слоя при постоянном шаге обучения и непосредственно само обучение;
прогнозирование на базе результатов обучения с постоянным шагом обучения;
обучение ИНС с помощь адаптивного шага обучения;
прогнозирование на базе результатов обучения с адаптивным шагом обучения.
Также мы произведем изменение количества входов и проверим реакцию ИНС данные действия.
1. Обучение ИНС с использованием постоянного шага обучения
Обучение будем производить путем поэтапного изменения величины ALFA для каждого слоя с шагом 0,05. Наиболее оптимальными будут те ALFA, при которых количество шагов обучения (по 30 итераций) будет минимальным.
В следствии того, что нам необходимо менять ALFA для каждого слоя в отдельности, построение графиков зависимости количества шагов обучения от ALFA становится затруднительным. Приведем результат поиска оптимальных ALFA:
ALFA_1 = 0.45 - ALFA для первого слоя
ALFA_2 = 0.50 - ALFA для второго слоя
ALFA_3 = 0.45 - ALFA для третьего слоя
N = 3 - Кол-во шагов обучения
При данных ALFA произведем обучение ИНС:
№ шагаYрасч.YэталE10.2028110.2014100.00140220.2015630.2015410.00002230.2016110.201670-0.00005940.2017340.201797-0.00006350.2018610.201923-0.00006260.2019850.202047-0.00006170.2021080.202169-0.00006080.2022300.202289-0.00005990.2023490.202407-0.000058100.2024660.202524-0.000057110.2025820.202638-0.000056120.2026960.202751-0.000055130.2028080.202862-0.000054140.2029180.202971-0.000053150.2030260.203079-0.000052160.2031330.203184-0.000051170.2032370.203288-0.000051180.2033400.203390-0.000050190.2034410.203490-0.000049200.2035410.203588-0.000048210.2036380.203684-0.000047220.2037330.203779-0.000046230.2038270.203872-0.000045240.2039190.203963-0.000044250.2040090.204052-0.000043260.2040970.204139-0.000042270.2041840.204224-0.000041280.2042680.204308-0.000040290.2043510.204389-0.000039300.2044320.204469-0.000038
E = 0.00000011859
Далее проведем прогнозирование на основании полученных результатов обучения:
№ шагаYрасч.YэталE10.2045110.204547-0.00003720.2045530.204624-0.00007030.2045950.204698-0.00010340.2046350.204770-0.00013550.2046750.204841-0.00016660.2047140.204910-0.00019670.2047520.204977-0.00022580.2047890.205042-0.00025390.2048250.205105-0.000280100.2048600.205167-0.000307110.2048940.205226-0.000332120.2049270.205284-0.000356130.2049600.205340-0.000380140.2049910.205394-0.000402150.2050220.205446-0.000424
E=0.00000026073
Приведем график зависимости величины ошибки от шага обучения:
График зависимости ошибки от шага
2. Обучение ИНС с использованием адаптивного шага обучения
Для достижения заданной точности оказалось достаточно 2 шага обучения (по 30 итераций). При этом на последнем шаге были получены следующие значения ALFA:
ALFA_1 = 0.57891 - ALFA для первого слоя
ALFA_2 = 0.02568 - ALFA для второго слоя
ALFA_3 = 0.40045 - ALFA для третьего слоя
Результат последнего шага обучения приведен ниже:
№ шагаYрасч.YэталE10.1245680.205843-0.08127520.2058490.2054110.00043930.2054130.2047930.00062040.2047940.2039910.00080350.2039910.2030060.00098660.2030050.2018380.00116770.2018360.2004880.00134880.2004850.1989580.00152790.1989530.1972490.001705100.1972430.1953620.001881110.1953550.1932990.002056120.1932910.1910630.002228130.1910530.1886540.002399140.1886430.1860760.002567150.1860630.1833300.002733160.1833160.1804200.002896170.1804040.1773470.003057180.1773290.1741140.003215190.1740940.1707250.003370200.1707030.1671820.003521210.1671580.1634880.003669220.1634620.1596480.003814230.1596190.1556640.003955240.1556320.1515390.004093250.1515040.1472790.004226260.1472410.1428850.004355270.1428440.1383640.004480280.1383180.1337170.004601290.1336670.1289510.004717300.1288960.1240680.004828
E=0.00023145
Далее проведем прогнозирование на основании полученных результатов обучения:
№ шагаYрасч.YэталE10.1240080.1190740.00493520.1239430.1139720.00997130.1238710.1087680.01510340.1237920.1034660.02032650.1237060.0980710.02563560.1236100.0925880.03102270.1235050.0870210.03648480.1233890.0813760.04201390.1232610.0756580.047604100.1231210.0698710.053249110.1229660.0640220.058944120.1227950.0581150.064680130.1226070.0521560.070451140.1224000.0461500.076250150.1221720.0401030.082069
E=0.0189632
Приведем график зависимости величины ошибки от шага обучения:
График зависимости ошибки от шага
3. Исследование поведения системы в зависимости от количества входов при постоянном шаге обучения
программа обучение прогнозирование трехслойный
Проведем исследование поведения системы 64 входа. Будем проводить обучение для 2, 6 и 10 входовых ИНС, прогнозирование. По результатам исследования построим графики зависимости ошибки от количества входов.
. Количество входов равно 6 - см. раздел 1.
. Количество входов равно 2.
Процесс обучения:
№ шагаYрасч.YэталE10.2030880.2008680.00222120.2012100.2010060.00020430.2010760.201142-0.00006640.2011760.201277-0.00010150.2013050.201410-0.00010560.2014370.201541-0.00010470.2015680.201670-0.00010280.2016970.201797-0.00010190.2018240.201923-0.000099100.2019490.202047-0.000098110.2020720.202169-0.000096120.2021940.202289-0.000095130.2023140.202407-0.000093140.2024320.202524-0.000092150.2025480.202638-0.000091160.2026620.202751-0.000089170.2027750.202862-0.000088180.2028850.202971-0.000086190.2029940.203079-0.000085200.2031010.203184-0.000083210.2032060.203288-0.000082220.2033100.203390-0.000080230.2034110.203490-0.000079240.2035110.203588-0.000077250.2036090.203684-0.000076260.2037050.203779-0.000074270.2037990.203872-0.000073280.2038910.203963-0.000071290.2039820.204052-0.000070300.2040710.204139-0.000068
E=0,0000762556
Прогнозирование на основании полученных результатов обучения:
№ шагаYрасч.YэталE10.2041570.204224-0.00006720.2041850.204308-0.00012330.2042110.204389-0.00017840.2042370.204469-0.00023250.2042620.204547-0.00028560.2042