Авторефераты по всем темам >>
Авторефераты по техническим специальностям
На правах рукописи
Потапов Илья Викторович
МОДЕЛИ, МЕТОДЫ И ЗАДАЧИ ПРИКЛАДНОЙ ТЕОРИИ НАДЕЖНОСТИ НЕЙРОКОМПЬЮТЕРНЫХ СИСТЕМ Специальности:
05.13.15 - Вычислительные машины, комплексы и компьютерные сети 05.13.17 - Теоретические основы информатики
АВТОРЕФЕРАТ
диссертации на соискание ученой степени доктора технических наук
Новосибирск - 2010
Работа выполнена в Государственном образовательном учреждении высшего профессионального образования Омский государственный технический университет
Официальные оппоненты: доктор технических наук, профессор Павский Валерий Алексеевич, доктор физико-математических наук, профессор Колоколов Александр Александрович, доктор технических наук, профессор Губарев Василий Васильевич.
Ведущая организация: Государственное образовательное учреждение высшего профессионального образования Национальный исследовательский Томский политехнический университет, г. Томск.
Защита состоится 18 ноября 2010 г. в 15 час. 00 мин. на заседании Диссертационного совета Д 219.005.02 при ГОУ ВПО Сибирский государственный университет телекоммуникаций и информатики по адресу: 630102, г. Новосибирск, ул. Кирова, 86.
С диссертацией можно ознакомиться в библиотеке ГОУ ВПО Сибирский государственный университет телекоммуникаций и информатики.
Автореферат разослан л____________________ 2010 г.
Ученый секретарь Диссертационного совета Д 219.005.Кандидат технических наук И.И. Резван
Общая характеристика работы
Актуальность темы. Теория искусственных нейронных сетей (ИНС) и нейрокомпьютерных систем (НКС) благодаря фундаментальным работам зарубежных исследователей У. Мак-Каллока, У. Питтса, Ф. Розенблатта, Б. Уидроу, Т. Кохонена, Д. Хопфилда, С. Гроссберга, а также советских и российских ученых И.Б. Гутчина, А.С. Кузичева, Н.В. Позина, С.О. Мкртчяна, Н.М. Амосова, А.И. Галушкина, А.Н. Горбаня, Е.М. Миркеса, А.В. Каляева, Э.Д. Аведьяна, Н.И. Червякова и др. получила широкое развитие. При этом основные направления исследований были связаны с разработкой моделей искусственных нейронов (ИН), изучением структуры и свойств различных моделей нейронных сетей, их обучением (настройкой) для решения поставленных задач и проектированием нейрокомпьютерных систем на их основе. В настоящее время нейросетевая тематика стала междисциплинарной и породила новые научные направления, такие как нейроинформатика, нейроматематика и др. Нейронные сети и нейрокомпьютеры находят применение для решения задач во многих областях научно-исследовательской деятельности.
Стремительное развитие нейрокомпьютерных технологий приводит к появлению научных проблем и задач, системному решению которых ранее уделялось недостаточно внимания. Одной из таких проблем является отсутствие комплексного подхода в анализе и разработке базовых принципов организации отказоустойчивых нейровычислительных структур, а также построении математических моделей, разработке методов, постановке и решении задач обеспечения и повышения надежности функционирования ИНС и НКС. Необходимость исследования надежности нейронных сетей и нейрокомпьютерных систем отмечают ведущие специалисты в области нейроинформатики и нейрокомпьютеров, полагая, что решение данной проблемы окажет существенное влияние на создание высоконадежных ИНС и нейрокомпьютерных систем на основе принципиально новых технологий, включая нанотехнологии, что существенно повысит эффективность их использования.
Повышение надежности функционирования нейронных сетей и нейрокомпьютеров - актуальная задача, имеющая большое хозяйственное значение, поскольку надежность является одним из самых важных свойств современной техники вследствие того, что от нее зависят такие показатели как качество, эффективность, безопасность, готовность, живучесть систем. Изучение отечественных и зарубежных открытых источников информации показало, что интерес к данной проблеме возрастает и носит многоплановый характер. При этом основное внимание в области изучения и повышения надежности ИНС сосредоточено, как правило, на решении частных проблем и проводимые исследования зачастую имеют прикладной характер. Таким образом, особой важностью и актуальностью характеризуются системные теоретические и прикладные исследования в данной области знаний.
Целью работы является обобщение известных и разработка новых математических моделей, методов и решений задач обеспечения и повышения надежности функционирования ИНС и НКС, совокупность которых отражает сис темный подход в исследовании надежности искусственных нейронных сетей и нейрокомпьютерных систем.
Основные задачи, поставленные и решенные в данной диссертационной работе, следующие.
1. Исследование информационной избыточности сообщений в структуре нейронов и нейронных сетей и методов введения информационного резервирования для обеспечения надежности функционирования ИНС. Разработка моделей отказоустойчивых многофункциональных нейромодулей с использованием методов информационно-структурного резервирования.
2. Исследование функциональной (логической) избыточности ИНС как фактора обеспечения отказоустойчивости в работе НКС. Развитие метода синтеза адаптивных к отказам оптимизированных функционально избыточных нейронных сетей на основе дифференцированного подхода, позволяющего эффективно использовать имеющуюся избыточность ИНС для адаптации к отказам.
3. Построение моделей и исследование методов обеспечения и повышения готовности нейрокомпьютерных систем с учетом различных условий их функционирования и особенностей технической реализации.
4. Разработка и развитие моделей функционирования структурно избыточных нейронных сетей НКС и методов решения задач оптимизации показателей надежности избыточных структурно-однородных нестареющих и стареющих ИНС нейрокомпьютерных систем с замещением отказавших нейронных блоков резервными.
5. Постановка и решение методами теоретико-игрового моделирования задач оптимизации показателей надежности избыточных структурнооднородных стареющих ИНС нейрокомпьютерных систем с динамическим замещением отказавших нейронных блоков резервными в конфликтных ситуациях, в т.ч. задачи противоборства двух НКС.
6. Теоретическое обоснование, разработка и исследование моделей введения в процесс функционирования нейрокомпьютерных систем временной избыточности (временного резервирования) как фактора повышения надежности выполнения задания с учетом различных условий работы НКС и особенностей технической реализации.
7. Обобщение и систематизация теоретических положений, моделей, методов и решений задач исследования, обеспечения и повышения надежности ИНС и НКС.
Для решения поставленных задач используются математический аппарат теории надежности, теории марковских процессов, прикладной теории информации, теории игр, вычислительной математики и компьютерное моделирование.
Научная новизна диссертационной работы заключается в следующем.
1. Исследованы информационная избыточность в структуре волокон ИН и межнейронных соединений ИНС и методы информационного резервирования.
Разработаны модели отказоустойчивых многофункциональных нейромодулей с информационно-структурным резервированием.
2. Разработан метод синтеза оптимизированных функционально избыточных ИНС с дифференцированным способом адаптации к отказам, позволяющий эффективно использовать имеющуюся избыточность ИНС в целях повышения отказоустойчивости.
3. Разработаны модели и даны решения задач исследования и повышения готовности нейрокомпьютерных систем с учетом различных условий их функционирования и особенностей технической реализации.
4. Построены базовые модели, поставлены и решены задачи оптимизации показателей надежности структурно однородных нестареющих и стареющих ИНС нейрокомпьютерных систем с замещением отказавших нейронных блоков резервными. Решения задач доведены до алгоритмов, реализуемых на современных ПЭВМ.
5. Построены вероятностные модели, развивающие и дополняющие базовые модели функционирования структурно однородных нестареющих и стареющих ИНС, с учетом отказов системы контроля и адаптации, временных затрат на процедуры дообучения (переобучения), ограниченного замещения в рамках общего резерва.
6. Поставлены и решены задачи оптимизации динамического резервирования структурно однородных стареющих ИНС нейрокомпьютерных систем.
Методами теоретико-игрового моделирования решены задачи оптимизации резервирования стареющих ИНС в конфликтных ситуациях. Поставлена и решена задача исследования противоборства двух НКС.
7. Поставлены и решены задачи исследования и повышения эффективности применения методов временного резервирования процесса функционирования НКС с учетом различных условий работы и особенностей их технической реализации.
Теоретическая ценность диссертации:
1. Рассмотрены и обобщены методы введения и эффективного использования в целях повышения надежности НКС различных видов избыточности ИНС - информационной, функциональной, структурной и временной.
2. Разработаны вероятностные модели функционирования НКС в условиях возникновения отказов, используемые в широком спектре исследовательских и оптимизационных задач, в т.ч. для исследования методов синтеза отказоустойчивых ИНС, а также в задачах оптимизации показателей надежности и рационального выбора технических решений при проектировании нейровычислительных систем и комплексов.
3. Поставлены и решены задачи исследования и оптимизации показателей надежности нестареющих и стареющих ИНС, оптимизации восстановления работоспособности ИНС, отыскания функций восстановления ИНС, обеспечивающих НКС заданный уровень надежности, задачи резервирования ИНС в конфликтных ситуациях и противоборства нейрокомпьютерных систем, исследования и повышения эффективности временного резервирования процесса функционирования НКС.
4. Совокупность представленных в диссертации теоретических положений, моделей, методов и задач является основой для системного исследования надежности нейровычислительных систем и комплексов.
5. Исследования по данной тематике основаны на результатах выполненного автором диссертации комплекса фундаментальных научноисследовательских работ в рамках госбюджетных НИР по заданию Минобрнауки РФ и при поддержке в форме грантов:
- Грант Президента РФ (№МК-7420.2006.8) для молодых ученых - кандидатов наук Построение математических моделей, разработка методов и алгоритмов оптимизации надежности искусственных нейронных сетей нейрокомпьютерных систем с логической, аппаратурной и временной избыточностью (2006Ц2007 гг.).
- Грант РФФИ (№06-07-89013-а) Построение математических моделей, разработка методов и алгоритмов оптимизации надежности искусственных нейронных сетей с логической, аппаратурной и временной избыточностью (2006 - 2007 гг.).
- Грант Минобрнауки РФ по естественным и точным наукам (Е02Ц2Ц75;
№ ГР 01.02. 00306859) Разработка математических моделей и методов оптимизации функциональной надежности искусственных нейронных сетей (2003 - 2004 гг.).
- Госбюджетная НИР по заданию Минобрнауки РФ Разработка методов оптимизации надежности и технической диагностики адаптивных отказоустойчивых систем автоматики и вычислительной техники из искусственных нейронных сетей; № ГР 0120.0 407005 (2004Ц2006 гг.).
- Госбюджетная НИР по заданию Минобрнауки РФ Разработка основ прикладной теории надежности нейронных сетей и нейрокомпьютерных систем; № ГР 0120.0 712204 (2007Ц2009 гг.).
Практическая ценность диссертации:
1. На основе результатов исследований информационной избыточности ИНС и методов информационного резервирования разработаны модели отказоустойчивых многофункциональных нейромодулей с информационноструктурным резервированием, имеющие преимущество в характеристиках надежности по сравнению с логически эквивалентными многофункциональными ИН.
2. Разработан метод синтеза оптимизированных функционально избыточных ИНС нейрокомпьютерных систем с дифференцированным способом адаптации к отказам, позволяющий эффективно использовать имеющуюся логическую избыточность ИНС в целях повышения отказоустойчивости НКС.
3. Построены модели и даны решения задач выбора режима контроля работоспособности ИНС нейрокомпьютерной системы, исследования готовности НКС при настройке и восстановлении ИНС после отказов, готовности НКС при диагностике ИНС и восстановлении после различных типов отказов, оптимизации готовности НКС в условиях длительного автономного функционирования.
4. Поставлены и решены задачи оптимизации резервирования, максимизирующего показатели надежности структурно-однородных нестареющих и стареющих ИНС нейрокомпьютерных систем с замещением отказавших нейронных блоков резервными. Решения задач доведены до алгоритмов, реализуемых на ПЭВМ, и могут использоваться при построении отказоустойчивых НКС.
5. Поставлены и решены задачи исследования и повышения эффективности применения методов временного резервирования процесса функционирования НКС с учетом различных условий работы и особенностей их технической реализации, которые могут использоваться в инженерной практике.
6. Разработано и зарегистрировано в ОФАП программное обеспечение для решения практических задач оптимизации структурного резервирования (в т.ч.
динамического) однородных ИНС нейрокомпьютерных систем.
Основные результаты, выносимые на защиту.
1. Методы введения структурной, функциональной, информационной и временной избыточности в структуру и процессы функционирования нейронных сетей и нейрокомпьютерных систем, а также соответствующие модели и методы синтеза отказоустойчивых НКС.
2. Вероятностные модели для расчета, анализа и решения поставленных в диссертации задач оптимизации показателей надежности ИНС нейрокомпьютерных систем с информационным, структурным, функциональным и временным резервированием.
3. Решение задачи синтеза адаптивных к отказам ИНС, модели и задачи исследования и повышения готовности нейрокомпьютерных систем, включая модели систем с ненадежным устройством контроля и адаптации нейронной сети к отказам, модели подготовки НКС к функционированию, постановки и решения задач о выборе режима контроля работоспособности ИНС нейрокомпьютерной системы.
4. Постановка и решение задач оптимизации структурного резервирования нестареющих и стареющих однородных ИНС, в т.ч. систем с динамически перераспределяющимся в процессе функционрования резервом, обеспечивающего максимизацию основных показателей надежности НКС, включая задачи оптимизации структурного резервирования ИНС в конфликтных ситуациях и в условиях противоборства двух НКС.
5. Вероятностные модели функционирования однородных нестареющих и стареющих ИНС с учетом отказов системы контроля и адаптации, временных затрат на выполняемые с целью восстановления функциональных свойств нейросетей процедуры дообучения (переобучения) и дополнительных ограничений на замещение отказавших блоков резервными.
ичный вклад автора. Основные полученные научные результаты, включая обобщение и систематизацию комплекса теоретических и прикладных исследований, моделей, методов и задач обеспечения и повышения надежности искусственных нейронных сетей и нейрокомпьютерных систем, являются личным вкладом автора. Отдельные результаты, представленные в диссертации в разделах 1.2 (модели ИН), 2.1, 2.2 (синтез логически стабильных ИНС), 2.3 (минимизация процесса адаптации), 4.1Ц4.5, 5.3, 5.4, 6.1 (оптимизация структурного резервирования и восстановления ИНС), 6.4 (противоборство НКС), получены совместно с д.т.н., профессором В.И. Потаповым в рамках НИР, выполняемых при поддержке РФФИ и Минобрнауки РФ (руководитель В.И. Потапов). Программное обеспечение для решения задач оптимизации структурного резервирования однородных ИНС нейрокомпьютерных систем разработано совместно с М.В. Кузиным в рамках одного из этапов выполнения НИР при поддержке Гранта Президента РФ для молодых ученых - кандидатов наук (руководитель И.В. Потапов).
Апробация работы. Результаты работы докладывались на конференциях международного, всероссийского и регионального уровней: Природные и интеллектуальные ресурсы Сибири (Кемерово, 2002, 2007; Барнаул 2005; Новосибирск, 2004; Тюмень, 2006), Интеллектуальные и многопроцессорные системы (Геленджик, 2005), Искусственный интеллект. Интеллектуальные и многопроцессорные системы (Кацивели, Крым, 2006), Актуальные проблемы электронного приборостроения (Новосибирск, 2004), Динамика систем, механизмов и машин (Омск, 2002, 2004, 2007), Новые информационные технологии в исследовании сложных структур (Шушенское, 2006, Томск, 2008), Современные технологии при создании продукции военного и гражданского назначения (Омск, 2001), Развитие оборонно-промышленного комплекса на современном этапе (Омск, 2003), Военная техника, вооружение и технологии двойного применения (Омск, 2005), Информационные технологии и математическое моделирование (Анжеро-Судженск, 2005, 2008), Нейроинформатика и ее приложения (Красноярск, 2006), Нейроинформатика, ее приложения и анализ данных (Красноярск, 2007, 2008), Проблемы разработки, изготовления и эксплуатации ракетно-космической и авиационной техники (Омск, 2004), Наука, технологии, инновации (Новосибирск, 2004).
Использование результатов диссертации. Результаты диссертационной работы использованы в ПО Полет (филиал ФГУП ГКНП - им. М.В. Хруничева, г. Омск) при разработке космического аппарата Союз Сат при определении требований к программно-аппаратной адаптивной системе предупреждения катастрофический отказов жизненно важных функций бортовых систем; в разработках ОАО Омская энергосбытовая компания (г. Омск) при проведении перспективных исследований по прогнозированию потребления электроэнергии при помощи аппарата искусственных нейронных сетей. Также результаты диссертации используются при выполнении фундаментальных НИР (госбюджетные НИР по заданию Минобрнауки РФ) и в учебном процессе в Омском государственном техническом университете (г. Омск) при подготовке магистров по магистерской образовательной программе Отказоустойчивые вычислительные системы; в учебном процессе в Омском государственном университете им. Ф.М.
Достоевского (г. Омск) при подготовке инженеров по специальности 230101 - Вычислительные машины, комплексы, системы и сети. Имеются акты об использовании.
Публикации. По материалам диссертации автором опубликовано 46 научных работ, включая 3 монографии, 42 печатные работы в журналах и сборниках (из них 15 статей в журналах по перечню ВАК РФ), 1 депонированную в ВИНИТИ рукопись. Получено свидетельство о регистрации программного обеспечения в ОФАП.
Структура и объем работы. Диссертация состоит из введения, 7 глав, заключения, библиографического списка (302 наименования) и приложения. Основное содержание работы изложено на 300 страницах. В тексте содержатся рисунков и 3 таблицы.
Основное содержание работы
Во введении выполнен аналитический обзор публикаций в области исследования надежности ИНС и НКС, обоснована актуальность темы диссертации, сформулированы цели и задачи работы, дана ее общая характеристика.
В первой главе рассматриваются важные с точки зрения теории надежности свойства ИНС. Также рассмотрены модели многофункциональных ИН с пороговой функцией активации и пресинаптическим взаимодействием волокон.
На основе исследования информационной избыточности в структуре межнейронных соединений ИНС с использованием методов информационноструктурного резервирования разработаны модели отказоустойчивых многофункциональных нейронных модулей с настраиваемыми параметрами ИН.
Обычно ИНС нейрокомпьютерных систем представляют собой упорядоченные структуры, отличающиеся в зависимости от модели тем или иным способом упорядочения. Рассмотрение различных моделей ИНС позволяет сделать вывод, что в большинстве своем нейронные сети представляют собой однородные структуры, в которых вычислительные элементы упрощены до уровня формального нейрона. Однородность ИНС является важным фактором в плане обеспечения отказоустойчивости, поскольку позволяет применять соответствующие эффективные методы повышения надежности их функционирования.
Помимо свойства структурной однородности, нейронные сети, как и их биологические прототипы, могут характеризоваться различными видами избыточности - структурной, функциональной, информационной и временной. В теории надежности избыточность рассматривается как важнейшее свойство объекта. В этой связи для решения поставленных в диссертационной работе задач возможно применение к нейронным структурам широкого спектра методов повышения надежности технических систем.
В нейросетевых технологиях большую роль играют модели ИН с пороговой функцией активации, предназначенные для реализации переключательных функций. В диссертации рассматриваются ИН с пресинаптическим взаимодействием волокон, модели которых описывают архитектуру и работу соответствующих двухслойных ИНС, в первом слое которых находятся однофункциональные ИН на базе пороговых элементов, реализующие функции узлов пресинаптического взаимодействия волокон, а во втором слое - выходной ИН, являющийся также пороговым элементом, работающим как в однофункциональном, так и в многофункциональном режиме с настраиваемыми параметрами - весами входов и порогом. Такие простейшие n-входовые двухслойные сети рассматриваются как функционально полные нейроноподобные модули или универсальные искусственные нейроны с пресинаптическим взаимодействием, реа n лизующие любые из 22 функций n аргументов, обладающие максимальной логической гибкостью при изменении значений настраиваемых параметров.
В диссертации методами теории информации исследуются сообщения в структуре волокон ИН и межнейронных связей ИНС прямого распространения.
Анализ различных архитектур многослойных ИНС прямого распространения дает основания полагать, что в общем случае сообщения на входах слоев будут обладать тем большей избыточностью, чем больше ИН будет содержаться в этих слоях и чем более разветвленными будут межслойные соединения. Избыточность на выходах слоев зависит также от числа ИН и от степени статистической зависимости их выходов. При этом сообщения, поступающие на входы отдельных нейронов в слое, в зависимости от организации межнейронных и межслойных связей могут обладать относительно малой избыточностью.
В диссертации ставится задача объединения ИН в отказоустойчивую нейронную мини-сеть с использованием информационно-структурных методов резервирования, синтезированную таким образом, чтобы ее избыточность компенсировала отказы отдельных ИН. При этом необходимо, чтобы синтезируемая ИНС, рассматриваемая в качестве отказоустойчивого вычислительного аналога многофункционального ИН, сохраняла возможность настройки на реализацию заданных логических функций. В рамках данной постановки решаются задачи разработки и исследования моделей отказоустойчивых нейромодулей, являющихся мини-сетями ИН, сохраняющими многофункциональность отдельных n ИН с настраиваемыми параметрами, реализующих любую из 22 логических функций n аргументов.
В теории помехоустойчивого кодирования информационная избыточность рассматривается как средство повышения надежности передачи данных между источником и приемником. Если в двухслойной ИНС рассматривать нейроны первого слоя как источник сообщений, выполняющий функции кодирования и передачи, а выходные нейроны рассматривать как приемник, выполняющий декодирование сообщений и коррекцию ошибок, то можно реализовать в структуре ИНС формирование и передачу помехоустойчивого кода. Так, реализация в ИНС передачи (n, k)-кодов предполагает следующую структуру сети: n нейронов первого слоя реализуют вычисление и кодирование заданных функций, а k нейронов выходного слоя реализуют функции декодирования.
Принципы введения информационно-структурной избыточности в одновыходных многофункциональных нейромодулях рассматриваются на примере реализации в структуре кода Хэмминга. В этом случае нейроны первого слоя одновременно настраиваются на вычисление заданной функции, а выходной ИН - на реализацию функции голосования по большинству.
Для анализа показателей надежности таких сетей строится вероятностная модель, описывающая процесс их функционирования. Предполагается, что отказы отдельных нейронов, включая выходной, статистически независимы, время до отказа ИН распределено экспоненциально и одновременные отказы двух и более ИН невозможны. Для упрощения модели не учитываются отказы системы управления, настраивающей ИНС на реализацию заданных функций, по скольку в данном случае она играет второстепенную роль и при необходимости ее отказы могут быть учтены в моделях для комплексного расчета надежности НКС. Из решения соответствующей данному процессу системы дифференциальных уравнений Колмогорова в предположении, что в начальный момент времени к работе приступает полностью исправная ИНС, получены выражения для вероятности безотказной работы и среднего времени работы до отказа (среднего времени жизни) рассматриваемой нейросистемы.
Анализ частных конфигураций показывает, что (3, 1)- и аналогичные (5, 1)-системы уступают по среднему времени жизни отдельно взятому ИН, однако данные модели ИНС при определенных условиях могут иметь преимущество по вероятности безотказной работы: так, если выходной ИН менее чем другие подвержен отказам, рассматриваемые системы имеют преимущество на начальном этапе функционирования.
В развитие данного подхода в диссертации рассматриваются нейромодули аналогичной структуры, в которых нейроны первого слоя также являются многофункциональными ИН, настраиваемыми на реализацию заданной функции, а выходные нейроны представляют собой логически более гибкие восстанавливающие органы с перестраиваемыми в зависимости от ситуации на входах параметрами и отключаемыми входами (адаптивные искусственные нейроны - АИН). При рассмотрении данных нейромодулей предполагается следующее.
Если в процессе функционирования из n входов АИН остаются неотключенными последние два, система контроля отключает АИН, и на выход нейромодуля проходит сигнал с выхода одного из двух работоспособных ИН первого слоя.
Вероятностная модель функционирования такого нейромодуля строится в рамках предположений о статистической независимости отказов отдельных нейронов, включая выходной, экспоненциальном распределении времени до отказа ИН и невозможности одновременного возникновения двух и более отказов.
В развитие и дополнение данной модели нейромодуля предполагается, что после отключения выходного АИН оставшиеся два ИН продолжают вычислять заданную функцию до момента рассогласования сигналов на их выходах. При рассогласовании выходов ИН приостанавливается формирование решения на выходе нейромодуля и выполняется простой контролирующий тест для определения отказавшего ИН. Для упрощения модели предполагается, что в случае сбоя, самоустраняющегося за время выполнения теста, устанавливается работоспособность обоих ИН. В случае отказа одного из двух нейронов на выход нейромодуля проходят решения, формируемые последним неотказавшим ИН.
При построении вероятностной модели для ее упрощения не учитывается время, затрачиваемое на выполнение процедуры тестового контроля ИН, поскольку такие тесты являются достаточно простыми.
В рамках сделанных предположений и допущений из решения соответствующей системы дифференциальных уравнений Колмогорова для частных случаев получены выражения для расчета показателей надежности данных нейромодулей. Исследование этих показателей позволяет заключить, что рассматриваемые системы с адаптивным выходным ИН при определенных условиях могут превосходить по среднему времени работы до отказа и по вероятности без отказной работы как отдельно взятый многофункциональный ИН, так и многофункциональные нейромодули с неадаптивным выходным ИН и равным числом ИН в первом слое.
Анализ рассмотренных моделей отказоустойчивых многофункциональных нейромодулей позволяет сделать вывод, что надежность функционирования таких нейросистем существенно зависит от надежности выходного ИН, выполняющего функции восстанавливающего органа. В этой связи при технической реализации следует добиваться уменьшения интенсивности отказов выходных нейронов. Сказанное относится и к многовыходным нейромодулям, в которых отказы выходных ИН также ведут к отказу ИНС.
Во второй главе рассмотрены функциональная избыточность ИНС, критерий оптимальности и основные этапы синтеза отказоустойчивых нейронных сетей с двумя различными методами адаптации к отказам на основе функционального резервирования. Построена вероятностная модель для расчета показателей надежности НКС и рассмотрены методы эффективного использования функциональной избыточности ИНС.
Одним из главных свойств, определяющих отказоустойчивость ИНС, является функциональная (логическая) избыточность, обусловленная их структурной избыточностью и многофункциональностью составляющих сеть ИН.
Функциональная избыточность ИНС рассматривается как основа функционального резервирования, при котором заданная функция может выполняться различными способами без искажений.
Относительная мера функциональной (логической) избыточности ИНС, состоящей из многофункциональных пороговых ИН, в общем случае может быть определена выражением G(r) H (r,mr ) , GF (mr ) mi n j,i mr r 2 2n где G(r) 2, GF (mr ) 2, r - число слоев ИНС, mi - число нейроi1 j1 iнов в i-м слое, nj,i - число функциональных входов j-го ИН в i-м слое сети. В частном случае для двухслойной одновыходной ИНС, реализующей ПФ F(x1, x2,..., xn ), однородной, т.е. имеющей в первом слое m n ИН и один выходной нейрон (число входов всех ИН сети одинаково и равно n), функциональn ная избыточность определяется как H 2n2.
Рассматривается функциональная избыточность двухслойной ИНС, зависящая от соотношения числа единиц в таблицах истинности функций, вычисляемых сетью и выходным нейроном. Пусть - число единиц реализуемой сетью функции F(x1, x2,..., xn ), а - число единиц функции ( y1, y2,..., ym ), вычисляемой выходным ИН. Тогда общее количество всевозможных настроек ИНС на реализацию заданной информативной функции определяется соотношением 2m 2n C 2m .
2m Фиксируя распределение единиц в строках таблицы истинности функции , получим формулу для подсчета количества различных настроек ИНС при задан2n ных и : 2m . Исследование данного выражения позволяет получить условие максимизации функциональной избыточности 2mn . Из двух последних формул следует, что функциональная избыточность имеет наименьшее значение при 2n1, а наибольшее при 1 и 2n 1. Данные условия следует учитывать при синтезе нейросетей.
При проектировании ИНС возможны ситуации, когда усложнение структуры, вызванное необходимостью увеличения функциональной избыточности, приводит к незначительному улучшению характеристик надежности нейросети.
Критерием оптимизации синтеза отказоустойчивой нейросистемы может служить максимизация функции эффективности вида K (t) г R(t) , a Ci i i где K (t) - функция готовности системы, Ci - затраты, связанные с синтезом и г эксплуатацией НКС, ai - соответствующие весовые коэффициенты. В качестве примера затрат можно привести структурную сложность ИНС и системы контроля и адаптации (СКА), временные потери, связанные с необходимостью выполнения контроля, диагностики и адаптации ИНС к отказам, общую стоимость разработки НКС и др.
Функция готовности зависит от времени функционирования системы, поэтому следует рассматривать временной интервал [0, ], на котором проводится оптимизация синтеза ИНС нейрокомпьютерной системы. С учетом сказанного рассматриваемая функция эффективности может быть переписана в виде Kгс () R() , a Ci i i где K () K (t)dt - средняя готовность НКС за время .
гс г Таким образом, синтез ИНС может проводиться либо исходя из соображений минимизации конструктивной сложности и других затрат при сохранении заданного уровня надежности, либо максимизации надежности при ограничении на структурную сложность ИНС и другие затраты.
В диссертации рассматриваются процедуры синтеза функционально избыточных отказоустойчивых нейросетей и методы их адаптации к отказам.
Адаптация ИНС первого типа осуществляется интегрально путем одновременного изменения значений порогов всех ИН сети на единицу. Такой метод адаптации ИНС к отказам обладает рядом преимуществ в виде упрощенной СКА и быстрого выполнения процедуры восстановления работоспособности, однако при этом задействуется только часть имеющихся ресурсов функциональной избыточности. Разработанный в диссертации метод дифференцированной адаптации позволяет практически полностью использовать имеющуюся избыточность ИНС, однако в сравнении с интегральным методом его реализация может потребовать больших затрат.
Решение задачи синтеза ИНС с интегральной адаптацией к отказам сводится к нахождению порядка заполнения таблиц истинности функций, вычисляемых нейронами сети, обеспечивающего эффективное (в рамках данного типа адаптации) использование функционального резервирования. Метод дифференцированной адаптации состоит в повторном выполнении процедуры логического синтеза ИНС с учетом отказов компонентов.
Для расчета показателей надежности отказоустойчивых НКС на базе функционально избыточных адаптивных ИНС и определения подходов к повышению данных показателей в диссертации разработана вероятностная модель функционирования НКС. При разработке модели полагается, что отказы отдельных компонентов ИНС статистически независимы и обнаруживаются непосредственно в момент возникновения; одновременное возникновение двух и более отказов невозможно; для всех рассматриваемых компонентов время работы до отказа распределено экспоненциально с параметром . Аналогичное допущение сделано для распределения времени до отказа СКА с параметром . Под действием очередного отказа система переходит из работоспособного состояния с большим ресурсом надежности либо в работоспособное состояние с меньшим ресурсом надежности без адаптации, либо в состояние адаптации ИНС, либо в состояние отказа СКА, либо в состояние отказа системы. Из состояний, соответствующих отказавшей СКА и работоспособной ИНС, система может перейти только в состояние отказа. Из состояния адаптации ИНС возможны переходы либо в работоспособное состояние с меньшим ресурсом надежности, либо в состояние отказа системы при отказе СКА. Предполагается, что время адаптации ИНС к отказам распределено экспоненциально с параметром , в течение времени восстановления работоспособности отказы в ИНС не возникают.
Обозначим n - общее число возможных отказов; (r 1) - наибольшее число отказов компонентов, при котором ИНС сохраняет работоспособность; pi (t) (0 i r 1) - вероятность нахождения системы в момент времени t в i-м работоспособном состоянии, p (t) (0 j r 2) - в j-м состоянии адаптации j, jИНС, pl,0 (t) (0 l r 1) - в состояниях отказа СКА при работоспособной r r 2 r ИНС, pr (t) (r n) - в состоянии отказа; pi (t) p (t) pl,0 (t) 1.
j, ji0 j0 l Система дифференциальных уравнений Колмогорова для рассматриваемого процесса имеет вид:
p0 (t) (n ) p0 (t), pi (t) (n i) pi (t) ki1(n i 1)pi1(t) pi1,i (t), 1 i r 1, p (t) ( ) p (t) k (n j)p (t), 0 j r 2, (1) j, j1 j, j1 j, j1 j pl,0 (t) (n l)pl,0 (t) pl (t), 0 l r 1, r 1 r pr (t) i)(1 ki ki,i1) pi (t) pi,0 (t) p (t), kr 1 kr 1,r 0.
(n j, ji0 j Начальные условия могут быть записаны как p0 (0) 1, pi (0) p (0) pl (0) pr (0) 0, j, jт.е. в начальный момент времени t 0 к работе приступает полностью исправная система.
Коэффициенты ki и ki,i1 (0 i r 2) представляют собой части общего числа сочетаний всевозможных (i 1) -кратных отказов, соответствующие переходам системы в очередные работоспособные состояния и состояния адаптации.
Значения данных коэффициентов могут быть определены путем моделирования на ПЭВМ.
Решение данной системы дифференциальных уравнений позволяет определить нестационарный коэффициент готовности (функцию готовности) расr сматриваемой системы как Kг (t) pi (t) pi,0 (t). Данная модель подходит iдля описания и расчета характеристик надежности систем с обоими рассмотренными методами адаптации ИНС. Отличия заключаются только в конкретных значениях r и коэффициентов ki и ki,i 1.
Анализ переходов системы в работоспособные состояния, системы дифференциальных уравнений (1) и выражения для функции готовности НКС показывает, что повышение готовности системы может быть достигнуто посредством ускорения адаптации и, что не менее важно, путем увеличения значений коэффициентов ki, характеризующих долю отказов компонентов ИН, при которых ИНС сохраняет работоспособность без выполнения адаптации. В этой связи в диссертации поставлена и решена задача минимизации процесса адаптации ИНС путем формирования наборов настроек параметров ИН сети, обладающих максимальной корректирующей способностью, и сформулированы условия эффективного использования заложенной функциональной избыточности ИНС, выполнение которых приводит к увеличению значений вышеуказанных коэффициентов ki и повышению готовности системы.
Целесообразность использования рассмотренных отказоустойчивых ИНС в нейрокомпьютерных системах и преимущество дифференцированного метода адаптации с точки зрения повышения надежности функционирования подтверждены моделированием в рамках приведенных в конце главы примеров их синтеза и расчета показателей надежности.
Третья глава диссертации посвящена построению моделей и исследованию методов обеспечения и повышения готовности нейрокомпьютерных систем с учетом различных условий их функционирования.
В рамках рассмотрения принципов функционирования НКС с непрерывным и периодическим режимами контроля работоспособности ИНС решается задача рационального выбора способа контроля. Предпочтительность того или иного способа определяется наименьшим значением суммарных затрат, связанных с разработкой и эксплуатацией соответствующей НКС. Наибольшее внимание уделено расчету затрат, связанных с простоями НКС вследствие отказов и проверок работоспособности ИНС, зависящих от готовности системы. В диссертации приводится расчет функции готовности и средней готовности за время T для НКС с периодическим и непрерывным режимами контроля работоспособности ИНС.
Рассматриваются НКС с непрерывным контролем работоспособности ИНС и ненадежной СКА, подверженной отказам двух видов: необнаружение и ложное обнаружение отказов в ИНС. Для расчета характеристик готовности данных НКС построены вероятностные модели. Исследование на ПЭВМ показывает, что при одних и тех же исходных условиях СКА, подверженная отказам, приводящим к ложному обнаружению отказов ИНС, обеспечивает меньшую готовность НКС, чем СКА, подверженная отказам, приводящим к необнаружению отказов нейросети.
В диссертации построены модели, поставлены и решены задачи расчета и анализа функции готовности НКС при выполнении настройки (обучения, дообучения) ИНС в процессе начальной подготовки к работе или во время восстановления после отказа. Модель функционирования ИНС при настройке и восстановлении функциональных свойств рассматривается как линейная последовательность выполнения операций. Предполагается, что рассматриваемый процесс подготовки системы к выполнению задания аппроксимируется марковским (однородным или неоднородным) случайным процессом с конечным числом состояний. Для рассматриваемого процесса записана система дифференциальных уравнений Колмогорова, из решения которой находится функция готовности системы. При рассмотрении неоднородного процесса для получения решения поставленной задачи применяется метод замены реальной динамической системы статистически эквивалентной с постоянными во времени интенсивностями переходов. В развитие данных моделей рассматривается функционирование НКС с ненадежной системой управления процессом настройки. Построены графы переходов систем, соответствующие рассматриваемым процессам.
Рассматривается задача анализа функции готовности НКС при диагностике и восстановлении после различных видов отказов. Предполагается, что возможные неисправности ИНС могут быть отнесены к различным группам отказов. В процессе работы НКС устанавливается наличие отказа в ИНС, и для восстановления функциональных свойств выполняется процедура диагностики, в результате которой выясняется, к какой группе относится данный отказ и какие меры необходимо предпринять для его устранения. В качестве модели функционирования системы построен граф переходов, характеристики готовности НКС определяются из решения системы дифференциальных уравнений, соответствующей данному процессу.
Также в данной главе дается обоснование, постановка и решение следующей задачи. Предполагается, что с момента начала эксплуатации НКС выделено время ( tвз), включающее - время дообучения и тренировочных испытаний (тестирования) ИНС и время непосредственного выполнения задания tвз. Требуется определить длительность дообучения и тестирования , максимизирующую вероятность отсутствия отказа в интервале времени ( tвз) при условии безот казной работы в течение времени , рассматриваемую в качестве характеристики готовности НКС длительного автономного функционирования. Решение поставленной задачи сводится к определению временного интервала, характеризующегося минимумом среднего числа отказов ИНС. Интенсивность отказов ИНС аппроксимируется функциями времени, соответствующими этапам приработки, нормального функционирования и старения.
В четвертой главе ставятся и решаются задачи оптимизации структурного резервирования однородных нестареющих и стареющих ИНС.
При постановке и решении задач оптимизации структурного резервирования ИНС в качестве объекта исследования рассматривается модель многослойной многовыходной структурно однородной нейронной сети с замещением отказавших нейронных блоков (соответствующим образом сгруппированных ИН или подсетей, в т.ч. простейших двухслойных одновыходных мини-сетей ИН) резервными, состоящей из n основных и m резервных блоков ИН, разбитых на q групп. При этом замещение основных блоков с отказавшими ИН резервными возможно только внутри своей группы по схеме скользящего резервирования.
Вначале рассматривается структурно однородная ИНС с замещением отказавших нейроблоков резервными, состоящая из n основных и m резервных блоков ИН, разбитых на q групп по b n / q основных и s m/ q резервных блоков в группе. Замещение отказавших основных блоков резервными возможно только внутри своей группы. Предполагается, что время до отказа блоков ИН распределено экспоненциально, отказы работающих функциональных блоков и переключателей обнаруживаются системой контроля и переключения в момент их возникновения, а время подключения резервных блоков вместо отказавших пренебрежимо мало. Отказы в резервных блоках, не включенных в состав рабочей структуры, не обнаруживаются системой контроля и перестройки и не приводят к их переключению, однако уменьшают ресурс надежности рассматриваемой ИНС. Для упрощения модели предполагается, что вероятность отказа системы контроля и переключения пренебрежимо мала.
В развитие этой задачи полагается, что в качестве элементарных структурных единиц нейронных блоков ИНС выступают не отдельные нейроны, а избыточные мини-сети ИН. В такой структуре отказавшие нейроблоки после замещения их резервными могут восстанавливаться и затем включаться в работу.
Для расчета основных показателей надежности записаны соответствующие системы дифференциальных уравнений, из решения которых определяются вероятность безотказной работы и среднее время работы до отказа рассматриваемых ИНС. Эти системы являются частным случаем общей для всех рассматриваемых в данной и последующих главах диссертации задач оптимизации резервирования ИНС системы дифференциальных уравнений вида d p(t) DS [s, ,]p(t), (2) A dt где p(t) - вероятности нахождения системы в момент времени t в состояниях с k (0 k m) отказавшими нейронными блоками, DS [s,,] - матрица коэффиA циентов дифференциальных уравнений (постоянных или переменных в случае стареющих систем), зависящих от распределения по группам резервных элементов s, интенсивностей отказов , интенсивностей восстановлений и распределения отказов основных и резервных блоков ИН.
Постановки и решения основных оптимизационных задач в данной главе диссертации выполнены на основе следующей модели ИНС, построенной в развитие вышеописанных.
Предполагается, что рассмотренная выше ИНС нейрокомпьютерной системы, обозначаемая в дальнейшем S (n,m,s), состоит из n n1 n2 ... nq основных и m s1 s2 ... sq резервных блоков ИН, разбитых на q групп, в каждой из которых возможна замена отказавших основных только резервными блоками ИН этой группы. При этом целочисленный постоянный во времени вектор s (s1, s2,...,sq ), соответствующий распределению резервных нейронных блоков в группах, называется вектором резервирования. Каждой из q групп поставлены в соответствие интенсивности отказов основных блоков ИН 1, 2,..., q. Резервные нейронные блоки s1, s2,..., sq характеризуются интенсивностью отказов 0. После подключения вместо отказавших резервные блоки ИН работают в том же режиме, что и основные блоки этой группы, т.е. характеризуются интенсивностями отказов i (1 i q ).
Обозначим нейронную сеть, у которой отказавшие блоки ИН не восстаН навливаются, SА (n, m,s), а ИНС, у которой отказавшие нейронные блоки в проВ цессе работы восстанавливаются с интенсивностью const, SА (n,m,s).
Поведение рассматриваемых ИНС описывается системой дифференциальных уравнений вида (2) с соответствующими коэффициентами, характеризующими интенсивность перехода системы в очередное работоспособное соН стояние или в состояние отказа ИНС, где для ИНС SА (n, m,s) 0.
Задача оптимального резервирования однородной ИНС с замещением отказавших нейроблоков резервными с постоянным во времени вектором s (s1, s2,...,sq ) заключается в вычислении такого распределения m резервных нейронных блоков по q группам, которое при заданном разбиении n основных нейронных блоков обеспечивает либо максимальное среднее время работы ИНС до отказа T [s] max, либо максимальную вероятность безотказной работы этой системы P [s;t ] max, либо решаются обе указанные задачи и выбираетf ся лучший вариант. Таким образом, основная задача сводится к вычислению соответствующих оптимальных векторов резервирования в рамках условий P [s;t ] max, T [s] max, f или s S(m), s S(m) q где S(m) | m; si 0.
s s i i Данные задачи сводятся к вычислению целочисленного вектора s S(m), лежащего в гиперплоскости s1 s2 sq m с выделенной областью si 0, 1 i q, максимизирующего показатели надежности P[s;t] или T[s]. Решение указанных задач оформлено в виде алгоритмов, реализуемых на ПЭВМ.
Под стареющей искусственной нейронной сетью понимается ИНС S (n,m,s), в которой интенсивности отказов основных и резервных нейронных блоков i (t), 0 i q, являются возрастающими функциями времени. Задача оптимального резервирования стареющей адаптивной ИНС заключается в нахождении целочисленного вектора s (s1, s2,...,sq ), s1 s2 ... sq m, максимизирующего в зависимости от поставленной цели либо вероятность безотказной работы сети, либо среднее время ее работы до отказа. В диссертации в качестве модели функционирования системы построен граф ее переходов и записана система дифференциальных уравнений вида (2) с переменными коэффициентами.
Для приближенного решения поставленной задачи применяется метод дискретизации, заключающийся в разбиении рассматриваемого временного отрезка на интервалы с последующей заменой на них функций интенсивности отказов нейронных блоков константами с заданной точностью. Оптимизируемые показатели надежности ИНС определяются из решения системы дифференциальных уравнений с постоянными для каждого интервала дискретизации коэффициентами. Решения задач оптимизации резервирования стареющих ИНС по критерию максимизации вероятности безотказной работы и среднего времени жизни нейросети оформлены в виде алгоритмов, реализуемых на ПЭВМ.
В дополнение к базовым задачам оптимизации резервирования стареющих ИНС рассматриваются задачи о минимальной избыточности, обеспечивающей значения показателей надежности функционирования стареющих ИНС не ниже заданных. Эти задачи ставятся следующим образом.
Найти минимальное m, для которого множество S0 (m) s | S (n,m,s) (m,s; t ) f не пусто, - заданное значение вероятности безотказной работы, и вычислить вектор s0 S0 (m), максимизирующий вероятность безотказной работы S (n,m,s) (m,s; t ) стареющей ИНС за время t.
f f Найти минимальное m, для которого множество S1 (m) s | TS (n,m,s) не пусто, - заданное значение среднего времени работы до отказа, и вычис лить вектор s1 S1 (m), максимизирующий среднее время работы до отказа TS (n,m,s) стареющей ИНС S (n,m,s).
Решение поставленных задач представлены в виде алгоритмов, реализуемых на ПЭВМ.
В развитие задач оптимизации резервирования стареющих ИНС нейрокомпьютерных систем в диссертации поставлена и решена задача оптимизации восстановления стареющей ИНС. Рассматривается многослойная многовыходная структурно однородная стареющая ИНС в предположении, что в качестве компонентов основных и резервных нейронных блоков выступают не отдельные нейроны, а избыточные мини-сети ИН. В такой структуре отказавшие блоки ИН после замещения их резервными могут восстанавливаться путем перестройки параметров нейронов и после восстановления включаться в работу. В качестве модели функционирования системы построен граф ее переходов и записана система дифференциальных уравнений вида (2).
Задача оптимизации восстановления стареющей ИНС ставится следующим образом: для заданных интенсивностей отказов i (t) (0 i q) и заданного вектора резервирования s (s1, s2,...,sq ) определить интенсивности восстановления i (t) (1 i q) нейронных блоков в группах, минимизирующие функционал t f q U (1,2,...,q ) c (t)i (t)dt, (3) i i при условии, что вероятность безотказной работы восстанавливаемой ИНС (1,2,...,q;t ) d, 0 d 1, (4) f где t - время функционирования системы; ci (t) - заданные неубывающие f функции, моделирующие удельную стоимость восстановления нейроблоков в i-й группе.
Функционал (3) выбран из соображений минимизации стоимости восстановления: нейронная сеть к моменту времени t должна быть работоспособной f с вероятностью не ниже d при минимальной стоимости восстановления.
Постановка рассматриваемой задачи формулируется в терминах теории оптимального управления. Решение задачи сводится к нахождению такого управления, которое минимизирует функционал (3) при выполнении неравенства (4). Для получения приближенного решения используется метод дискретизации; приводится алгоритм решения задачи на ПЭВМ.
Пятая глава диссертации посвящена развитию моделей функционирования и задач оптимизации структурного резервирования однородных ИНС. Рассматриваются вероятностные модели функционирования однородных нестареющих и стареющих ИНС в составе НКС с ненадежной СКА, ИНС с дообучением после отказов, ИНС с общим резервом и ограниченным замещением отказавших нейроблоков. Ставится и решается задача нахождения условий для функций восстановления стареющих подсетей ИНС, гарантирующих системе требуемое среднее время жизни.
В развитие рассмотренных выше моделей предполагается, что СКА НКС не является абсолютно надежной, однако отказ СКА не вызывает немедленного нарушения работоспособности всей системы, поскольку ИНС S (n,m,s) будет функционировать до появления любого очередного отказа основного нейроблока. Для рассматриваемого случая построен граф переходов НКС и записана система дифференциальных уравнений, из решения которой находятся основные показатели надежности системы. Дальнейшее развитие данной модели заключается в расширении условий функционирования НКС в предположении, что интенсивности отказов блоков ИН и СКА являются возрастающими функциями времени, т.е. рассматриваемая нейросистема - стареющая. Для расчета показателей надежности в данном случае применяется метод дискретизации.
Для упрощения рассматривавшихся ранее моделей функционирования ИНС предполагалось, что замена отказавших блоков нейронов и, соответственно, восстановление работоспособности ИНС после отказа производится мгновенно. Однако в некоторых случаях при замене отказавших нейронных блоков резервными может возникнуть необходимость выполнения процедур дообучения (а в исключительных случаях - переобучения) нейросети или ее отдельных подсетей, что в свою очередь потребует дополнительного времени на выполнение итеративного процесса обучения, в течение которого НКС не будет функционировать по прямому назначению.
Учитывая сказанное, в развитие рассмотренных моделей функционирования ИНС предполагается, что после замены отказавших нейронных блоков резервными НКС находится в состоянии адаптации и выполняет процедуру дообучения (переобучения) ИНС. Также данная система рассматривается в предположении, что интенсивности отказов блоков ИН нейросети являются возрастающими функциями времени, т.е. рассматривается стареющая НКС. Для исследования рассматриваемого процесса построен граф переходов и составлена система дифференциальных уравнений. Также получены выражения для расчета показателей надежности данной НКС. В случае стареющей системы исследование выполняется методом дискретизации.
В качестве дополнения к рассмотренным моделям систем с учетом времени дообучения ИНС предполагается, что некоторые отказы нейроблоков являются самоустраняющимися и отказавшие блоки после замещения резервными могут иметь возможность самовосстанавливаться и затем включаться в резерв системы. Для данного случая построены модели функционирования НКС в виде графа переходов и соответствующей системы дифференциальных уравнений.
В рамках предположений, сделанных ранее при рассмотрении моделей функционирования ИНС S (n,m,s), рассматривается ИНС, обозначаемая SA (n,m, r), в которой отсутствует разбиение n основных и m резервных нейроблоков на группы, т.е. m резервных блоков ИН являются общим резервом для всей сети. Предполагается, что стратегия замещения отказавших основных блоков резервными состоит в следующем: возможно замещение не более чем r (1 r m) расположенных подряд отказавших основных нейроблоков. В диссертации приведена система дифференциальных уравнений, соответствующая рассматриваемому процессу, и записаны выражения для расчета показателей надежности нестареющих и стареющих ИНС SA (n,m, r).
Рассматриваются НКС на основе ИНС S (n,m,s) и SA (n,m, r) с ненадежной СКА. В рамках построенных моделей поставлена следующая задача: сравнить надежность двух НКС с различными способами подключения резервных нейроблоков вместо отказавших основных при заданных параметрах, характеризующих структуру ИНС. В диссертации рассматривается сравнение двух моделей на основе среднего времени работы систем до отказа. При сравнении по данному показателю надежности решение поставленной задачи сводится к расчету интенсивностей переходов систем в работоспособные состояния.
Рассматривается модель однородной стареющей ИНС, состоящей из n основных и одной, находящейся в режиме нагруженного резервирования, избыточных подсетей, допускающих многократное дообучение (переобучение).
Предполагается, что все (n 1) включенные в состав ИНС подсети имеют одинаковую структуру, одновременное возникновение отказов в двух и более подсетях невозможно, время обнаружения отказов в подсетях ИНС пренебрежимо мало. При обнаружении отказа в одной из основных подсетей она мгновенно замещается резервной, проходит процедуру восстановления, после чего ставится в резерв. Интенсивность отказов подсетей ИНС является функцией времени (t), а интенсивность восстановления - (t), обе функции считаются неотрица тельными и дифференцируемыми, причем (t) 0.
В рамках данной модели нейрокомпьютерной системы ставится и решается следующая задача. По заданной функции интенсивности отказов (t) найти условия для функций интенсивности восстановления (t), выполнение которых гарантирует среднее время жизни Tср рассматриваемой стареющей ИНС не ниже заданного T 0.
Шестая глава диссертации посвящена решению задач оптимального динамического резервирования ИНС в т.ч. теоретико-игровыми методами в рамках модели с изменяемым в процессе работы нейросистемы распределением резервных элементов между q группами ИНС S (n,m,s). Также даны постановка и решение задачи противоборства двух НКС.
Под стареющей ИНС с динамическим резервированием понимается нейронная сеть S (n,m,s), в процессе работы которой вектор резервирования s может изменяться, т.е. может производиться перераспределение (и соответствующая настройка параметров) однородных резервных блоков ИН сети между q группами. Предполагается, что перераспределение резервных нейронных блоков между группами осуществляется мгновенно по соответствующему сигналу СКА в определенные моменты времени. Перераспределение резервных блоков нейронов называется настройкой ИНС, а моменты времени, в которые происходит настройка, - моментами настройки нейронной сети.
Пусть настройки ИНС S (n,m,s) могут производиться в заданные моменты времени 0 0, 1, 2,...,l, (l 1). В диссертации ставится следующая задача. Требуется определить последовательность s0 векторов резервирования 0 0 s0 s1,,s2,,...,sq,, 0 l, максимизирующих вероятность безотказной ра боты ИНС последовательно к заданным моментам настройки и к заданному моменту времени t l. Далее в диссертации делается обобщение этой задачи на f случай, когда моменты настроек ИНС заранее не определены. Предполагается, что за время t может быть произведено конечное число настроек ИНС, не боf лее чем L 1. Ставится следующая задача: определить количество настроек l L, последовательность {1, 2,...,l} моментов настройки и последователь0 0 ность s0 векторов резервирования s0 s1,, s2,,...,sq,, отвечающих моментам настройки (0 l), 0 0, таким образом, чтобы вероятность безотказной работы стареющей ИНС к моментам настройки и к моменту времени t l f были последовательно максимальными.
Для решения поставленных задач используется метод дискретизации и соответствующим образом модифицированные алгоритмы решения задач оптимизации резервирования стареющих нейросетей с постоянным во времени распределением резервных элементов.
В развитие вышеописанных задач методами теоретико-игрового моделирования ставятся и решаются задачи оптимизации резервирования ИНС S (n, m,s) с динамическим перераспределением резервных нейронных блоков в конфликтных ситуациях.
Предполагается, что вышеописанная стареющая ИНС S (n,m,s) вступает в противоборство с противником, преследующим цель дестабилизировать ее работу. В качестве средств атаки противник имеет возможность увеличивать интенсивности отказов i (t) и 0 (t) в группах нейроблоков ИНС. Для защиты выполняется перераспределение имеющегося резерва между атакуемыми группами нейроблоков, т.е. формируется вектор резервирования s(t). Для машинного решения задачи оптимального динамического распределения резерва ИНС S (n,m,s) строится дискретная игровая модель. Такая модель представляет собой многошаговую матричную игру двух лиц, решение которой позволяет определить оптимальные (точнее, близкие к оптимальным) управления игроков.
С учетом сказанного, рассматривается следующая конфликтная ситуация.
Пусть игрок А располагает рассмотренной выше стареющей ИНС S (n,m,s).
Игрок B имеет возможность увеличивать интенсивности отказов блоков ИН i (t), 0 i q. В качестве функции платы рассматривается вероятность безотказной работы ИНС P(t). Поскольку интересы игроков противоположны, атакующий игрок B стремится минимизировать вероятность безотказной работы ИНС, а игрок A стремится ее максимизировать путем перераспределения резервных элементов между q группами ИНС. На интервале [0, t ], где t - время f f окончания игры, задан вектор моментов времени (0, 1,...,L ), разбивающих игру на k шагов, 0 k L, L t, 0 0. Предполагается, что игроки делают по f одному ходу в начале каждого шага игры. В рамках заданных ограничений на стратегии и ресурсы сторон для k -игр определяются возможные ходы игроков и платежные матрицы. Для поиска оптимальных смешанных стратегий игроков используется метод фиктивного разыгрывания, являющийся имитацией многократного повторения игры. Приводится алгоритм решения совокупности k -игр, позволяющий определить искомые оптимальные стратегии динамического резервирования ИНС.
Наряду с рассмотренными задачами не менее важное значение имеют так называемые игры с природой, в которых противник (лприрода) не стремится причинить максимальный вред обороняющейся стороне, а действует случайным образом. В диссертации поставлена и решена задача о выборе стратегии резер вирования стареющей ИНС S (n,m,s) в условиях игры с природой, сводимая к многошаговой матричной игре, решаемой с использованием ПЭВМ.
Задача ставится следующим образом. Пусть сторона A располагает стареющей ИНС S (n,m,s). На интервале времени [0, t ], где t - момент оконf f чания игры, рассматривается вектор (0, 1, 2,...,L ), 0 0, L t, элеменf ты которого соответствуют моментам перераспределения резервных нейронных блоков ИНС между q группами. Каждому моменту времени k (0 k L ) ставится в соответствие вектор распределения резервных элементов k k k k s s1, s2,...,sq . Таким образом, игрок A располагает стратегиями A W ,{s()}, удовлетворяющими ограничениям, накладываемым на время между соседними настройками ИНС и число резервных нейроблоков к очередному моменту настройки. Пусть сторона B (лприрода) может находиться в одном из состояний B B1, B2,..., BN, которым ставятся в соответствие интенсивности отказов ИНС (t) {(i) (t)}, 1 i N, где каждый элемент (i) (t) пред( ставляет собой совокупность (i) (t) (i) (t),1i) (t),...,(i) (t) интенсивностей от0 q казов основных и резервных блоков. Пусть для каждого состояния природы Bi B, 1 i N, заданы вероятности нахождения в этих состояниях Q(t) Q1(t), Q2 (t),..., QN (t). Тогда множество стратегий природы можно опB ределить как W {Q(t),(t)}, с учетом ограничений суммарного нападения на нейронные блоки ИНС. В качестве функции платы в рассматриваемой игре рассматривается вероятность безотказной работы ИНС S (n,m,s) последовательно в моменты настройки и к моменту окончания игры. Решением игры являются вектор max моментов настроек ИНС и множество векторов резервирования smax {s(k )}, соответствующих моментам настройки k (0 k L ), максимизирующие вероятность безотказной работы рассматриваемой ИНС.
В рамках обобщенной постановки задачи рассматриваются две подзадачи оптимизации резервирования ИНС в условиях игры с природой при постоянных в рамках заданных временных интервалов и переменных вероятностях ее состояний. В диссертации приведены алгоритмы решения поставленных задач на ПЭВМ с использованием метода многократного разыгрывания.
В развитие вышеописанных моделей конфликтных ситуаций рассматривается задача противоборства двух НКС, при постановке и решении которой в качестве НКС, участвующих в игре, рассматриваются однородные избыточные восстанавливаемые ИНС S (n,m,s).
Пусть игрок 1 располагает ИНС S (n, m,s), а игрок 2 располагает ИНС 2 g S (n, m,s). Обе ИНС S (n, m,s) (g 1, 2) являются восстанавливаемыми с интенсивностями восстановления g (t). Игрок 1 располагает множеством стратегий W1 s1,2,1, а игрок 2 - множеством стратегий W s2,1,2, где sg - g вектор резервирования g-го игрока; - вектор интенсивностей отказов в груп g пах ИНС S (n, m,s). Считается, что число групп нейронных блоков ИНС для игроков 1 и 2 одинаково, т.е. векторы s1 и s2 имеют одинаковую размерность q.
Предполагается, что за время игры tf игрок g (g 1, 2) имеет право не более чем (L 1) раз (не считая момента t 0) изменять вектор резервирования sg g управляемой им системы S (n, m,s). Также предполагается, что в процессе противоборства игрок 1 стремится максимизировать величину P1(t ) P2 (t ), явf f ляющуюся функцией платы, где tf - время окончания игры, Pg (t) - вероятность безотказной работы g-й системы, а игрок 2 стремится минимизировать эту величину.
Рассматриваемая задача сводится к необходимости решить игру двух лиц с нулевой суммой при заданных ограничениях на стратегии (управления) игроков, функция выигрыша которой определяется как G(z1, z2 ) P1(t ) P2 (t ), f f g где zg W - стратегия g-го игрока.
Дифференциальная игра двух нейросистем с учетом всех ограничений, накладываемых на управления игроков, и заданной точности их изменения методом дискретизации сводится к матричной игре, решение которой находится в смешанных стратегиях методом многократного разыгрывания. В диссертации приведен алгоритм решения данной задачи на ПЭВМ.
В седьмой главе диссертации рассмотрены модели и методы введения временной избыточности в процессы функционирования нейрокомпьютерных систем, поставлены и решены задачи исследования и повышения эффективности применения методов временного резервирования работы НКС.
Введение в процесс функционирования НКС временной избыточности заключается в том, что для выполнения поставленной задачи системе помимо минимально необходимого времени предоставляется дополнительное (резервное) время, предназначенное для контроля функционирования, диагностики и выполнения восстановления работоспособности в случае отказа ИНС.
Базовая вероятностная модель функционирования НКС с временной избыточностью в условиях возникновения необесценивающих наработку отказов строится в рамках следующих положений и допущений. Предполагается, что для выполнения задания НКС предоставлено оперативное время t tз tp, включающее минимальное время выполнения задания при отсутствии нарушений работоспособности tз и резервное время tp, предназначенное для восстановления работоспособности ИНС. Пусть контроль работоспособности нейронной сети НКС осуществляется непрерывно и позволяет достоверно обнаруживать любые отказы. При нарушении работоспособности ИНС все выполненные к соответствующему моменту времени вычисления не обесцениваются, и после восстановления НКС продолжает выполнять задание. Для рассматриваемой системы отказ (срыв функционирования) возникает в тот момент, когда суммарное время восстановления станет больше, чем имеющееся резервное время tp. При построении вероятностной модели также предполагается, что наработка без ре зерва времени до первого отказа и между соседними отказами является случайной величиной с функцией распределения F(t), время восстановления ИНС не зависит ни от количества отказов в прошлом, ни от времени работы системы с момента предыдущего отказа и распределяется по закону FВ (t), количество восстановлений в оперативном интервале времени не ограничивается.
В рамках сделанных обозначений и допущений вероятность безотказного функционирования НКС P0 (tз,tp ) определяется в виде ряда:
P0 (tз,tp ) pk (tз )FB,k (tp ), k где pk (tз ) - вероятность возникновения k отказов в интервале времени (0, tз ) ;
FB,k (tp ) - функция распределения суммы k интервалов времени восстановления.
Повышение производительности ИНС позволяет в рамках имеющегося оперативного интервала t tз tp уменьшить минимальное время выполнения задания tз, что в свою очередь приводит к увеличению резервного времени tp. В этой связи рассматривается НКС, ИНС которой состоит из r подсетей, параллельно выполняющих r равных частей задания объема V. На выполнение задания НКС предоставляется оперативное время t tз tp, где tз r, - минимальное время выполнения всего задания одной подсетью. Для простоты предполагается, что разбиение задания на части не увеличивает его объем, отказы обнаруживаются мгновенно абсолютно надежной системой непрерывного контроля. Также предполагается, что НКС возобновляет процесс выполнения задания только при восстановлении работоспособности всех подсетей ИНС.
В диссертации решается задача о нахождении минимального числа подсетей, необходимого для достижения требуемого уровня надежности НКС в рамках заданных условий, определяемого значением вероятности ее безотказного функционирования.
При постановке и решении задач о минимальной временной избыточности, гарантирующей заданную надежность, рассматривается НКС на базе восстанавливаемой ИНС. Пусть номинальная производительность НКС равна W, объем выполняемого задания может принимать значения из множества V V1, V2,..., VN. Основной задачей является определение значения временной избыточности tp, гарантирующей НКС вероятность безотказного выполнения задания при заданных условиях не ниже заданного p.
Рассматриваются два возможных источника возникновения временной избыточности. В первом случае временная избыточность обеспечивается за счет увеличения оперативного интервала t tз tp. Искомые значения временной избыточности для различных объемов задания Vi V определяются из решения уравнения P0 (tз,tp ) p. При этом учитываются затраты, связанные с увеличением оперативного интервала. Во втором случае временная избыточность обеспечивается за счет уменьшения минимального времени выполнения задания в рамках имеющегося оперативного интервала вследствие увеличения производи тельности и усложнения структуры ИНС. Предполагается, что задание может быть разделено на r частей, выполняемых параллельно r подсетями ИНС. Решением задачи является наименьшее значение r, для которого выполняется неравенство P0 (tз, tр ) p, и соответствующее ему значение tp.
Вследствие отказов нейронной сети НКС может происходить обесценивание выполненной к моменту отказа работы. Системы с обесценивающими отказами отличаются от рассмотренных выше тем, что нарушения работоспособности ИНС, произошедшие до получения требуемой наработки, обесценивают выполненные вычисления, вследствие чего потери времени скачкообразно увеличиваются на величину обесцененного времени. В НКС временная избыточность может использоваться для устранения последствий обесценивающих отказов ИНС путем повторного выполнения задания или его отдельных этапов.
Рассматриваются модели НКС с периодическим и непрерывным способами контроля работоспособности ИНС. Временная избыточность используется для восстановления работоспособности и устранения последствий отказов ИНС.
В связи с тем, что данные НКС характеризуются различной надежностью, в диссертации определен критерий выбора способа контроля работоспособности ИНС, основанный на сравнении суммарных затрат, зависящих от стоимости аппаратной части, стоимости программного обеспечения системы контроля и потерь от возможного невыполнения части задания.
Рассматриваются принципы функционирования двух НКС с периодическим контролем работоспособности ИНС. Предполагается, что в рассматриваемых системах во время выполнения задания возможны сбои, искажающие и обесценивающие решение очередного этапа задания. Принцип работы первой из них, обозначаемой НКС1, заключается в том, что с целью обнаружения сбоев используется метод повторного счета. Основу другой НКС, обозначаемой НКС2, составляют две параллельно работающие структурно и логически идентичные подсети ИНС (вторая подсеть не является резервной, а служит для контроля выполнения задания). При рассмотрении НКС задание будет считаться выполненным, если за отведенное оперативное время выполнены все n его этапов.
В рамках вышеописанных принципов функционирования НКС ставится следующая задача. На выполнение задания нейросистеме отводится оперативное время t, включающее минимальное время выполнения задания tз и резервное время tр : для НКС1 с удвоением времени выполнения расчетов t 2tз tр, а для НКС2 с удвоением структуры ИНС t tз tр. Предполагается, что для выполнения задания обеим НКС предоставлено одинаковое оперативное время t (в этом случае резервное время для рассматриваемых НКС будет различным) и одинаковое время выполнения процедуры контроля tк. Для обеих НКС требуется определить минимальное время выполнения задания и количество этапов задания n, максимизирующие вероятность безотказного функционирования P(tз,t) max при фиксированных t и tк, различном быстродействии ИНС и соответствующих интенсивностях сбоев. Для решения поставленной задачи разработан алгоритм, реализуемый на ПЭВМ.
В заключении сформулированы следующие положения и результаты диссертационной работы.
1. Установлено, что важной и актуальной задачей является разработка и систематизация математических моделей и методов обеспечения и повышения надежности ИНС, характеризующихся структурной однородностью и различными видами избыточности, позволяющими применять для повышения надежности функционирования НКС структурное, информационное, функциональное и временное резервирование.
2. Рассмотрены информационная избыточность сообщений в структуре волокон ИН и межнейронных связей ИНС и методы информационного резервирования. Разработаны модели многофункциональных двухслойных нейромодулей с использованием методов структурно-информационного резервирования и адаптивными выходными ИН. Показано, что такие схемы могут обеспечить более высокие показатели надежности в сравнении с логически эквивалентными одиночными многофункциональными ИН.
3. Рассмотрена функциональная избыточность ИНС как фактор их надежного функционирования. Приведены выражения для количественной оценки данного вида избыточности и определены условия ее максимизации в рамках задачи синтеза отказоустойчивых нейросетей. Предложен критерий оптимизации синтеза отказоустойчивых нейрокомпьютерных систем на базе функционально избыточных ИНС.
4. В развитие метода синтеза логически стабильных ИНС с интегральным способом адаптации в диссертации разработан метод синтеза нейронной сети с дифференцированной адаптацией, позволяющей более полно использовать имеющиеся ресурсы функциональной избыточности. Для расчета, исследования и оптимизации показателей надежности разработана вероятностная модель функционирования отказоустойчивой НКС. В рамках данной модели определены условия и решены задачи повышения надежности функционирования НКС.
5. Рассмотрены принципы функционирования отказоустойчивых НКС с периодическим и непрерывным режимами контроля работоспособности ИНС.
Сформулирован критерий рационального выбора режима контроля работоспособности. На основе рассмотренных принципов работы систем построены базовые вероятностные модели функционирования НКС. Для НКС с непрерывным контролем работоспособности ИНС рассмотрено влияние двух видов отказов устройства контроля на характеристики готовности системы.
6. Рассмотрены задачи исследования и расчета функции готовности нейросистем при выполнении процедур настройки (обучения) и адаптации (дообучения, переобучения) ИНС в процессе функционирования НКС. Построены модели для исследования готовности нейросетей в процессе обучения с линейной последовательностью выполняемых процедур при абсолютно надежной и ненадежной системе настройки, а также модель функционирования при диагностике и восстановлении после различных типов отказов. Решена задача расчета времени дообучения и тренировки нейронной сети НКС, минимизирующего вероятность отказа системы в процессе выполнения задания.
7. Предложены математические модели для расчета и исследования показателей надежности структурно однородных ИНС с замещением отказавших нейронных блоков резервными. Поставлены и решены задачи оптимального резервирования рассматриваемых ИНС, максимизирующего среднее время работы сети до отказа, и оптимального резервирования, максимизирующего вероятность безотказной работы ИНС, при постоянных во времени интенсивностях отказов и восстановления нейронных блоков. Приведены алгоритмы решения указанных задач на ПЭВМ.
8. Предложен способ решения задачи оптимального резервирования структурно однородной стареющей ИНС. Приведены алгоритмы решения задач оптимального резервирования стареющей ИНС, максимизирующего вероятность ее безотказной работы, и оптимального резервирования стареющей ИНС, максимизирующего среднее время ее работы до отказа, при заданных условиях и ограничениях. Поставлены и решены задачи о минимальной избыточности стареющей ИНС, обеспечивающей системе показатели надежности не ниже заданных. Приведены алгоритмы для машинного решения данных задач.
Поставлена и решена задача оптимизации восстановления стареющей ИНС, решение которой оформлено в виде алгоритма, реализуемого на ПЭВМ.
9. Для расчета показателей надежности и решения задач оптимизации резервирования нестареющих и стареющих структурно однородных ИНС построены вероятностные модели их функционирования с учетом отказов системы контроля и адаптации, временных затрат на процедуры дообучения (переобучения), ограниченного замещения отказавших нейронных блоков в рамках общего резерва. Поставлена задача сравнения двух способов замещения отказавших нейронных блоков ИНС по значениям показателей надежности. Показано, что решение данной задачи сводится к расчету интенсивностей переходов системы в работоспособные состояния. Приведены вероятностная модель функционирования и решение задачи нахождения в рамках заданных параметров и ограничений условий для функций восстановления стареющих подсетей ИНС, гарантирующих системе среднее время работы до отказа не ниже заданного.
10. Для стареющих многослойных многовыходных структурно однородных ИНС с замещением отказавших нейронных блоков резервными поставлены и решены задачи оптимального динамического распределения резерва, максимизирующего вероятность безотказной работы рассматриваемых ИНС.
Приведены алгоритмы для машинного решения данных задач.
11. На основе методов теоретико-игрового моделирования поставлена и решена задача оптимального динамического резервирования стареющей многослойной многовыходной структурно однородной искусственной нейронной сети в конфликтной ситуации. Приведен алгоритм для решения данной задачи на ПЭВМ. Поставлены и решены задачи оптимизации резервирования рассматриваемой стареющей ИНС нейрокомпьютерной системы в условиях игры (конфликта) с природой. Решения задач доведены до алгоритмов, реализуемых на ПЭВМ.
12. В развитие и дополнение теоретико-игровых постановок и решений задач оптимизации резервирования нейронных сетей поставлена и решена зада ча исследования и оптимизации поведения двух нейрокомпьютерных систем в условиях антагонистического противоборства. Для решения задачи противоборства двух НКС приведен алгоритм, реализуемый на современных ПЭВМ.
13. Приведены вероятностные модели для исследования показателей надежности функционирования нейрокомпьютерных систем с временным резервированием при нарушениях работоспособности ИНС, не обесценивающих или обесценивающих наработку, и выражения для машинного расчета показателей надежности рассматриваемых систем.
14. Сформулированы условия для определения в рамках заданных ограничений минимального числа подсетей ИНС, необходимого для достижения НКС с временным резервированием требуемого уровня надежности. Поставлена и решена задача о нахождении временной избыточности, гарантирующей НКС заданную надежность при различных способах введения временного резервирования в процесс функционирования системы с учетом соответствующих затрат и ограничений.
15. Рассмотрены модели функционирования НКС с учетом введения временной избыточности для устранения последствий отказов, обесценивающих наработку. Поставлена и решена задача о выборе режима контроля работоспособности нейросети НКС с обесценивающими отказами. Рассмотрены две модели нейрокомпьютерных систем, отличающихся реализацией контроля правильности выполнения задания, с введением в процесс их функционирования временной избыточности для устранения последствий сбоев в работе нейросетей.
Разработан алгоритм решения задачи максимизации вероятности безотказного функционирования НКС в рамках заданных условий и ограничений.
Перечень основных публикаций по материалам диссертации Монографии 1. Потапов, И.В. Надежность нейрокомпьютерных систем. Модели и задачи / И.В. Потапов. - Омск: Изд-во ОмГТУ, 2007. - 240 с.
2. Потапов, В.И. Теоретические основы диагностики и оптимизации надежности искусственных нейронных сетей / В.И. Потапов, И.В. Потапов. - Омск: Изд-во ОмГТУ, 2004. - 152 с.
3. Потапов, В.И. Математические модели, методы и алгоритмы оптимизации надежности и технической диагностики искусственных нейронных сетей / В.И. Потапов, И.В. Потапов. - Омск: Изд-во ОГУП Омская областная типография, 2004. - 220 с.
Статьи в журналах, рекомендованных ВАК РФ 4. Потапов, И.В. Модели отказоустойчивых многофункциональных нейромодулей с информационно-структурным резервированием / И.В. Потапов // Нейрокомпьютеры: разработка, применение. - 2008. - № 9. - С. 3Ц9.
5. Потапов, И.В. Комплекс программного обеспечения для оптимизации надежности однородных нейронных структур / И.В. Потапов // Программные продукты и системы. - 2008. - № 1(81). - С. 90Ц92.
6. Потапов, И.В. Методика анализа надежности резервированной искусственной нейронной сети / И.В. Потапов // Изв. вузов. Приборостроение. - 2007. - Т. 50. - № 1. - С. 26Ц30.
7. Потапов, И.В. Информационная избыточность искусственных нейронов и нейронных сетей как фактор их надежного функционирования / И.В. Потапов // Омский научный вестник. Серия Приборы, машины и технологии. - 2006. - № 10(48). - С. 153Ц157.
8. Потапов, И.В. Резервирование стареющей искусственной нейронной сети в условиях игры с природой / И.В. Потапов // Надежность. - 2006. - № 4.
- С. 3Ц10.
9. Потапов, И.В. Две модели нейрокомпьютерных систем с временной избыточностью / И.В. Потапов // Нейрокомпьютеры: разработка, применение. - 2006. - № 10. - С. 16Ц21.
10. Потапов, И.В. Вычисление функциональной готовности нейрокомпьютерной системы при настройке и восстановлении после отказов / И.В. Потапов // Омский научный вестник. - 2006. - № 3(36). - С. 129Ц132.
11. Потапов, И.В. Расчет показателей надежности резервированных искусственных нейронных сетей с учетом случайного времени восстановления работоспособности / И.В. Потапов // Вестник ТГУ. Приложение. - 2006. - № 18. - С. 106Ц110.
12. Потапов, И.В. Новый подход к оценке надежности нейрокомпьютерных систем с временной избыточностью / И.В. Потапов // Омский научный вестник. - 2006. - № 1(34). - С. 148Ц151.
13. Потапов, И.В. Решение задачи оптимального динамического распределения резерва стареющей искусственной нейронной сети в конфликтной ситуации / И.В. Потапов // Нейрокомпьютеры: разработка, применение. - 2006.
- № 3. - С. 3Ц8.
14. Потапов, И.В. Математические модели для решения задач оптимального резервирования однородных адаптивных искусственных нейронных сетей с ненадежным устройством контроля и адаптации / И.В. Потапов // Известия вузов. Северокавк. регион. Технические науки. Приложение. - 2005. - № 4. - С. 8 - 11.
15. Потапов, И.В. Решение задач оптимизации надежности аппаратурноизбыточных отказоустойчивых однородных искусственных нейронных сетей / И.В. Потапов // Известия вузов. Северокавк. регион. Технические науки. - 2005.
- № 4. - С.24Ц26.
16. Потапов, И.В. О готовности и средней готовности нейрокомпьютерной системы с ненадежным устройством контроля работы искусственной нейронной сети / И.В. Потапов // Известия вузов. Северокавк. регион. Технические науки.
Прил. - 2005. - № 3. - С. 34Ц37.
17. Потапов, В.И. Противоборство (дифференциальная игра) двух нейрокомпьютерных систем / В.И. Потапов, И.В. Потапов // Информационные технологии. - 2005. - № 8. - С. 53Ц57.
18. Потапов, В.И. Оптимизация функциональной надежности избыточной восстанавливаемой после отказов нейронов стареющей искусственной нейронной сети / В.И. Потапов, И.В. Потапов // Информационные технологии. - 2004. - № 12. - С. 32Ц37.
Публикации в других изданиях 19. Потапов, И.В. Предпосылки к созданию прикладной теории надежности искусственных нейронных сетей и нейрокомпьютерных систем / И.В. Потапов; Омский гос. техн. ун-т. - Омск, 2009. - 39 с. - Деп. в ВИНИТИ 17.02.09, № 79ЦВ2009.
20. Потапов, И.В. Исследование и оптимизация надежности нейрокомпьютерных систем в конфликтных ситуациях / И.В. Потапов // Вестник ТГУ.
Управление, вычислительная техника и информатика. - 2008. - № 4(5). - С. 69 - 73.
21. Потапов, И.В. Метод адаптации искусственной нейронной сети к отказам компонентов / И.В. Потапов // Информационные технологии и математическое моделирование (ИТММ-2008): Материалы VII Всерос. науч.-практ. конф. с междунар. участием (Анжеро-Судженск, 14Ц15 ноября 2008 г.) - Томск: Изд-во Том. ун-та, 2008. - Ч. 1. - С. 97Ц102.
22. Потапов, И.В. Расчет времени дообучения и тренировки нейронных сетей высоконадежных систем длительного автономного функционирования / И.В. Потапов // Нейроинформатика, ее приложения и анализ данных: Материалы XVI Всерос. семинара (Красноярск, 19Ц21 сентября 2008 г.) - Красноярск:
ИВМ СО РАН, 2008. - С. 109Ц112.
23. Потапов, И.В. Контроль работоспособности нейронной сети нейрокомпьютерной системы с временной избыточностью / И.В. Потапов // Динамика систем, механизмов и машин: Материалы VI Междунар. науч.-техн. конф.
(Омск, 13Ц15 ноября 2007 г.) - Омск: ОмГТУ, 2007. - Кн. 1. - С. 215Ц218.
24. Потапов, И.В. Решение задач оптимизации надежности однородных нейронных структур на ПЭВМ / И.В. Потапов // Природные и интеллектуальные ресурсы Сибири: Докл. 13-й Междунар. науч.-практ. конф. (Кемерово, 1Цоктября 2007 г.) - Томск: САН ВШ; Изд-во ВЦСпектр, 2007. - С. 265Ц268.
25. Потапов, И.В. Информационная избыточность сообщений в структуре нейронных сетей и методы информационного резервирования / И.В. Потапов // Нейроинформатика, ее приложения и анализ данных: Материалы XV Всерос.
семинара (Красноярск, 5Ц7 октября 2007 г.) - Красноярск: ИВМ СО РАН, 2007.
- С. 174Ц177.
26. Потапов, И.В. Выбор режима контроля работоспособности нейрокомпьютерной системы / И.В. Потапов // Искусственный интеллект. Интеллектуальные и многопроцессорные системы: Материалы Седьмой Междунар. науч. техн. конф. (пос. Кацивели, Крым, Украина, 25Ц30 сент. 2006 г.). - Таганрог:
Изд-во ТРТУ, 2006. - Т. 2. - С. 227Ц229.
27. Потапов, И.В. Отказоустойчивые нейрокомпьютерные системы с временной избыточностью / И.В. Потапов // Нейроинформатика и ее приложения:
Материалы XIV Всерос. семинара (Красноярск, 6Ц8 октября 2006 г.). - Красноярск: ИВМ СО РАН, 2006. - С. 75Ц76.
28. Потапов, И.В. Исследование надежности нейрокомпьютерных систем с временной избыточностью / И.В. Потапов // Природные и интеллектуальные ресурсы Сибири: Доклады 12-й Междунар. науч.Цпракт. конф. (Тюмень, 2Ц4 октября 2006 г.). - Томск: САН ВШ; изд-во ВЦСпектр, 2006. - С. 317Ц320.
29. Потапов, В.И. Синтез адаптивных избыточных искусственных нейронных сетей, функционально устойчивых к отказам нейронов / В.И. Потапов, И.В. Потапов // Вестник СО АН ВШ. - № 1(9). - 2005. - С. 153Ц163.
30. Потапов, И.В. О надежности нейрокомпьютерных систем с временной избыточностью / И.В. Потапов // Информационные технологии и математическое моделирование: (ИТММЦ2005): Материалы IV Всерос. науч.Цпракт. конф.
(Анжеро-Судженск, 18Ц19 ноября 2005 г.). - Томск: изд-во ТГУ, 2005. - Ч.1. - С. 58Ц60.
31. Потапов, И.В. О средней готовности нейрокомпьютерной системы с ненадежным и абсолютно надежным устройством непрерывного контроля / И.В.
Потапов // Военная техника, вооружение и технологии двойного применения:
Материалы III междунар. технологического конгресса (Омск, 7Ц10 июня 2005 г.) - Омск: ОмГТУ, 2005. - Ч. 2. - С. 101Ц103.
32. Потапов, И.В. Задачи оптимизации надежности адаптивных к отказам искусственных нейронных сетей / И.В. Потапов // Интеллектуальные и многопроцес-сорные системы-2005: Материалы Междунар. науч.Цтехн. конф. (Геленджик, 26 сент. - 1 окт. 2005 г.) ЦТаганрог: Изд-во ТРТУ, 2005. - Т. 2. - С.
233Ц235.
33. Потапов, В.И. Численное решение задачи оптимизации восстановления после отказов адаптивной избыточной стареющей искусственной нейронной сети / В.И. Потапов, И.В. Потапов // Природные и интеллектуальные ресурсы Сибири: Докл. 11-й Междунар. науч.-практ. конф. (Барнаул, 26Ц28 сентября 2005 г.) - Томск: Том. гос. ун-т, 2005. - С. 240Ц243.
34. Потапов, И.В. Временная избыточность - важный фактор повышения функциональной надежности нейрокомпьютерной системы / И.В. Потапов // Военная техника, вооружение и технологии двойного применения: Материалы III междунар. технологического конгресса (Омск 7Ц10 июня 2005 г.) - Омск:
ОмГТУ, 2005. - Ч. 2. - С. 103Ц105.
35. Потапов, И.В. Логическая избыточность и функциональная устойчивость искусственных нейронных сетей / И.В. Потапов // Динамика систем, механизмов и машин: Материалы V Междунар. науч.-техн. конф. (Омск, 16Цноября 2004 г.) - Омск: ОмГТУ, 2004. - Кн. 1. - С. 401Ц403.
36. Потапов, В.И. Разработка алгоритмов решения задачи о минимальной избыточности, гарантирующей требуемую надежность стареющей искусственной сети нейрокомпьютера / В.И. Потапов, И.В. Потапов // Актуальные про блемы электронного приборостроения АПЭП-2004: Материалы VII Междунар.
науч.-техн. конф. (Новосибирск, 21Ц24 сентября 2004 г.) - Новосибирск, 2004. - Т. 6. - С. 319Ц321.
37. Потапов, В.И. Задачи оптимизации восстановления после отказов и максимизации среднего времени жизни стареющих отказоустойчивых нейрокомпьютерных систем на базе функционально устойчивых нейронных сетей / В.И. Потапов, И.В. Потапов // Природные и интеллектуальные ресурсы Сибири:
Докл. 10-й Междунар. науч.-практ. конф. (Новосибирск, 5Ц6 октября 2004 г.) - Томск: ТГУ, 2004. - С. 268Ц271.
38. Потапов, В.И. Две задачи оптимизации надежности стареющих нейрокомпьютеров с динамическим резервированием нейронных сетей / В.И. Потапов, И.В. Потапов // Проблемы разработки, изготовления и эксплуатации ракетно-космической и авиационной техники: Материалы первой региональной науч.
конф., посвященной памяти главного конструктора ПО Полет А.С. Клинышкова (Омск, 14Ц15 апреля 2004 г.). - Омск, 2004. - С. 164Ц168.
39. Потапов, В.И. Оптимизация функциональной надежности стареющих искусственных сетей нейрокомпьютеров с динамическим резервированием / В.И. Потапов, И.В. Потапов // Доклады АН ВШ России. - 2004. - № 2 (3). - С. 76Ц81.
40. Потапов, В.И. Оптимизация функциональной надежности искусственных нейронных сетей нейрокомпьютеров / В.И. Потапов, И.В. Потапов // Развитие оборонно-промышленного комплекса на современном этапе: Материалы науч.-техн. конф. (Омск, 4Ц6 июня 2003 г.) - Омск: ОмГТУ, 2003. - Ч. 1. - С. 131 - 133.
41. Потапов, В.И. Решение задачи оптимального резервирования стареющей адаптивной искусственной нейронной сети / В.И. Потапов, И.В. Потапов // Доклады СО АН ВШ. - 2003. - № 1(7). - С. 35Ц43.
42. Потапов, И.В. Решение задачи оптимального резервирования однородной адаптивной искусственной нейронной сети с замещением отказавших нейронов резервными при пуассоновском потоке отказов / И.В. Потапов // Омский научный вестник. - 2002. - Вып. 20. - С. 146Ц148.
43. Потапов, В.И. Направления и результаты исследований искусственных нейронов и искусственных нейронных сетей на кафедре информатики и вычислительной техники ОмГТУ / В.И. Потапов, И.В. Потапов // Природные и интеллектуальные ресурсы Сибири: Докл. VIII междунар. науч.-практ. конф. (Кемерово 26Ц27 сент. 2002 г.). - Томск: ТГУ, 2002. - Ч. 2. - С. 162Ц165.
44. Потапов, В.И. Математическая модель адаптивной искусственной нейронной сети с замещением отказавших нейронов резервными / В.И. Потапов, И.В. Потапов // Омский научный вестник. - 2002. - Вып. 18. - С. 135Ц138.
45. Потапов, В.И., О логической избыточности функционально устойчивых сетей искусственных нейронов / В.И. Потапов, И.В. Потапов // Омский научный вестник. - 2001. - Вып. 15. - С. 90Ц91.
46. Потапов, И.В. Повышение функциональной надежности и среднего времени безотказной работы искусственной нейронной сети для обработки изображений и распознавания образов / И.В. Потапов // Современные технологии при создании продукции военного и гражданского назначения: Сб. докл. технологич. конгресса (Омск 5Ц9 июня 2001 г.). - Омск, 2001. - Ч. 1. - С. 324Ц327.
Свидетельство о регистрации ПО 1. Потапов, И.В. Программное обеспечение для исследования и оптимизации надежности однородных нейронных структур (ОФАП № 10518) / И.В. Потапов, М.В. Кузин // М.: ОФАП ФГНУ ГКЦИТ, 2008. - № 50200800878.
Авторефераты по всем темам >>
Авторефераты по техническим специальностям