Книги по разным темам Pages:     | 1 |   ...   | 45 | 46 | 47 | 48 | 49 |   ...   | 58 |

Что может представлять спектр нейронов, различных по альтернативу детерминированности в морфогенезу и функциям, весьма широк искусственных (не-живых) системах и, [5]. В этой связи понятие формального 4-Й МЕЖДУНАРОДНЫЙ СИМПОЗИУМ НЕЙРОИНФОРМАТИКА И НЕЙРОКОМПЬЮТЕРЫ нейрона представляется вульгарным dH (t) 2 i = [H + i (H -1) - H )] + i i i (излишне упрощенным). Тем не менее, dt H i основная задача реального нейрона Ч N проводить (или, напротив, тормозить) + H + kiGk ij j ji k электрический импульс, полученный от (1) соседних нейронов. Кроме того, следует Здесь Hi(t) Ч переменная, описывающая принимать во внимание, что в концепции состояние нейрона; Hi Ч характерное нейропроцессора нейроны и связи между время активации; i Ч параметр, связанный ними рассматриваются как с порогом возбуждения нейрона; ij Ч самостоятельные объекты. Именно связи матрица связей между нейронами, i, j = подвергаются обучению Ч 1.....n. Механизм обучения связей для модифицируются в результате обсуждаемой здесь проблемы значения не прохождения импульса, причем устойчивая имеет: это может быть или оригинальный модификация (полученная в результате вариант, предложенный самим Дж.

повторения) становится необратимой и Хопфилдом [7], или правило Хебба [9].

обеспечивает запоминание. Иными Важно, что в любом варианте в обученном словами, в нейропроцессоре память носит процессоре связи между нейронами, распределенный характер и заключается в составляющими образ объекта, становятся связях между формальными нейронами.

сильнее, чем связи между пассивными Понятие пластина несет несколько нейронами. Последний член в уравнении смысловых нагрузок, причем основная из (1) в оригинальной версии отсутствует, мы них в том, что внутрипластинные и вводим его для описания связи межпластинные связи могут и должны образсимвол (см. ниже).

обучаться по-разному, т.е. механизмы Данный процессор используется как модификации связей могут и должны быть накопитель информации без ее осмысления различны. Это же относится и к разным и анализа. Воспринимаемый объект в нем пластинам: существует несколько типов предстает в форме образа Ч набора нейропроцессоров, отличающихся по активных нейронов. При этом, чему характеру взаимодействия нейронов внутри соответствует активация какого-либо пластины. Комбинация нескольких конкретного нейрона, заранее неизвестно, разнотипных нейропроцессоров дает грубо говоря, нейроны Хопфилда не возможность воспроизводить эффекты, имеют смысла.

спектр которых весьма широк (см. [6]) и Процессор Гроссберга обеспечивает далеко превосходит возможности обычных сжатие информации путем сопоставления схем, содержащих просто бистабильные распределенному образу (состоящему из элементы с неактивными связями (типа достаточно большого числа нейронов) электрических проводов).

единого нейрона, называемого символом Наконец, введение динамических данного образа. Следует отметить два моделей вместо дискретных схем важных аспекта.

позволяет, оставляя бистабильными 1). Сам факт преобразования образной стационарные состояния формального цепочки в символ означает осознание того, нейрона, проследить динамику достижения что данная цепочка соответствует этих состояний и выхода из них [2].

конкретному существующему объекту, в Наибольший интерес для нас этом смысле символ несет семантическую представляют нейропроцесоры типа (смысловую) информацию.

Хопфилда [7] и Гросберга [8].

2). Символ выбирается самой системой в Процессор Хопфилда Ч линейная процессе формирования. Этот выбор не аддитивная сеть; модель можно обязательно должен быть наилучшим, представить в виде:

выбор, по определению, делается из множества возможных и равноправных вариантов, но он должен быть сделан.

Материалы XVI Международной конференции по нейрокибернетике В работе [10] рассматривался самый символобраз, все остальные должны простой вариант процессора, способного лотмереть Можно предложить несколько сопоставлять образу некоторый символ.

механизмов, способных обеспечить Здесь мы рассматриваем несколько подобное взаимодействие.

модифицированную модель:

3.1. Конкуренция символов с dGk (t) 2 3 последующим обучением связей.

= {-(k -1)Gk +kGk - Gk }G dt Предположим, что изначально k (2) существуют только прямые межпластинные - (t)GkGl + Hi kl ik связи, передающие образ с пластины типа kl i Хопфилда на пластину типа Гроссберга:

где Gi (t) Ч переменная, отражающая ik (0) = 1 при i=k, или 0 если i k.

состояние нейрона, обладающего В результате конкуренции на пластине свойством самовозбуждения и имеющего Гроссберга выживает только один случайно два стационарных состояния Ч активное выбранный нейрон GК, ставший символом (1) и пассивное (0). Параметр к регулирует данного образа. После этого обратные способность данного нейрона Гроссберга межпластинные связи ki обучаются как:

вступать в конкуренцию (см. [9]).

dKi (t) Внутрипластинные связи Гij обеспечивают. (4) GK (H + 1) i нелинейное взаимодействие нейронов; знак dt T л- означает, что взаимодействие Так же обучаются и связи iК подавляющее (конкурентное). В начальном (прямые связи перезамыкаются на (необученном) состоянии все связи нейрон-символ). При этом характерные считаются равными: Гij (0) = Гji(0) =Г0. В времена обучения связей TГ и T не процессе обучения связи меняются как:

связаны между собой; полное же время d (t ) Г ij обучения связанной подсистемы лобраз {Gi G (Gi - G )}, (3) j j dt T символ TS = TГ + T. Первое время зависит от того, каково изначальное где TГ Ч характерное время обучения преимущество нейрона Gk перед связей. Оно зависит от того, какое другими; второе определяется только преимущество изначально имеет один шагом обучения. Фактор случайности (случайный) нейрон; в процессе обучения работает только на пластине G; обучение все нейроны сначала гаснут, в конце межпластинных связей происходит процесса гаснут все кроме одного.

практически регулярно.

Последний член в уравнении (2) обеспечивает взаимодействие с 3.2. Одновременная конкуренция процессором Хопфилда: межпластинные символов и связей Процесс обучения связей может связи ik передают образ, т.е. набор происходить одновременно с конкуренцией активных нейронов {H}, на пластину G. В нейронов Гроссберга. В этом случае, как и результате всего процесса должны ранее, ik(0) =1 (образ прямыми связями сформироваться обратные связи ki, передается с пластины H на пластину G), а обеспечивающие репрезентацию символа обратные связи устанавливаются при на пластине Н.

одновременном решении уравнений (2)-(4).

3. Формирование связей образсимвол.

Кроме того, преимущество какого-либо После того, как символ образовался, нейрона GК определяется, в частности, активация его должна приводить к степенью сформированности нужных активации соответствующего образа, и связей. Это значит, что в уравнении (4) наоборот. Связи ik (влияние Н на G) и ki переменная Gк заменяется на Gк(1+кi).

(влияние G на Н) зависят от времени: в Иными словами, здесь фактор случайности начале процесса формирования символа относится и к выбору нейрона-победителя, работают только связи ik, а обратные связи и к выбору связей. Проведенная нами ki(0)=0 (или ), т.е. практически компьютерная эмуляция [11] показывает, отсутствуют (или малы). В конце должны что характерное время процесса ТS здесь сформироваться устойчивые связи 4-Й МЕЖДУНАРОДНЫЙ СИМПОЗИУМ НЕЙРОИНФОРМАТИКА И НЕЙРОКОМПЬЮТЕРЫ оказывается гораздо дольше, и сам процесс здесь заложен в морфогенезе, т.е. роль непредсказуем и неустойчив. Несмотря на конкуренция символов сведена к это, такой вариант заслуживает минимуму, а результат заложен априори.

пристального внимания, поскольку он С известной долей смелости можно наиболее близко соответствует методу провести корреляцию между выбранным проб и ошибок, что является основным способом формирования символа и типами способом обучения человека. Фактически в характера, выделяемыми в психологии:

данном варианте процесс формирования 1 легко обучаемый, лояльный, символа носит итерационный характер;

доверчивый;

именно так может быть представлен блок 2 медлительный, упрямый, Back Propagation (BP), используемый в сомневающийся;

работе [12].

3 упрямый ригорист.

Подчеркнем, что в данном варианте Таким образом, эффект индивидуальности процесс формирования символа может и не организации системы связанных сойтись Ч тогда вся процедура должна нейропроцессоров обеспечивается повторяться заново.

множеством способов установления связи 3.3. Преимущество связей.

образсимвол и фактором случайности, В том случае, если изначально неизбежно присутствующем (в разной присутствуют не только прямые связи, т.е.

степени) в каждом варианте.

ik(0) =1 не только при i=k, преимущество Список литературы получают те нейроны Gk, которые связаны 1. Шамис А.С. Пути моделирования мышления. М.:

КомКнига, 2006.

с большим числом нейронов Нi. Тогда 2. Чернавский Д.С., Карп В.П., Родштат И.В., характер процесса будет регулироваться Никитин А.П., Чернавская Н.М. Распознавание.

числом связей N: в пределах N = n Аутодиагностика. Мышление. М.: Радиотехника, (только прямые) и N = n(nЦ1) (все связаны 2003.

со всеми) ситуация практически совпадает 3. Ежов А.А., Шумский С.А. Нейрокомпьютинг и его применения. М.: МИФИ, 2008.

с тем, что описано в пункте 3.1, причем в 4. Чернавский Д.С. Синергетика и информация:

последнем случае появляется масса Динамическая теория информации. М.: Наука, 2001.

лишних связей, не несущих никакой 5. Александров Ю.И. и др. Нейрон. Обработка смысловой нагрузки. В промежуточной сигналов. Пластичность. Моделирование.\\ ситуации выбор нейрона-победителя на Фундамент. руководство. Тюмень: Изд. ТГУ, 2008.

пластине G становится практически 6.Чернавская О.Д., Чернавский Д.С., Карп В.П., Никитин А.П. Понятия лобраз и символ как детерминированным: побеждает тот, кто инструменты моделирования процесса мышления \\ связан с большим числом нейронов, Сложные Системы, 2012, №2 (в печати) составляющих данный образ. Случайность 7. Hopfield J.J. Neural networks and physical systems (в данном случае, скорее with emergent collective computational abilities.

индивидуальность) проявляется в том, PNAS,1982,79.

8. Grossberg S. Studies of Mind and Brain. Boston, какие именно связи заранее принимаются Riedel, 1982; The adaptive brain. North-Holland, во внимание. Время процесса определяется Amsterdam 1987.

фактически временем до-обучения нужных 9. Hebb D. O. The organization of behavior: a связей.

neuropsychological theory. New York, 2002.

Заключение (Оригинальное издание Ч 1949) 10. Чернавский Д.С., Карп В.П., Алексеев В.А., Рассмотренные варианты Чернавская О.Д. Математическая модель установления связи лобразсимвол процессора локализации образа // Препринт ФИАН демонстрируют широкий спектр №9, 2011.

возможностей, из которых может выбирать 11. Чернавская О.Д., Никитин А.П. Анализ сама система в процессе самоорганизации. возможных способов формирования символов и связей символ образ. \\ КСФ, 2012 (в печати).

Самым логичным и эффективным следует 12.Чернавский Д.С., Карп В.П., Никитин А.П., признать первый способ, однако второй Чернавская О.Д. Возможная конструкция представляется наиболее близким к подсистемы прогнозирования в искусственном реальности. Третий отличается от аппарате мышления. \\ Доклад, представленный на остальных тем, что фактор случайности конф. ICNC-12.

Материалы XVI Международной конференции по нейрокибернетике ВОЗМОЖНАЯ КОНСТРУКЦИЯ ПОДСИСТЕМЫ ПРОГНОЗИРОВАНИЯ В ИСКУССТВЕННОМ АППАРАТЕ МЫШЛЕНИЯ.

Д.С.Чернавский1, В.П. Карп2, А.П.Никитин3, О.Д. ЧернавскаяФизический институт РАН, Москва, olgadmither@gmail.com;

МИРЭА, Москва, karpvica@mail.ru;

Институт общей физики РАН, Москва, apnikitin@bk.ru The subsystem for prognosis is considered that allows т.е. основывается на первичном акте to predict the process evolution. It is shown that it распознавания формировании символа should be divided into two parts, one of them being некоторого состояния.

responsible for primary information processing, and Процесс формирования символа the other stores and>

The second part provides the possibility to introduce the типичного образа рассматривался в работах concept of continuous time.

[9, 10]. В конструкции АМ мы будем использовать один из возможных 1. Введение вариантов реализации такого процесса, а именно образование символа за счет Проблема моделирования конкуренции на пластине Гроссберга с человеческого мышления представляет последующей проверкой. Схема собой сложную многоаспектную задачу и формирования символа с проверкой единого подхода к данной проблеме, как и представлена на рис. 1.

единого определения процесса мышления, пока нет [1, 2]). Наша работа лежит в русле так называемого лестественно конструктивистского подхода, основанного на нейрокмпьютинге (см. [3] и ссылки там же), теории распознавания (см.

[4] и ссылки там же) и динамической теории информации (ДТИ, см. [5])). В рамках этого подхода мышление можно определить как самоорганизующийся Рис. 1. Схема формирования символа процесса записи (восприятия), сохранения, изолированного образа а) с проверкой и б) без обработки, а также генерации и проверки.

распространения новой информации без вмешательства извне [6]). Нас интересует Здесь типичный образ с пластины возможность создания системы связанных Хопфилда I,H по прямым связям нейропроцессоров, (далее - аппарат передается не сразу на пластину Гроссберга мышления. АМ), способная решать все IV,G, но предусмотрена специальная перечисленные задачи. Рассматриваются вставка двух дополнительных пластин, преимущественно процессоры типа часто называемых комплексом Back Хопфилда [7] и Гроссберга [8]..

Propagation (BP). Это пластины Хопфилда Задачи записи и сохранения подробно II,H и Гроссберга III,G, между которыми рассматривались в работе [9]. Здесь мы существуют разветвленные и двусторонние остановимся на одном из аспектов задачи межпластинные связи. Особенность такой обработки информации, а именно - на конструкции в том, что процедура подсистеме прогнозирования.

формирования символа итерационна.

Pages:     | 1 |   ...   | 45 | 46 | 47 | 48 | 49 |   ...   | 58 |    Книги по разным темам