Книги по разным темам
Pages: | 1 | ... | 5 | 6 | 7 | 8 | 9 | ... | 56 | Массовый процесс рождения нейроновнапоминает размещение на шахматной доске фигурок для игры, которые ставятсяотнюдь не по правилам. С точки зрения стороннего наблюдателя все выглядитвесьма хаотично и нецеленаправленно, как будто ребенок, незнакомый с правиламиигры, расставляет фигурки, которые тут же начинают самостоятельную жизнь,вступая в конфликт друг с другом и погибая при этом. Композиция на доскеначинает меняться в соответствии с правилами хождения каждой отдельной фигуры.Зная начальные данные и правила, можно определить множество возможных вариантов(сценариев) развития и гибели данной системы.
Откуда берутся начальные данные о размещениифигур на доске Для объяснения ситуации привнесем в модель такие понятия, как:"генетическая память", "самозарождающаяся сесть" и "саморазрушающаяся сеть".Под генетической памятью будем понимать закон распределения связей междунейронами, определяющий их рождение. Этот закон может быть описан, например,методами фрактальной архивации. Представляется, что там, где речь идет омиллиардах нейронов и их связях друг с другом, особая точность не требуется,поэтому в данном случае (для данной модели) можно попробовать установитькоэффициент сжатия как угодно большим, но, естественно, в разумныхпределах.
При этом, что характерно, генетическаяпамять— память о численейронов и законе распределения их связей, может раскручиваться по типуфрактальной разархивации, когда два случайных изображения (схемы) путемпроцедуры самообучения настраиваются друг на друга. Подробнее см.[2].
Партия обучения всегда играется до конца.Человек пытается приспособиться к жизни через ее понимание, расплачиваясь заэто игровыми фигурками-нейронами. Обучение — это способ выжить, но плата заобучение — это гибельбазовых элементов. Для того чтобы организму жить, он должен "сжигать" себяизнутри.
Смерть стирает уцелевших.
Можно начинать новую партию. Новаярасстановка фигурок полностью стирает остатки памяти о прошлом. Новое рождениеуничтожает историю. Но надо отметить, что процесс рождения, эквивалентный внашем примере процессу расстановки фигур на доске, на самом деле не может бытьхаотичным, а значит, бессмысленным. Как известно, в процессе созревания эмбрионвкратце "вспоминает" всю свою историю, как историю развития живого существа. Смоей точки зрения —это не просто кино, это учебный фильм, в ходе которого реализуется программасамообучения эмбриона. На изначальную пустоту, которую суждено заполнитьэмбриону в материнском чреве, подается генетическая программа,содержащая уже прожитые предками жизни. "Разностьгенетических потенциалов" порождает нейроны на соответствующем месте ссоответствующими связями. Таким образом нереализованное напряжение прошлоговрывается в настоящее, искривляя его пространство рождением новых элементов.Эмбрион обучается, используя механизм самозарождения. Генетическая памятьотображается в количество нейронов и их связи друг с другом. Этот этап можноназвать этапом синтеза в противовес начинающемуся сразу по его окончанию этапурасщепления-уничтожения. Чем большей сложности удастся синтезировать структуру,тем большему ее удастся в дальнейшем научить, используя механизмсаморазрушения. Согласитесь, чем-то все сказанное напоминает операциирасщепления и синтеза в природе.
Более того, подобный подход объясняет,почему человек способен вспомнить и остро пережить (например, в состояниигипноза) те события, которых не было в его жизни (Р.Моуди "Жизнь до жизни").В силу того. что память распределена по всемумножеству нейронов, по их связям между собой, по их весовым коэффициентам,можно утверждать, что человек уже рождается "набитым" "неизвестными емувоспоминаниями". В течение жизни эти воспоминанияпостепенно разрушаются новой информацией. Однако существуют приемы (ЛСД,специальные сновидения, гипноз, медитация), позволяющие отобразить активноесознание в еще неиспользованные (неразрушенные) структуры, и тогда получатся и"девять предшествующих жизней Раймонда Моуди", и многое другое.
В результате имеем сменяющие друг другапроцессы рождения и гибели. И те и другие направлены на обучение. Красивоехудожественное оформление всё вышесказанное получило у К.Кастанеда:"С помощью группового созерцания новым видящимудалось увидеть разделение двух аспектов накатывающей силы. Они увидели, чтоэто — две силы,которые слиты, но не являются одним и тем же. Кольцевая сила приходит к намчуть-чуть раньше опрокидывающей, но они настолько близки, что кажутсяодним.
Кольцевой силу назвали потому, что онаприходит в виде колец, нитеобразных радужных петель — очень тонких и деликатных. Иточно так же, как опрокидывающая сила, сила кольцевая ударяет каждое живоесущество непрерывно, однако совсем с другой целью. Цель ее ударов — дать силу, направить, заставитьосознавать, то есть — датьжизнь " (К.Кастанеда. "Огонь изнутри").
Все, о чем здесь говорилось, касается нетолько механизма функционирования мозга. То же самое можно увидеть на уровнечеловеческого общества, когда уничтожение членов общества приводит квозрастанию мощи общества. Однако, если численность становится меньшекритической для поддержания и/или развития конкретного технологического уровня,то начинается неизбежный регресс.
Функциональная деградация становитсянеизбежной в силу того простого факта, что для решения многих сложных задач нет достаточногочисла требуемыхфункциональных элементов и связей между ними.
Функциональная деградация в свою очередьобязательно отражается на безопасности системы. Те соседи, которые ранеепочтительно снимали шляпу, теперь уже не обращают серьезного внимания накогда-то всеми уважаемую Систему и бесцеремонно заставляют ее отодвинуться отобщего пирога.
Не так ли дела обстоят сегодня сРоссией.
Данный раздел назван Жизнь какнеизбежность не.ради красного. словца. Почему-то принято считать, чтоединственное, чего не может избежать человек — это смерть. Но если речь идет о любом живущем или уже умершемчеловеке, то факт его существования сегодня или в прошлом однозначно свидетельствует о том, чтои рождения нельзя было избежать.
юбое рождение всегда связано слзалатыванием пробоины в днище корабля, называемого Жизнью.
Но заделывать пробоину можно только тогда,когда для этого есть время и соответствующие материалы.
Теперь настало время перейти к практическойреализации сказанного и предложить конкретные алгоритмы функционированияинформационной самообучающейся системы, имеющей только одну цель — понять, что ее ожидает. Понять исуметь самостоятельно продолжить входную обучающую последовательность в своейгипотетической модели до первой ожидаемой угрозы.
Глава 3. Алгоритмы самозарождения знания (опыт построенияпрактической системы)
Я— лишь рисунок, сделанный пером
На лоскуте пергамента; я брошен
В огонь и корчусь!
В.Шекспир
3.1. Жизненная сила элемента
И смотрю, и вражду измеряю.
Ненавидя, кляня и любя:
За мученья, за гибель — я знаю —
Все равно: принимаю тебя!
А.Блок
Для того чтобы придать рассуждениям вес иплоть, опустимся на землю, т.е. приведем конкретные примеры, которые легкомогут быть реализованы с помощью ЭВМ, и посмотрим, каким образом системаспособна обучаться используя принцип самовозрождения.
Предположим, что наши нейроны способны кследующим элементарным действиям (ЭД): сложить ('+'), вычесть по модулю ("-"),умножить ("х"), разделить ("/"), ничего не делать (" "). Можно допустить иоперации логарифмирования и возведения в степень— это позволит расширитьвозможности системы по обучению. Нас же сейчас интересует сам подход, поэтомумы ограничимся только пятью названными операциями. Далее, выделим участоклпустого пространства, на который будет оказываться воздействие по двум входами одному выходу.
Предположим, что возникшее напряжение должнокомпенсироваться образованием нейронов в этом пустом пространстве.
Предположим, что элементов должно появитьсяровно столько (не меньше и не больше), сколько достаточно для компенсациинапряжения.
Предположим, что при рождении нейроноввыбирается нейрон с тем элементарным действием, которое максимальноспособствует минимизации напряжения.
Например, пусть на первый вход подан сигналсилой три условные единицы (х=3), на второй — 5 (у=5), требуемый результат— 20(z=20).
Тогда, перейдя на язык линейногопрограммирования, поставленные условия можно записать следующимобразом:
х,у — входные значения;
z — выходное значение;
d — элементарное действие измножества [+, *,-,/,'' "].
При этом, считаем, что ничего не делатьявляется наиболее предпочтительным из всех ЭД. Это действие подразумеваетотсутствие нейрона и введено исключительно для полноты картины. Образно говоря,оно полностью соответствует восточной мудрости никогда не делай лишнего шага, если можешь оставаться на месте,ибо тебе не ведомо —не окажется ли этот твой шаг последним.
Требуется подобрать такое d, котороеминимизировало бы выражение
(z-d(x,y))2(3.1)
Отсюда следует, что на первом этапе долженвозникнуть нейрон с ЭД лумножить. Обозначим его через а1. Возникший нейрон максимально сгладитсуществующие противоречия, но до полной идиллии будет еще далеко. Напряжениеослабнет, но останется. В том случае, если оставшегося напряжения система не всостоянии будет долго терпеть, то ей придется опять решать ту же самуюзадачу, задачу по устранению возникшего напряжения, но уже в новых условиях.Целевую функцию (3.1) придется переписать в виде (с учетом новогоэлемента):
(z- (d1(x,y)+ d2(A1,x)+ d3(A1,y)+ d4(x,d5(A1,y)))2 (3.2)
Здесь d1,d2,d3,d4,d5принимают значения из множества ЭД.
В нашем случае решение (3.2) приведет кследующим результатам (напоминаем, что операция является болеепредпочтительной):
d1 — " "
d2 — " '
d3 —-"+'
d4— " "
d5— " "
Таким образом, итоговая схема формированиясистемы по принципу самозарождения будет выглядеть:
Рис. 1.5. Итоговая схема формированиясистемы по принципу самозарождения (часть 1).
Процесс самозарождения повторяется до техпор, пока система не откажется от рождения новых элементов, считая оставшеесявнешнее напряжение вполне терпимым. Кроме того, с каждым разом задача выбора ЭДбудет становиться все более и более трудоемкой. С одной стороны, всевозрастающая трудоемкость выбора нейрона, а с другой— понижение внешнего напряженияприведут к тому, что система успокоится и будет работать с той погрешностью, накоторую окажется способной.
На этом можно считать обучение по принципусамозарождения законченным. Но теперь уже появляется возможность дальнейшегообучения по принципу саморазрушения, который был рассмотрен ранее. Здесь егоможно уточнить, введя такой параметр как жизненнаясила нейрона. Под жизненнойсилой нейрона будем понимать величину внешнегонапряжения для компенсации которого он был рожден. В приведенном примережизненная сила нейронов а1 иA2 соответствует 15 и 5соответственно. Будем считать, что нейрон может быть уничтожен только тогда,когда внешнее напряжение, действующее на него, превосходит его собственнуюжизненную силу. Это значит, что для уничтожения первого нейрона из приведенногопримера потребуется напряжение не менее 15, а для второго— не менее 5 условныхединиц.
Покажем возможность этого.
Пусть на вход системы, приведенной на рис.1.5, поданы сигналы со значением 5 и 1, а на выход — 12, т.е. х=5, у=1, z=12. В этойситуации внешнее напряжение элемента А2 превосходит его жизненную силу, и он гибнет. Процесс гибелираспространяется вглубь системы, но останавливается на нейроне а1, жизненная сила которого больше внешнейэнергии разрушения Возникает ситуация, благоприятная для рождения новогоэлемента взамен погибшего.
Минимизация целевой функции (3.2) приведет крождению нейрона с ЭД вычитание по модулю, что отражено в итоговой схеме нарис. 1.6.
Рис. 1.6. Итоговая схема формированиясистемы по принципу самозарождения (часть 2).
В том случае, если внешние условия вернутсяк первоначальным (x=3,y=5,z=20), то рожденный элемент опять будетуничтожен.
В приведенном примере силой, ответственнойза уничтожение элементов, является значение целевой функции на новой порцииобучающих данных. Понятно, что это только один из возможных подходов.Существуют и другие пути. Например, в качестве внешнего напряжения можноиспользовать функцию от неких средних значений по всей обучающейвыборке.
Подобный принцип самообучения достаточнопросто реализовать в виде компьютерной программы, размер которой, как и еезнания, будет динамически изменяться в зависимости от успешности адаптации квнешним условиям.
В предложенной схеме самообученияисключается такая ситуация, как паралич системы, и гарантируется на каждомэтапе обучения та или иная точность предсказания. Эта точность определяетсяранее рожденными нейронами.
Подобный подход не исключает методов, воснове которых лежит изменение весовых коэффициентов для входных связейнейрона, наоборот, изменение весовых коэффициентов является единственнымметодом настройки системы в том случае, когда рождение или гибель новогонейрона становятся невозможными. Например, в случае примера на рис. 1.6,система не способна давать ответ с той точностью, которую хотелось быпользователю; возникновение новых нейронов уже невозможно в силунедостаточности внешнего напряжения; входные/выходные данные, достаточные дляуничтожения нейрона А2,отсутствуют. Единственный способ повышения точности в этой ситуации— подстройка весовыхкоэффициентов.
В дальнейшем, системы, функционирующие набазе приведенных принципов самовозрождения и разрушения, для краткостиназовем СР-сетями.
В рассмотренном примере в качестве ЭДфигурировали арифметические операции, и именно для удобства работы с ними былаподобрана соответствующая функция цели. Однако многообразие существующих задачникак не позволяет свести все существующие процессы самообучения исключительнок набору арифметических ЭД. Поэтому возникает резонный вопрос: Позволяет липодобный подход решать задачи, связанные с переработкой графических илисимвольных образов, и можно ли данный подход использовать для решения обычных,будничных задач, присущих человеку, как объекту, притягивающемуся целью
Пусть в качестве входных сообщений выступаютстроки символов, например, Х = abc, Y = def. На выходе должна быть строкавида Zp =лbcda.
В качестве целевой функции определим функциювида:
F=∑ⁿ=iⁿ1g(Zp(i)-Z(i)),
где
n = max (strlen(Zp), strlen(Z));
Zp(i) — iсимвол желаемого результата;
Z(i) — i символ получаемогорезультата;
Pages: | 1 | ... | 5 | 6 | 7 | 8 | 9 | ... | 56 | Книги по разным темам