Книги по разным темам Pages:     | 1 | 2 | ТЕХНОЛОГИИ ТЕХНОЛОГИИ Нейронные сети:

карты Кохонена Когда говорят о нейронных сетях, то обычно имеют в виду многослойную нейронную сеть, обучаемую по алгоритму обратного распространения ошибки. Таким нейросетям посвящено множество книг и статей. И именно такой тип нейронных сетей до сих пор использовали российские трейдеры. Однако есть другой тип нейронных сетей, который пока неизвестен российскому трейдеру. Это самоорганизующиеся карты Кохонена, которые благодаря своим уникальным свойствам уже давно стали на Западе классическим способом решения сложных финансовых задач.

Обучение Порядок работы было рассказано в статье Нейросети: работа над ошибками в предыбез учителя с картами Кохонена дущем номере ВС.

юбая нейронная сеть, прежде ак и при работе с обычными Входы нейросети, обучаемой без Лвсего, должна быть обучена. Кнейросетями, оперирование кар- учителя, определяются другим обПроцесс обучения заключается в тами Кохонена складывается из не- разом, и перед такой нейросетью подстройке внутренних параметров скольких последовательных этапов. ставится иная цель - выявление занейросети под конкретную задачу. Первым из них является этап опре- кономерностей между любыми При обучении классической деления состава входов. входными данными и индикаторами, многослойной нейросети на вход Для хорошего обучения обычной которые и подаются на вход карты.

подаются данные или индикаторы, нейросети нужно выбрать такое Архитектура карт Кохонена, в отлиа выход нейросети сравнивается с множество входов, которое наибо- чие от многослойной нейросети, эталонным значением (с так на- лее сильно влияет на выходные очень проста и представляет собой зываемым лучителем). Разность (прогнозируемые) значения. Если один-единственный слой нейронов, этих значений называется ошибкой мы угадали, и входы действительно который организован в виде двухнейронной сети, которая и ми- влияют на выходы, то нейросеть бу- мерной матрицы. Пользователю ненимизируется в процессе обучения. дет работать и давать отличные обходимо определить лишь размер Таким образом, обычные ней- прогнозы. Однако подобрать пра- этой матрицы, т.е. количество нейронные сети выявляют законо- вильные входы очень сложно. Обыч- ронов по ширине и количество неймерности между входными дан- но это делается методом проб и ронов по высоте.

ными и прогнозируемой величиной. ошибок, т.е. простым перебором Карты Кохонена дают визуальное Если такие закономерности есть, различных комбинаций индикаторов отображение многомерных входных то нейросеть их выделит, и прогноз и данных. Об этих и других тонко- данных. У карты Кохонена анализибудет успешным. стях работы с такими нейросетями руются не только выходы нейронов В процессе обучения карт Кохонена на входы также подаются данные и индикаторы, но при этом сеть подстраивается под закономерности во входных данных, а не под эталонное значение выхода. Такое обучение называется обучением без учителя. Обучение при этом заключается не в минимизации ошибки, а в подстройке внутренних параметров нейросети (весов) для большего совпадения с входными данными. После обучения такая нейросеть визуально отображает многомерные входные данные на плоскости нейронов.

Имея такое представление данных, можно очень наглядно увидеть наличие или отсутствие взаимосвязи во входных данных.

Для большего удобства визуального представления нейроны карты Кохонена располагают в виде двухмерной матрицы и раскрашивают эту матрицу в зависимости от анализируемых параметров нейронов.

ВАЛЮТНЫЙ СПЕКУЛЯНТ Сентябрь ТЕХНОЛОГИИ ТЕХНОЛОГИИ (как в случае обычной нейросети), но также веса нейронов и распределения примеров по нейронам. Так как карта Кохонена организована в виде двухмерной решетки, в узлах которой располагаются нейроны, то ее очень удобно отображать на плоскости в виде карты с раскраской, зависящей от величины анализируемого параметра нейрона.

Именно за схожесть такого типа изображения нейросети с топографическими картами они получили название карт Кохонена.

Как устроена карта Кохонена аким образом, самоорганизуюТщиеся карты Кохонена представляют собой один из видов нейронных сетей. Принципы работы и обучения такой нейросети были Для нейрона-победителя функция кальность технологии самоорганизусформулированы финским ученым соседства равна 1 и затем плавно ющихся карт состоит в преобразоТойво Кохоненом в 1982 году. Ос- (по линейному или экспоненциаль- вании N-мерного пространства в новной идеей Т. Кохонена является ному закону) уменьшается при уда- двух- или одномерное. Единственвведение в правило обучения ней- лении от него. Таким образом, в ное, что надо помнить, - такое рона информации об его располо- процессе обучения подстройка ве- преобразование сопряжено с некожении. По Кохонену, нейросеть сов происходит не только в одном торыми ошибками. Две точки, близимеет один входной слой, с числом нейроне - нейроне-победителе, но ко лежащие на карте Кохонена, нейронов, равным числу входов, и и в его окрестностях. будут близки и в N-мерном входном единственный скрытый (выходной) После окончания процесса обу- пространстве, но не наоборот.

слой нейронов, образующий одно- чения карта Кохонена классифици- Для лучшего понимания мы подмерную (линия) или двухмерную рует входные примеры на группы готовили пример, разъясняющий об(прямоугольник) решётку. По ана- схожих друг с другом. Вся совокуп- щие подходы к анализу самоорганилогии с топографическими картами ность нейронов в выходном слое зующихся карт. Подадим на два вхотакую нейросеть также называют точно моделирует структуру рас- да карты (размером 50х50 нейрокартой Кохонена. пределения обучающих примеров в нов) набор случайных чисел от 0 до Для этой парадигмы обучение многомерном пространстве. Уни- 50 общим числом 500 примеров.

проводится без лучителя, т.е. в процессе обучения нет сравнивания выходов нейронов с эталонными значениями.

В процессе обучения на вход такой нейросети последовательно подаются обучающие примеры. После подачи очередного примера определяется наиболее схожий нейрон, т.е. нейрон, у которого скалярное произведение весов и поданного на вход вектора минимально. Такой нейрон считается победителем и призван быть центром при подстройке весов у соседних нейронов.

Правило обучения, предложенное Кохоненом, предполагает соревновательное обучение с учетом расстояния нейронов от нейрона-победителя и записывается в виде:

w i i* x w i i i i* где - функция соседства, определяющая величину корректировки веса нейрона, wi - вес i-го нейрона, - скорость обучения.

ВАЛЮТНЫЙ СПЕКУЛЯНТ Сентябрь ТЕХНОЛОГИИ ТЕХНОЛОГИИ Карта выходов нейронов ыходы нейронов карты Кохонена Внапоминают топографическую карту. Координаты этой карты определяют положение одного нейрона. Например, координаты 12:описывают нейрон, находящийся на пересечении 12 столбца с 34 рядом в матрице нейронов. Величина выхода нейрона по аналогии с географическими картами трактуется как высота точки.

Карты Кохонена, так же как и географические карты, можно отображать либо в двухмерном, либо в трехмерном виде. В двухмерном виде карта раскрашивается в соответствии с уровнем выхода нейрона.

После проведения обучения такой может принимать весь спектр зна- Для более высоких значений обычкарты Кохонена все семейство карт чений от 0 (темно-синий) до 50 но используются светлые тона, а будет иметь вид, изображенный на (темно-красный). Это соответствует для низких значений - темные.

рисунке. Карта частот имеет рав- входному распределению данных Карта выходов является главной номерное распределение примеров (пара независимых, равномерно картой в анализе карт Кохонена.

по поверхности карты, что объясня- распределенных величин). Таким Именно на нее проецируется взаимется равномерным распределением образом, самоорганизующаяся кар- ное расположение исследуемых входных примеров и качеством та смогла правильно отобразить данных. Схожие входные данные обучения карты. взаимное распределение двух образуют на карте кластеры - замкДля нас в этом примере пред- входов карты. нутые области, состоящие из нейставляет интерес раскраска карты Более полную информацию по ронов с одинаковыми значениями входов. Раскраска каждой из них теории самоорганизующихся карт и выходов. Как правило, ярко выралинейна и постоянна по одной из методам ее применения можно по- женные кластеры в данных имеют граней карты. Причем обе карты лучить из новой книги Гвидо Дебо четкие границы с другими областявходов имеют одинаковую раскрас- Визуализация финансовых данных ми карты. В трехмерном виде это ку, но развернуты друг относитель- с помощью самоорганизующихся выглядит как крутой склон холма.

но друга на 90 градусов. Как это карт Кохонена, вышедшей в издаможно трактовать При значении 1- тельстве Альпина, либо на семиКарта частот го входа, равного 0 (темно-синяя нарах ТОРА-Центр, посвященных полоса на первой карте), 2-й вход нейронным технологиям. осле завершения обучения кажПдый входной пример попадает в свой нейрон. При этом в некоторые нейроны не попадет ни одного примера, а в некоторые попадет несколько примеров. Распределение обучающих примеров по нейронам очень показательно и отображается на карте частот.

В общем случае входные примеры равномерно распределяются по карте. Но если в данных есть ярко выраженные группы, то примеры распределяются неравномерно, образуя кластеры. Кластером может быть или обособленная группа из нескольких нейронов, в которую попало некоторое число входных примеров, или отдельный нейрон, в который попало большое число входных примеров.

Карта входов нейронов ак говорилось выше, при аналиКзе карт Кохонена проводится оценка не только выходов нейроВАЛЮТНЫЙ СПЕКУЛЯНТ Сентябрь ТЕХНОЛОГИИ ТЕХНОЛОГИИ Задача номер один:

поиск соседей так, мы вплотную подошли к Иуникальному свойству карт Кохонена - отображению меры похожести входных примеров. Чем ближе на карте точки друг к другу, тем более похожи друг на друга примеры, которые в эти точки попадают.

Что это дает нам Посмотрим на рисунок в этом разделе. На нем отображена карта частот и показаны графики цен для трех соседей (точек, находящихся рядом). Соседние точки на карте показывают очень схожее поведение на графике цен:

продолжение тренда вниз. Однако самое ценное заключается в том, что во всех этих точках дальнейшее развитие ситуации было одинаковым - разворот тренда снизу вверх.

Обратите внимание: мы говорим о будущем (!) развитии ситуации. В каждый данный момент мы можем посмотреть, к чему в прошлом приводила похожая ситуация на рынке! Поиск закономерностей в финансовых рядах звестно, что весь теханализ и Илюбая механическая торговая система на его основе используют те или иные закономерности в рядах цен. Успешно торгует только тот, кто знает закономерности рынка. Описанию таких закономерностей посвящены толстые книги (танов, но также и весов нейронов. Взаимосвязь кие, как Энциклопедия техничесДля каждого входа нейрона ри- ких индикаторов рынка Р. Колби и между картами суется своя карта, которая Т. Мейерса), в которых проводятся раскрашивается в соответствии со ри работе с картами Кохоне- исследования применения тех или значением соответствующего веса Пна важно понимать, что все иных индикаторов на различных финейрона. У нейронной сети, обуча- рассмотренные выше карты - не нансовых рынках. В этом поиске заемой с учителем, веса нейронов не более чем раскраски одних и тех кономерностей могут помочь карты имеют физического смысла и не же нейронов. При этом каждый Кохонена, способные отобразить используются в анализе. При обу- обучающий пример имеет одно и все данные сразу с учетом их внутчении же без лучителя веса ней- то же расположение на каждой ренней схожести в удобном для ронов подстраиваются под точные из рассмотренных карт. Любой анализа виде.

значения входных переменных и бар на графике цены имеет Попробуем ответить на вопрос:

отражают их внутреннюю структу- свое место на всех картах. Ана- Есть ли закономерности в поведеру. Для идеально обученной ней- лиз финансовых рядов предпола- нии цены акции РАО ЕЭС России в ронной сети вес нейрона равен гает одновременный просмотр зависимости от дня недели Для соответствующей компоненте вход- карты и графика цен (бары и этого возьмем данные по акциям ного примера. Обычно анализируют свечки) для соотнесения точки на РАО ЕЭС России за последние одновременно несколько карт вхо- карте и графике. торговых дней. Подадим на вход дов. Сначала на одной карте выделяют области одинакового цвета. В этой области группируются входные примеры, имеющие одинаковое значение соответствующего входа. Далее нейроны из этой области изучаются на других картах на предмет -5 -4 -3 -2 -1 0 1 2 3 4 цветового распределения.

ВАЛЮТНЫЙ СПЕКУЛЯНТ Сентябрь ТЕХНОЛОГИИ ТЕХНОЛОГИИ ганизующиеся карты в нем представлены в виде отдельного модуля. Возможности анализа карт Кохонена довольно скудны, а работать с финансовыми рядами очень затруднительно (отсутствуют индикаторы и функции работы с временными рядами).

Среди встроенных архитектур нейросетей NeuroShell есть и карты Кохонена, но, к сожалению, они представлены в одномерном варианте и вообще не имеют средств для визуального анализа.

В пакет NeuroScalp входит модуль Карты Кохонена. Наверное, это первая программа, всесторонне реализующая алгоритм самоорганизующихся карт в применении к финансовым рядам данных. В программе реализован собственный язык программирования, позволяющий использовать индикаторы технического анализа. Реализован богатый инструментарий для проведения карты Кохонена размером 50х50 который позволяет определить инте- анализа карт Кохонена.

следующие значения: ресную закономерность в анализи- Все примеры в этой статье создаЦ день недели; руемом ряду, дающую гарантирован- ны с использованием программного - тип свечи в текущий день; ную прибыль в торговле! При увели- пакета NeuroScalp. Демо-версию - тип свечи в предыдущий день. чении числа входов можно получать программы NeuroScalp можно найДень недели кодируется числом другие интересные закономерности, ти на компакт-диске к этому номеот 1 (понедельник) до 7 (воскресе- которые позволяют прогнозировать ру журнала или в Интернете по нье). Тип японской свечи кодирует- дальнейшее поведение цен. адресу www.tora-centre.ru/nscalp.

ся числом от -5 до +5, как показано на рисунке.

Программное Что дальше Посмотрим на карту частот.

Pages:     | 1 | 2 |    Книги по разным темам