Компьютерное моделирование биологического нейрона
Дипломная работа - Компьютеры, программирование
Другие дипломы по предмету Компьютеры, программирование
p>
где xi - значение i-го входа нейрона.
Для выходного слоя производная функции ошибки будет равна:
.(5)
Если в качестве активационной функции используется сигмоид, то будет определяться формулой:
.(6)
При этом:
,(7)
определяет текущее значение выходного сигнала.
Расчеты по вышеприведенным формулам позволяют выполнить коррекцию весов для нейронов последнего слоя. Для получения формул для других слоев можно воспользоваться формулой производной функции ошибки по входному сигналу (n - номер слоя):
.(8)
Последний сомножитель тождественно совпадает с весовым коэффициентом i - того входа j - того нейрона:
.(9)
Но производная по входному значению для последнего слоя тождественно совпадает с производной по соответствующему выходу для предыдущего слоя:
(10)
Первый множитель формулы (7) определяется формулой:
,(11)
где k - число нейронов в слое n.
Вводится вспомогательная переменная
(12)
Тогда можно задать рекурсивную формулу для определения (n-1) - го слоя, если известны следующего n - го слоя.
.(13)
Нахождение же для последнего слоя нейронной сети не представляет трудности, так как известен целевой вектор, т. е. вектор тех значений, которые должна выдавать нейронная сеть при данном наборе входных значений.
.(14)
Можно записать формулу для приращений весовых коэффициентов в раскрытом виде.
.(15)
Полный алгоритм работы компьютерной модели нейрона складывается из следующих шагов:
) подать на вход сигнал активации и определить значения выходов нейронов;
) рассчитать функцию ошибки Е. Если значение ошибки не превышает допустимое, то выбрать следующий обучающий образец и перейти на шаг 1. Целесообразно организовать случайный выбор образцов из обучающей последовательности. Иначе - к следующему пункту;
) рассчитать для выходного слоя нейронной сети по формуле (13) и рассчитать изменения весов выходного слоя n по формуле (14);
) рассчитать по формулам (11) и (13) соответственно и для остальных слоев, n = N-1..1;
) скорректировать все веса нейрона:
(16)
) перейти на шаг 1.
2.2 Синапс
Известно, что процессы выделения и распада медиатора носят экспоненциальный характер, причём процесс выделения медиатора, как правило, происходит значительно быстрее, нежели процесс распада [11].
Следующим важным фактором является эффект пресинаптического торможения, проявляющийся в том, что при превышении концентрацией медиатора некоторого предельного значения эффект влияния синапса на ионный канал начинает ослабевать несмотря на то, что ионный канал остается полностью открытым. Достижение предельного значения Ss i концентрации возможно при стимуляции синапса импульсными потоками Xs i и gs i с высокой частотой следования импульсов.
Модель, показанная на рисунке 4, реализует все три основные особенности функционирования синапса.
Рисунок 4 - Модель синапса
Вход модели - дискретный сигнал x(t), представляющий собой последовательность импульсов длительностью 1 мс и имеющих амплитуду E. Процесс выделения и распада медиатора предлагается моделировать инерционным звеном первого порядка с логическим управлением постоянной времени Ts. Переменная ? характеризует концентрацию медиатора, выделившегося в ответ на импульс.
Выход g(t) модели представляет собой эффективность воздействия на ионный механизм и пропорционален проводимости синапса. Таким образом, при отсутствии входных воздействий Xs i и gs i проводимость синапса стремится к нулю, что соответствует разомкнутому ключу в эквивалентной схеме мембраны [7, 8].
В работах [4, 5, 6] показано, что ионный канал имеет три основные характеристики - сопротивление, емкость и концентрацию ионов, поддерживаемую внутри клетки насосной функцией мембраны. Произведение Tm=RmCm характеризует инертность канала, т. е. определяет скорость восстановления нормальной концентрации ионов в клетке.
Влияние синапса на ионный механизм заключается в потере эффективности насосной функции канала и в снижении концентрации ионов в клетке, причём постоянная времени данного процеса T=RICm.
Инерционные свойства модели ионного механизма предлагается описывать апериодическим звеном с логическим управлением постоянной времени. На рисунке 5 представлена модель ионного механизма, соответствующая описанным выше свойствам.
Рисунок 5 - Модель ионного механизма мембраны нейрона
Здесь g? - суммарная эффективность влияния синапсов на ионный механизм,
Rm>0 - сопротивление мембраны,- емкость мембраны,
? - ожидаемый вклад модели в величину внутриклеточного потенциала при отсутствии внешнего возбуждения: данная величина определяется активностью соседних участков мембраны,- реальный вклад модели в величину внутриклеточного потенциала.
Дополнительно в модель добавлен коэффициент скорости изменения функции ионного механизма ?u, который тем меньше, чем больше разность между выходным вкладом в мембранный потенциал и ожидаемым. Входя множителем в значение постоянной времени TI, ?u вызывает существенное изменение скорости функционирования ионного механизма при резких перепадах потенциала на соседних участках ?/p>