Математические модели в естествознании
Вопросы - Математика и статистика
Другие вопросы по предмету Математика и статистика
µе, его дискретное представление).
Потоки импульсов не являются единственным фактором, действующим на нейроны. Между точками межклеточной жидкости существует разность электрических потенциалов. Типичный объем, в котором потенциал межклеточной жидкости можно считать практически постоянным (местный потенциал), значительно превышает размеры нейрона. Местные потенциалы колебательным образом меняются во времени. Это медленные потенциалы. Достаточно типичный период их осциляций -порядка сек. (напомним, для нейрона длительность импульса порядка мсек.). В изменение местных потенциалов вносят вклад сами нервные клетки (не только нейроны), а также омические токи, обусловленные электрическим градиентом во внеклеточной жидкости (такая связь называется электротонической).
Местные потенциалы влияют на импульсацию нейронов. Этому есть доказательства. Изменение местных потенциалов отражает сигнал электроэнцефалограммы (ЭЭГ), который регистрируется на поверхности кожи, покрывающей череп. В спокойном состоянии у человека сигнал ЭЭГ осцилирует с периодом порядка сек. Замечено, что положительная полуволна ЭЭГ сопровождается учащением импульсации нейронов. Тем самым, быстрые импульсные потенциалы наблюдаются на фоне и связаны с медленными местными потенциалами. Механизмы связи и ее роль в целом в настоящее время не ясны. По одной из гипотез именно постоянно меняющиеся узоры местных потенциалов кодируют информацию в мозге. Потоки же импульсов служат для передачи информационных сообщений из одной области мозга в другую.
Однослойный персептрон - простейшая модель ассоциативной памяти
Однослойным персептроном назовем множество нейронов Мак-Каллока - Питтса, которые имеют общие входы. Пусть - входные сигналы, а - выходной сигнал -ого нейрона, , где - число нейронов. Тогда
.
Здесь - общий вектор входных сигналов, - синаптический вектор - ого нейрона, - его пороговое значение. Выходные сигналы принимают либо нулевое, либо единичное значения (бинарны). Предположения о бинарности вектора делать не будем. Персептрон формирует вектор выходных сигналов . Обозначим через - матрицу, в строках которой находятся синаптические векторы . Ее назовем синаптической. Введем также вектор , который назовем пороговым. Тогда выходной вектор персептрона суть
,
где функция вычисляется покоординатно. Множество бинарных векторов (координаты равны либо нулю, либо единице) обозначим через . Пусть - некоторый набор входных векторов, а - множество выходных векторов. Поставим задачу об обучении персептрона. Требуется выбрать синаптическую матрицу и пороговый вектор так, чтобы для входных векторов персептрон формировал выходные векторы , т.е.
.
Если обучение удалось произвести, то персептрон выполняет функции ассоциативной памяти. По входному вектору генерирует связанный с ним выходной вектор . При этом если входной вектор слегка искажен, выходным вектором все равно будет вектор (функция непрерывна). Часто пары векторов называют ассоциативными парами.
Пусть и векторы линейно независимы. Тогда задача об обучении однослойного персептрона разрешимы. В силу того, что нейроны слоя не связаны между собой, достаточно решить задачу обучения для произвольного -ого нейрона (персептрон из одного нейрона). Его ассоциативные пары имеют вид: , где - координата с номером вектора , которая принимает либо нулевое, либо единичное значения. Таким образом, нейрон осуществляет классификацию входных векторов: одним “ приписывает” нулевое, а другим - единичное значения признака. Выше показано, что в рамках сделанных предположений о векторах задача классификации разрешима. Описан алгоритм выбора синаптического вектора и порогового значения , для которых .
Задача об обучении персептрона часто оказывается неразрешимой даже в простых случаях. Рассмотрим персептрон, состоящий из одного нейрона, который имеет два синаптических входа, т.е. входной вектор суть . Поставим задачу найти синаптический вектор и пороговое значение такими, чтобы для входных векторов и выходной сигнал был равен единице, а для векторов и - нулю? Данный нейрон должен реализовать логическую операцию “исключающее или”. Выпуклые оболочки векторов и очевидно пересекаются в точке . Следовательно, поставленная задача в принципе не разрешима.
Нерешенная простейшая задача сильно уменьшает энтузиазм. Однако, оказывается, что она разрешима на двухслойном персептроне. Рассмотрим конструкцию из трех нейронов. Первые два из них имеют общие входы и образуют первый слой. Выходные сигналы этих нейронов являются входными сигналами для третьего нейрона. Пусть и входной и выходной векторы первого слоя, а - выходной сигнал третьего нейрона. Положим для нейронов , , .Простым перебором доказывается, что описанный персептрон реализует операцию “исключающее или”.
Рассмотренный пример - решение задачи классификации на множестве бинарных векторов. Оказывается, что теоретически двухслойный персептрон решает задачу классификации бинарных векторов в общем случае. Однако, это утверждение имеет лишь теоретическое значение, поскольку доказывается оно, когда число нейронов в первом слое равно , где - размерность входного вектора.