Разработаны эффективные модели рекуррентных нейронных сетей, минимизирующих расстояние Хемминга

Вид материалаДокументы
Подобный материал:

УДК 004.896(06) Интеллектуальные системы и технологии


В.Ю. ПОПОВ

Уральский государственный университет, Екатеринбург


СЕТИ ХЕММИНГА


Разработаны эффективные модели рекуррентных нейронных сетей, минимизирующих расстояние Хемминга.


Сеть Хемминга была предложена Р. Липпманом в работе [1]. Она строится по фиксированному набору из p векторов размерности n и предназначена для нахождения по подаваемому на вход вектору ближайшего по расстоянию Хемминга вектора из исходного набора. Сеть Хемминга – это трехслойная рекуррентная структура. Она позиционируется как специализированное гетероассоциативное запоминающее устройство. Сеть Хемминга содержит 2p + n нейронов и 2np + p + p2 взвешенных нейронных связей.

Разработана двухслойная рекуррентная нейронная сеть с целочисленными весами, имеющая p + n нейронов и 2np + 2p взвешенных нейронных связей, которая строится по фиксированному набору из p векторов размерности n и предназначена для нахождения по подаваемому на вход вектору ближайшего по расстоянию Хемминга вектора из исходного набора. Нахождение вектора осуществляется за время O(np). Построена также двухслойная рекуррентная нейронная сеть с целочисленными весами, решающая аналогичную задачу за время O(p + n), имеющая 2p + n + 1 нейронов и 2np + 5p взвешенных нейронных связей. Предложена модификация последней сети, решающая задачу за время O(p + log n). Хотя вторая и третья из рассмотренных моделей нейронных сетей имеют больше нейронов, чем стандартная сеть Хемминга, каждая из рассмотренных сетей обеспечивает существенно большую скорость при аппаратной реализации и имеет значительно меньше взвешенных нейронных связей. Кроме того, предлагаемые модели могут быть эффективно распараллелены при программной реализации, поскольку большинство вычислений происходит в независимых группах нейронов.


Список литературы


  1. R.Lippmann. An introduction to computing with neural nets // IEEE ASSP Magazine, 1987. April. P. 4–22.




ISBN 978-5-7262-0883-1. НАУЧНАЯ СЕССИЯ МИФИ-2008. Том 10