| Д.Э. БЭСТЕНС, В.М. ВАН ДЕН БЕРГ, Д. ВУД. Нейронные сети и финансовые рынки: принятие решений в торговых операциях. - Москва: ТВП,1997. - хх, 236 с., 1997 |
Оптимизация архитектуры |
Разработаны различные методы изменения архитектуры сети с целью повысить способность сети к обобщению. Здесь есть два основных подхода:
деструктивный подход: берется сеть заведомо большего размера, чем нужно, и в процессе обучения из нее удаляются связи и даже сами нейроны;
конструктивный подход: первоначально берется маленькая сеть, и к ней, в соответствии со структурой и сложностью задачи, добавляются новые элементы.
Примером деструктивного подхода является метод уменьшения весов (он похож на то, что статистики называют гребневой регрессией. Перлмутер был первым, кто применил его для того, чтобы предотвратить чрезмерный рост весов. Он включил в функцию стоимости штрафное слагаемое:
(17)
с г) < 1. Заметьте, что множитель г| можно считать отношением среднего квадратичного остатков к среднему квадратичному весов. Добавленный член вызовет такое изменение весов:
заставляя уменьшаться те веса, на которые не действует первый член. Очевидно, чем больше вес, тем большее влияние он оказывает на функцию стоимости. Во втором варианте выражение для штрафа берется в виде
В результате малые коэффициенты убывают быстрее, чем большие. Кроме того, уменьшение весов помогает уходить с плоских участков поверхности на ранних стадиях обучения. Были предложены и другие виды выражений для штрафа, в результате чего удаляются не только соединения, но и нейроны (см. [132], [64]). Еще один метод уменьшения числа связей - лминимизация вреда для мозга (см. [174]). Цель его состояла в том, чтобы находить в сети те веса, которые можно удалить, не меняя существенно среднеквадратичную ошибку (МБЕ) на обучающем множестве. Вводится показатель (так называемая лвыпуклость веса) по формуле:
Удаление весов с малыми выпуклостями и повторное обучение урезанной сети улучшают ее общие характеристики. При итеративном применении этого метода к многослойному персептрону в задаче распознавания рукописного текста из сети было удалено более 50 процентов связей, и это привело к существенному уменьшению доли неправильно опознанных объектов (см. [174]).
В некоторых конструктивных методах наращивание сети проис-ходит одновременно с обучением, см., например, [17], БТЕРЫЕТ [164], лчерепичный алгоритм [194], лвсплеск [116], нейронные деревья [244], каскадная корреляция [106].
|
| << Предыдушая |
Следующая >> |
| = К содержанию = |
Похожие документы: "Оптимизация архитектуры" |
- 4.3. СЕТЕВОЙ РЕЖИМ АВТОМАТИЗИРОВАННОЙ ОБРАБОТКИ ИНФОРМАЦИИ
оптимизации использования ресурсов в сети, обеспечивающее большую степень доступности услуг сети путем образования нескольких маршрутов между двумя абонентами. При подключении компонентов сети друг к другу должны быть однозначно определены правила их стыковки. Их принято называть интерфейсами. Интерфейс - свод правил по взаимодействию между функциональными компонентами, расположенными в смежных
- 4.7. СИСТЕМЫ УПРАВЛЕНИЯ БАЗАМИ ДАННЫХ
оптимизации хранения данных, либо за счет увеличения производительности компьютера, ли-, бо за счет сочетания перечисленных выше способов. Среди недостатков современных профессиональных СУБД выделяют дублирование функций операционной системы и невозможность использования в полном объеме в конкретной разработке всех их многочисленных
- 1. 2. Обзор и анализ действующих методик анализа финансового состояния предприятия
оптимизации дебиторской задолженности на базе как основных форм внешней бухгалтерской отчетности, так и расшифровок только тех статей отчетности, которые связаны с указанной проблемой. В зависимости от субъекта анализа и информационного обеспечения: внешний, проводится такой анализ двумя группами субъектов, прежде всего, это непосредственно заинтересованные субъекты в результатах деятельности
- 9.4. СУЩНОСТЬ И ЗНАЧЕНИЕ ИНВЕСТИЦИОННОЙ ПОЛИТИКИ
оптимизация налогообложения с целью стимулирования привлечения инвестиций, обеспечения их защиты; поиск наиболее эффективных объектов инвестирования; инфраструктура инвестиционной деятельности, включающая инвестиционные институты, консалтинговые, аудиторские, страховые организации, информационно-методическое обеспечение, арбитраж; инвестиционный ры-нок как механизм регулирования спроса и
- 9.5.2. Методы финансирования инвестиций
архитектуры и строительства О сопровождении государственных инвестиционных программ от 03.06.1993 г. № 18Ч19 утвержден порядок разработки и реализации федеральных целевых программ и межгосударственных целевых программ, в осуществлении которых участвует РФ. Федеральные целевые программы и межгосударственные целевые программы, в осуществлении которых участвует Российская Федерация, являются
- 9.5.3. Цена авансированного капитала и факторы, ее определяющие
оптимизации. Оптимальной считается такая структура капитала, которая обеспечивает минимальные затраты по обслуживанию авансированного капитала, и определяется она по варианту с минимальной средней ценой
- 13.1. ЭКОНОМИЧЕСКАЯ СУЩНОСТЬ, СОСТАВ И СТРУКТУРА ОБОРОТНЫХ СРЕДСТВ
оптимизации их структуры и повышения их оборачивае-мости. Структура оборотных средств на предприятии непостоянна и изменяется в динамике под влиянием многих причин. Структура оборотных средств на предприятиях различных отраслей промышленности далеко не одинакова и зависит от: специфики предприятия. На предприятиях с длительным производственным циклом (например, в судостроении) велика доля
- 15.3. СТРУКТУРА СЕБЕСТОИМОСТИ И ФАКТОРЫ, ЕЕ ОПРЕДЕЛЯЮЩИЕ
оптимизацию.
- 15.5. УПРАВЛЕНИЕ ИЗДЕРЖКАМИ ПРЕДПРИЯТИЯ С ЦЕЛЬЮ ИХ МИНИМИЗАЦИИ
оптимизацию величины прибыли от реализации продукции. В качестве инструмента оптимизации выступает операционный (производственный) рычаг. Он рассчитывается по формуле где ВР - ГТер.З ОР- П - сила воздействия операционного рычага; ВР Х - выручка от реализации продукции; Пер.З -Ч переменные затраты; П -Ч прибыль от реализации продукции. Исходя из условия рассматриваемого примера, операционный рычаг
- 15.6. ПРИБЫЛЬ ПРЕДПРИЯТИЯ
оптимизации прибыли предприятия этих целей достичь невозможно. Как экономическая категория прибыль отражает чистый доход, созданный в сфере материального производства, и выполняет ряд функций. Во-первых, прибыль характеризует экономический эффект, полученный в результате деятельности предприятия. Прибыль на предприятии означает, что полученные доходы превышают все расходы, связанные с его
|
Финансы