Целью процедуры минимизации является отыскание глобального минимума - достижение его называется сходимостью процесса обучения. Поскольку невязка зависит от весов нелинейно, получить решение в аналитической форме невозможно, и поиск глобального минимума осуществляется посредством итерационного процесса - так называемого обучающего алгоритма, который исследует поверхность невязки и стремится обнаружить на ней точку глобального минимума. Иногда такой алгоритм сравнивают с кенгуру, который хочет попасть на вершину Эвереста, прыгая случайным образом в разные стороны. Разработано уже более сотни разных обучающих алгоритмов, отличающихся друг от друга стратегией оптимизации и критерием ошибок.
Коль скоро обучение основывается на минимизации значения некоторой функции (показывающей, насколько результат, который выдает сеть на данном обучающем множестве, далек от образцового значения), нужно, прежде всего, выбрать меру ошибки, соответствующую сути задачи. Удачный выбор меры погрешности обычно приводит к более гладкой поверхности невязки и упрощает задачу обучения (см. [269]). Обычно в качестве меры погрешности берется средняя квадратичная ошибка (МБЕ), которая определяется как сумма квадратов разностей между желаемой величиной выхода <1к и реально полученными на сети значениями ук для каждого примера 1с
(5)
Здесь РЧ число примеров в обучающем множестве.
Наряду с такой мерой погрешности широко используется расстояние Кульбака-Лейблера, связанное с критерием максимума правдоподобия:
(6)
а также некоторые другие.
Минимизация величины Е осуществляется с помощью градиент-ных методов. В первом из них берется градиент общей ошибки, и веса V/ пересчитываются каждый раз после обработки всей совокупности обучающих примеров {лэпохи). Изменение весов происходит в направлении, обратном к направлению наибольшей крутизны для функции стоимости:
(7)
Здесь Е - определяемый пользователем параметр, который называется величиной градиентного шага или коэффициентом обучения.
Другой возможный метод носит название стохастического градиентного. В нем веса пересчитываются после каждого просчета всех примеров из одного обучающего множества, и при этом используется частичная функция стоимости, соответствующая этому, например, к-му, множеству:
дЕ,
Ш
|
- ОБСУЖДЕНИЕ
критерия ошибок, который включал бы в себя транзакционные издержки и, наряду с абсолютным значением, раздельный подсчет потоков платежей в обоих направлениях. Другая возможность заключается в том, чтобы ввести дополнительный выходной элемент, выдающий абсолютное значение дохода. И последнее: модель может быть включена в качестве составной части в многосетевую среду принятия решений, а полученная
- 17.1 Факторы, влияющие на реструктуризацию
критерии конкурентоспособности. Конкурентные преимущества предприятий или организаций обес печивают не разовую максимальную прибыль, а оптимальный доход в среднесрочной и долгосрочной перспективе. На рынке произво димой продукции выживает тот, у кого больше конкурентных пре-имуществ, а не тог, у кого максимальная прибыль. Основной зада чей реструктуризации в этих условиях становится адаптация к
- 5.5. Неделимости
критерий, с помощью которого можно обобщить различные варианты развития производства. В качестве такого критерия можно было бы избрать дисконтированную величину будущего валового национального продукта У^: 1 [](1 +тг) 2 Норма дисконта т принимается переменной, но она может также быть и постоянной величиной Если задан общий объем инвестиций, предусмотренный программой; то отбор проектов,
- з 3. Судебные определения
критерия для классификаций опреде лений арбитражного суда могут быть выбраны различные основания. 1. По форме, в которой выражаются определения, выделяют: опре деления, выносимые в виде отдельного процессуального акта, и про токольные определения. Определение в виде отдельного судебного акта арбитражный суд выносит во всех случаях, если АПК РФ предусмотрена возможность обжалования определения
- з 2. Рассмотрение заявлений или представлений о пересмотре судебного акта в порядке надзора
критерии определения которого содержатся в ст. 123 АПК РФ. Порядок рассмотрения дела в Президиуме ВАС РФ (ст. 303). Порядок рассмотрения дела в Президиуме ВАС РФ определяется в ст. 303 АПК РФ исходя из общих правил проведения судебного заседания. Законодатель в ч. 1 ст. 303 АПК РФ подчеркивает, что основанием для принятия Президиумом ВАС РФ дела к своему рассмотрению является исключительно
- 3. Виды финансового контроля
критерии, по которым определяется финансовое состояние субъектов хозяйствования. По времени проведения различают: предварительный контроль; текущий контроль; последующий контроль. Предварительный контроль осуществляется на стадии рассмотрения и принятия решения по финансовым вопросам. Эта стадия предполагает процесс определения объема финансовых ресурсов на планируемый период, их распределение
- 1. Формирование и динамика цен
критериях эффективности произво-дства и хозяйственных решений. Закономерности формирования и движения цен. В политике цен и практике ценообразования нужно исходить из объектив ных закономерностей формирования и движения цен в рыноч ной экономике. Какие это закономерности? В основе уровня цен лежат общественно необходимые затра ты живого и прошлого труда на разработку, производство и ре ализацию
- 45. Понятие бедности
критерия оценки данной характеристики выступают физиологические потребности организма, необходимые для нормального воспроизводства рабочей силы. 2. Степень обеспечения трудовых прав, прежде всего, право на труд вообще и на производительный труд, в частности, развитие российского рынка труда далеко не в полной мере отвечает современным условиям, отмечается высокий уровень скрытой безработицы,
- 2.5. РОЛЬ ПОЛЬЗОВАТЕЛЯ В СОЗДАНИИ АИС И АИТ И ПОСТАНОВКЕ ЗАДАЧ
критериям. Пользователь, как правило, приобретает и применяет готовые программные пакеты, по своим функциям удовлетворяющие его потребности, ориентированные на определенные виды деятельности (бухгалтерскую, финансовую, плановую и т.д.). Такое направление является на сегодня ведущим в сфере компьютеризации и информатизации обслуживания пользователей. Нередко оно до-полняется разработкой
- 4.3. СЕТЕВОЙ РЕЖИМ АВТОМАТИЗИРОВАННОЙ ОБРАБОТКИ ИНФОРМАЦИИ
критериев. С одной стороны, сеть должна быть настолько мощной, чтобы обеспечить клиентам широкий спектр услуг, с другой - достаточно экономичной, чтобы расходы на ее создание и эксплуатацию не превысили доходов от ее внедрения. Фактически задача по конструированию сети - задача оптимизации, требующая творческого подхода и со стороны заказчика. На рынке информационных систем свои услуги
|
Финансы