Аудит / Институциональная экономика / Информационные технологии в экономике / История экономики / Логистика / Макроэкономика / Международная экономика / Микроэкономика / Мировая экономика / Операционный анализ / Оптимизация / Страхование / Управленческий учет / Экономика / Экономика и управление народным хозяйством (по отраслям) / Экономическая теория / Экономический анализ Главная Экономика Оптимизация
Харчистов Б.Ф.. Методы оптимизации, 2004

Метод наискорейшего спуска


В данном случае на каждой итерации шаг Хк выбирается из условия минимума функции f (х) в направлении движения, т. е.
f (х(k-1) -XJ'(х(k-1))) = min ф(А),
Я> 0
где ф(А) = f (х(k-1)-Я/(х(k-1))).
Такой способ выбора Xk требует меньшего числа итера-ций, чем предыдущий, поскольку он обеспечивает достижение наименьшего значения функции вдоль заданного направления. Однако в этом варианте градиентного метода на каждой итерации требуется решать задачу одномерной минимизации, что приводит к увеличению трудоемкости итерации. Итак, метод наискорейшего спуска требует меньшего числа итераций, чем метод с дроблением шага, но каждая итерация сложнее реализуется.
Алгоритм решения задачи безусловной минимизации методом наискорейшего спуска заключается в следующем.
Задаются е, x(0); вычисляются f (x(0)), f' (x(0)),
f'(x(0)) ; полагается к=1.
Определяется Як.
Вычисляются Ax(к) = - V'(x(к-1)), x(к) = x(к-1) +Ax(к),
f (x(к)), f X x(к)), ||f'( x(к ))||.
Проверяется условие окончания вычислений < е.
f X x(к)) * (к)
Если оно выполняется, то полагается x = x
f* = f(x (к) ) и вычисления завершаются.
Если условие не выполняется, то полагается к=к+1 и осу-ществляется переход к п.2.
Пример. Решить методом наискорейшего спуска задачу безусловной минимизации
f (x) = x\ + 2x2 - 4x1 + 2x2 ^ min при е = 0,3, x(0) = (1,0). Решение.
Находим первые частные производные f (x) :
df л df л - = 2 x1 - 4, = 4 x2 + 2. dx1 dx2
Первая итерация
Определяем \ :
(0)-я^/Х^ = 1 -Л(-2) = 1 + 2Я,
dx1
х20)-Я^^ = 0-Я-2 = -2Я ; дх2
р(Я) = f (х(0) -Яf'(х(0))) = (1 + 2Я)2 + 2(-2Я)2 - - 4(1 + 2Я) + 2(-2Я); р '(Я) = 2(1 + 2Я)2 + 4(-2Я)(-2) - 8 + 2(-2) = 24Я - 8;
р '(Я) = 0 ^ 24Я- 8 = 0 ^ Я = 1/3. Поскольку р"(Я) = 24 > 0, то Я = 1/3 есть точка минимума р(Я) . Следовательно, Я1 = 1/3 = 0,333. Вторая итерация Определяем Я2 :
х1(1) -Яд(х(1)) = 1,667 + 0,667Я, 1 дх1
хл - я df (х(1)) = -0,667 + 0,667Я; дх2
р(Я) = f (х(1) - Я'(х(1))) = (1,667 + 0,667Я)2 + 2(-0,667 +
+ 0,667Я)2 - 4(1,667 + 0,667Я) + 2(-0,667 + 0,667Я); р '(Я) = 2(1,667 + 0,667Я)0,667 + 4(-0,667 + 0,667Я)0,667 -
4 - 0,667 + 2 - 0,667 = 2,667Я - 0,886;
р '(Я) = 0 ^ 2,667Я- 0,886 = 0 ^ Я = 0,332. Поскольку р"(Я) = 2,67 > 0, то Я = 0,332 есть точка минимума р(Я) . Следовательно, Я2 = 0,332. Третья итерация Определяем Я3 :
х12) - Я ^^ = 1,89 + 0,22Я, х22) - Я^^ = -0,445 - 0,22Я; 1 дх1 2 дх2
р(Я) = f (х(2) -Я'(х(2))) = (1,89 + 0,22Я)2 + 2(-0,445 - 0,22Я)2 -
4(1,89 + 0,22Я) + 2(-0,445 - 0,22Я);
р '(Я) = 2(1,89 + 0,22Я)0,22 + 4(-0,445 - 0,22Я)(-0,22) - - 4 Х 0,22 + 2(-0,22) = 0,29Я - 0,0968; р '(Я) = 0 ^ 0,29Я- 0,0968 = 0 ^ Я = 0,333. Поскольку р"(Я) = 0,29 > 0 , то Я = 0,333 есть точка минимума р(Я) . Следовательно, Я3 = 0,333. Результаты вычислений заносим в табл. 6.2.
Таблица 6.2 Ном. итер. Я Ах1 Ах, х1 х2 f ( х) f
Эх] f
Эх2 1И1 0 1 0 -3 -2 2 2,83 1 0,333 0,667 -0,667 1,67 -0,667 -4,33 -0,667 -0,667 0,943 2 0,333 0,222 0,222 1,89 -0,445 -4,48 -0,22 0,22 0,311 3 0,333 0,074 -0,074 1,96 -0,518 -4,5 -0,074 -0,074 0,105 Поскольку условие окончания вычислений выполнено (f'(х(3)) = 0.105 < ? = 0,3), то вычисления завершаются.
В результате решения задачи безусловной минимизации получаем х* = х(3) = (1,96; - 0,518), f * = f (х(3)) = -4,5.
Ответ: х = (1,96; - 0,518), f =-4,5.
<< Предыдушая Следующая >>
= К содержанию =
Похожие документы: "Метод наискорейшего спуска"
  1. ГРАДИЕНТНЫЕ МЕТОДЫ
    методы относятся к группе методов спуска, являющихся численными методами решения задач безусловной минимизации f (x) ^ min, x е Rn. Исходя из заданной начальной точки x(0), методы спуска позволяют строить последовательность точек x(1), x ,..., удовлетворяющих условию f(x(k)) < f (x(к-1)), к = 1,2,... (6.1) В общей схеме методов спуска последовательность x(0) , x(1), x*-2),... приближений к
  2. Задачи
    методом с дроблением шага задачу безусловной минимизации f (х) = х^2 + 2х^ - 2х1 + х2 - 5 ^ min , при а = 1, в = 0,5 , ? = 0,4, х(0) = (0, 2). Решить методом наискорейшего спуска задачу безусловной минимизации f (х) = х^2 + 2х^ - 2х1 + х2 - 5 ^ min , при ? = 0,4, х(0) = (0,
  3. 1.1. Теория как система научных знаний
    методологическую значимость в познании действительности. Основными элементами теории выступают: гипотезы, теоремы, аксиомы, законы и категории. Рассмотрим каждое из данных явлений более подробно. Начнем с гипотезы. Именно гипотеза (от греч. hypothesis - предположение) лежит в основе теории и представляет собой предположение о закономерностях развития явления, которое непосредственно отражает
  4. 6.3. Переселенческий капитализм. США
    методы выплавки сдерживался тем, что в стране было много леса, выплавка чугуна на древесном угле давала более качественный металл. В 40 -е годы начался подъем металлургии. За десятилетие (1847-1857) было введено в строй около 100 домен, использовавших минеральное топливо. Их размеры и производительность значительно увеличились. Металлургическое производство помимо традиционных центров
  5. МЕТОД НЬЮТОНА
    методы, относится к методам спуска, т. е. предназначен для численного решения задач безусловной минимизации. Метод Ньютона основан на идее замены минимизируемой функции f (x) в окрестности точки x(к) квадратичной частью fk (x) ее разложения в ряд Тейлора ~к (x) = f (x(к)) + (f X x(к)),( x - x( к ^ + + ((x - x J3 ж1 -1 Х 3 2 2 5 J2> z3 В результате получаем матрицу D3 : D = = [/Л -].
  6. 2.3 Общее понятие равновесия с нестандартными ценами
    методов нестандартного анализа, путём перехода в универсум нестандартной математики, где истинны все теоремы стандартной математики (в силу так называемого принципа переноса), и, следовательно, выполнена теорема существования аппроксимирующих ?-равновесий. Затем, выбирая бесконечно малые ? л 0, возвраща- емся в стандартную область изменения состояний экономики, используя в качестве спуска
  7. Методы второго порядка
    методы оптимизации называются квадратичными. Вся указанная информация собрана в матрице гессиана Н , имеющей размеры Х , где Мм - число весов. Эта матрица содержит информацию о том, как изменяется градиент при малых смещениях по различным направлениям в пространстве весов. Прямое вычисление матрицы требует большого времени, поэтому разработаны методы, позволяющие избежать вычисления и хранения
  8. СЕТЕВАЯ ОЦЕНКА В ДВУМЕРНОЙ ЗАДАЧЕ (ОТОБРАЖЕНИЕ ХЕНОНА)
    методов нам вряд ли удастся выявить структуру модели, поскольку и х, и у ведут себя беспорядочно (см. [214, с. 152]). Целью эксперимента должен быть прогноз значения х( по и у,_г Сначала давайте сделаем вид, что мы вообще ничего не знаем о существовании какой-то модели, описывающей ряд х,, а знаем только (со слов лэксперта), что здесь играет роль предыдущее значение а также, еще некоторый
  9. ВСТУПЛЕНИЕ
    методов разбудит недовольных и критиков, которых даже в Венеции, несмотря на определенную инертность, в те годы было достаточно в самом классе правящих аристократов. Факинеи считал, что стремление Беккариа к реформам основывалось на природном равенстве людей. А оно разрушало все старинные традиции итальянских государств и основы их аристократического общественного устройства. Он подстегнул страх,
  10. ХУ1. 0 ПЫТКЕ
    метод больше подходит для решения этой проблемы, чем судейское усмотрение. Основываясь на данных о силе мускулов и чувствительности нервной системы невиновного, можно рассчитать тот болевой предел, за которым этот невиновный вынужден будет признать себя виновным в совершении преступления. Допрос обвиняемого производится с целью выявления действительного положения дел, но если выявить это трудно