Градиентные методы относятся к группе методов спуска, являющихся численными методами решения задач безусловной минимизации
f (x) ^ min, x е Rn.
Исходя из заданной начальной точки x(0), методы спуска
позволяют строить последовательность точек x(1), x ,..., удовлетворяющих условию
f(x(k)) < f (x(к-1)), к = 1,2,... (6.1)
В общей схеме методов спуска последовательность x(0) ,
x(1), x*-2),... приближений к точке минимума x выбирается по правилу
x(к) = x(к-1) +ХкН(к), к = 1,2,..., где И(к) - вектор, определяющий направление убывания функции f (x) (направление спуска) в точке x(к -1);
Хк - скаляр, определяющий длину шага вдоль h^).
Обычно название метода спуска определяется способом выбора h(k), а его различные варианты связываются с различны-ми способами выбора Хк.
Градиентные методы основаны на идее замены минимизируемой функции в окрестности очередной точки x(к) линейной частью ее разложения в ряд Тейлора. В градиентных методах в качестве направления спуска h(к) выбирается антиградиент
функции f (x) в точке x(к -1), т.е.
(к) = x(к-1) - 7 f( x(к-1)
x - x
Xkf (x( к-1)), к = 1,2,...
Таким образом, данные методы относятся к методам первого порядка.
Градиентные методы отличаются друг от друга способами выбора параметра Хк . На практическом занятии рассматриваются
два способа: первый называется методом с дроблением шага, второй - методом наискорейшего спуска.
|
- Метод наискорейшего спуска
градиентного метода на каждой итерации требуется решать задачу одномерной минимизации, что приводит к увеличению трудоемкости итерации. Итак, метод наискорейшего спуска требует меньшего числа итераций, чем метод с дроблением шага, но каждая итерация сложнее реализуется. Алгоритм решения задачи безусловной минимизации методом наискорейшего спуска заключается в следующем. Задаются е, x(0);
- МЕТОД НЬЮТОНА
градиентные методы, относится к методам спуска, т. е. предназначен для численного решения задач безусловной минимизации. Метод Ньютона основан на идее замены минимизируемой функции f (x) в окрестности точки x(к) квадратичной частью fk (x) ее разложения в ряд Тейлора ~к (x) = f (x(к)) + (f X x(к)),( x - x( к ^ + + ((x - x J3 ж1 -1 Х 3 2 2 5 J2> z3 В результате получаем матрицу D3 : D = =
- КОНТРОЛЬНЫЕ РАБОТЫ
градиентные методы, ме-тод Ньютона. В контрольную работу включены две задачи. Задача 1а. Заданы задача безусловной минимизации f (х min, хе R2, где f^) - квадратичная функция, константы а и в (а>0,
- 6. Градиентные методы
0,2486. Выполняются 0-я итерация, 1-я и 2-я итерации при Я = 1, 3-я итерация при Я = 0,5, 4-я итерация при Я = 0,25 . В результате получаем х * = (1,007; -0,166), f * =-6,111. Выполняются 0-я итерация, 1-я итерация при Я1 = 0,256, 2-я итерация при Я = 0,478. В результате получаем х* = (0,979;-0,201) , f *
- ВСТУПЛЕНИЕ
методов разбудит недовольных и критиков, которых даже в Венеции, несмотря на определенную инертность, в те годы было достаточно в самом классе правящих аристократов. Факинеи считал, что стремление Беккариа к реформам основывалось на природном равенстве людей. А оно разрушало все старинные традиции итальянских государств и основы их аристократического общественного устройства. Он подстегнул страх,
- ХУ1. 0 ПЫТКЕ
метод больше подходит для решения этой проблемы, чем судейское усмотрение. Основываясь на данных о силе мускулов и чувствительности нервной системы невиновного, можно рассчитать тот болевой предел, за которым этот невиновный вынужден будет признать себя виновным в совершении преступления. Допрос обвиняемого производится с целью выявления действительного положения дел, но если выявить это трудно
- XXXIV О ДОЛЖНИКАХ
методы сурового дознания, хотят заставить угрозой каторги раскрыть тайну несостоятельного должника, предполагаемого невиновным! Я считаю, что законодатель должен руководствоваться следующим основным принципом: оценка отрицательных последствий ущерба обществу в политической сфере находится в прямой зависимости от величины этого ущерба и в обратной от трудности его определения. Следовало бы
- XXXVIII НАВОДЯЩИЕ ВОПРОСЫ, ПОКАЗАНИЯ
метод обосновывают двумя соображениями: или опа219 сением мушипп подсудимому ответ, который бы сразу отвел от него все обвинения, или, может быть, полагают противоестественным для подсудимого предъявлять непосредственно самому себе обвинения. Как бы то ни было, но в обоих случаях налицо явное противоречие законов, допускающих пытку наряду с этим методом ведения допроса. Действительно, какой же
- ВОСПИТАНИЕ
метод приказаний не приемлем для воспитания. Этим достигается лишь притворное и кратковременное
- ПРИЛОЖЕНИЯ
методом проб и ошибок свое место в современном мире. В приложение включены также два письма А. Нарышкина к Ч. Беккариа с целью показать читателю, какое сильное влияние не только книга, но и сама личность итальянского мыслителя оказывала на представителей высшего света России того времени. Приводятся и два небольших отрывка из переписки Екатерины II, свидетельствующих об исключи249 тельном
|
Экономика