Найшвидшого спуску метод
Матеріал з Вікіпедії — вільної енциклопедії.
Найшвидшого спуску метод — метод мінімізації функції f(x) на всьому просторі Rn.
[ред.] Описання методу
Метод полягає в побудові послідовності {xk} по формулі:
. (1)
де ∇ f(xk) — градієнт функції f(x) в точці xk, а t(xk) вибирається виходячи із умови:
. (2)
Вперше метод був запропонований французьким математиком О. Коші. Широке застосування цього методу обумовлено тим, що в напряму антиградієнту — ∇ f(x) похідна функції за напрямом досягає найменшого значення.
Якщо градієнт ∇ f(x) неперервний по x а f(x) → ∞ при x → ∞, то при довільному початковому наближенні ∇ f(xk) → 0 при k→ ∞. Якщо при цьому x* — єдина стаціонарна точка, то xk → x*, де f(x*) = minxf(x).
Якщо f(x) неопукла і стаціонарних точок декілька, то послідовність {xk} може, взагалі кажучи, не сходитись навіть до локального екстремуму функції f(x).
Нехай існує матриця Гессе
,
додатньо визначена в кожній точці x. Тоді для послідовності (1) xk → x*, та, починаючи з деякого номеру N, виконується нерівність
при k ≥ N,
де
,
xki — i-та координата xk, M(x*) та m(x*) — відповідно найбільше та найменше власні значення матриці H(x*).
Існує модифікація методу, коли t(xk) = τ > 0 — const, тобто
. (3)
Якщо градієнт ∇ f(x) задовольняє умові Ліпшиця, то для послідовності (3) при виконанні перелічених припущень вірні відповідні властивості послідовності (1).
[ред.] Джерела інформації
- Енциклопедія кібернетики, Поляк Р. А., Примак М. Е., т. 2, ст. 64.
[ред.] Дивіться також
![]() |
Це незавершена стаття з математики. Ви можете допомогти проекту, виправивши або дописавши її. |