Titre :	A Study Of Hybrid Conjugate Gradient Methods
Type de document :	document électronique
Auteurs :	Houaida Tahani Guessab, Auteur ; Khoudour Roa, Acteur ; Ziadi, Raouf, Directeur de thèse
Editeur :	Sétif:UFS
Année de publication :	2025
Importance :	1 vol (49 f.)
Format :	29 cm
Langues :	Anglais (eng)
Mots-clés :	Unconstrained Optimization Non Linear Optimization Conjugate Gradient Methods
Résumé :	In this study, we present a synthesis of various conjugate gradient methods for solving unconstrained optimization problems, where the objective function is nonlinear but continuously differentiable (and possibly non-convex). To illustrate the performance of these methods, numerical experiments are conducted on a set of standard test functions, along with comparative analysis.
Note de contenu :	Contents Introduction iii 1 Preliminaries about unconstrained optimization 1 1.1 Results of existence and uniqueness . . . . . . . . . . . . . . . . . . 3 1.2 Optimality conditions . . . . . . . . . . . . . . . . . . . . . . . . . 4 1.2.1 Necessary conditions for optimality . . . . . . . . . . . . . . 5 1.2.2 Su¢ cient conditions for optimality . . . . . . . . . . . . . . 6 1.3 Descent methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 1.4 Gradient methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.4.1 General Principal of gradient method . . . . . . . . . . . . . 7 1.4.2 Algorithm of gradient method . . . . . . . . . . . . . . . . . 7 1.4.3 Gradient descent with Â…xed steplength . . . . . . . . . . . . 8 1.4.4 Gradient descent with optimal steplength . . . . . . . . . . . 9 2 Methods of exact and inexact linesearch 11 2.1 Goal of linesearch . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 2.2 Basic algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 2.3 Exact linesearch method . . . . . . . . . . . . . . . . . . . . . . . . 13 2.4 Inexact linesearch method . . . . . . . . . . . . . . . . . . . . . . . 14 2.4.1 Armijo rule . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 2.4.2 Goldstein-Price rule . . . . . . . . . . . . . . . . . . . . . . . 16 2.4.3 Wolfe rule . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 3 Conjugate gradient method 21 3.1 The di¤erent variants of the conjugate gradient method . . . . . . . 21 3.2 Conjugate gradient algorithm . . . . . . . . . . . . . . . . . . . . . 23 3.3 Convergence of conjugate gradient method . . . . . . . . . . . . . . 23 3.3.1 Zoutendijk theorem . . . . . . . . . . . . . . . . . . . . . . . 24 3.3.2 Zoutendijk theorem and global convergence . . . . . . . . . 27 4 A hybrid Conjugate Gradient algorithmfor nonlinear unconstrained optimization problems 30 4.1 The proposed algorithm . . . . . . . . . . . . . . . . . . . . . . . . 33 4.2 The su¢ cient descent condition . . . . . . . . . . . . . . . . . . . . 35 4.3 The global convergence of the CR method . . . . . . . . . . . . . . 35 4.3.1 Global convergence result of the CR method . . . . . . . . . 36 5 Numerical experiments 38
Côte titre :	MAM/0799

A Study Of Hybrid Conjugate Gradient Methods [document électronique] / Houaida Tahani Guessab, Auteur ; Khoudour Roa, Acteur ; Ziadi, Raouf, Directeur de thèse . - [S.l.] : Sétif:UFS, 2025 . - 1 vol (49 f.) ; 29 cm.
Langues : Anglais (eng)

Mots-clés :	Unconstrained Optimization Non Linear Optimization Conjugate Gradient Methods
Résumé :	In this study, we present a synthesis of various conjugate gradient methods for solving unconstrained optimization problems, where the objective function is nonlinear but continuously differentiable (and possibly non-convex). To illustrate the performance of these methods, numerical experiments are conducted on a set of standard test functions, along with comparative analysis.
Note de contenu :	Contents Introduction iii 1 Preliminaries about unconstrained optimization 1 1.1 Results of existence and uniqueness . . . . . . . . . . . . . . . . . . 3 1.2 Optimality conditions . . . . . . . . . . . . . . . . . . . . . . . . . 4 1.2.1 Necessary conditions for optimality . . . . . . . . . . . . . . 5 1.2.2 Su¢ cient conditions for optimality . . . . . . . . . . . . . . 6 1.3 Descent methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 1.4 Gradient methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.4.1 General Principal of gradient method . . . . . . . . . . . . . 7 1.4.2 Algorithm of gradient method . . . . . . . . . . . . . . . . . 7 1.4.3 Gradient descent with Â…xed steplength . . . . . . . . . . . . 8 1.4.4 Gradient descent with optimal steplength . . . . . . . . . . . 9 2 Methods of exact and inexact linesearch 11 2.1 Goal of linesearch . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 2.2 Basic algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 2.3 Exact linesearch method . . . . . . . . . . . . . . . . . . . . . . . . 13 2.4 Inexact linesearch method . . . . . . . . . . . . . . . . . . . . . . . 14 2.4.1 Armijo rule . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 2.4.2 Goldstein-Price rule . . . . . . . . . . . . . . . . . . . . . . . 16 2.4.3 Wolfe rule . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 3 Conjugate gradient method 21 3.1 The di¤erent variants of the conjugate gradient method . . . . . . . 21 3.2 Conjugate gradient algorithm . . . . . . . . . . . . . . . . . . . . . 23 3.3 Convergence of conjugate gradient method . . . . . . . . . . . . . . 23 3.3.1 Zoutendijk theorem . . . . . . . . . . . . . . . . . . . . . . . 24 3.3.2 Zoutendijk theorem and global convergence . . . . . . . . . 27 4 A hybrid Conjugate Gradient algorithmfor nonlinear unconstrained optimization problems 30 4.1 The proposed algorithm . . . . . . . . . . . . . . . . . . . . . . . . 33 4.2 The su¢ cient descent condition . . . . . . . . . . . . . . . . . . . . 35 4.3 The global convergence of the CR method . . . . . . . . . . . . . . 35 4.3.1 Global convergence result of the CR method . . . . . . . . . 36 5 Numerical experiments 38
Côte titre :	MAM/0799