University Sétif 1 FERHAT ABBAS Faculty of Sciences
Détail de l'auteur
Auteur Choubeila Souli |
Documents disponibles écrits par cet auteur
Ajouter le résultat dans votre panier Affiner la recherche
Titre : APPLICATION OF INTERIOR POINT METHODS FOR NON-LINEAR PROGRAMMING Type de document : document électronique Auteurs : Choubeila Souli, Auteur ; Assma Leulmi, Directeur de thèse Editeur : Setif:UFA Année de publication : 2025 Importance : 1 vol (86 f.) Format : 29 cm Langues : Anglais (eng) Catégories : Thèses & Mémoires:Mathématique Mots-clés : Nonlinear optimization problem
Interior point method
Logarithmic barrier
Minorant function
Conjugate gradient method
Global convergence
Descent directionIndex. décimale : 510 - Mathématique Résumé :
In this thesis, we focus on the theoretical analysis and numerical investigation of specific interior point
and conjugate gradient methods for solving nonlinear optimization problems.
First, we propose logarithmic barrier approaches for constrained convex nonlinear optimization
problems, where the barrier parameter is treated as a vector. This is followed by analytical studies in
which the step-length is determined using the minorant function technique. The numerical findings reveal
that the proposed methods exhibit both effectiveness and robustness.
In addition, we develop new conjugate gradient methods for solving unconstrained optimization problems.
These methods generate descent directions without requiring line search techniques. Moreover, they
exhibit global convergence under mild assumptions. Numerical results indicate that the proposed methods
are both effective and robust in addressing various unconstrained optimization and image restoration
problems.Note de contenu : Sommaire
Introduction 1
1 Preliminaries and Fundamental Concepts 5
1.1 Convex Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.1.1 Affine sets and functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.1.2 Convexity concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.1.3 Differentiability and convexity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.1.4 Lower and upper semicontinuous functions . . . . . . . . . . . . . . . . . . . . 10
1.2 Mathematical Programming . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2.1 Unconstrained optimization problems . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.2 Constrained optimization problems . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.3 Conjugate GradientMethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.1 Descent direction methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.2 Line search methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.3 The linear conjugate gradient methods . . . . . . . . . . . . . . . . . . . . . . . . 25
1.3.4 The nonlinear conjugate gradient methods . . . . . . . . . . . . . . . . . . . . . 26
1.4 Interior PointMethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.4.1 Potential reduction methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.4.2 Central path methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.4.3 Barrier methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2 Theoretical and Numerical Results for Nonlinear Optimization Problems 31
2.1 Preliminary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.2 Original Problem Formulation and its Perturbed Version . . . . . . . . . . . . . . . . 32
2.2.1 The perturbed associated problem . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.3 Theoretical Concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.4 Solution of the Perturbed Problem (P) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.4.1 The descent direction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.4.2 Step-length determination . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
2.4.3 The new approximating minorant function . . . . . . . . . . . . . . . . . . . . . 39
2.4.4 The auxiliary function 1 of G1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2.5 The Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
2.6 Numerical Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
2.6.1 Comments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
3 A Hybrid CG Algorithm for Nonlinear Unconstrained Optimization with Application
in Image Restoration 47
3.1 The ProposedMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
3.1.1 The sufficient descent condition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
3.1.2 The global convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
3.2 Numerical Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
3.2.1 Image restoration problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
4 An Efficient Hybrid Conjugate Gradient Method for Unconstrained Optimization
and Image Restoration Problems 62
4.1 The Proposed Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
4.1.1 The sufficient descent condition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
4.1.2 The convergence analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
4.2 Numerical Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.2.1 Image restoration problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71Côte titre : DM/0210 APPLICATION OF INTERIOR POINT METHODS FOR NON-LINEAR PROGRAMMING [document électronique] / Choubeila Souli, Auteur ; Assma Leulmi, Directeur de thèse . - [S.l.] : Setif:UFA, 2025 . - 1 vol (86 f.) ; 29 cm.
Langues : Anglais (eng)
Catégories : Thèses & Mémoires:Mathématique Mots-clés : Nonlinear optimization problem
Interior point method
Logarithmic barrier
Minorant function
Conjugate gradient method
Global convergence
Descent directionIndex. décimale : 510 - Mathématique Résumé :
In this thesis, we focus on the theoretical analysis and numerical investigation of specific interior point
and conjugate gradient methods for solving nonlinear optimization problems.
First, we propose logarithmic barrier approaches for constrained convex nonlinear optimization
problems, where the barrier parameter is treated as a vector. This is followed by analytical studies in
which the step-length is determined using the minorant function technique. The numerical findings reveal
that the proposed methods exhibit both effectiveness and robustness.
In addition, we develop new conjugate gradient methods for solving unconstrained optimization problems.
These methods generate descent directions without requiring line search techniques. Moreover, they
exhibit global convergence under mild assumptions. Numerical results indicate that the proposed methods
are both effective and robust in addressing various unconstrained optimization and image restoration
problems.Note de contenu : Sommaire
Introduction 1
1 Preliminaries and Fundamental Concepts 5
1.1 Convex Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.1.1 Affine sets and functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
1.1.2 Convexity concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
1.1.3 Differentiability and convexity . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
1.1.4 Lower and upper semicontinuous functions . . . . . . . . . . . . . . . . . . . . 10
1.2 Mathematical Programming . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
1.2.1 Unconstrained optimization problems . . . . . . . . . . . . . . . . . . . . . . . . 11
1.2.2 Constrained optimization problems . . . . . . . . . . . . . . . . . . . . . . . . . . 14
1.3 Conjugate GradientMethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.1 Descent direction methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
1.3.2 Line search methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
1.3.3 The linear conjugate gradient methods . . . . . . . . . . . . . . . . . . . . . . . . 25
1.3.4 The nonlinear conjugate gradient methods . . . . . . . . . . . . . . . . . . . . . 26
1.4 Interior PointMethods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.4.1 Potential reduction methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.4.2 Central path methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29
1.4.3 Barrier methods . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30
2 Theoretical and Numerical Results for Nonlinear Optimization Problems 31
2.1 Preliminary . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31
2.2 Original Problem Formulation and its Perturbed Version . . . . . . . . . . . . . . . . 32
2.2.1 The perturbed associated problem . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.3 Theoretical Concepts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.4 Solution of the Perturbed Problem (P) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.4.1 The descent direction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37
2.4.2 Step-length determination . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38
2.4.3 The new approximating minorant function . . . . . . . . . . . . . . . . . . . . . 39
2.4.4 The auxiliary function 1 of G1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40
2.5 The Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
2.6 Numerical Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44
2.6.1 Comments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 46
3 A Hybrid CG Algorithm for Nonlinear Unconstrained Optimization with Application
in Image Restoration 47
3.1 The ProposedMethod . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48
3.1.1 The sufficient descent condition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
3.1.2 The global convergence . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
3.2 Numerical Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53
3.2.1 Image restoration problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56
4 An Efficient Hybrid Conjugate Gradient Method for Unconstrained Optimization
and Image Restoration Problems 62
4.1 The Proposed Algorithm . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 63
4.1.1 The sufficient descent condition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64
4.1.2 The convergence analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66
4.2 Numerical Experiments . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67
4.2.1 Image restoration problems . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71Côte titre : DM/0210 Exemplaires (1)
Code-barres Cote Support Localisation Section Disponibilité DM/0210 DM/0210 Thèse Bibliothèque des sciences Anglais Disponible
Disponible
