University Sétif 1 FERHAT ABBAS Faculty of Sciences
Détail de l'auteur
Auteur Mohamed Bounechada |
Documents disponibles écrits par cet auteur
Ajouter le résultat dans votre panier Affiner la recherche
Titre : Deep Learning for medical images segmentation Type de document : texte imprimé Auteurs : Zouhir Badache, Auteur ; Mohamed Bounechada ; mohamed Chafia Kara, Directeur de thèse Editeur : Setif:UFA Année de publication : 2024 Importance : 1 vol (60 f .) Format : 29 cm Langues : Anglais (eng) Catégories : Thèses & Mémoires:Informatique Mots-clés : Computer Aided Diagnosis
Machine Learning
Deep Learning
Medical images
Blood Vessel Segmentation
U-Net with attentionIndex. décimale : 004 - Informatique Résumé :
Assisting doctors and radiologists in their hard and precise work is the main objective
of Computer Aided Diagnosis field (CAD). Machine Learning (ML) and recently
Deep Learning (DL) have proved their efficiency in this task. In the field of Ophthalmology,
accurate blood vessel segmentation is crucial for diagnosing and monitoring
various retinal diseases such as Diabetic Retinopathy, Glaucoma, and Age-related Macular
Degeneration. Segmentation, in medical images, is the process to separate and
delineate different parts in these images. This segmentation assists health care staff
in their work to handle variations in vessel appearance due to factors like age, disease
progression. In this context, we aim, in our work, to design a DL model based on
U-Net model with attention to segment retinal vessels images using FIVES dataset.
Our model outperforms the state of the art ones in term of accuracy 97.51%. Our
results are also examined by an ophthalmologist and he was more than satisfied.Note de contenu :
Sommaire
Table of contents v
List of figures vii
List of tables viii
1 Medical Image Segmentation 1
1 Introduction to Medical Image Segmentation . . . . . . . . . . . . . . . 2
2 Challenges in Medical Image Segmentation . . . . . . . . . . . . . . . . 3
2.1 Image Complexity . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.2 Anatomical Variability . . . . . . . . . . . . . . . . . . . . . . . 3
2.3 Limited Annotations . . . . . . . . . . . . . . . . . . . . . . . . 3
2.4 Real-Time Constraints . . . . . . . . . . . . . . . . . . . . . . . 3
3 Commonly Used Segmentation Techniques . . . . . . . . . . . . . . . . 4
3.1 Thresholding . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.2 Edge-Based . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.3 Region-Growing . . . . . . . . . . . . . . . . . . . . . . . . . . 5
4 Applications of Segmentation in Clinical Practice . . . . . . . . . . . . 5
4.1 Oncology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
4.2 Neurology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
4.3 Cardiology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
4.4 ophthalmology . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
2 Deep Learning for Segmentation 8
1 Introduction to Deep Learning for Segmentation . . . . . . . . . . . . 9
2 Models Used for Segmentation . . . . . . . . . . . . . . . . . . . . . . . 10
2.1 U-Net . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.2 FCN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.3 Mask R-CNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.4 DeepLab . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
3 Semantic Segmentation vs Instance Segmentation . . . . . . . . . . . . 11
3.1 Semantic Segmentation . . . . . . . . . . . . . . . . . . . . . . 11
3.2 Instance Segmentation . . . . . . . . . . . . . . . . . . . . . . . 11
4 U-Net Architecture . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
4.1 Encoder . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
4.2 Decoder . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
4.3 Skip Connections . . . . . . . . . . . . . . . . . . . . . . . . . . 14
4.4 Attention Mechanism . . . . . . . . . . . . . . . . . . . . . . . 14
4.5 Final Convolutional Layers . . . . . . . . . . . . . . . . . . . . 15
5 Activation Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
5.1 Sigmoid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
5.2 ReLU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
5.3 ELU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
5.4 Softmax . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
5.5 Tanh . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
6 Loss Function . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
6.1 Loss Functions for Classification: . . . . . . . . . . . . . . . . . 17
6.2 Loss Functions for Regression: . . . . . . . . . . . . . . . . . . . 18
7 Optimizers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
7.1 Stochastic Gradient Descent: . . . . . . . . . . . . . . . . . . . 19
7.2 Adagrad: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
7.3 Adadelta: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
7.4 RMSprop: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
7.5 Adam: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
8 overfitting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
9 techniques to avoid overfitting . . . . . . . . . . . . . . . . . . . . . . . 21
9.1 Batch Normalization . . . . . . . . . . . . . . . . . . . . . . . . 21
9.2 Dropout: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
9.3 Early Stopping: . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
9.4 Data Augmentation: . . . . . . . . . . . . . . . . . . . . . . . . 22
10 Evaluation Metrics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
10.1 Dice Coefficient . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
10.2 Intersection over Union : . . . . . . . . . . . . . . . . . . . . . . 23
10.3 Accuracy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
10.4 Peak Signal-to-Noise Ratio (PSNR) . . . . . . . . . . . . . . . . 24
10.5 F1 score . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
10.6 The Area Under the Curve (AUC) . . . . . . . . . . . . . . . . 26
3 Related Works 27
4 Methodology 31
1 Study Design . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2 Data Collection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.1 Dataset Description . . . . . . . . . . . . . . . . . . . . . . . . 32
2.2 Data Acquisition . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.3 Annotation Process . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.4 Usage and Applications . . . . . . . . . . . . . . . . . . . . . . 34
2.5 Some papers that use this dataset . . . . . . . . . . . . . . . . . 34
2.6 Availability and Access . . . . . . . . . . . . . . . . . . . . . . . 35
3 Data Preprocessing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.1 Choosing the best filters . . . . . . . . . . . . . . . . . . . . . . 35
4 Data Augmentation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
4.1 Keras data generators . . . . . . . . . . . . . . . . . . . . . . . 42
5 Model Development . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
5.1 Custom attention U-Net model . . . . . . . . . . . . . . . . . . 46
5.2 Implementation . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
5.3 Training the model . . . . . . . . . . . . . . . . . . . . . . . . . 49
5.4 Model evaluation . . . . . . . . . . . . . . . . . . . . . . . . . . 49
6 Final results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
6.1 Generated masks . . . . . . . . . . . . . . . . . . . . . . . . . . 50
6.2 Comparison . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50Côte titre : MAI/0901 Deep Learning for medical images segmentation [texte imprimé] / Zouhir Badache, Auteur ; Mohamed Bounechada ; mohamed Chafia Kara, Directeur de thèse . - [S.l.] : Setif:UFA, 2024 . - 1 vol (60 f .) ; 29 cm.
Langues : Anglais (eng)
Catégories : Thèses & Mémoires:Informatique Mots-clés : Computer Aided Diagnosis
Machine Learning
Deep Learning
Medical images
Blood Vessel Segmentation
U-Net with attentionIndex. décimale : 004 - Informatique Résumé :
Assisting doctors and radiologists in their hard and precise work is the main objective
of Computer Aided Diagnosis field (CAD). Machine Learning (ML) and recently
Deep Learning (DL) have proved their efficiency in this task. In the field of Ophthalmology,
accurate blood vessel segmentation is crucial for diagnosing and monitoring
various retinal diseases such as Diabetic Retinopathy, Glaucoma, and Age-related Macular
Degeneration. Segmentation, in medical images, is the process to separate and
delineate different parts in these images. This segmentation assists health care staff
in their work to handle variations in vessel appearance due to factors like age, disease
progression. In this context, we aim, in our work, to design a DL model based on
U-Net model with attention to segment retinal vessels images using FIVES dataset.
Our model outperforms the state of the art ones in term of accuracy 97.51%. Our
results are also examined by an ophthalmologist and he was more than satisfied.Note de contenu :
Sommaire
Table of contents v
List of figures vii
List of tables viii
1 Medical Image Segmentation 1
1 Introduction to Medical Image Segmentation . . . . . . . . . . . . . . . 2
2 Challenges in Medical Image Segmentation . . . . . . . . . . . . . . . . 3
2.1 Image Complexity . . . . . . . . . . . . . . . . . . . . . . . . . 3
2.2 Anatomical Variability . . . . . . . . . . . . . . . . . . . . . . . 3
2.3 Limited Annotations . . . . . . . . . . . . . . . . . . . . . . . . 3
2.4 Real-Time Constraints . . . . . . . . . . . . . . . . . . . . . . . 3
3 Commonly Used Segmentation Techniques . . . . . . . . . . . . . . . . 4
3.1 Thresholding . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.2 Edge-Based . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
3.3 Region-Growing . . . . . . . . . . . . . . . . . . . . . . . . . . 5
4 Applications of Segmentation in Clinical Practice . . . . . . . . . . . . 5
4.1 Oncology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5
4.2 Neurology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
4.3 Cardiology . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6
4.4 ophthalmology . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
2 Deep Learning for Segmentation 8
1 Introduction to Deep Learning for Segmentation . . . . . . . . . . . . 9
2 Models Used for Segmentation . . . . . . . . . . . . . . . . . . . . . . . 10
2.1 U-Net . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.2 FCN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.3 Mask R-CNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
2.4 DeepLab . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10
3 Semantic Segmentation vs Instance Segmentation . . . . . . . . . . . . 11
3.1 Semantic Segmentation . . . . . . . . . . . . . . . . . . . . . . 11
3.2 Instance Segmentation . . . . . . . . . . . . . . . . . . . . . . . 11
4 U-Net Architecture . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
4.1 Encoder . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12
4.2 Decoder . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13
4.3 Skip Connections . . . . . . . . . . . . . . . . . . . . . . . . . . 14
4.4 Attention Mechanism . . . . . . . . . . . . . . . . . . . . . . . 14
4.5 Final Convolutional Layers . . . . . . . . . . . . . . . . . . . . 15
5 Activation Functions . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
5.1 Sigmoid . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15
5.2 ReLU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
5.3 ELU . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
5.4 Softmax . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16
5.5 Tanh . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
6 Loss Function . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
6.1 Loss Functions for Classification: . . . . . . . . . . . . . . . . . 17
6.2 Loss Functions for Regression: . . . . . . . . . . . . . . . . . . . 18
7 Optimizers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
7.1 Stochastic Gradient Descent: . . . . . . . . . . . . . . . . . . . 19
7.2 Adagrad: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19
7.3 Adadelta: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
7.4 RMSprop: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
7.5 Adam: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
8 overfitting . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20
9 techniques to avoid overfitting . . . . . . . . . . . . . . . . . . . . . . . 21
9.1 Batch Normalization . . . . . . . . . . . . . . . . . . . . . . . . 21
9.2 Dropout: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21
9.3 Early Stopping: . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
9.4 Data Augmentation: . . . . . . . . . . . . . . . . . . . . . . . . 22
10 Evaluation Metrics . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
10.1 Dice Coefficient . . . . . . . . . . . . . . . . . . . . . . . . . . . 22
10.2 Intersection over Union : . . . . . . . . . . . . . . . . . . . . . . 23
10.3 Accuracy . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
10.4 Peak Signal-to-Noise Ratio (PSNR) . . . . . . . . . . . . . . . . 24
10.5 F1 score . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25
10.6 The Area Under the Curve (AUC) . . . . . . . . . . . . . . . . 26
3 Related Works 27
4 Methodology 31
1 Study Design . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2 Data Collection . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32
2.1 Dataset Description . . . . . . . . . . . . . . . . . . . . . . . . 32
2.2 Data Acquisition . . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.3 Annotation Process . . . . . . . . . . . . . . . . . . . . . . . . . 33
2.4 Usage and Applications . . . . . . . . . . . . . . . . . . . . . . 34
2.5 Some papers that use this dataset . . . . . . . . . . . . . . . . . 34
2.6 Availability and Access . . . . . . . . . . . . . . . . . . . . . . . 35
3 Data Preprocessing . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35
3.1 Choosing the best filters . . . . . . . . . . . . . . . . . . . . . . 35
4 Data Augmentation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42
4.1 Keras data generators . . . . . . . . . . . . . . . . . . . . . . . 42
5 Model Development . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45
5.1 Custom attention U-Net model . . . . . . . . . . . . . . . . . . 46
5.2 Implementation . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
5.3 Training the model . . . . . . . . . . . . . . . . . . . . . . . . . 49
5.4 Model evaluation . . . . . . . . . . . . . . . . . . . . . . . . . . 49
6 Final results . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50
6.1 Generated masks . . . . . . . . . . . . . . . . . . . . . . . . . . 50
6.2 Comparison . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 50Côte titre : MAI/0901 Exemplaires (1)
Code-barres Cote Support Localisation Section Disponibilité MAI/0901 MAI/0901 Mémoire Bibliothéque des sciences Anglais Disponible
Disponible
