Transfer Learning approach for Arabic sentiment analysis / Abir Baziz

Public ISBD Titre : Transfer Learning approach for Arabic sentiment analysis Type de document : texte imprimé Auteurs : Abir Baziz, Auteur ; Yasmine Lalouani ; Fatiha Tebbani, Directeur de thèse Editeur : Setif:UFA Année de publication : 2024 Importance : 1 vol (65 f .) Format : 29 cm Langues : Anglais (eng) Catégories : Thèses & Mémoires:Informatique Mots-clés : Informatique Index. décimale : 004 - Informatique Résumé : Our study aims to develop a sentiment analysis model for Arabic text, considering the linguistic diversity inherent in Arabic comments, which encompass both Standard Arabic and various regional dialects. Leveraging transfer learning techniques, specically utilizing a pre-trained BERT model, we trained our model on a dataset comprising Arabic comments. The trained model exhibited high accuracy in classifying sentiments, distinguishing between positive and negative tones within Arabic text. Additionally, we developed a user-friendly application utilizing this model for real-time sentiment analysis, oering practical implications for social media monitoring and customer feedback analysis Note de contenu : Sommaire General Introduction: 9 1 Sentiment Analysis and the arabic language 10 1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.2 Natural Language Processing (NLP) . . . . . . . . . . . . . . . . . . . . . . . . 10 1.2.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.3 Areas of application . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.4 Sentiment Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.4.2 Sentiment Analysis Denition . . . . . . . . . . . . . . . . . . . . . . . 12 1.4.3 Sentiment Analysis levels . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.5 Sentiment analysis approachs . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 1.5.1 Lexicon-Based Approach . . . . . . . . . . . . . . . . . . . . . . . . . . 14 1.5.2 Corpus Based Approach . . . . . . . . . . . . . . . . . . . . . . . . . . 14 1.5.3 Hybrid Approach . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 1.6 Arabic language . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 1.6.1 Arabic language types . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 1.6.2 Arabic dialects types . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 1.6.3 Arabic sentiment analysis . . . . . . . . . . . . . . . . . . . . . . . . . . 18 1.6.4 Arabic sentiment analysis challenges . . . . . . . . . . . . . . . . . . . . 18 1.6.5 Platforms used for Arabic Sentiment Analysis . . . . . . . . . . . . . . 19 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 2 Transfer Learning 20 2.1 Transfer Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 2.1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 2.1.2 General Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 2.1.3 Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 2.1.4 Formel Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 2.1.5 Measuring Transfer Learning Success . . . . . . . . . . . . . . . . . . . 22 2.1.6 Transfer Learning categories . . . . . . . . . . . . . . . . . . . . . . . . 25 2.1.7 Multitask Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 2.1.8 The Dierence between Transfer Learning and Multi Task Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 2.1.9 How Transfer Learning Works . . . . . . . . . . . . . . . . . . . . . . . 27 2.1.10 Steps to Use Transfer Learning . . . . . . . . . . . . . . . . . . . . . . . 27 2.1.11 Applications of Transfer Learning . . . . . . . . . . . . . . . . . . . . . 29 2.1.12 Why Use Transfer Learning . . . . . . . . . . . . . . . . . . . . . . . . . 31 2.2 Bidirectional Encoder Representations from Transformers (BERT) . . . . . . . 32 2.2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 2.2.2 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 2.2.3 BERT Architecture . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 2.2.4 Pre-training BERT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 2.2.5 Fine-Tuning BERT . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 2.2.6 Applications of BERT . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37 2.2.7 Bert models for Arabic language . . . . . . . . . . . . . . . . . . . . . . 37 2.2.8 Limitations and challenges of bert for Arabic language . . . . . . . . . . 38 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 3 Practical side 41 3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41 3.2 The tools . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41 3.2.1 AraBERT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44 3.2.2 Model architecture . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 Côte titre : MAI/0892 Transfer Learning approach for Arabic sentiment analysis [texte imprimé] / Abir Baziz, Auteur ; Yasmine Lalouani ; Fatiha Tebbani, Directeur de thèse . - [S.l.] : Setif:UFA, 2024 . - 1 vol (65 f .) ; 29 cm. Langues : Anglais (eng) Catégories : Thèses & Mémoires:Informatique Mots-clés : Informatique Index. décimale : 004 - Informatique Résumé : Our study aims to develop a sentiment analysis model for Arabic text, considering the linguistic diversity inherent in Arabic comments, which encompass both Standard Arabic and various regional dialects. Leveraging transfer learning techniques, specically utilizing a pre-trained BERT model, we trained our model on a dataset comprising Arabic comments. The trained model exhibited high accuracy in classifying sentiments, distinguishing between positive and negative tones within Arabic text. Additionally, we developed a user-friendly application utilizing this model for real-time sentiment analysis, oering practical implications for social media monitoring and customer feedback analysis Note de contenu : Sommaire General Introduction: 9 1 Sentiment Analysis and the arabic language 10 1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.2 Natural Language Processing (NLP) . . . . . . . . . . . . . . . . . . . . . . . . 10 1.2.1 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.3 Areas of application . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.4 Sentiment Analysis . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.4.2 Sentiment Analysis Denition . . . . . . . . . . . . . . . . . . . . . . . 12 1.4.3 Sentiment Analysis levels . . . . . . . . . . . . . . . . . . . . . . . . . . 12 1.5 Sentiment analysis approachs . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 1.5.1 Lexicon-Based Approach . . . . . . . . . . . . . . . . . . . . . . . . . . 14 1.5.2 Corpus Based Approach . . . . . . . . . . . . . . . . . . . . . . . . . . 14 1.5.3 Hybrid Approach . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 1.6 Arabic language . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 1.6.1 Arabic language types . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 1.6.2 Arabic dialects types . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 1.6.3 Arabic sentiment analysis . . . . . . . . . . . . . . . . . . . . . . . . . . 18 1.6.4 Arabic sentiment analysis challenges . . . . . . . . . . . . . . . . . . . . 18 1.6.5 Platforms used for Arabic Sentiment Analysis . . . . . . . . . . . . . . 19 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19 2 Transfer Learning 20 2.1 Transfer Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 2.1.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 2.1.2 General Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 2.1.3 Notations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 2.1.4 Formel Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22 2.1.5 Measuring Transfer Learning Success . . . . . . . . . . . . . . . . . . . 22 2.1.6 Transfer Learning categories . . . . . . . . . . . . . . . . . . . . . . . . 25 2.1.7 Multitask Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 2.1.8 The Dierence between Transfer Learning and Multi Task Learning . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 2.1.9 How Transfer Learning Works . . . . . . . . . . . . . . . . . . . . . . . 27 2.1.10 Steps to Use Transfer Learning . . . . . . . . . . . . . . . . . . . . . . . 27 2.1.11 Applications of Transfer Learning . . . . . . . . . . . . . . . . . . . . . 29 2.1.12 Why Use Transfer Learning . . . . . . . . . . . . . . . . . . . . . . . . . 31 2.2 Bidirectional Encoder Representations from Transformers (BERT) . . . . . . . 32 2.2.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 2.2.2 Denition . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 2.2.3 BERT Architecture . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 2.2.4 Pre-training BERT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 2.2.5 Fine-Tuning BERT . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 2.2.6 Applications of BERT . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37 2.2.7 Bert models for Arabic language . . . . . . . . . . . . . . . . . . . . . . 37 2.2.8 Limitations and challenges of bert for Arabic language . . . . . . . . . . 38 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 3 Practical side 41 3.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41 3.2 The tools . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 41 3.2.1 AraBERT . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44 3.2.2 Model architecture . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 44 Conclusion . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 58 Côte titre : MAI/0892

Exemplaires (1)

Code-barres	Cote	Support	Localisation	Section	Disponibilité
MAI/0892	MAI/0892	Mémoire	Bibliothéque des sciences	Anglais	Disponible Disponible

---

1 (1 - 1 / 1)