Modèles avancés

Statut actuel

Non-inscrit

Tarif

39,90 €

Commencer

Cette formation vous plonge dans l’univers des modèles de langage avancés tels que GPT et BERT, des technologies révolutionnaires dans le domaine du traitement du langage naturel (NLP). Vous apprendrez à comprendre et à maîtriser l’architecture des transformateurs, à fine-tuner ces modèles pour des applications variées (génération de texte, analyse sémantique, réponse à des questions) et à les déployer dans des environnements de production. Cette formation est idéale pour les professionnels du NLP et de l’intelligence artificielle qui souhaitent approfondir leurs connaissances et savoir appliquer ces modèles à des cas complexes. Découvrez également les enjeux éthiques liés à l’utilisation de ces technologies puissantes dans des projets réels.

Ce cours contient :

- Une version écrite et très détaillée de tous les chapitres ;

- Une vidéo de chaque chapitre de la formation ;

- Des quiz après chaque chapitre pour tester la compréhension ;

- Des exercices et travaux pratiques corrigés ;

- Des projets et cas réels ;

- Un quiz final pour tester et valider la maitrise du module.

 

Un Certificat qui atteste de la bonne maitrise de ce cours est délivré à l'apprenant qui a réussi les différentes évaluations.

 

Un suivi régulier par un collaborateur progcours est possible moyennant des frais supplémentaires.

Contenu Cours

Introduction au NLP
Définition du NLP et applications
Architectures traditionnelles vs transformateurs
Les Fondements des Transformateurs
Qu’est-ce qu’un transformateur ?
Structure : attention, encodage, décodage, self-attention
Attention multi-têtes et position encoding
Comparaison RNN/LSTM vs transformateurs
Modèle GPT
Introduction à GPT : pré-entraînement et fine-tuning
Architecture : auto-régression et masquage des entrées
Applications : génération de texte, dialogue, complétion
Fine-tuning pour des tâches spécifiques
Modèle BERT
Introduction à BERT : masquage de mots et prédiction de phrases
Comparaison GPT vs BERT
Fine-tuning pour classification et question-réponse
Techniques Avancées de Fine-Tuning
Gestion des hyperparamètres et évaluation
Augmentation de données
Stratégies contre le surapprentissage
Entraînement sur grands jeux de données et parallélisation
Déploiement de Modèles Avancés
Déploiement avec Hugging Face et TensorFlow Serving
1 de 2