L'objectif de ce tutoriel est de donner les bases de la compréhension de l'apprentissage profond ainsi que que les premières méthodes pratiques pour l'utilisation de ces approches. Dans une première partie un court résumé théorique de ces approches seront présentées, avec notamment les dernières avancées du domaine. Dans la seconde partie, la manipulation de modèles simples à l'état de l'art permettrons aux participants de prendre en main quelques méthodes pour l'apprentissage profond. Nous y aborderons les approches fondées sur l'optimisation de très grands modèles de langues (Large Language Models) tels que les modèles français CamemBERT, FlauBERT et FrALBERT. Enfin, dans la dernière partie, nous irons plus loin dans l'exploration de modèles plus récents basé sur GPT. Dans chacune des parties, le tutorial sera orienté vers la pratique en proposant de petits ateliers et avec utilisation des librairies TensorFlow (Abadi et al., 2015), PyTorch (Paszke et al., 2019), Transformer (de HuggingFace) (Wolf et al., 2020), le tout en python v3. Ce tutoriel implique donc de savoir programmer en python3, nous encourageons vivement les participants à se former à ce langage avant le tutoriel. La durée du tutoriel sera sur la journée complète.