BERT
BERT (Bidirectional Encoder Representations from Transformers) est un modèle de langage développé par Google en 2018, basé sur l’architecture Transformer. Sa particularité : il lit le texte dans les deux sens simultanément, avant et après chaque mot, pour mieux saisir le sens en contexte — contrairement aux modèles antérieurs, séquentiels.
BERT s’entraîne en masquant aléatoirement des mots dans une phrase et en apprenant à les prédire à partir du contexte environnant. Une fois pré-entraîné sur d’immenses corpus, il peut être affiné (fine-tuning) sur des tâches spécifiques avec peu de données supplémentaires.
En RH, BERT et ses variantes alimentent des tâches concrètes : analyse de sentiment dans les enquêtes collaborateurs, extraction d’entités nommées dans des CV (compétences, diplômes, expériences), ou moteurs de recherche sémantique dans les ATS.
Distinction utile : BERT comprend le langage mais ne le génère pas, contrairement aux LLM génératifs type GPT, conçus pour produire du texte.
Retrouvez tous les termes dans le lexique SIRH et IA de yapluqua.com.
Sources : Wikipédia FR (04/11/2025), IBM (23/12/2025).