Les modèles Transformer · À quelle équipe confier cette demande de maintenance ?

Familles de Transformers, tâches, transfert, inférence, biais et limites.

La démonstration du cours part d’un pipeline d’analyse de sentiment. Le segmenteur, ou tokenizer, transforme le texte en identifiants. Le modèle produit des scores, puis le pipeline affiche l’étiquette retenue. Un score de confiance élevé indique une préférence entre les classes disponibles. Si ces classes correspondent à des sentiments, le score ne renseigne pas sur l’équipe à mobiliser.

1. Écrivez les deux destinations permises, MECH pour la maintenance mécanique et SERVICE pour le service client. Associez au signalement la référence MECH. Conservez la note avec sa référence pour que la personne qui vérifie l’affectation retrouve le passage sur le carter.

2. Supposez que le classifieur rende POSITIVE avec un score de 0,99. Cette sortie échoue avant même qu’on juge sa pertinence : aucune file ne porte ce nom. Le petit programme ci-dessous reproduit ce contrôle sans télécharger de modèle.

3. Comparez deux candidats. Un encodeur doté d’une tête de classification entraînée sur les destinations peut rendre directement un code. Un décodeur causal peut générer ce code à partir d’une consigne, mais aussi ajouter une phrase. Appliquez-lui la même validation. Si l’on demande un compte rendu rédigé pour la relève, une architecture encodeur-décodeur devient également envisageable.

Schéma original de GuideWit. Trois étiquettes comparées aux files autorisées et à la destination attendue.

Essayer avec Python 3

queues = {"MECH", "SERVICE"}
reference = "MECH"
for output in ["MECH", "POSITIVE", "SERVICE"]:
    print(output, output in queues, output == reference)

Résultat attendu

MECH True True
POSITIVE False False
SERVICE True False

Expérience Python locale de GuideWit. MECH réussit les deux contrôles. SERVICE figure dans la liste mais ne correspond pas à la destination attendue.

SERVICE franchit le contrôle du vocabulaire, puis échoue face à la référence du répartiteur. Pour poursuivre l’évaluation, introduisez une négation et un signalement portant sur deux pannes. Réservez les cas ambigus à une personne capable de trancher.

1. Un score de sentiment élevé suffit-il à déclencher une intervention mécanique ?
2. Que faut-il changer si l’équipe de relève attend un résumé en deux phrases ?

Corrigé

1. Non. Ce score porte sur des étiquettes de sentiment et ne justifie aucune affectation.
2. Choisir une tâche de génération et vérifier que le résumé conserve l’information sur le carter.

Tête de classification — Partie du modèle qui transforme la représentation du texte en un score par classe.

Le cas, le test Python et le schéma sont des exemples originaux. Les sources du chapitre figurent ci-dessous.

• Hugging Face LLM Course · 1
• Transformers, what can they do?
• How do Transformers work?
• Transformer Architectures
• Deep dive into Text Generation Inference with LLMs
• Bias and limitations
• The pipeline function · 00:32
• Welcome to the Hugging Face course
• Why is language processing challenging?
• The carbon footprint of Transformers
• What is Transfer Learning?
• The Transformer architecture
• How Transformers solve tasks
• Transformer models: Encoders
• Transformer models: Decoders
• Transformer models: Encoder-Decoders
• Inference with LLMs