Transformer modelleri — Bakım notunu hangi model yönlendirebilir?

Transformer aileleri, görev iş akışları, öğrenme aktarımı, çıkarım, yanlılık ve sınırlar.

Kurstaki duygu analizi örneğinde metin, token kimliklerine dönüştürülür. Model her sınıfa bir puan verir. Son işlem bu puanları okunabilir bir etikete ve güven değerine çevirir. Güven değeri yalnızca modelin öğrendiği sınıflar arasında anlam taşır.

1. İzin verilen iki ekip kodunu yazın: MECH ve SERVICE. Örnekte gevşek kapağı mekanik ekibin incelemesi gerekiyor. Referans yanıtı MECH olarak kaydedin ve gerekçeyi kaynak notla birlikte saklayın.

2. Bir duygu modelinin POSITIVE yanıtını verdiğini varsayın. Puanı 0,99 olsa bile bu yanıt geçerli bir ekip kodu değildir. Aşağıdaki kod, önce izin verilen değerleri, ardından referans yanıtla eşleşmeyi denetler.

3. Yönlendirme etiketleriyle eğitilmiş bir kodlayıcı, sınıflandırma katmanından doğrudan ekip kodu üretebilir. Üretken model ise koda bir açıklama ekleyebilir. İkisini de aynı çıktı kuralıyla sınayın. Görev vardiya özetini yeniden yazmaksa kodlayıcı-kod çözücü mimarisi de düşünülebilir.

Özgün GuideWit şeması. Üç aday etiket, kuyruk listesi ve doğru rota ile karşılaştırılıyor.

Python 3 ile deneyin

queues = {"MECH", "SERVICE"}
reference = "MECH"
for output in ["MECH", "POSITIVE", "SERVICE"]:
    print(output, output in queues, output == reference)

Beklenen çıktı

MECH True True
POSITIVE False False
SERVICE True False

GuideWit yerel Python deneyi. MECH iki denetimi de geçiyor. SERVICE listede var ama beklenen ekip değil.

Bir kodun tanımlı olması, doğru ekibi gösterdiğini kanıtlamaz. Tahmini bağımsız bir görevlinin verdiği etiketle karşılaştırın. Olumsuzluk ve birden fazla arıza içeren notları ayrıca sınayın. Kararsız örnekleri görevlinin incelemesine bırakın.

1. Yüksek duygu puanı mekanik bakım ekibini görevlendirmek için yeterli mi?
2. Çıktı iki cümlelik bir devir notu olacaksa ne değişir?

Yanıt anahtarı

1. Hayır. Puan metnin duygusuyla ilgilidir. Bakım işinin hangi ekibe ait olduğunu ölçmez.
2. Metin üretimi gerekir. Ayrıca kapakla ilgili güvenlik bilgisinin özette korunduğunu denetlemek gerekir.

Sınıflandırma katmanı — Modelin metin temsilinden her sınıf için bir puan üreten bölüm.

Vaka, Python kontrolü ve şema bu ders için hazırlandı. Bölümün birincil kaynakları aşağıdadır.

• Hugging Face LLM Course · 1
• Transformers, what can they do?
• How do Transformers work?
• Transformer Architectures
• Deep dive into Text Generation Inference with LLMs
• Bias and limitations
• The pipeline function · 00:32
• Welcome to the Hugging Face course
• Why is language processing challenging?
• The carbon footprint of Transformers
• What is Transfer Learning?
• The Transformer architecture
• How Transformers solve tasks
• Transformer models: Encoders
• Transformer models: Decoders
• Transformer models: Encoder-Decoders
• Inference with LLMs