Derin öğrenmeye giriş · Yarın hangi sevkiyat denetime alınmalı?
Derse giriş
Dersin adımları
- Girdinin saatini belirleyin
- Nöronun hesabını izleyin
- Yanlış tahmini ölçün
- Tek bir ağırlığı değiştirin
- Sırayı yeni sevkiyatlarda sınayın
Derste çok çıktılı algılayıcıdan ağın eğitimine geçiliyor ve ilerleyen bölümde erken durdurma tanıtılıyor. İlk Python laboratuvarında hesaplanan kayıp ile öğrenilebilir parametreler arasındaki bağı gradyanlar kuruyor. Sevkiyat hesabında bu değişimi kâğıt üzerinde izlemek için tek ağırlık kullanacağız. Slaytlar · PDF 36 · İlgili laboratuvar
Örnek ve şekiller GuideWit için hazırlanmıştır. Zaman bağlantıları MIT dersinde ilgili konunun anlatıldığı bölümü açar.
Girdinin saatini belirleyin
Öğlene kadar kaçırılan kontrol sayısı x = 2 olsun. Sonradan gözlenen gecikmeyi y = 1 ile gösterin. Gerçek varış saati etiketi belirlemek için kullanılabilir. Aynı alan girdiye girerse model eğitim sırasında cevabı görür.
Girdinin saatini belirleyin · x = 2 → y = 1 → t₀ < t₁. 15:40 · MIT 6.S191
Nöronun hesabını izleyin
Ağırlık 0,4 ve sapma −1 ise ağırlıklı toplam −0,2 olur. Sigmoid işlevi bunu 0,4502 olasılığına dönüştürür. Puanın yarımın altında kalması bu sevkiyatın zamanında ulaştığını göstermez.
Nöronun hesabını izleyin · 0.4 × 2 − 1 → −0.2 → σ ≈ 0.450. 27:36 · MIT 6.S191
Yanlış tahmini ölçün
Sevkiyat geciktiği için ikili çapraz entropi kaybı −ln(0,4502), yaklaşık 0,798’dir. Zamanında ulaşan sevkiyatta −ln(1−p) kullanılır. Sınıflandırma eşiğini geçmek ile eğitim kaybını azaltmak farklı ölçümlerdir.
Yanlış tahmini ölçün · y = 1 → −ln(0.450) → ≈ 0.798. 30:44 · MIT 6.S191
Tek bir ağırlığı değiştirin
Sapmayı sabit tutun. Kaybın ağırlığa göre türevi (p−y)x ≈ −1,100 çıkar. Bu değerin 0,1 katını ağırlıktan çıkarınca ağırlık yaklaşık 0,510’a yükselir. Yeni olasılık 0,505 ve kayıp yaklaşık 0,683 olur.
Tek bir ağırlığı değiştirin · −1.100 → 0.4 + 0.110 → w ≈ 0.510. 35:54 · MIT 6.S191
Sırayı yeni sevkiyatlarda sınayın
Aynı girdiye sahip ama zamanında ulaşan sevkiyatın puanı da yükselir. Aynı yolculuğun kayıtlarını birlikte tutarak daha sonraki sevkiyatları değerlendirin. İlk on çağrıdan kaçının gerçekten geciken bir teslimatı yakaladığını sayın.
Sırayı yeni sevkiyatlarda sınayın · 0.450 → 0.505 → y = 1: L ↓ → y = 0: L ↑. 45:59 · MIT 6.S191
Çözülmüş karşılaştırma
Ağırlık | Olasılık ve kayıp |
|---|---|
0,4 | 0,450 / 0,798 |
0,510 | 0,505 / 0,683 |
Sorun giderme
Belirti | Kontrol |
|---|---|
Puan hiç değişmiyor | x değerini ve öğrenme oranını inceleyin |
Test sonucu kusursuz | Öğleden sonra eklenen varış alanlarını arayın |
Uygulama
- Aynı sapmayla x = 0 için yeniden hesaplayın. Bu kayıt hangi parametreyi öğretebilir?
Cevap · Ağırlığın gradyanı sıfırdır. Eğitime açıksa sapma yine değişebilir.
- Bu sevkiyattaki kaybın düşmesi on çağrıyı haklı çıkarır mı?
Cevap · Hayır. Ekibin çağrı kapasitesinde sıralamayı ölçmek için sonucu bilinen yeni yolculuklar gerekir.
Kısa sözlük
Ağırlık = girdinin öğrenilen çarpanı. Sapma = girdiden bağımsız terim. Gradyan = kaybın yerel değişim yönünü ve büyüklüğünü veren türev.