Introduction à l’apprentissage profond · Quelle expédition contrôler demain ?
Pour commencer
Parcours de la leçon
- Figer les entrées
- Suivre le neurone
- Mesurer l’erreur
- Modifier un seul paramètre
- Vérifier le classement
Le cours passe du perceptron à plusieurs sorties à l’entraînement, puis présente l’arrêt précoce. Dans les premiers travaux pratiques en Python, les gradients relient la perte calculée aux paramètres à apprendre. Le calcul sur le colis isole un poids pour suivre sa modification à la main. Diapositives · PDF 36 · Travaux pratiques associés
Exemple et schémas originaux de GuideWit. Les liens horodatés ouvrent les passages correspondants du cours du MIT.
Figer les entrées
Posez x = 2 pour les contrôles manqués et y = 1 pour le retard constaté après coup. L’heure réelle d’arrivée permet d’établir l’étiquette. En l’ajoutant aux entrées, on donnerait la réponse au modèle pendant l’apprentissage.
Figer les entrées · x = 2 → y = 1 → t₀ < t₁. 15:40 · MIT 6.S191
Suivre le neurone
Avec un poids de 0,4 et un biais de −1, la somme pondérée vaut −0,2. La sigmoïde la transforme en 0,4502. Un score inférieur à un demi reste possible pour un colis qui arrive finalement en retard.
Suivre le neurone · 0.4 × 2 − 1 → −0.2 → σ ≈ 0.450. 27:36 · MIT 6.S191
Mesurer l’erreur
Le colis étant en retard, l’entropie croisée binaire vaut −ln(0,4502), soit environ 0,798. Pour une livraison ponctuelle, on emploierait −ln(1−p). Franchir un seuil de classement et réduire la perte sont deux événements distincts.
Mesurer l’erreur · y = 1 → −ln(0.450) → ≈ 0.798. 30:44 · MIT 6.S191
Modifier un seul paramètre
Gardez le biais fixe. Le gradient de la perte par rapport au poids est (p−y)x ≈ −1,100. Retranchez au poids 0,1 fois cette valeur. Le poids atteint 0,510, la probabilité environ 0,505 et la perte environ 0,683.
Modifier un seul paramètre · −1.100 → 0.4 + 0.110 → w ≈ 0.510. 35:54 · MIT 6.S191
Vérifier le classement
Un envoi ponctuel présentant la même entrée voit aussi son score monter. Évaluez les dix premières alertes sur des trajets ultérieurs en gardant ensemble les dossiers d’un même trajet. Comptez les appels associés à un retard réel.
Vérifier le classement · 0.450 → 0.505 → y = 1: L ↓ → y = 0: L ↑. 45:59 · MIT 6.S191
Comparaison résolue
Poids | Probabilité et perte |
|---|---|
0,4 | 0,450 / 0,798 |
0,510 | 0,505 / 0,683 |
Dépannage
Indice | Vérification |
|---|---|
Le score reste fixe | Vérifier x et le taux d’apprentissage |
Le test semble parfait | Rechercher les champs renseignés après midi |
Exercice
- Refaites le calcul pour x = 0 avec le même biais. Quel paramètre cet exemple peut-il modifier ?
Réponse · Le gradient du poids est nul. Le biais peut encore changer si on autorise son apprentissage.
- Une baisse de perte sur ce colis justifie-t-elle dix appels ?
Réponse · Non. Mesurez le classement sur des trajets ultérieurs étiquetés avec la capacité réelle du service.
Glossaire
Poids = multiplicateur appris. Biais = décalage indépendant de l’entrée. Gradient = sensibilité locale de la perte.