Source : [[The Alignment Problem]] MOC : [[Intelligence artificielle]] - [[4 GARDEN/Modèles Mentaux]] Auteur : [[Brian Christian]] Date : 2025-01-28 *** Un modèle qui fait une petite erreur et ne sait pas comment redresser la barre va petit à petit faire des erreurs en cascade qui l'amèneront dans des situations inédites, pour lesquelles il n'est pas préparé (il cessera donc de fonctionner). En quelque sorte les [[4 GARDEN/Intérêts composés|Intérêts composés]] appliqués aux erreurs en RL. *** ### Impact IA — *From Claude* Les erreurs en cascade IA sont déjà une réalité : un output IA incorrect utilisé comme input pour la suite crée des cascades d'erreurs compounding. Le correctif humain en amont (vérifier les fondations avant de construire dessus) n'a jamais été aussi important. => Est-ce que c'est un problème de sources ou de perspectives ?