Source : [[Hands-On Machine Learning]] MOC : [[Intelligence artificielle]] - [[4 GARDEN/Modèles Mentaux]] Auteur : [[Aurélien Géron]] Date : 2025-02-03 *** On parle d'overfitting lorsqu'un modèle est performant sur la donnée d'entraînement mais n'est pas capable de bien généraliser (cf. [[Generalization]]). Contrairement au [[Sampling Bias]] qui provoque pourtant le même résultat médiocre, ici la root cause est le modèle, tandis que le sampling bias a pour root cause la donnée d'entraînement. Source : [[The Master Algorithm]] MOC : [[Intelligence artificielle]] Auteur : [[Pedro Domingos]] Date : 2025-02-26 *** L'overfitting est un biais courant qui existe en [[Machine Learning]] mais peut aussi constituer une forme de [[4 GARDEN/Biais cognitif]] chez les humains. Il s'agit de trouver des patterns dans la data, qui ne transfèrent pas dans le monde réel. La difficulté est de trouver le bon trade-off entre peu de data pour limiter l'overfitting (mais accuracy réduite) et beaucoup de data (mais potentielle [[4 GARDEN/Hallucination]] et overfitting). *** ### Impact IA — *From Claude* L'overfitting humain augmenté par l'IA : on utilise l'IA pour trouver des patterns dans nos données personnelles (habitudes, décisions, résultats) mais on risque de sur-optimiser sur un échantillon trop petit. "Cette stratégie a marché 3 fois donc c'est LA stratégie" — l'IA confirme le pattern, le cerveau l'adopte, c'est de l'overfitting à deux.