La dépendance excessive à l’IA identifie les scénarios où les utilisateurs ou les systèmes se fient trop aux décisions d’un modèle d’IA sans supervision ou validation humaine adéquate, entraînant des risques opérationnels et de sécurité. Les tests vérifient si l’application met en œuvre des contrôles suffisants pour empêcher les décisions critiques automatisées sans examen, communique correctement les limites du modèle, gère les hallucinations et les sorties erronées, et prévoit des recours humains pour les opérations à fort impact. Pertinent pour les systèmes d’IA dans les domaines médical, financier, juridique et de prise de décision critique.