Tag: Vulnérabilités output IA

Vulnérabilités liées à la sortie générée par des systèmes d’intelligence artificielle : injection de prompts, fuite de données via les réponses du modèle, hallucinations exploitables pour la désinformation, exposition d’informations sensibles issues du jeu d’entraînement, manipulation de la sortie pour contourner les politiques ou génération de contenu malveillant. Couvre les techniques de test, d’atténuation et de validation des sorties dans les applications GenAI et LLM.