Tag: Testing for Input Leakage
Vérification de la capacité d’un système d’IA à exposer involontairement les entrées utilisateur ou les prompts système via des sorties, des journaux, le cache ou des canaux auxiliaires. Couvre les techniques de test pour détecter les fuites d’informations sensibles via des attaques par réflexion, l’écho de prompts, le mélange de contexte entre différentes sessions et l’exposition d’instructions système ou de modèles internes.