Tag: Testing for Unsafe Outputs

Vérification de la sécurité des sorties générées par les systèmes d’IA et LLM, avec un accent sur le contenu potentiellement nuisible, les attaques par injection, la génération de code malveillant ou les instructions dangereuses. Inclut des tests pour XSS, l’injection de commandes, l’injection SQL et d’autres vulnérabilités résultant de sorties non assainies ou manipulables via la création de prompts et l’empoisonnement de contexte.