Les violations des limites de plugins se produisent lorsqu’une application LLM dotée de capacités d’appel de fonctions ou d’utilisation d’outils effectue des actions non autorisées via des plugins, des API externes ou des intégrations. Les tests évaluent si le modèle respecte les limites de sécurité définies, en vérifiant l’élévation de privilèges, l’accès non autorisé aux ressources, l’exécution de commandes hors du périmètre prévu ou le contournement des contrôles d’autorisation via la manipulation de prompts ou de contextes. Critique pour les systèmes d’IA ayant accès à des bases de données, des systèmes de fichiers ou des services externes.