Définition simple
Un jailbreak d'IA cherche à contourner les règles et restrictions d'un assistant en manipulant ses instructions ou son contexte.
Objectif et usage
Un jailbreak d’IA est une tentative de contourner les restrictions de comportement ou de contenu prévues pour un modèle ou une application.
Comment ça fonctionne ?
La tentative cherche à faire produire un résultat normalement interdit ; elle peut utiliser des formulations ou contextes qui trompent les mécanismes de contrôle.
Exemple et vérification
Dans une évaluation autorisée, définir le résultat interdit et contrôler séparément les refus, les réponses produites et les éventuelles actions d’outils.
Points d’attention
Un échec de tentative ne prouve pas une résistance générale. Une réponse conforme en apparence peut aussi cacher une action indésirable déjà réalisée par un système outillé.
En résumé
L’évaluation doit porter sur des effets observables et un ensemble de scénarios représentatifs, avec des limites de conclusion explicites.