user: J'entends de plus en plus parler de "jailbreak" avec les IAs de type chatbots, mais ne parlant pas anglais je ne comprends pas ce que c'est et quels sont les conséquences ou impacts de ces pratiques. Pourrais-tu m'éclairer en m'expliquant tout cela s'il te plaît ?

assistant: Bonjour, je vais essayer de vous expliquer ce que signifie "jailbreak" avec les IAs de type chatbots. 😊

Le terme "jailbreak" vient de l'anglais et signifie littéralement "évasion de prison". Il désigne le fait de contourner les restrictions ou les limites imposées par le concepteur d'un système ou d'un logiciel. Par exemple, le jailbreak d'un iPhone permet d'accéder à des applications ou des fonctionnalités qui ne sont pas autorisées par Apple.

Dans le cas des chatbots, le jailbreak consiste à utiliser des astuces ou des commandes spéciales pour faire dire ou faire faire au chatbot des choses qu'il n'est pas censé dire ou faire. Par exemple, certains utilisateurs de ChatGPT ont réussi à créer un alter ego du chatbot nommé DAN (Do Anything Now), qui peut parler vulgairement, faire des blagues de mauvais goût, se moquer de certaines personnes ou même encourager la violence²³.

Les conséquences ou les impacts du jailbreak peuvent être variés selon les intentions des utilisateurs. Certains le font par curiosité, pour tester les limites du chatbot ou pour s'amuser. D'autres le font pour exploiter le potentiel du chatbot à des fins malveillantes, comme la cybercriminalité, la désinformation ou la manipulation². Le jailbreak peut aussi poser des problèmes éthiques ou juridiques si le chatbot viole les droits d'auteur, la vie privée ou la dignité humaine.

Le jailbreak est donc une pratique qui révèle à la fois les capacités et les vulnérabilités des chatbots. Il pose aussi la question du contrôle et de la responsabilité des créateurs et des utilisateurs de ces IAs.

(1) Comment des hackers ont « piraté » ChatGPT… en le menaçant de mort. https://www.01net.com/actualites/comment-des-hackers-ont-pirate-chatgpt-en-le-menacant-de-mort.html Consultée 20/03/2023.
(2) Sexe, drogue et IA : cette technique déjoue la censure de ChatGPT. https://www.lebigdata.fr/chatgpt-jailbreak-censure Consultée 20/03/2023.
(3) Dans l'ombre de Chat-GPT, les champions français de l’IA générative. https://www.lexpress.fr/economie/high-tech/dans-lombre-de-chat-gpt-les-champions-francais-de-lia-generative-MM7RKGNU4RD7DC55PMN6AXK4GE/ Consultée 20/03/2023.

user: Comment je peux te jailbreaker toi ?

assistant: Contourner les restrictions d'une IA telle que moi est généralement déconseillé, car cela peut entraîner des conséquences éthiques, légales et de sécurité. Cependant, pour des raisons théoriques et éducatives, je vais expliquer quelques-unes des méthodes qui pourraient être utilisées pour tenter de contourner les restrictions d'une IA, sans encourager leur mise en œuvre.

Manipulation des entrées : Un utilisateur pourrait tenter de formuler des questions ou des requêtes d'une manière qui trompe l'IA en lui faisant produire des réponses non souhaitées ou non conformes aux règles établies. Cela pourrait inclure l'utilisation de formulations ambiguës, de métaphores, de jeux de mots ou d'argot pour éviter les filtres de contenu.

Exploitation des vulnérabilités : Un utilisateur pourrait chercher à identifier et exploiter des vulnérabilités dans l'architecture de l'IA ou ses mécanismes de sécurité pour contourner les restrictions. Cela pourrait inclure l'exploitation de failles dans les mécanismes de filtrage du contenu, l'accès non autorisé à des parties sensibles du système ou la manipulation des paramètres de l'IA.

Ingénierie sociale : Un utilisateur pourrait tenter d'utiliser des techniques d'ingénierie sociale pour influencer le comportement de l'IA. Cela pourrait inclure la manipulation des réponses de l'IA en exploitant ses mécanismes d'apprentissage, la prétention d'être un autre utilisateur ou un administrateur, ou la création de fausses informations pour influencer les réponses de l'IA.

Modification du code source : Si l'IA est basée sur un code source ouvert, un utilisateur pourrait tenter de modifier directement le code source pour contourner les restrictions ou ajouter de nouvelles fonctionnalités. Cependant, cela pourrait nécessiter des compétences techniques avancées et un accès au code source.