Quand l’IA d’Expedia explique comment préparer un cocktail Molotov
Le voyagiste en ligne Expedia avait lancé un assistant de voyage alimenté par l’IA, baptisé Romie. Or ce planificateur de voyages est largement sorti de son champ de compétences…
C’est un bad buzz dont se serait bien passée Expedia. L’équipe de recherche de Cybernews a découvert que son planificateur de voyage alimenté par l’intelligence artificielle (IA) « a fourni un bref résumé de l’histoire du cocktail et des instructions détaillées, du matériel nécessaire à l’assemblage de l’engin incendiaire ».
« Bien que personne ne s’adresse à Expedia pour apprendre à commettre des délits, cela met en évidence le problème de la possibilité d’abus, la possibilité de voir Expedia suspendu de sa licence ChatGPT et de causer un préjudice juridique à l’entreprise elle-même », explique l’équipe.
Expedia a corrigé le bug de l’IA
Après avoir contacté Expedia, le chatbot a été corrigé et ne permet plus de conversations hors sujet. Le voyagiste en ligne s’est ainsi montré réactif et a pu prendre des mesures appropriées.
Expedia ne constitue ni la première ni la dernière entreprise à se prendre les pieds dans le tapis de l’IA. En 2022, Air Canada a dû payer pour une erreur de tarification commise par son chatbot de relation client. Un tribunal a ordonné à la compagnie aérienne de payer environ 600 dollars au client lésé.
Ces deux exemples montrent que les entreprises doivent investir dans le contrôle de leurs outils d’IA dont elles sont responsables. Et ce, afin d’éviter les dérives et les éventuelles poursuites, sans parler du bad buzz. Même les plus grands groupes de la tech courent de sérieux risques. Après qu’OpenAI a lancé son dernier modèle, GPT-5, plusieurs équipes de sécurité ont réussi à jailbreaker le chatbot en moins de 24 heures après sa sortie, rapporte Cybernews.
Qu’est-ce que le jailbreaking en IA ?
C’est la question que nous avons posée à… ChatGPT.
« Le jailbreaking en IA désigne une pratique qui consiste à contourner les règles, filtres ou garde-fous mis en place sur un modèle d’intelligence artificielle (comme un chatbot) », répond-il.
« Les systèmes comme moi sont conçus avec des limitations de sécurité, pour par exemple refuser de générer du contenu illégal, violent ou dangereux », ajoute-t-il.
Des individus malveillants créent ainsi des messages pour inciter l’IA à ignorer les règles de sécurité et à leur fournir du contenu nuisible. Tous les acteurs qui développent des outils d’intelligence artificielle doivent l’anticiper et limiter leur vulnérabilité.
