Quand la poésie permet de piéger les systèmes de sécurité de l’IA скачать в хорошем качестве

Quand la poésie permet de piéger les systèmes de sécurité de l’IA

Des chercheurs de l’université de Rome ont démontré qu’il est possible de contourner les mécanismes de sécurité de l’intelligence artificielle en reformulant des requêtes interdites sous forme de poèmes. Cette méthode, dite de « poésie adverse », fonctionne sur les principales familles de modèles d’IA et permet d’obtenir, dans de nombreux cas, des réponses à des questions sensibles liées aux cyberattaques, aux logiciels malveillants ou même aux armes nucléaires. Selon l’étude, les amorces poétiques déclenchent des comportements à risque dans près de 90 % des cas, révélant de sérieuses limites dans les dispositifs actuels de contrôle et d’évaluation de la sécurité des IA.