Les diplomates de l'ONU piégés par des deepfakes... pour la bonne cause

La Suisse, le Comité de la Croix-Rouge internationale (CICR) et l'École polytechnique de Lausanne ont imaginé l'exposition Deepfake and You, petit labyrinthe installé en ce moment à l’entrée des Nations unies à New York et dans laquelle les diplomates se font piéger. Le but est de mieux leur faire comprendre l'importance d'encadrer l'intelligence artificielle (IA) qui permet de construire ces deepfakes, sinon, ce sujet reste trop abstrait pour beaucoup. Alors, comment leur fait-on comprendre ?

Le long du labyrinthe, on comprend que la réalité altérée ne date pas d'aujourd'hui. Des peintres de la Renaissance le faisaient déjà, ainsi que des des photographes du début du siècle. Mais on se rend bien compte que tout cela prenait du temps, beaucoup de temps à trafiquer. Alors qu'en quelques minutes seulement, une webcam et l'intelligence artificielle auront capturé votre visage, et à la fin du labyrinthe, vous vous retrouvez face à vous-même… mais c'est une autre voix qui sort de votre bouche !

Une voix qui explique que cette vidéo manipulée peut être alors utilisée pour demander une rançon à votre famille, ou vous faire tenir des propos qui ne sont pas les vôtres sur les réseaux par exemple. Une expérience immersive nécessaire pour bien comprendre le deepfake, comme l'explique Gaël Hürlimann, de l'école polytechnique de Lausanne :

« Ça sert à ce que vous compreniez vraiment ce que sont les deepfakes, Parce que même si vous en avez entendu parler à la radio ou à la télé, là, c'est vous qui êtes victime. L'idée, c'est qu'ils soient conscients de ce qu'on peut faire avec des moyens techniques relativement légers. Ici, nous n'avons que des ordinateurs qui ne sont pas connectés à internet. Imaginez ce que vous faites avec 100 fois cette puissance de calcul, un peu plus de temps, des vidéos prises dans de meilleures conditions... Vous pouvez faire un deepfake quasiment indétectable à l'œil nu. »

À lire aussiDeepfake et faux média, Kamala Harris ciblée par une opération de désinformation

Cibler et sensibiliser les diplomates

Philippe Stoll, est techplomate au CICR, c'est-à-dire un diplomate spécialisé dans les nouvelles technologies. Il s'agit d'un nouveau métier : on compte une quarantaine d'ambassadeurs « techplomates ». Cela dit bien l'importance que la technologie a sur la géopolitique. Sensibiliser les diplomates classiques est primordial, parce qu'ils ont un pouvoir de décision dans les négociations. Or, il faut qu'ils comprennent bien les enjeux. Pour cela, tous les moyens sont bons, y compris cette exposition immersive, comme l'explique Philippe Stoll :

« Un bombardement, la torture, même si on ne l'a pas vécu, on le ressent. Quand on parle de cybersécurité, de data-protection, même de deepfake, ça reste abstrait. L'idée de cette exposition est de la rendre la plus tangible possible pour qu'il y ait potentiellement une action. »

Pourtant, la technologie évolue plus vite que la loi. Ne serait-il pas trop tard pour sensibiliser ces négociateurs ? Les standards de l'intelligence artificielle ou autres traités sur l'IA sont seulement en discussion. Mais pour Philippe Stoll, il n'est pas trop tard pour faire pression : « Si on ne le fait pas, personne ne le fera. Donc c'est de notre responsabilité d'essayer d'amener les sujets dont on voit les conséquences sur le terrain au niveau multilatéral, c'est important. »

Le chemin sera compliqué, car très politique. Pour rappel, l'ONU a proposé d'établir sous son égide une grande agence pour réguler l'IA, un peu à l'image de ce qu'est l'AIEA pour l'énergie atomique. Pour l'instant, les grandes puissances, Russie, États-Unis et Chine en tête, ne veulent pas en entendre parler.

À lire aussiLe deep fake, outil de désinformation sur les réseaux sociaux