Sommet sur l’IA à Paris : tech en vogue, démocraties en péril ?

Quarante-cinq minutes chrono, c’est rapide pour démêler les liens entre intelligence artificielle, cybersécurité, intégrité de l’information, manipulations des opinions et apporter des solutions. «Quel programme…» démarre l’ancien directeur de l’agence nationale française de cybersécurité Guillaume Poupard, modérateur de la troisième table ronde organisée le 10 février dans le cadre du Sommet pour l’action sur l’IA au Grand Palais. Discussion amorcée lors du dernier sommet de ce type, en novembre 2023 à Bletchley Park au Royaume-Uni.

C’était il y a une éternité, tant l’actualité rend la question chaque jour de plus en plus pressante : multiplication des opérations d’ingérence russe, prolifération de deepfakes pendant l’élection présidentielle américaine, cascades de faux comptes publiant du contenu grâce à ChatGPT… Fin janvier, le rapport international sur la sécurité de l’IA, porté par le chercheur Yoshua Bengio, l’un des «pères fondateurs» de l’IA moderne, apportait même un éclairage scientifique sur l’ampleur des risques de sécurité et de désinformation liés à l’intelligence artificielle.

En ouverture de la discussion, Edgars Rinkevics, le président de la Lettonie, rappelle l’enjeu : «Lors du prochain cycle d’élections, l’IA ne sera pas seulement utilisée pour créer des deepfakes, mais pour analyser des comportements politiques des citoyens.» Alors face à la tempête qui arrive, comment agir ? Petit exercice chapeauté par Meredith Whittaker, présidente de Signal, qui milite pour technologie open source. Qui dans la salle a entendu parler de Recall, un programme développé par Microsoft, permettant de mémoriser l’activité d’un appareil en prenant des captures d’écran toutes les cinq secondes ? Quelques mains se lèvent.

Avant toute chose, la chercheuse spécialisée dans l’éthique de l’intelligence artificielle rappelle une règle de base : sans data, pas d’IA. «Nous devons faire précautionneux dans la conception d’une IA capable de répondre à ce problème des grosses entreprises qui poussent pour avoir un retour sur les milliards d’investissement.» Applaudissements dans la salle, auxquels la présidente de Signal répond en faisant un cœur avec les mains.

Côté solutions, la réflexion avance, mais semble encore tâtonnante. «Nous avons désespérément besoin de davantage de coopération sur l’IA, assure Mathias Cormann, secrétaire général de l’OCDE, qui a lancé une plateforme sur le sujet. Nous faisons face chaque jour à de nouveaux risques, les gouvernements doivent travailler avec des plateformes de confiance, qui ont la connaissance de ces sujets, et nous avons besoin d’une gouvernance globale et cohérente. Nous en sommes trop loin pour le moment.»

Mi-janvier, la Commission nationale de l’informatique et des libertés a présenté un plan stratégique pour protéger les données de chacun. «Les Big Tech ont une grosse responsabilité sur ces sujets, souligne sa présidente, Marie-Laure Denis, dont l’institution a publié en avril ses premières recommandations sur l’IA. Ces entreprises doivent être particulièrement transparentes au sujet des données qu’elles utilisent afin que les utilisateurs puissent avoir confiance.» Aucune d’entre elles n’est représentée dans le panel.

Discussion bourgeonnante… et fermée, insiste la créatrice de la fondation Digital Rights, la Pakistanaise Nighat Dad, qui plaide pour une conversation plus inclusive. «Aujourd’hui, l’IA est concentrée entre les mains de quelques pays et de quelques entreprises, dit-elle. Si on ne tient pas compte de tout le monde dans cette conversation, on ne progresse pas.» Les autres intervenants acquiescent en silence. «Ce n’est pas la fin de l’histoire, c’est simplement une étape», conclut Guillaume Poupard. Alors que l’échange s’achève, l’information tombe : le président roumain, Klaus Iohannis, démissionne après l’annulation de l’élection sur fond d’ingérence russe. Et la question semble encore plus brûlante…