De nombreux experts constatent l'évolution rapide de l'intelligence artificielle (IA) et s'inquiètent de ses effets sur la démocratie. Pour mieux cerner cette question, l'UIP prépare une série de cinq articles. Dans ce premier texte, le Secrétaire général de l'UIP, Martin Chungong, expose les risques et les opportunités pour la démocratie et explique qu'il faut aller au-delà d'une simple régulation.
Si l'IA crée de nombreuses opportunités, certains de ses aspects sont problématiques. En permettant la prolifération des contre-vérités et des opinions extrémistes, l'IA représente une véritable menace pour nos démocraties. Ces risques ne sont pas vraiment nouveaux : la Grèce antique s'intéressait déjà à la question des fausses informations et de leurs conséquences sur la démocratie. L'IA risque toutefois d'exacerber ces risques de manière exponentielle. Des turbulences sont à craindre.
Bien qu'elle n'en soit qu'à ses premiers stades, mais se développe rapidement, l'IA fait déjà partie de notre quotidien. Impliquant généralement un certain niveau d'autonomie, d'auto-apprentissage et d'adaptabilité, des technologies s'appuyant sur l'IA sont mises en œuvre dans les secteurs de la finance, de la médecine, du service client et d'autres. Chaque fois que nous nous connectons à Internet, des publicités parfaitement ciblées nous accueillent. L'IA a beau être un puissant outil, sa prolifération non régulée rappelle ce qui se passe avec les réseaux sociaux.
Pourquoi ? En laissant se répandre la désinformation, les réseaux sociaux ont entravé les efforts visant à ralentir les changements climatiques, à promouvoir la vaccination ou même à bâtir la confiance entre les communautés. Des individus sans scrupules se servent des réseaux sociaux pour raconter de faux récits, propager la peur et la haine, souvent à l'encontre des femmes. Jusqu'à présent, ces récits sont surtout l'œuvre de certaines personnes, mais on peut s'attendre à ce que l'intelligence artificielle accroisse le volume et la vitesse de la désinformation.
Par ailleurs, l'IA va aussi probablement accélérer l'utilisation et la manipulation des données personnelles selon des méthodes rappelant le scandale Cambridge Analytica. Pour tous ceux qui disposent des moyens financiers nécessaires, l'IA va accélérer l'utilisation des données personnelles en vue de fraudes électorales massives et imparables.
J'imagine bien d'autres façons d'entraver la démocratie si l'IA tombe en de mauvaises mains. Elle pourrait se substituer à la main-d'œuvre humaine, accroître le chômage et créer des conditions propres au fascisme. En procédant à des trucages de haute qualité, elle pourrait provoquer des scandales politiques à la veille d'importantes élections. Ou bien, en surveillant et contrôlant des populations agitées, elle pourrait servir à restreindre les libertés démocratiques.
Pour certains experts, l'IA pourrait au bout du compte devenir autonome. Ils craignent qu'elle ne puisse nous tromper, nous contrôler ou nous détruire.
NE PAS TOMBER DANS LA SINISTROSE
Il ne faut toutefois pas céder à nos peurs et rien n'est inévitable.
L'usage néfaste des réseaux sociaux s'apparente à un premier test de résistance, un avant-goût des défis que l'IA peut encore engendrer. Les processus démocratiques et les institutions, comme les parlements, font preuve d'une certaine souplesse et d'une capacité d'adaptation rapide. La démocratie subit actuellement des pressions sans précédent, mais, dans le monde entier, les populations continuent de renouveler leurs représentants parlementaires grâce aux élections.
L'IA a également des aspects positifs. Elle peut renforcer le processus démocratique, par exemple en analysant de gros ensembles de données, en identifiant des tendances et en proposant aux responsables politiques des enseignements essentiels. Elle limite les tâches routinières ou fastidieuses, comme le tri des données sur les électeurs ou la création de publicités à caractère politique. Elle peut ainsi assurer la transparence. Le Centre pour l'innovation au parlement de l'UIP relève de plus en plus d'exemples montrant comment les parlements maîtrisent les nouvelles technologies, l'IA par exemple, et s'en trouvent renforcés.
Pourquoi l'IA ne devrait pas être mise à profit si le but est louable et permet de relever certains défis parmi les plus complexes, par exemple les changements climatiques, la destruction de l'environnement, la perte de confiance et l'accroissement des inégalités ? Cela aiderait également nos démocraties et leur permettrait de mieux répondre aux besoins de la population.
RÉGULATION
Une régulation est toutefois inévitable et les parlements doivent jouer un rôle essentiel. Non seulement des dirigeants d'entreprise, des universitaires et des experts la réclament, mais, d'après ces derniers, des systèmes d'IA dotés d'une intelligence concurrençant celle des humains pourraient un jour menacer l'humanité. L'IA évolue rapidement et le pire est malheureusement possible. Se tourner vers la prudence est la bonne attitude.
Les nouvelles technologies sont cependant difficiles à réguler, surtout si elles évoluent vite. Les régulateurs devront mettre en balance les risques et les opportunités. S'agit-il d'interdire carrément l'IA parce que les risques encourus, même s'ils sont improbables, peuvent être catastrophiques ? Ou bien s'agit-il d'imposer des directives et de profiter des opportunités ?
L'Union européenne va de l'avant en matière de régulation de l'IA, mais d'autres restent à la traîne. À mon avis, cette question implique toutefois plus qu'une régulation.
La régulation n'est pas forcément synonyme de restrictions. En revanche, nous pourrions utilement encadrer l'IA et protéger nos démocraties, si nous enseignons aux gens à repérer la désinformation, si nous réglementons l'utilisation des données personnelles et si nous protégeons nos parlements, nos médias et d'autres institutions démocratiques. Nous serons plus forts ensemble si nous nous mettons d'accord sur des directives et des référentiels, et les partageons, si nous collaborons avec les entreprises et la société civile et entretenons un dialogue continu entre les pays. L'UIP, organisation mondiale des parlements, facilite déjà cette mise en commun et ce partage des connaissances.
L'IA posera certainement d'autres problèmes, mais je demeure respectueusement confiant dans la résilience de la démocratie. Comme beaucoup d'autres nouvelles technologies, l'IA doit être soigneusement encadrée, mais l'Histoire nous enseigne que les démocraties sont tout à fait à la hauteur de l'enjeu.
