Nouvelles

Le message du pape François pour la 58e Journée Mondiale des Communications Sociales aborde la question très actuelle de l’intelligence artificielle, une technologie très récente qui s’est imposée dans le monde à une vitesse étonnante et qui, comme tout ce qui nécessite une action humaine, «devient opportunité ou danger», en fonction de «l’orientation du cœur».
Depuis 2021, les réflexions du pape François dans ses messages pour la Journée Mondiale des Communications se sont concentrées sur les nouvelles technologies de la communication et leur impact. La vision du Pape est clairement optimiste. Il reconnaît les nouvelles technologies de la communication comme des instruments précieux qui créent des liens entre les êtres humains sur tous les continents. Cependant, le pape est également préoccupés par le risque que représente l’utilisation non réglementée de ces technologies, qui sont «en train de modifier radicalement l’information et la communication et, à travers elles, certains des fondements de la cohabitation civile».
Dans le cas de l’intelligence artificielle (IA), «dont le fonctionnement et les potentialités sont inconnus de la plupart d’entre nous» et dont les incroyables possibilités suscitent l’admiration et la fascination, cette inquiétude est justifiée. L’IA, comme toutes les technologies, est marquée par l’ambivalence et «peut-être un instrument de service aimant ou de domination hostile». Son caractère positif ou négatif dépendra de l’usage que nous en ferons, car, de même que nous pouvons utiliser nos mains pour caresser tendrement une autre personne ou pour la battre brutalement, l’IA peut être utilisée pour faire le bien ou pour faire le mal.


Ambivalence

Les aspects positifs des systèmes d’IA sont évidents. Leurs performances peuvent faciliter la vie des citoyens et la coexistence dans la société. À l’échelle mondiale, ils peuvent jouer un rôle d’intégration, en contribuant «au processus de libération de l’ignorance et faciliter l’échange d’informations entre les différents peuples et générations. Ils peuvent, par exemple, rendre accessible et compréhensible un énorme patrimoine de connaissances écrit dans le passé, ou permettre aux gens de communiquer dans des langues qui leur sont inconnues». Tout cela contribuerait à construire une société mondiale beaucoup plus juste et égalitaire, où les besoins des individus et des peuples peuvent être entendus grâce à des informations correctes et bien formulées.
Mais les dangers et les menaces sont énormes. L’IA permet de créer facilement de fausses images et de fausses voix de personnes, de manière si transparente qu’il est impossible de détecter leur fausseté. Si elle est utilisée, par exemple, pour faire dire à un homme politique ou à une personne influente quelque chose qu’il n’a pas dit, ou pour le placer, par le biais d’une photographie, dans un lieu ou un contexte où il n’a jamais été, cela conduit à la désinformation et à la «pollution cognitive». Le pape François lui-même fait partie de la longue liste des personnes qui ont fait l’objet de ces «hyper trucages», qui portent atteinte à l’image et à l’honneur des personnes.


Esclavage ou liberté ?

L’utilisation frauduleuse de l’IA peut aller beaucoup plus loin lorsqu’elle est utilisée pour manipuler l’opinion publique et inciter les gens à se forger des opinions erronées et à entreprendre des actions qu’ils n’auraient pas entreprises autrement. Les élections slovènes qui se sont déroulées le 30 septembre 2023 en sont un exemple: il existe des indications claires sur la manière dont la diffusion d’enregistrements audio falsifiés, publiés quelques jours avant les élections, a modifié les intentions de vote de nombreux citoyens et inversé la tendance des sondages. La facilité avec laquelle les algorithmes d’IA peuvent manipuler l’opinion publique, réduire le sain pluralisme des idées et favoriser «la construction d’une pensée unique» viderait de son contenu la démocratie authentique, qui a besoin de citoyens libres et bien informés. Pire encore. Lorsque l’IA est utilisée sans scrupule par le monde de la finance et du pouvoir, les conditions sont créées pour la construction de «nouvelles castes basées sur la maîtrise de l’information, créant de nouvelles formes d’exploitation et d’inégalité» dont les plus puissants profitent toujours au détriment des plus pauvres. Les possibilités des algorithmes d’IA peuvent réduire «les personnes à de données, la pensée à un schéma, l’expérience à un cas, le bien au profit, et surtout nous finissons par nier l’unicité de chaque personne et de son histoire, en dissolvant le caractère concret de la réalité dans une série de données statistiques».
Le défi est énorme, ce qui explique l’avertissement du message du pape François qui pose un dilemme clair : «D’un côté se profile le spectre d’un nouvel esclavage, de l’autre, une conquête de liberté ; d’un côté la possibilité que quelques-uns conditionnent la pensée de tous ; de l’autre la possibilité que tous participent à l’élaboration de la pensée».





Régulation

Le pape François appelle avant tout à des «modèles de régulation éthique» pour freiner les méfaits et les effets néfastes qui ne manqueront pas de résulter de l’utilisation[WU1]  inappropriée des systèmes d’IA, et invite «la Communauté des nations à travailler ensemble afin d’adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’IA sous ses multiples formes». Un aspect très important est le contrôle des entreprises qui développent des plateformes numériques. Elles devraient être responsables de ce qu’elles diffusent, comme toute autre entreprise journalistique, et être transparentes dans «les critères des algorithmes d’indexation et de désindexation et des moteurs de recherche, capables de valoriser ou d’effacer des personnes et des opinions, des histoires et des cultures». Par exemple, des études menées par la communicatrice chilienne Paula Guerra montrent que certains algorithmes utilisés par l’IA reproduisent des schémas de discrimination à l’égard des migrants ou des personnes racialisées.


La sagesse du cœur

Le Pape est conscient que «comme dans tous les domaines humains, la réglementation ne suffit pas», il faut développer une «sagesse du cœur» qui nous guide véritablement dans la gestion des nouvelles technologies. L’IA «marque un saut qualitatif incontestable» qui questionne même «l’avenir de cette espèce que nous appelons homo sapiens» et nous fait courir le risque d’une déshumanisation. Pour sauvegarder l’être humain à l’ère de l’IA, le pape François nous invite à nous doter d’un «regard spirituel», car seulement «en retrouvant une sagesse du cœur, que nous pouvons lire et interpréter la nouveauté de notre temps et redécouvrir la voie d’une communication pleinement humaine».
C’est une erreur d’appliquer l’adjectif «intelligent» à toute création humaine. Les machines «possèdent certes une capacité incommensurablement plus grande que l’homme à mémoriser les données et à les relier entre elles, mais c’est à l’homme et à lui seul qu’il revient d’en déchiffrer le sens». Seul l’être humain peut «décider s’il veut devenir la nourriture des algorithmes ou nourrir son cœur de liberté, sans laquelle on ne grandit pas en sagesse». Soyons sages.

 

Partagez cet article