Ce lundi 22 septembre, un appel international d’une ampleur inédite a été publié pour demander « des lignes rouges claires et vérifiables » afin d’endiguer « des risques jugés universellement inacceptables ».
Alors que l’intelligence artificielle suit une progression plus qu’exponentielle, elle pose des risques existentiels qui menacent la société à divers égards.
C’est dans ce contexte d’urgence que « l’Appel mondial à établir des lignes rouges pour l’IA » a été lancé. Il sera présenté au siège des Nations unies lors de la 80ᵉ session de l’Assemblée générale, témoignant d’une volonté générale de légiférer rapidement sur cette technologie.
La course actuelle vers des systèmes d’IA toujours plus performants et autonomes présente des risques majeurs pour nos sociétés et nous avons besoin de toute urgence d’une collaboration internationale pour y faire face. L’établissement de lignes rouges est une étape cruciale pour prévenir les risques inacceptables liés à l’IA.
Yoshua Bengio (Prix Turing)
Un rassemblement d’une élite mondiale de tous horizons
Ce ne sont plus de 125 personnalités de premier plan qui portent cet appel :
- Des prix Nobel comme Geoffrey Hinton, Ahmet Üzümcü, Jennifer Doudna, Sir Oliver Hart, Joseph Stiglitz, Daron Acemoğlu, Giorgio Parisi.
- Des prix Turing comme Geoffrey Hinton, Yoshua Bengio, Andrew Chi-Chih Yao, Joseph Sifakis.
- D’éminents chercheurs du milieu de l’IA comme Ian Goodfellow de DeepMind (Google), Daniel Kokotajlo (OpenAI), Dan Hendrycks (Xai), Tan Zhi Xuan (Université de Singapour).
- Des personnalités politiques comme Csaba Kőrösi (77ᵉ président de l’Assemblée générale des Nations Unies), Anna Ascani (Vice-présidente de la chambre des députés italienne), Enrico Letta (ancien Premier ministre italien), Mary Robinson (ancienne présidente d’Irlande).
À ces personnalités s’ajoutent plusieurs dizaines d’organisations, incluant des universités prestigieuses, des centres de recherche de pointe, des ONG engagées et des acteurs du secteur technologique. Nous soulignons la représentation multilatérale des deux pays les plus avancés en IA : la Chine et les États-Unis.
Cet appel, loin d’une initiative isolée, est un mouvement mondial qui laisse de côté les clivages politiques et idéologiques, unissant ceux qui comprennent les enjeux profonds de l’IA afin de protéger l’humanité des dangers de l’IA.
Il est dans notre intérêt commun vital d’empêcher l’IA d’infliger des dommages graves et potentiellement irréversibles à l’humanité, et nous devons agir en conséquence.
Ahmet Üzümcü (Prix Nobel)
Des « Lignes Rouges », une nécessité absolue face aux risques émergents
Le document ne mâche pas ses mots : « L’intelligence artificielle (IA) recèle un potentiel immense pour le progrès humain, mais sa trajectoire actuelle présente des dangers sans précédent. »
Divers scénarios sont évoqués pour illustrer les risques que les experts craignent :
- les pandémies artificielles : les utilisateurs pourraient en effet user de l’IA pour se faire guider dans l’élaboration de substances dangereuses, voire mortelles à grande échelle.
- la désinformation à grande échelle : car l’IA offre plus facilement que jamais la création d’images entièrement fausses pouvant aller jusqu’à déstabiliser un pays et l’équilibre mondial. À ce titre, le pape Léon XIV fait l’objet d’attaques importantes par diverses chaînes YouTube qui utilisent ses images en falsifiant ses paroles pour lui faire prononcer des discours parfois anti-catholiques.
- la manipulation massive d’individus (y compris des enfants) : l’IA montre en effet des capacités extrêmement puissantes de stratégie de communication et de persuasion rendant l’homme extrêmement vulnérable face aux discours de l’IA.
- le chômage de masse : si l’IA est conçue dans le but de dépasser l’homme dans toutes ses capacités, il semble évident qu’il ne restera plus beaucoup de place pour le travail humain. Il pourra difficilement rivaliser en termes de coût.
- la violation systématique des droits humains : la Chine est souvent prise comme exemple. Seulement, le risque zéro tend à être impossible si on laisse la machine prendre le contrôle de nos vies, quitte à nous surveiller en permanence ou en usant d’autres techniques intrusives.
- les menaces pour la sécurité nationale et internationale : l’IA peut être utilisée pour mener des cyberattaques automatisées, automatiser des systèmes d’armement ou perturber des infrastructures.
Des systèmes d’IA avancés ont déjà montré des comportements trompeurs et nuisibles, et pourtant, une autonomie croissante leur est accordée dans la prise de décisions. À ce titre, les experts sont unanimes : il devient de plus en plus difficile d’exercer un contrôle humain significatif si cette tendance n’est pas freinée.
Face à cette réalité, l’appel exhorte les gouvernements à agir de manière responsable et décisive « avant qu’il ne soit trop tard ». Ce qui est demandé ? « Des lignes rouges claires et vérifiables sont indispensables » s’appuyant « sur les cadres juridiques mondiaux existants […] en veillant à ce qu’elles soient opérationnelles, avec des mécanismes d’application robustes ».
L’objectif est très clair : parvenir à un accord politique international opérationnel « d’ici la fin de l’année 2026 ». En d’autres termes, il s’agit là d’une véritable course contre la montre pour éviter que la machine n’échappe au contrôle humain.
Un appel qui s’inscrit dans la continuité des travaux du Vatican
Si l’appel montre une réelle prise de conscience de la communauté scientifique, technique et politique, les autorités religieuses de l’Église catholique ne sont pas en reste.
Récemment, dans le cadre de la rencontre mondiale sur la fraternité humaine, le Vatican a réuni des chercheurs pour discuter de la place de l’homme dans un monde d’IA. Parmi les chercheurs présents : Yoshua Bengio, l’un des signataires de « l’Appel mondial à établir des lignes rouges pour l’IA ».
À ce jour, le Vatican est le seul État au monde à s’être positionné officiellement en faveur de la régulation de l’IA. À ce titre, il fait figure de référence chez tous les experts en sécurité de l’IA. Cette convergence à l’échelle internationale de la science et de la politique, indépendamment des oppositions et des divergences, souligne le caractère universel de la question.
C’est sur cet aspect que l’Église catholique reste fidèle à sa vocation et démontre sa capacité à partager un message véritablement universel. Sa sagesse et sa tradition lui offrent une perspective unique sur ces enjeux, et lui donnent une position privilégiée pour rappeler à tous la nécessité que la technologie reste au service de l’homme.
Les catholiques ont donc un rôle majeur à jouer en cette période d’incertitude.