CyberÉthique

🔗 De la saisie vocale en toute confidentialité ?

Thu, 01 Dec 2022 00:00:00 +0100

Saisie vocale et confidentialité, c’est ce qu’offre SayBoard pour votre smartphone !

ChatGPT

Fri, 20 Jan 2023 00:00:00 +0100

L'arrivée de ChatGPT, un programme informatique capable de générer des textes automatiquement, soulève des questionnements éthiques. En effet, en imitant de manière réaliste l'intelligence humaine, il peut rendre difficile la distinction entre ce qui est généré automatiquement et ce qui est écrit par un humain. Cela peut avoir un impact sur les relations humaines et remet en question la nature même de la communication et de l'expression. Il est donc important de réfléchir aux conséquences éthiques de son utilisation.

Telle est l'introduction rédigée par ChatGPT après quelques questions sur le danger qu'elle représente... À deux doigts de lui dire merci comme à un ami, qui aurait cru il y a un an que les intelligences artificielles ont atteint ce niveau ? Mieux encore, qu'il suffirait de moins d'un mois pour qu'avec enthousiasme, elle soit massivement utilisée ? En revanche, il eut été facile de prédire qu'avec un tel outil la paresse des humains pourrait enfin prendre toute la place qu'on lui laisse.

ChatGPT a été rendu public fin novembre 2022, et n'a en réalité rien de révolutionnaire. En effet, il est basée sur GPT-3, qui est un modèle de traitement naturel de langage (IA spécialisée dans le traitement de texte) sorti en 2020. Pour information, GPT-3 était déjà capable de rechercher de l'information, traduire, résumer, reformuler, rédiger des textes et même faire un peu de programmation. Les capacités de ChatGPT sont à quelques différences près, équivalentes à GPT-3. La principale différence est dans la manière d'utiliser l'IA. ChatGPT a été optimisé pour fonctionner sous la forme de conversation, et son interface (graphique) permet à tout le monde de l'utiliser facilement, contrairement à GPT-3 qui nécessitait quelques lignes de code.

Bien que la principale différence réside dans l'interface, cette simple amélioration est en train d'opérer des changements majeurs dans notre rapport aux technologies, et dans le rapport qu'ont les humains au réel. Quelques semaines après la mise à disposition de cet outil, les étudiants, les professionnels et les particuliers se sont mis à l'utiliser. Au début c'était pour s'amuser, pour voir si ça marche vraiment. En réalité, c'est un outil bien différent des autres.

Avant, pour trouver une information, il fallait chercher. Avec cet outil, il n'y a plus à chercher, on trouve immédiatement. Avant, pour écrire un texte, pour mettre sa pensée sur une feuille, il fallait réfléchir, chercher et trouver les mots. Maintenant, on écrit vaguement ce qu'il faut faire, puis on dit ce qu'il faut corriger, sans même plus chercher à le faire nous-même.

Si nous continuons à terme dans cette folie qu'est la délégation de nos intelligences et volontés aux machines, le monde interagira de moins en moins par des humains, mais par des machines. Imaginez un monde où si vous devez recruter quelqu'un, ni son CV ni sa lettre demotivation n'ont été rédigés par cette personne, que les devoirs de vos élèves ne sont pas non plus le fruit de leur apprentissage et réflexion, que le logiciel que vous exécutez n'est pas le travail d'un développeur, ou encore que les articles de presse que vous lisez n'ont rien d'une réflexion venant d'un être humain. C'est pourtant ce qui est en train d'arriver si personne ne se donne de limite dans l'usage des technologies.

On croit que ce ne sont que des machines. De fait, avons-nous bien conscience de ce qui est à l'origine de ces intelligences artificielles, et comment elles fonctionnent ? Qui est vraiment conscient en l'utilisant que ce ne sont que des probabilités mathématiques savamment utilisées qui sont à l'origine des résultats ? Et quand bien même la réponse de cette IA donne l'impression d'être le fruit d'une réflexion humaine, en réalité, jamais aucune conscience n'aura été derrière ce résultat.

Or, c'est bien ce qui distingue l'homme de la machine (et des animaux), et qui lui donne une place prépondérante dans la création. Ce qui est propre à l'homme, c'est son intelligence et sa volonté. Si nous les laissons entre les mains d'une machine par simple paresse, c'est bien notre nature même que nous arrêtons d'accomplir, c'est notre humanité que nous perdons. Ne nous laissons pas perdre dans l'excitation d'une nouvelle technologie et sachons avec la plus grande force respecter notre nature en l’accomplissant vers sa fin. La technologie demande une vraie maturité pour l’utiliser sainement.

Adoption des technologies

Mon, 10 Jul 2023 00:00:00 +0200

Il a fallu 10 mois à Facebook pour atteindre 1 million d'utilisateurs ;

Il a fallu 5 jours pour ChatGPT... Et 2 mois pour qu’il atteigne 100 millions d'utilisateurs.

Threads a mis 5 jours pour atteindre les 100 millions d'utilisateurs...

Cette accélération de l’adoption des technologies s'explique par la convergence de plusieurs phénomènes.

Tout d'abord, l'ascension exponentielle des technologies. Les technologies adoptées précédemment aident à l'adoption des technologies suivantes. Par exemple, pour prendre connaissance de l'existence des réseaux sociaux et de leurs fonctionnalités, il fallut passer par des voies plus lentes telles que les journaux ou le bouche-à-oreille. Dans le cas présent, ChatGPT peut profiter des réseaux sociaux existants pour se faire connaître d’un très grand nombre de personnes en quelques jours seulement. Ainsi, la masse prenant connaissance de son existence par l’intermédiaire des réseaux sociaux est finalement amenée à l'essayer.

Il s'agit donc d'un phénomène d'accélération relativement naturel.

Le second phénomène, purement technique, est le fait que les nouvelles technologies soient développées par des entreprises auxquelles un grand nombre d'utilisateurs ont déjà souscrit. Cela n'est pas le cas de ChatGPT où seuls les passionnés d'IA avaient déjà un compte chez OpenAI. Mais dans le cas de Threads, développé par Facebook, il est possible d’utiliser le même compte qu'Instagram (développé par la même entreprise). De cette manière, l'adoption du nouveau réseau social est simplifiée par un avantage uniquement technique. Lorsque l'utilisateur arrive sur son nouveau compte, il a l'impression d'y avoir toujours été en retrouvant notamment le même nom d'utilisateur, ainsi que les comptes qu'il suivait sur l'autre réseau social.

Il s'agit ici d'un phénomène artificiel et commercial qui pousse l'utilisateur à adopter une nouvelle plateforme par pure simplicité.

Le dernier phénomène lève de son côté un problème beaucoup plus profond : celui de l'imprudence.

C'est cette attitude de plus en plus systématique qui consiste pour l'utilisateur à adopter une technologie sans se poser la question ni de son utilité, ni de sa nécessité, ni de ses travers. Les personnes n'adoptent plus tant les technologies pour les services qu'elles rendront que pour le changement qu'elles impliquent, la nouveauté à découvrir. Cette nouveauté à découvrir est dans un premier temps dans l'application en elle-même et dans un second temps dans le contenu massif créé que l'utilisateur découvrira à chaque ouverture de l'application.

Cette prudence qui devrait nous amener à mesurer l'utilité des nouvelles technologies ainsi que leurs impacts disparaît au profit d'un usage plus impulsif. Ceci est d'autant plus vrai qu'il s'agit ici du service « Threads » qui consiste, comme Twitter, à envoyer des messages limités à 280 caractères. Ce service ne permet donc pas d'exprimer une idée de manière complète, la pensée devant être résumée en seulement 280 petits caractères. Ce n'est pas pour rien que l'entreprise s'appelle Twitter : gazouillis. Les utilisateurs ne sont plus là pour s'instruire, mais pour réagir, pour piailler... Difficile de justifier l’utilité de ces applications au regard des dangers qu’elles apportent.

L'adoption massive et très rapide de ChatGPT, et aujourd'hui de Threads, est révélateur d'une société qui tend à ne plus construire de réflexion, à ne plus prendre le temps de l'expression, et sombre dans l'instantanéité et le changement perpétuel.

Moralité de la puce sous cutanée

Wed, 06 Sep 2023 00:00:00 +0200

Un article de France TV Info relance le débat sur la puce RFID implantée dans la main. Elle pose évidemment de nombreuses questions éthiques.

Plusieurs associations de défense des droits de l'homme et la CNIL la considèrent comme une atteinte aux libertés individuelles, à la vie privée et à la protection des données.

En cette même période, l’Europe est en train de déployer l’identité numérique. Alors même qu'elle était en phase de test, elle a été rendue obligatoire pour utiliser le compte CPF, contre toutes les promesses faites plus tôt. La France travaille également à fusionner la carte d'identité et la carte vitale. En même temps, l'euro-numérique Cash+, encore en phase d'étude par l’Europe, tend à proposer un nouveau moyen d'échange de monnaie pour remplacer l'argent liquide.

L'article de France Info propose de fusionner la carte bancaire et le corps biologique avec une puce implantée. Ne serait-il pas logique aussi d’y ajouter la carte d’identité et la carte vitale ? Probablement. Même si ce n'est pas encore explicitement dans le débat.

Le problème de cette technologie est double : d'une part technique, parce qu'il pose question quant à sa mise en œuvre. D'autre part idéologique, sur les raisons qui motivent de telles implantations.

Le problème technique :

Comme le souligne brièvement un article de 01Net, l'implant pose deux problèmes : la sécurité et la vie privée. Pour le premier, c'est en réalité une question qui se pose sur toutes technologies, implantée ou non. Des solutions seront sûrement trouvées dans le temps.

Le second problème est quant à lui plus complexe. Car c'est la conception même de la technologie qui est remis en cause. Par nature, une puce RFID ne peut pas émettre de signaux à plus d’un ou deux mètres. Ainsi, en pleine forêt, l’homme serait protégé de tout suivi géographique (hormis avec un smartphone non protégé). Il n’en reste pas moins qu’avec une dizaine d’identifications par jour (par exemple dans les bus, commerces, usage de la puce, etc.), le suivi reste extrêmement précis. Nous pouvons raisonnablement estimer ce suivi à un « pointage » par heure. Ce qui est suffisant pour comprendre le comportement des personnes.

En résumé, si la puce sert de carte d’identité, de carte bancaire et de carte vitale, elle permettra en même temps de suivre précisément tous les achats, les déplacements et actions de la personne, et d’y corréler son dossier médical. Ainsi, la vie privée n’est plus protégée que par la confiance totale que nous devrons donner aux différentes institutions. Car, si ces questions se posent déjà avec le smartphone, il y avait encore la possibilité de configurer celui-ci comme nous le souhaitions. Il existait toujours la possibilité de se détacher physiquement de son smartphone, de le prêter, de se différencier de lui. La puce sous-cutanée ne permettra pas de se détacher de ces suivis.

Le problème idéologique :

La vie privée est un problème de fond que soulève la mise en place technique de la puce sous-cutanée. Par ailleurs, il y a un problème idéologique, qui révèle les fondements désastreux de nos sociétés.

Car la puce sous-cutanée, c’est également le début de la fusion de l’homme et de la machine. Le but n’est pas d’utiliser une technologie pour guérir une maladie, mais bien d’augmenter les capacités humaines. Ce n’est pas seulement un « artifice » dont on peut se servir et se séparer comme on le souhaite. Korben, un blogueur dans le domaine de l’informatique, écrivait déjà en 2006 « Ce n’est pas la machine qui s’adapte à l’homme mais l’homme qui s’adapte à la machine en acceptant une puce électronique en lui. »

De fait, la puce sous cutanée est une nouvelle fonction intégrée au corps humain, intégré aux individus, leur permettant de payer.

C’est aussi un moyen de prouver à des entités privées ou publiques que l’utilisateur est bien lui-même : de s’authentifier. Ce qui ne se comprend qu’à la lumière de la numérisation de tous les services administratifs. Ainsi, la puce sous cutanée connecte d’une certaine manière l’individu physique à la machine. Une personne évoluera tant sur Internet, identifié par sa puce, que dans le réel, avec cette même technologie.

En somme, il y a dans l’idée même de puce sous cutanée une logique transhumaniste à l’œuvre. Pour cette raison, son usage n’est moralement pas recevable par l’Église catholique.

Sources :

https://www.francetvinfo.fr/replay-radio/aujourd-hui-c-est-demain/puce-sous-cutanee-nos-cles-ou-notre-carte-bancaire-toujours-a-portee-de-main-avec-un-implant-electronique-dans-la-paume_6030185.html

https://france-identite.gouv.fr/

https://www.lemonde.fr/politique/article/2023/06/01/fusion-carte-vitale-carte-d-identite-l-assurance-maladie-emet-de-tres-fortes-reserves_6175763_823448.html

https://www.ecb.europa.eu/paym/digital_euro/html/index.fr.html

https://www.01net.com/actualites/5-infos-sur-cash-le-remplacant-de-leuro.html

https://www.01net.com/actualites/bientot-tous-equipes-de-puces-sous-la-peau-pour-payer-ouvrir-sa-voiture-etc.html

https://korben.info/comment-detruire-une-puce-rfid.html

🔗 J’installe Linux Mint à côté de Windows ! (Première partie)

Wed, 27 Sep 2023 00:00:00 +0200

Ce tutoriel vous explique pas à pas comment installer Linux Mint à côté de Windows. De cette manière, lorsque vous démarrez votre ordinateur, vous pourrez choisir entre démarrer Windows ou Linux Mint. […]

🔗 J’installe Linux Mint à côté de Windows ! (Seconde partie)

Mon, 16 Oct 2023 00:00:00 +0200

[…] Nous configurerons les dossiers de telle sorte que les fichiers Linux Mint soient les mêmes que les fichiers Windows (ils sont partagés entre les deux systèmes pour simplifier le passage d’un système à l’autre).

Fakenews, réseaux sociaux, vérité, quel est le problème ?

Mon, 04 Mar 2024 00:00:00 +0100

Récemment, une pétition a été publiée pour dénoncer l'existence de la Viginum. La "VIGINUM est le service technique et opérationnel de l'État chargé de la vigilance et de protection contre les ingérences numériques étrangères."¹

Le journaliste dénonce notamment des projets de lois qui visent à « mettre au pas les réseaux sociaux contre les soi-disantes "fake news" ». Selon lui, le pire est la fermeture d’une vingtaine de comptes Telegram russes.

Doit-on mettre sur le même plan la censure d’un média tel que CNews et la censure des réseaux sociaux ? Autrement dit, doit-on donner autant la parole à des instances journalistiques qu’à des utilisateurs de réseaux sociaux ? Enfin, est-il légitime de se protéger contre les ingérences étrangères ?

La problématique soulevée est complexe. Il est important de se poser, de prendre du recul et d’élever le débat pour bien définir ce que nous voulons défendre, les principes auxquels nous voulons rester attaché, sans se prendre dans les filets des menaces réelles qui pèsent sur le pouvoir médiatique contemporain.

Il y a en effet, aujourd'hui, une véritable guerre de l'information qui se mène au niveau mondial, impliquant toutes les grandes puissances ayant des capacités numériques importantes. "La guerre de l’information au sein du cyberespace fait dorénavant partie intégrante de toute stratégie militaire. La lutte informatique d’influence (L2I) désigne les opérations militaires conduites dans la couche informationnelle du cyberespace pour détecter, caractériser et contrer les attaques, appuyer la StratCom, renseigner ou faire de la déception, de façon autonome ou en combinaison avec d’autres opérations."²

La guerre d'influence est donc une guerre militaire qui s'opère sur Internet. Le concept est simple : se battre pour proposer de l'information à certaines populations pour être à la fois plus visible et plus impactant. En d’autres termes, maximiser l’impact de l’information véhiculée afin que l’adhésion du lecteur à l’idée présentée soit maximisée.

Pour être efficace, les services militaires (ou apparentés) peuvent compter sur les algorithmes de recommandation des GAFAM, et autres réseaux sociaux intrusifs. Ces réseaux sociaux espionnent depuis des années leurs utilisateurs, ce qui leur permet de construire des modèles précis des personnalités de chaque utilisateur. De ce fait, le ciblage de l'information peut être extrêmement précis et efficace.

Mais la lutte d'influence ne s'arrête pas là. Elle va aujourd'hui beaucoup plus loin en développant des frappes chirurgicales. Le but est de cibler à un très petit nombre de personnes des informations créées spécifiquement pour ce petit groupe, de telle sorte que son impact soit maximal. Pour cela, les « fabricants de contenu » peuvent s'appuyer sur l'IA, et automatiser les tâches de génération de contenu et d’envoi (et donc ciblage) des messages. Le but : manipuler les personnes pour leur faire changer d'avis, le plus rapidement et efficacement possible.

Y a-t-il un problème lié aux ingérences étrangères ? Oui. Car ils cherchent à nous manipuler. Il semble très juste de combattre ces mouvements informationnels.

Mais en réalité, le problème est double. Il y a un problème soulevé par les manipulations étrangères, mais aussi le problème soulevé par le fonctionnement même des réseaux sociaux.

Si la manipulation marche aussi bien, c'est bien parce que les populations utilisent ces outils intrusifs comme moyen de s'informer. Or, un outil qui cible les informations et qui est capable de manipuler est-il un bon outil pour s'informer ? Bien sûr que non.

Ainsi, la situation a beaucoup changé entre la propagande des années 1930 et celle d'aujourd'hui. Avant, la propagande n'était pas ciblée, elle n'était pas instantanée, elle ne se propageait pas par les réactions des utilisateurs. Et surtout, la propagande ne ciblait pas des individus et ne manipulait pas. Elle influençait, tout au plus.

La différence entre la manipulation et l'influence est complexe. D'un côté, il semble que l'influence consiste à proclamer un discours dans le but de convaincre la personne. Tandis que la manipulation consiste à proclamer un discours de façon à l'imposer insidieusement à l'auditeur. Ainsi, dans le premier cas, c'est la personne qui choisit d'adhérer à l'idée exposée, d'abord par un travail de l'intelligence, puis de la volonté (adhésion à l'idée). Tandis que dans la manipulation, la personne choisit de suivre un mouvement parce que quelqu'un d'autre a su jouer sur des leviers psychologiques et cognitifs pour lui imposer ce changement. Ainsi, le discours ne cherche pas à s'adresser à l'intelligence, mais à la volonté.

En d'autres termes, l'influence est le résultat d'un discours dont l'intention est d'éclairer l'intelligence, et la manipulation est le résultat d'un discours dont l'intention est de modifier la volonté.

Ainsi, l'influence est quelque chose de naturel. Nous sommes influencés par tout, de l'environnement où nous vivons aux discussions que nous avons avec la famille et les amis. Mais la manipulation est quelque chose de contre nature.

De ce fait, les réseaux sociaux qui reposent sur une forme de manipulation de masse sont mauvais. Nous ne devons pas utiliser ces outils comme moyens de suivre l'actualité.

Si nous voulons trouver un moyen simple de suivre l'actualité, il existe des moyens adaptés à cette fin : les flux RSS. Les agrégateurs de flux RSS (comme FlymDesSync, Feeder, NewsFlash) vous permettent de suivre n'importe quel blog compatible (la quasi-totalité). Il n'y a aucun pistage, ni aucun ciblage. Et l'information qu'on y trouve est bien plus souvent développée, argumentée, constructive. De nombreux experts ont leur propre blog et publient leurs réflexions liées à leur domaine de compétence. Ce que ne fait absolument pas – ni ne permet – eXitter³.

Mais le problème de fond que soulève l’action de la Viginum, ce ne sont pas les réseaux sociaux ni la manipulation étrangère – ce sont d’autres problèmes… Le problème, c'est la vérité !

Dans les circonstances actuelles, nous ne devrions jamais parler des questions de manipulation et de censure sans évoquer la question de la vérité.

Vouloir s'opposer à la Viginum parce qu'elle veut défendre la France contre les manipulations étrangères est une mauvaise posture, car cette action est légitime. Il n'est pas possible de justifier son opposition à la Viginum par la suppression des comptes Telegram de réseaux de manipulation russes⁴. Des études ont été faites au préalable et ont montré que ces réseaux se basaient sur des blogs ou des chaînes qui publiaient des articles générés automatiquement (jusqu'à plusieurs centaines d'articles par jour, parfois avec des erreurs de traduction). De plus, des informations techniques permettaient de localiser les serveurs et d’observer que les différentes sources étaient en réalité gérées par la même entité. Ainsi, la clôture des comptes Telegram semble très légitime.

De plus, dans le contexte actuel, il faut voir le cyberespace, matérialisé par les réseaux sociaux, comme un terrain de guerre où les cibles sont nos cerveaux. De ce fait, nous sommes entrés dans un monde extrêmement complexe où le pouvoir doit légitimement nous défendre, y compris dans le champ psychologique et cognitif.

Il semble donc juste de s'opposer à cette désinformation étrangère. Ainsi, il n'y a pas de raison de s'opposer à une instance gouvernementale qui se chargerait de combattre dans le cyberespace les manipulations.

Le problème soulevé par Guy de la Fortelle – auteur de la pétition – sur la Viginum est par conséquent plus difficile à cerner qu’une simple opposition à son existence. Car une partie de l’action de la Viginum est légitime (notamment la clôture des comptes Telegram russes). Mais le problème, ce sont les dérives – évidentes – qui tendent à interdire les opinions non conformes à la vérité définie par le pouvoir en place.

Il faut en effet une sacrée dose d'humilité et d'honnêteté pour savoir respecter une opposition forte, sans chercher à la manipuler – malgré l’accessibilité des moyens. Or le pouvoir en place ne semble pas avoir ces qualités.

Dans cette situation, il n'y a en réalité qu'une seule victime : la vérité. Que ce soit côté russe ou côté occidental, le problème, c'est que ni l'un ni l'autre ne cherche – ni ne défend – la vérité objective. C'est-à-dire, ce qui est conforme à la réalité.

Nous devons nous battre pour avoir le droit de chercher et de connaître la vérité objective… qui n'est ni chez les Russes, ni chez les occidentaux, ni dans la droite, ni dans la gauche, ni chez les climato-sceptiques, ni les climato-alarmistes, ni dans le complotisme, ni dans la parole officielle. Ce qui est commun à tous ces groupes, c'est la manière dont l'information est proposée : le sujet est clivant, et les arguments, peu développés, cherchent davantage à s'opposer qu’à exposer des raisonnements. Rien d'étonnant quand le but n’est pas de défendre la vérité ! On ne cherche pas à savoir ce qui Est, mais à être dans l'opposition !⁵

Par exemple, analysons l’affaire des Macron Leaks évoquée dans la pétition. L'affaire, comme tous les événements depuis des années maintenant, a été traitée de la même manière : d'un côté, des robots et des utilisateurs diffusent l’information massivement ; de l’autre les médias esquivent le vrai débat. Dans le premier cas, les robots excluent totalement le jugement humain censé discerner le vrai du faux. Pour les utilisateurs, l’interface est conçue pour qu’ils réagissent plutôt que pour fournir un effort intellectuel pour se former, et limite ainsi le temps pris pour discerner le vrai du faux. De l'autre, les médias ne détaillent pas le contenu, mais les méthodes utilisées pour véhiculer l'information.

Que ce soit d'un côté comme de l'autre, qui des deux a agi par adhésion à la vérité ? Le robot ? L’utilisateur qui repartage après avoir (au mieux) lu le tweet (c’est-à-dire moins de 400 caractères), mais sans avoir pris connaissance d’une analyse complète, développée et argumentée des mails dévoilés ? Ou les médias qui ont subtilement esquivé la question de fond : quels sont les problèmes soulevés par le contenu des mails du Macron Leaks ?

Certains d’entre nous pensent que les Russes manipulent moins l’information que les occidentaux à notre époque… Mais ce serait oublier l'héritage de l'URSS que Poutine a reçu, lui-même ex-colonel du KGB ! Il serait naïf de croire qu'il ait abandonné ces pratiques. La « guerre d'influence » est née en Russie, dès la fin du 19ème siècle, et a été développée et perfectionnée par les Soviétiques dès leur arrivée au pouvoir. De ce fait, les Russes sont les pionniers dans le domaine de la manipulation, de la compréhension des ressorts cognitifs et dans l'usage de leviers psychologiques. Il serait donc factuellement faux de croire que les Russes manipulent moins ou qu’ils sont plus honnêtes, cela nécessiterait des études très approfondies ou être au cœur de leurs réseaux de décision, au contact de la réalité.

Seulement, dans le monde actuel, les Russes ne sont plus les seuls à être experts dans le domaine. Les GAFAM se sont énormément développés dans ce domaine de compétence depuis leur création. Les États également ont beaucoup appris dans l'usage des moyens de communication (on peut se souvenir des accords de Blum-Byrnes pour la diffusion des films américains en France après la seconde guerre mondiale).

La situation actuelle nous amène à une triste réalité : nous sommes dans l'ère de la post-vérité. La post-vérité, c’est l’indifférence des personnes face à la vérité objective. Dans l’exemple précédent, il est évident que la majorité des personnes ont réagi plus qu’elles n’ont fait un travail pour comprendre la vérité.

Face à cela, nous devons tenir une seule position : rechercher et s'attacher à la vérité objective !

Nous devons retrouver la vérité non dans l'opposition, en adhérant à ce qui s'oppose à autre chose, mais uniquement en adhérant à ce qui est conforme à la réalité.

La vérité est subtile, nous la trouverons bien plus dans les livres que dans les réseaux sociaux. Et surtout, nous ne pouvons la trouver que dans le temps de la réflexion !

Le débat n'est pas de savoir si on peut dire tout ce que l'on veut ou non, si la liberté d'expression peut être légitimement encadrée. Et de ce fait, ce que nous avons le droit de dire ou non, de lire ou non. Si notre argumentaire repose sur le libertarisme de l’expression, alors pourquoi voudrions-nous interdire la pornographie ?

Le vrai débat, c'est d'avoir le droit de réfléchir, de chercher et d'adhérer à la vérité objective. Cela implique une juste diversité d'opinion dans les médias et les sources journalistiques, mais aussi d’interdire les réseaux d’information manipulateurs pour défendre les médias qui ont pour objectif d'informer avec honnêteté – malgré les erreurs du métier et la diversité des points de vue.

Ce que nous devons donc attendre de la Viginum, c'est qu'elle combatte tous les réseaux de manipulation qui existent, qu'ils soient russes, américains, chinois, indiens, israéliens, allemands, anglais,… et même français. Qu’ils agissent sur les réseaux sociaux, dans les médias officiels et même dans les pouvoirs en place (entreprise, politique, État).

Nous ne voulons pas de manipulation, quelle qu'elle soit. Nous avons défini ce terme plus tôt – conformément à notre attachement à la vérité. Ainsi, si le but d’une chaîne d’information est bien d'informer et non de manipuler, il est totalement injuste de s'y attaquer. De même, si un État tente de réguler les médias dans le but de manipuler sa propre population, celui-ci doit être condamné.

En somme, nous ne devons pas demander à ce qu’aucune source de manipulation soit combattue, car elles sont aujourd’hui dangereuses pour les individus qui y sont exposés, dues aux avancées en guerre cognitive. Mais nous devons demander et nous assurer que la Viginum et toutes les instances de régulation médiatique de l’État soient fait dans l’unique but de défendre la recherche et l’accès à la vérité, en défendant la pluralité des points de vue dès lors que leur diffusion se fait dans un cadre honnête, à titre informatif seulement (et non de manipulation).

Concrètement, ce que nous pouvons faire à notre niveau :

quitter les réseaux sociaux : le but est d'éviter de se faire manipuler par les groupes dits « d’influence », nous y sommes malheureusement tous confrontés. De très nombreux blogs vous permettront de vous informer constructivement et exhaustivement.
chercher la vérité : se former, plus que s'informer ! C'est elle qui est le centre de nos maux !
mener le bon combat : ne pas s'opposer par principe, mais bien par conviction après un réel exercice de l’intelligence pour discerner si l’opposition est justifiée ou non. En d’autres termes, défendre nos médias proposant des points de vue différents par attachement à la vérité, et non par opposition à une censure légitime.

¹ https://fr.wikipedia.org/wiki/VIGINUM
² https://www.defense.gouv.fr/comcyber/nos-operations/lutte-informatique-dinfluence-l2i
³ Contraction de "X (ex Twitter)". À prononcer [exciteur].
⁴ https://www.sgdsn.gouv.fr/files/files/20240212_NP_SGDSN_VIGINUM_RAPPORT-RESEAU-PORTAL-KOMBAT_VF.pdf
⁵ Cf Jean Ousset, Marxisme et révolution – En finir avec le marxisme.

🔗 Gérez vos mails facilement… et en toute sécurité

Mon, 03 Jun 2024 00:00:00 +0200

Découvrez comment gérer vos mails en toute simplicité et sécurité avec des outils adaptés. Optimisez votre organisation et protégez vos communications en quelques clics.

🔗 Chiffrez vos mails sans prise de tête !

Mon, 10 Jun 2024 00:00:00 +0200

Apprenez à chiffrer vos mails facilement avec un service intégré ou PGP via Thunderbird. Découvrez les astuces pour une communication sécurisée et sans tracas, accessible à tous.

Bonne année 2025 !

Fri, 03 Jan 2025 00:00:00 +0100

Cette année va être riche en évènements, comme le fut 2024, qui restera probablement gravée dans les mémoires comme un tournant de l'histoire des inventions humaines... Notamment avec l'arrivée des derniers modèles d'IA, multimodaux d'abord, mais surtout o1. Pour la première fois, un modèle est capable de mener des raisonnements par étapes, comme l'homme, avec une précision inégalée. Le modèle o1 dépasse 90% des êtres humains avec un QI à 120 points là où GPT4 n'était "qu'à" 85 points.

La révolution en train de se dérouler sous nos yeux est simplement ahurissante, et trop peu de personnes comprennent la profondeur des enjeux. Cette phrase de Dan Hendrycks¹ est pourtant révélatrice : « Le modèle [o1] surpasse déjà la plupart du temps les scientifiques titulaires d'un doctorat »...

En cette année 2025, il semble probable que le tournant le plus important sera le déploiement à grande échelle de modèles capables de raisonner (en plus de l'élargissement des fenêtres contextuelles, et l'arrivée de l'auto-exécution²). Le modèle o3 annoncé fin décembre montre les contours de ce qui se prépare. o1 était une grande avancée, o3 semble être un pas de géant supplémentaire. Il ne reste "plus qu'à" optimiser et réduire les coûts des calculs, et l'IA dépassera l'être humain, nous rapprochant un peu plus de ce qu'on appelle l'IA générale, mais aussi de la singularité technologique souhaitée par les transhumanistes.

Ces nouveaux modèles en préparation risquent de bouleverser notre vision de la machine. La frontière entre l'homme et la machine se rétrécira davantage sur ce qui faisait notre spécificité : l'intelligence. L'agilité de l'IA arrivera avec son intégration dans les robots...

Tout cela nous met, plus que jamais dans l'histoire, face à des questions fondamentales de la plus haute importance. Les enjeux n'ont peut-être jamais été aussi importants de toute l'histoire de l'humanité. On ne craint pas moins que la destruction de l'humanité dans les prochaines décennies ! Si cela n'arrive pas, il reste à craindre que de plus en plus de personnes confondent la capacité à raisonner avec la capacité à comprendre. Cette confusion entraînera un grand nombre à adorer la machine, et à enterrer un peu plus l'idée d'adorer notre Dieu créateur. Nous entrons en même temps dans l'ère de la postvérité, un monde où distinguer le vrai du faux devient impossible.

Pour cette raison, aujourd'hui plus que jamais, il est temps de réordonner les choses et d'apporter des réponses chrétiennes à tous ces évènements, avec sérénité et réalisme. Mon livre, "L'Intimité Assiégée" apportera des éléments de réflexion importants. Les autres éléments arriveront au fur et à mesure pour répondre de manière plus spécifique.

De leur côté, les transhumanistes ne traînent pas. Au contraire, ils sont extrêmement lucides. Leurs réflexions sont avancées et matures. À ce titre, je vous invite à regarder cette vidéo³ sur le jeu "Universal Paperclips", conçu par Nick Bostrom pour mettre en lumière les enjeux cachés des IA. Cette vidéo est extrêmement instructive tout en étant très objective.

Cette nouvelle année s'annonce donc chargée du point de vue des avancées technologiques. Espérons qu'elle le sera au moins tout autant sur les questions philosophiques qui doivent ébranler nos pensées. Espérons que la morale arrivera à diriger nos avancées scientifiques et industrielles !

Bonne et sainte année 2025 à tous ✨️

¹ Chercheur en IA, travaille au Center for AI Safety. C'est une organisation à but non lucratif qui promeut la sécurité dans le développement et le déploiement de l'intelligence artificielle.

² Ce que j'appelle "auto-exécution", c'est la capacité pour l'IA à générer du code pour répondre à une question, à l'exécuter, et à donner la réponse correspondante. Cela réglera toutes les erreurs de calcul sur les questions mathématiques par exemple.

³ https://youtu.be/ZP7T6WAK3Ow

Langage et connaissance

Mon, 20 Jan 2025 00:00:00 +0100

Introduction

Il existe deux courants de pensée qui s’opposent fondamentalement, que nous nommerons d’un côté la pensée « moderne », de l’autre la pensée « traditionnelle ». La première est dite moderne, car c’est Descartes qui l’a récemment remis au goût du jour, mais elle est déjà très présente chez Platon. Elle est une conception du monde complètement antagoniste à la pensée traditionnelle, qui hérite quant à elle plutôt d'Aristote. L’Église catholique reprend totalement les éléments de la pensée aristotélicienne et la dépasse dans l’ordre théologique en la complétant avec les éléments de la foi catholique.

L’élément fondamental à l’origine de cette divergence entre ces deux courants de pensée réside dans la manière dont l’homme prend connaissance des choses.

La pensée moderne estime que c’est l’homme qui crée la connaissance dans son esprit. C’est l’homme qui crée dans son esprit les concepts qui lui permettent de définir ce qu’est un homme, ce qu’est une femme, ce qu’est l’argent, ce qu’est une fleur, etc. C’est donc l’homme qui dit ce que les choses sont.

De son côté, la pensée traditionnelle estime au contraire que la nature des choses est indépendante de l’homme et de son esprit. Ainsi, même si l’homme n’existait pas, les concepts de fleur, d’homme, de femme, etc., existeraient. Ce n’est alors pas l’homme qui crée dans son esprit la nature des choses, mais il reçoit cette connaissance à l’aide de ses sens (toucher, vue, ouïe, odorat, etc.). Les sens lui permettent de capter, par l’exercice de l’intelligence, l’essence même des choses dans son esprit.

Cette divergence est fondamentale puisqu’elle est à l’origine de deux paradigmes majeurs affectant la quasi-totalité de la manière dont on aborde les choses du monde. De la manière dont nous réfléchissons à la manière d’agir, de mener la politique ou de dire ce qui est moral ou non, tous les aspects de la société peuvent être bouleversés selon le postulat philosophique initial auquel nous choisissons d’adhérer.

Nous pouvons voir une première conséquence de cette divergence dans la manière dont nous définissons ce qu’est la vérité en fonction du premier ou du second point de vue. La pensée traditionnelle définit la vérité comme l’adéquation de l’intelligence – ici, intelligence de l’homme – avec ce que les choses sont, avec la réalité. Ainsi, la vérité est objective. L’herbe est de couleur verte, que je le veuille ou non, que je sois daltonien ou non… Sauf si elle est restée trop longtemps au soleil, bien sûr. Pour la pensée moderne, la vérité est quelque chose de subjectif. C’est en effet très cohérent, si la nature des choses ne sont qu’une construction de l’esprit, de même, le vert de l’herbe n’est qu’une construction dans l’esprit de la personne. Et si mon esprit construit sa propre vision de la couleur de l’herbe, et que pour moi l’herbe (en bonne santé) est bleue, alors qui êtes-vous pour dire que la construction intime de mon esprit est fausse ?

C’est dans cette vision que Descartes fonde l’humanisme, une conception philosophique qui place l’homme au centre de tout : c’est lui qui conçoit ce que les choses sont, c’est lui qui définit ce qui est vrai et ce qui est faux.

Cette conception moderne de la vérité s’applique également à la définition de ce que sont le bien et le mal. Ainsi, la moralité n’est plus à la recherche d’un bien objectif, mais est le fruit d’une réflexion purement humaine où l’homme décide indépendamment des réalités qui l’entourent ce que sont le bien et le mal.

Appliquer ces fondements philosophiques dans la société permet d’aboutir à autant de courants politiques que le libéralisme, le socialisme, le nazisme, le fascisme, le communisme, le conservatisme, comme le montre Jean Daujat dans ses nombreux ouvrages. Tantôt le bien peut être de prendre soin de la planète, tantôt de favoriser l’économie mondiale… Les politiques peuvent changer en fonction de la personne qui dirige, des idéologies dominantes, des peuples, de leurs envies et de leurs passions. Cependant, la politique n’est jamais là pour suivre une vision objective du bien et du mal : chacun a sa propre vérité, sa propre conception du bien et du mal. « Si ça fait du bien, faites-le » disait Harari dans Homo Deus en illustrant la philosophie humaniste.

Dans la philosophie traditionnelle, la conception des choses est plus simple. Il y a une vérité objective, transcendantale, qui dépasse la volonté de l’homme. L’homme travaille par son intelligence à s’y accorder et à s’y conformer. Le bien commun est donc de chercher à appliquer aussi justement que possible ce que nous savons être vraiment et objectivement bon. Nous poursuivons la quête du bien, en perfectionnant la politique pour que ce bien soit réalisé et réalisable. Nous recherchons en conséquence à nous améliorer dans le temps : petits, nous recevons une éducation qui nous apprend ce qui est objectivement bon ou mal, et plus âgés, nous le transmettons à nos enfants. C’est le principe de la tradition : recevoir et transmettre le vrai, le bien et nos valeurs. Ce qui est vrai objectivement le reste quelle que soit le temps et l’époque : la vérité transcende l’homme et les dimensions purement matérielles (espace, temps).

La question philosophique fondamentale du mode de connaissance est donc un véritable point de bascule dont les enjeux sont absolument majeurs pour la société.

Qui de la pensée moderne ou traditionnelle a raison ?

La réponse est dans la question… Si la pensée traditionnelle a raison, alors il y a bien une vérité qui nous transcende. Si c’est la pensée moderne, alors il s’agit d’une première vérité qui semble bien s’appliquer à tous de manière universelle. Les deux ne peuvent pas avoir raison en même temps, le cas échéant, nous avons un conflit irrésolvable. Pourtant, il semble que les adeptes du courant moderne s’accommodent facilement de ce raisonnement en disant qu’on peut très bien adopter une manière de pensée traditionnelle même si la pensée moderne a raison… Ce qui ne répond pas à l’objection.

Nous chercherons dans la présente réflexion à expliciter l’erreur à l’origine du courant de pensée moderne dont les conséquences sont déjà désastreuses et risquent de s'aggraver avec l’apparition des IA, qui tendent à faire disparaître la notion même de vérité.

Langage scientifique

Dans cette partie, nous chercherons à répondre à la question : qui a inventé les sciences (mathématiques, physiques, etc.) ? Répondre à cette question permettra de mettre en lumière la part que l’homme a dans la création des concepts et la définition de la nature des choses. Pour reformuler la question : l’homme n’a-t-il que découvert les formules qui régissent le monde, ou les a-t-il créées lui-même ?

À première vue, c’est l’homme, puisqu'il est évident que c’est lui qui a inventé les chiffres et les symboles qui permettent de représenter des calculs mathématiques.

Ainsi, l’homme a inventé différentes manières de caractériser le nombre d’individus dans un groupe. Cette idée de noter la quantité d’individus présents dans un groupe est très ancienne et est probablement née il y a quelques dizaines de milliers d’années pour contrôler la taille des troupeaux de bêtes, pour suivre un calendrier ou mesurer les récoltes. Les nombres semblent avoir été inventés avant l’écriture. Ce faisant, il s’agirait donc du premier système d’« écriture » très simplifié (un bâton par individu).

De ce fait, il paraît évident que l’homme est à l’origine de l’invention des nombres¹. C’est bien l’homme qui a choisi arbitrairement de dire que trois individus seront notés par trois barres, ou plus tard par le chiffre « 3 » et que cela se prononcera [trois] et s’écrira « trois ». C’est aussi nous-mêmes qui avons choisi de compter dans un système décimal, avec dix chiffres (de 0 à 9). Nous avons pareillement choisi de notre propre pouvoir de dire que le nombre 0 désignerait le manque d’éléments, tandis que 1 désigne un élément seul, 2 quand on ajoute un seul élément à un élément seul, 3 quand on ajoute un élément à un groupe de deux, etc.

L’homme a donc pleinement inventé la numérotation, le dénombrement des choses. Or, puisque les nombres sont à la base des mathématiques, il serait tentant de dire que l’homme les a bien inventées, indépendamment d’un ordre transcendantal, contrairement à ce que nous explique la définition de la vérité dans la pensée traditionnelle. De la même manière que l’homme aurait inventé les maths, il serait également à l’origine de toutes les autres notions de la vie courante, de la définition de la fleur à la définition de l’homme, du bien, du mal… Pourtant, ce raccourci serait une grave erreur.

Jouons avec les maths. Si j’ai deux moutons, que je trouve deux autres moutons : j’en ai quatre. Normalement, jusque-là, tout le monde me suit. L’homme a choisi que « deux » désigne « | | » individus². Que « quatre » désigne « | | | | » individus. Mais une chose s’impose à l’homme : si je prends un groupe de deux unités, et que j’y ajoute un groupe de deux autres unités, nécessairement, je me retrouve avec quatre unités. Le mécanisme d’addition s’impose à l’homme…

Ainsi, nous pourrions inventer un système d’écriture complètement différent. Imaginons qu’au lieu d’écrire les nombres avec dix caractères, nous utilisions un système à deux caractères : « | - ». C’est un choix tout aussi arbitraire que les dix chiffres arabes.

Ainsi, rien serait représenté par « - ». Un élément seul par : « | ». Et pour permettre de compter simplement, nous allons garder le mécanisme de « réutilisation », d’incrémentation des chiffres (qui permet de passer de 9 à 10, de « 9 » à « 1 » suivi de « 0 »). Ainsi, deux éléments sont caractérisés par « |- » et trois par « || », etc.

Imaginons que j’ajoute « |- » à « || ». Le résultat est « |-| », ce qui, dans notre système numérique correspond à 5. Ainsi, que je le veuille ou pas, quelque soit mon système de comptage, 2+3=5.

Il peut sembler absurde de créer un nouveau système de calcul. Pourtant, le système « créé » ici est le binaire, utilisé par les ordinateurs : 0 et 1 représentent deux états physiques de la matière ou de l’énergie – il y a du courant (1) ou il n’y en a pas (0). Bien que le système numérique créé ne soit pas décimal, il retourne correctement les résultats des opérations mathématiques. Le contraire serait embêtant : une application calculatrice sur ordinateur qui ne retournerait pas le même résultat qu’un boulier ou qu’un système par bâton serait embarrassant…

À travers cet exemple, nous constatons que, quel que soit le système de notation, nous n’enlevons rien à la réalité désignée.

Ainsi, l’homme a créé une grande variété de systèmes de notation mathématique, mais les opérations s’appliquent toutes de la même manière. Seulement, certaines notations sont plus faciles à comprendre et à opérer pour l’esprit humain : faire des opérations avec des chiffres arabes est plus facile pour le cerveau humain qu’avec un système binaire. Cependant, les calculs, eux, restent les mêmes. 7+5 = 12 ; 111+101 = 1100 ; 7+5 = C (en hexadécimal).

De même, nous aurions très bien pu nommer et écrire les nombres autrement, dans un autre ordre, cela ne changerait rien aux réalités désignées. Par exemple, si nous avions décrété que les premiers nombres commençaient ainsi : 2, 8, 0, 5, 6, 9, 3, 4, 7, 1. Le résultat de 8+5 serait 6… « 8 » représente ici une unité, « 5 » en représente trois, nécessairement le résultat sera quatre unités, représenté ici par le caractère « 6 ».

Si ces calculs semblent absurdes, ils montrent une chose : le fonctionnement mathématique du monde ne dépend pas de l’homme seul. Ce n’est pas l’homme qui a décrété qu’en ajoutant deux moutons à un groupe de trois moutons, il y en aurait cinq. La seule chose que l’homme a inventée, c’est le fait de nommer « deux » quand il y a deux unités.

Ainsi, même si l’homme ne nommait pas les choses – ou s’il n’existait pas – si un seul cheval rencontre un autre cheval seul dans la nature, ils seront au moins momentanément deux l’un à côté de l’autre. Cette réalité concrète mathématique nous dépasse, on ne la choisit pas, elle est.

En somme, l’homme n’a pas inventé les mathématiques. Cela semble même évident avec les formules mathématiques. Par exemple, la propriété des triangles rectangles qui permet de dire que le carré de l’hypoténuse est égal à la somme des carrés des deux autres côtés n’est pas une invention de l’homme, mais bien une découverte. Cette réalité est vraie quelles que soient les circonstances, peu importe le lieu, peu importe l’époque (à condition de travailler dans un plan).

Si l’homme n’a pas inventé les mathématiques, il a en revanche bien inventé le système de notation qui permet de réaliser des calculs mathématiques de manière matérielle (dans le sens large), et d’exprimer ainsi une abstraction de ce qui se déroule sous nos yeux. Mais la réalité, elle, ne change pas.

Distinction ente langage et connaissance

Il aurait été facile de dire que les mathématiques ont été inventées par l’homme seul. Pourtant, comme nous venons de le montrer, l’homme n’en a inventé que le système de notation, l’outil qui lui permet d’exprimer les réalités observées. Cet outil permet de déduire, par des raisonnements logiques, de nouvelles conclusions à partir d’observations concrètes. C’est par exemple ce qui s’est passé – dans le domaine de la physique – avec le Boson de Higgs. L’homme a postulé son existence en 1964 grâce à notre maîtrise des formules mathématiques et physiques, grâce aux outils logiques que nous avons découverts (et non inventés), mais ce n’est qu’en 2012 (soit 48 ans plus tard) que nous l’avons concrètement observé pour la première fois.

De fait, nous voyons ici de manière évidente et explicite que la réalité s’impose à l’intelligence de l’homme. Les logiques mathématiques, philosophiques, tout comme le Boson de Higgs, ont été découvertes. En revanche, ce qui change, c’est la manière de nommer et d’exprimer la réalité.

Ainsi, il ne faut pas confondre langage et connaissance.

Le langage est un outil que l’homme invente pour exprimer des réalités. La connaissance, c’est ce que l’homme retient de la réalité dans son esprit.

Ainsi, le langage peut changer, la connaissance, elle, ne change pas. Une fleur, « flower », « 一朵花 », « цветок » ou « Blomst » sont autant de manières de désigner la même réalité.

En somme, le langage est une pure création humaine et ne dépend de rien d’autre que lui-même. C’est l’homme qui a inventé arbitrairement la phonétique et l’écriture associées à chaque réalité afin de communiquer efficacement avec les autres hommes. L’homme est celui qui a nommé les réalités. Cette affirmation rejoint par ailleurs ce qui est dit dans la Bible : « Avec de la terre, le Seigneur Dieu modela toutes les bêtes des champs et tous les oiseaux du ciel, et il les amena vers l’homme pour voir quels noms il leur donnerait. C’étaient des êtres vivants, et l’homme donna un nom à chacun. L’homme donna donc leurs noms à tous les animaux, aux oiseaux du ciel et à toutes les bêtes des champs. » (Genèse, 2, 19-20)

Mais l’homme n’est pas lui-même à l’origine des réalités. La connaissance préexiste au langage. La réalité existe indépendamment du langage, ce dernier ne permettant que de l’exprimer. Le langage n’est qu’un outil pour communiquer la connaissance de certaines réalités à d’autres personnes, mais n’est pas lui-même la connaissance. La réalité, comme nous l’avons montré avec les sciences dures, ne dépend absolument pas de l’homme.

Ainsi, la connaissance n’est pas une construction pure de l’esprit. La connaissance, c’est le fait d’intégrer et de garder une réalité dans son esprit. La réalité peut être acquise aussi bien à l’aide des sens (quand on voit un objet par exemple), tantôt par le raisonnement et le langage (comme le fait cet article par exemple).

L’étymologie même du mot connaissance montre bien la dépendance de l’esprit à la réalité. En effet, le mot connaissance vient du latin « noscere » qui désigne le fait d’être « familiarisé avec », « être informé de ». En d’autres termes, la connaissance consiste à garder dans son esprit une abstraction – ou le concept – de la réalité. On ne garde évidemment pas la réalité elle-même : il serait en effet difficile, par exemple, de faire entrer une fusée Ariane 6 dans notre boîte crânienne.

Langage et connaissance en philosophie

L’« erreur moderne » est donc de faire un raccourci entre langage et connaissance. Certes, le langage est une pure invention de l’homme, mais les notions et les concepts associés au langage, plus généralement la connaissance, désignent des réalités qui, elles, ne sont pas invention de l’homme.

Ce qui est vrai en science est tout aussi vrai en philosophie.

Les mathématiques ne sont pas une construction de l’esprit. D’une part, l’homme a découvert les formules mathématiques (connaissance qui s’impose à son intelligence), et d’autre part, il a inventé la manière dont il exprime cette connaissance. De même en philosophie, les notions et les concepts ne sont pas des inventions de l’esprit humain, mais ce sont les moyens de les exprimer qui sont des inventions de l’homme. De telle sorte que l’herbe n’a pas la même couleur que le ciel, quelle que soit notre manière de nommer les couleurs.

L’homme ne peut donc pas inventer sa propre vérité. Si l’homme exprime quelque chose qui est contraire à la réalité, alors il est dans l’erreur ou le mensonge.

De même, si x+6=18, je serais dans l’erreur si je dis que x=0… même dans ma propre conception des maths, qui serait alors elle-même erronée.

De même, les concepts philosophiques ne dépendent pas de moi. La vérité est l’adéquation de l’intelligence à la réalité. Ainsi, les notions de bien et de mal ne dépendent pas uniquement de moi, de ma conception du monde (qui peut être erronée).

En revanche, certaines connaissances peuvent être vraies dans un espace réduit ou à un moment donné seulement. Par exemple – et certains l’utilisent comme argument en faveur de la pensée moderne – si je dis que j’ai froid et que mon voisin lui dit avoir chaud, cela ne veut pas forcément dire que l’un ment et l’autre non. Mais comme le souligne la structure de la phrase, « j’ai » désigne la personne individuelle et n’implique en rien ce que ressent l’autre. La vérité ici correspond à dire « j’ai froid » si effectivement mes sens me font sentir que j’ai froid. La vérité dépend d’un référentiel qui se rapporte à moi seul. Dire « il fait froid » pourrait être considéré comme un abus de langage… Car, cette phrase ne dit pas par rapport à quoi il fait froid. Elle ne pose pas le référentiel, le contexte auquel s’applique la phrase³.

En revanche, si nous posons la question : « Dieu existe-t-Il ? », la phrase pose bien un référentiel universel. La réponse, une fois trouvée, s’impose alors à tous.

Ainsi, les connaissances dépendent plus ou moins d’un référentiel donné, tout dépend de l’objet désigné et de sa portée.

Parler de la question du bien et du mal peut en revanche être sensible. Certains actes concrets peuvent être mauvais dans un cas, bon dans l’autre. Par exemple, déplacer une chaise : cela peut être mauvais si le professeur d’une classe l’a expressément interdit (il y a désobéissance), mais cela peut être très bon si c’est pour dégager le passage à une personne âgée.

De même pour la question « est-il bon de tuer un homme ? ». Tout le monde voudrait répondre « non ». Effectivement, naturellement, notre conscience nous porte (ou devrait nous porter) à vouloir défendre toute vie humaine. Ainsi, la question sortie de tout contexte nous pousse naturellement à apporter une réponse négative. Mais supposons que « un homme » désigne dans une situation particulière un terroriste qui garde en otage des femmes et des enfants qu’il tue successivement. Il peut alors sembler juste que tuer cet homme est un acte bon, non l’acte lui-même de tuer, mais parce que le contexte fait que la finalité n’est pas de tuer l’assaillant, mais de défendre les nombreux innocents.

Ainsi, le bien et le mal font partie des notions difficiles à définir et à exprimer de manière absolue, car il y a toujours un décalage entre la réalité concrète, la connaissance et le langage. Mais nous pouvons retenir que les notions de bien et de mal, en elles-mêmes, ne dépendent pas de l’homme. De même pour tout autre concept philosophique, comme la liberté, la justice, la vérité, l’amour, etc. Certaines définitions sont fausses, d’autres sont justes, d’autres sont à améliorer. L’homme se doit donc de chercher la juste définition des choses avec objectivité. Il ne doit alors pas chercher à créer sa propre conception des réalités, mais bien les définir et les nommer conformément au langage existant afin d’ouvrir l’esprit à une connaissance plus aiguisée des concepts.

Comment faire le bien et éviter le mal si nous n’avons pas d’abord connaissance de ce que sont le bien et le mal ? Tout simplement, en commençant par chercher la vérité.

Conclusion

Nous pouvons à présent affirmer que la vérité n’est pas une simple construction de l’esprit. Nous ne nommons pas les choses pour qu’elles correspondent à notre vision des choses, mais nous les nommons parce que nous découvrons qu’il existe des réalités très diverses dans le monde (un cheval n’est pas un âne). La vérité est plutôt l’adéquation de notre esprit aux choses que nous découvrons. Et le langage a été inventé pour exprimer cette vérité de la façon la plus précise possible.

Pour cette raison, il est important de s’entendre sur la définition des mots. Si chacun a sa propre définition des mots, alors pourquoi utiliser le langage ? Le but du langage, justement, est de désigner des réalités afin de les distinguer entre elles. Ainsi, plus une langue a de mots, plus cette langue sera capable de distinguer des réalités subtiles, et permettra à leurs locuteurs d’avoir une grande liberté de réflexion et d’expression. Dans le cas contraire, cela peut amener à des incompréhensions. C’est d’ailleurs tout le jeu des traducteurs. Par exemple, comment traduire en français « Estimated time of arrival » ? La réponse dépend du contexte : « Time » peut vouloir dire « temps » ou « heure ». Ici, la distinction entre l’heure et le temps n’est pas faite, là où le français fait cette distinction plus nettement.

Retenons donc qu’utiliser les mots à bon escient est important. Le travail de nos ancêtres pour créer les mots et définir les réalités qu’ils désignent n’est donc pas là pour nous asservir. Bien au contraire, ils sont là pour nous libérer, pour mettre en lumière les subtilités de la réalité, pour nous aider à communiquer entre nous et mieux comprendre le monde. La langue est par conséquent l’un des héritages les plus précieux d’une génération à l’autre.

L’erreur moderne réside donc dans la confusion entre langage et connaissance. Nous avons confondu ce que l’homme nomme avec la réalité qui est nommée.

Face à de nombreux problèmes aujourd’hui, une part de la population change sa définition de ce qui est bien ou mal… Par exemple, agir en écologiste serait bien, le reste serait mal… Voilà une affirmation où la définition du bien et du mal est purement inventée par l’homme et ne puise dans aucune vérité objective.

Souvent, ces mêmes personnes ne définissent pas les termes qu’ils utilisent. Les mots ne sont plus tant désignés pour la réalité qu’ils désignent que pour revendiquer une position, une manière d’agir. Pensons-nous que les notions de gauche et de droite existent pour désigner une réalité objective ? Ou plutôt pour s’opposer l’un à l’autre ?! Car, selon que la personne est d’un bord ou de l’autre, la définition de ces deux termes va changer.

Tristan Harris, développeur chez Google, témoignait à propos de l’ingérence des IA dans les réseaux sociaux : « si on n’est pas d’accord sur le fait même que la vérité existe, on est foutu. La vérité, c’est la clé. »

Les sociétés humaines ne peuvent fonctionner que si nous nous attachons à la vérité, à ce que les choses sont. Quand on refuse la vérité, on refuse l’ordre qui ordonne la nature au bien. Quand on refuse la vérité, on agit contre l’ordre de la nature tant au sens large (nature des choses) qu’au sens de l’environnement.

Nous devons cesser de vouloir créer nos propres réalités. Au contraire, nous devons découvrir ce qu’est objectivement la justice, la liberté, le bien, le mal, et toutes ces autres notions si importantes à la vie en société. C’est la seule manière d’assurer un équilibre qui tend à la paix et au bonheur de tous.

Rappelons simplement la distinction entre chiffres et nombres. Les chiffres sont à l’alphabet, ce que les nombres sont aux mots. Les chiffres sont des caractères qui permettent d’écrire des nombres qui, eux, désignent une quantité.↩︎
Un individu = « | »↩︎
Ce qui n’empêche pas de comprendre très bien la phrase au vu des circonstances.↩︎

Suivre l'actualité sans être manipulé, est-ce possible ?

Wed, 22 Jan 2025 00:00:00 +0100

Entre les médias qui sont, pour la majorité, sous contrôle de milliardaires, et les réseaux sociaux qui ciblent le contenu en fonction de chaque personne, est-il vraiment possible de suivre l’actualité sans se faire manipuler ? La réponse est : oui, il y a deux solutions possibles.

Avant de donner les réponses, expliquons la source du problème qui permet et favorise la manipulation.

Note : dans cet article, nous n’aborderons que la presse écrite. Certains parallèles pourront être faits avec la radio et la télévision.

La source du problème : l’attention.

L’histoire de la presse nous apprend que la qualité de l’information dépend directement de la manière dont le journal est distribué. On estime que l’histoire de la presse papier s’est déroulée en trois étapes.

1. La presse politique

Au XIXe siècle, la presse était avant tout un outil de propagande politique. Les journaux, souvent gérés par une seule personne (à la fois journaliste, rédacteur, imprimeur), avaient une portée locale et s’adressaient à un public restreint. Leur objectif ? Diffuser des idées politiques ou philosophiques, souvent en lien avec l’actualité. Mais cette presse avait un impact limité. Elle appartenait davantage au domaine de l’édition qu’à celui de la presse.

2. La presse à scandale

Tout change en 1833 avec le New York Sun de Benjamin Day. Le journal se vend désormais dans la rue, à la criée. Ce simple changement de modèle économique bouleverse la manière de présenter l’information. Pour vendre, il faut capter l’attention immédiate du passant. Comment ? En jouant sur les émotions : la colère, la peur, la tristesse, mais aussi l’enthousiasme. En effet, rapidement, les journaux ont observé que les ventes bondissaient lors d’évènements tragiques. Ryan Holiday, auteur de Croyez moi, je vous mens nous rapporte que le plus gros tirage de l’histoire du Herald fut le bombardement de Fort Sumter. Suite à quoi, les journalistes auraient réclamé la guerre hispano-américaine.

En somme, les titres sont conçus pour être accrocheurs, les images choquantes, et les rumeurs se transforment en « faits ». Les journalistes n’hésitent plus à inventer ou déformer la réalité. Le but : faire vendre. Un journal qui ne se vend pas s’assure une mort rapide.

3. La presse morderne

Face à ce déluge de sensationnalisme, le New York Times introduit un nouveau modèle : la presse à abonnement. L’idée est simple : offrir une information de qualité à un prix abordable. Le système repose sur un autre équilibre : gagner la confiance des lecteurs pour qu’ils soient fidèles. Si le journal déçoit, l’abonné ne renouvellera pas. Ce système repose sur la confiance et pousse les médias à privilégier la rigueur journalistique plutôt que les coups médiatiques.

En résumé, la qualité de l’information diffusée par la presse est étroitement liée à la certitude des journalistes de capter l’attention du public. En d’autres termes, le véritable enjeu réside dans l’attention. L’objectif principal de la presse est d’être lue, sans quoi elle perdrait toute pertinence. Les journalistes s’efforcent donc, par tous les moyens possibles, de fidéliser leur lectorat à leur propre presse pour faire face à celle de leurs concurrents. C’est leur unique moyen de subsistance : sans public, ils ne peuvent pas gagner leur vie.

Internet : une révolution de l’information

L’arrivée d’Internet bouleverse la manière dont les informations sont distribuées. D’abord présenté comme une avancée majeure pour la démocratie, nous nous rendons compte aujourd’hui que ce n’est pas si évident.

Il y a tout d’abord le problème de la sur-information. Les informations arrivent de toute part, nous ne savons plus où donner de la tête. Il y a tant d’informations que nous ingérons, qu’on en oublie de nous forger notre propre opinion, nous oublions de comprendre, nous oublions de réfléchir… malheureusement.

Puis, avec ceci arrive le problème de la rémunération. Les blogs se rémunèrent le plus souvent par l’affichage de publicités. Pour cela, ils vendent de petits espaces où pourront s’afficher des pubs. Quand une pub s’affiche, ça leur rapporte de l’argent.

À ce stade, il est facile de comprendre qu’avec un tel système, nous avons recréé la presse à scandale :

Pour gagner de l’argent : cela consiste à maximiser le nombre de clics sur chaque article. Le but de ces blogs est de pousser l’utilisateur à cliquer un maximum de fois. On se fiche de savoir s’il lit l’article. Le but, c’est qu’il change un maximum de fois de page pour afficher autant de fois des pubs.
Il n’est pas un hasard si, sur beaucoup de blog, les articles utilisent une largeur ridiculement petite de l’écran. De même, ne croyez pas que les interfaces ont été conçues pour être pratiques et agréables. Non, elles sont conçues pour que vous cherchiez les éléments nécessaire et que votre attention soit accaparée un maximum de temps par les pubs. C’est la raison pour laquelle ce blog adopte une interface complètement différente : prendre le contre-pied de ce système et proposer un blog agréable mais avant tout pratique.
Maximiser son lectorat : sur ce point, le blogging démultiplie les travers de la presse à scandale il y a un siècle. Ce ne sont plus quelques journaux qui se disputent le public, mais des millions de blogs qui sont en concurrence. Or, on estime que les utilisateurs passent en moyenne une minute sur un blog. On estime également que le blog dispose d’une seule seconde pour accrocher le visiteur. Ainsi, le blog se doit d’être accrocheur dès le premier regard. Ensuite, il lui faut des titres raccoleurs pour que les gens cliquent… Et que s'affichent d'autres publicités.
Le cas des réseaux sociaux : les réseaux sociaux ne sont pas épargnés. Mais alors vraiment pas ! Les réseaux sociaux sont l’apothéose de la manipulation.
C’est exactement la même chose que le blogging, à la différence que celui qui génère le contenu est le public, et non des rédacteurs. Ainsi, chaque personne est en compétition avec tous les autres utilisateurs. Et les algorithmes de recommandation sont là pour arbitrer qui est mis en avant ou non dans le but de maximiser l’attention volée aux utilisateurs. En d’autres termes, les personnes manipulent pour se faire entendre et voir en postant des propos choquant ou mensongers, et les algorithmes régulent ça pour démultiplier les effets de la manipulation. Il n’est pas un hasard si YouTube a changé son algorithme de recommandation pour mettre en avant les vidéos qui font réagir : celles qui sont partagées et commentées !
Voici un exemple récent (pris au hasard) d’un post X révélateur de la manipulation ambiante sur le réseau social.

Il s’agit du tweet de Clémence Guetté¹. Ce post rassemble tous les ingrédients d’une manipulation millimétrée :
1. Une phrase d’accroche racoleuse mais qui ne dit rien : “L’extrême droite, au pouvoir, c’est ça.”
2. Une seconde phrase en guise de conclusion qui implique le public dans sa démarche : “Résistez, militez, votez […]”. Et qui incite à la réaction immédiate en créant une tension sur une limite de temps inconnue : “[…] avant qu’il ne soit trop tard.”
3. Un extrait de 9 secondes d’une vidéo de Musk (la vidéo originale de Musk dure 3m52s) : une vidéo suffisamment courte pour que tout le monde la regarde. Elle est rognée de manière grossière : ceux qui sont de son bord la soutiendront, ceux qui ne le sont pas iront chercher la vidéo originale pour débunker.
4. Aucun mensonge : uniquement des sous-entendus. Rien n’est dit. Le public doit comprendre de lui-même que Musk aurait fait un salut nazi… Ce qui n’est évidemment pas le cas, et ce que n’a pas dit Clémence Guetté. Mais le public est poussé à comprendre ce qui ne doit pas être compris. Le public est impliqué dans la compréhension même du message, et favorise donc la réaction (puisqu’il s'est déjà engagé intellectuellement pour comprendre le message).
Résultat : tout le monde est en colère et tout le monde réagit. Mais le véritable but était uniquement de se donner un coup de pub, se mettre sur le devant de la scène. Le meilleur moyen était d’utiliser la colère. Et Clémence l’a parfaitement compris et utilisé. Elle n’en a rien à faire de la vérité. Le vrai but est atteint : 900000 vues, 3500 réponses, 3000 repartages, 14000 j’aime… Une réponse qui tente de rétablir la vérité aura au mieux 2 fois moins de vues et de réactions. La bataille est perdue d’avance, parce qu’on ne joue pas sur le même terrain.

Combien sont tombés dans le piège ? Combien ont fait le jeu de Clémence Guetté ? Méritait-elle qu’on lui donne cette visibilité ? Elle a placé les personnes de droite exactement là où elle voulait. Mais le mal est là : son post a fait des milliers de vues et des réactions toutes plus déchaînées les unes que les autres.

Elle savait très bien ce qu’elle faisait, c’était grotesque et grossier, mais elle n’est pas fautive. Elle n’a jamais dit qu’il s’agissait d’un salut nazi. Il n’y a pas eu de mensonge. Il n’y a eu que manipulation. Et elle a gagné.

Ceci n’est qu’un exemple, la quasi-totalité des posts viraux sont comme ça. Nous sommes manipulés pour réagir et donner de notre temps à la plateforme. De cette manière, un maximum de publicités atteignent leur but. La plateforme gagne plus d’argent. Et la personne qui sait tirer parti de ce système gagne en visibilité.

Tout n’est que manipulation.

Les solutions

À présent que nous comprenons un peu comment fonctionne le système médiatique et les fondements de la manipulation, nous pouvons présenter deux solutions pour suivre une actualité de qualité sans se faire manipuler.

Les solutions ont en commun un aspect : renverser le système médiatique pour que celui qui a le pouvoir soit le lecteur.

En effet, nous voyons qu’à travers la presse à scandale, les blogs et les réseaux sociaux, ceux qui exercent en premier le pouvoir sont les rédacteurs. Ce sont bien eux qui mettent en place des stratégies pour capter l’attention des utilisateurs, et non l’utilisateur qui choisit ce qu’il va voir et lire.

Il faut au contraire que ce soit le lecteur qui choisisse ce qu’il lit, de manière intelligente et responsable. Les solutions consistent donc à replacer l’utilisateur comme celui qui contrôle les informations qu’il voit.

1. La presse à abonnement

C’est la première solution : revenir au système de la presse moderne. En d’autres termes, payer pour lire des informations. Ce système a fait ses preuves et repose sur un équilibre naturel : le lecteur s’engage à payer pour un certain temps, et le média sera obligé de fournir des informations de qualité s’il veut garder son client.

Le choix n’est pas impulsif comme le serait un clic. Il est réfléchi, et il est librement posé par le lecteur.

2. Les flux RSS

C’est exactement le même principe que l’abonnement, mais c’est gratuit, et ça fonctionne pour la majorité des blogs.

Aujourd’hui, la très grande majorité des blogs obtiennent leurs visiteurs via Google ou les réseaux sociaux. En d’autres termes, les blogueurs n’ont que des lecteurs éphémères, qui arrivent sur leur site à la suite d’une recherche ou d’un post sur les réseaux sociaux.

Si les lecteurs étaient fidèles, les blogs n’auraient pas besoin de créer des informations à scandale pour tenter de garder le visiteur. Ils se concentreraient sur le contenu.

Si la majorité des blogs ne poussent pas à l’utilisation des flux RSS, c’est pour une raison : ça ne rapporte pas assez et pas assez vite. Tout d’abord, il n’y a pas de pub. D'autre part, les flux RSS ne permettent pas de traquer le nombre de vues. La solution n'est donc pas idéale pour savoir si on a un vaste public, encore moins pour s'assurer que notre article a été lu des milliers de fois.

C’est pour cette raison que le RSS n’a jamais vraiment atteint le grand public. Il s’oppose directement aux intérêts de ceux qui auraient voulu pousser les lecteurs à l’utiliser. Malgré les merveilleux témoignages de lecteurs satisfaits et les investissements importants de Google et consort, il ne faut pas s’étonner de cet échec. Par conséquent, si, aujourd’hui, les boutons RSS disparaissent des blogs et des moteurs de recherche, dites-vous bien qu’il s’agit d’un acte volontaire, pour que les lecteurs puissent être plus facilement trompés.
Ryan Holiday, Croyez-moi, je vous mens — Confessions d’un manipulateur des médias, 2015

En somme, le flux RSS est une véritable solution pour suivre l’actualité. Il fonctionne sur le même principe que le système d’abonnement. On utilise une application : un agrégateur de flux RSS². Dans cette application, on peut inscrire autant de sites qu’on le souhaite. Et l’application se charge de récupérer les derniers articles des blogs auxquels l’utilisateur s’est abonné. C’est simple, c’est propre, et c’est l’utilisateur qui choisit ce qu’il lit ou ne lit pas.

Conclusion

Pour terminer, il faut retenir que la majorité des blogs gratuits et les réseaux sociaux sont des machines à manipuler.

Avec l’arrivée d’Internet, la surinformation oblige les créateurs de contenu à se rendre visible en utilisant des techniques de manipulation.

La seule manière de suivre l’actualité en se protégeant de la manipulation est de s’abonner soi-même aux sources qu’on souhaite. Ainsi, le lecteur est au centre du processus de décision de ce qu’il voit. S’il n’est pas satisfait, il se désabonnera. Sinon, il continuera de lire les articles qui lui plaisent. Par ailleurs, s’il reste fidèle aux blogs qu’il suit, cela est gratifiant pour les créateurs de contenu.

Ce système est simplement vertueux. Nous devons l’adopter !

Je ne suis pas sûr qu’elle mérite une vue de plus, mais je mets quand même la source : https://x.com/Clemence_Guette/status/1881454836836897106 ↩︎
Voici deux noms d'applications simples et efficaces que j'ai pu tester : Flym DecSync sur Android et NewsFlash sur Linux. Mais libre à vous de trouver ce qui vous convient le mieux ;) ↩︎

Une analogie des moyens de communication numérique

Wed, 05 Feb 2025 00:00:00 +0100

Un reproche que l’on peut souvent faire avec ce qui est virtuel, c’est que ce n’est pas très concret… Aussi, il est souvent difficile de se représenter la portée intrinsèque d’un outil numérique, le besoin précis auquel il répond. Il est difficile d’évaluer les conséquences de nos écrits à travers les différentes messageries que nous utilisons. Nous voulons répondre à un besoin, et nous prenons souvent le premier outil, le plus simple ou le plus médiatisé, au détriment de sa capacité à répondre à un besoin objectif clairement identifié et compris.

Dans cet article, je vous propose une série d’analogies pour explorer l’utilité réelle des différentes formes de communication numérique.

1. 🌐 Les réseaux sociaux publics

Ce que j’appelle “réseaux sociaux publics” sont les plateformes où nous publions des informations de façon absolument publique. Tout le monde peut y accéder sans aucune limitation. Les plus connues sont YouTube, Facebook, Instagram, TikTok, X, LinkedIn, etc.

J’inclurais également sous le terme “réseaux sociaux publics” les messageries permettant de publier des informations à un public non formellement restreint. Par exemple, la fonctionnalité des stories sur WhatsApp entre dans ce cadre : le message est envoyé à toutes les personnes définies par la fonctionnalité. Et les personnes qui le reçoivent ne savent pas nécessairement qui d’autre l’a vu passer.

L’analogie : cette forme de réseau social est équivalente à publier un article dans le journal, à s’exprimer à tous en pleine rue, ou encore à faire un show dans un théâtre ouvert au public.

Par exemple, on pourrait dire que poster une story sur WhatsApp revient au même que de prendre la parole ouvertement entre collègues pour clamer ce que l’on veut dire. Poster une photo sur Instagram revient à afficher le message sur un panneau publicitaire. Verra le message qui passera devant.

2. 🗣️ Les groupes publics

Je définirais les groupes publics comme l’ensemble des groupes formellement établis mais accessibles à tous d’une manière ou d’une autre. Entrent dans ce cadre les groupes publics Telegram, Signal, WhatsApp, Messenger, etc.

L’analogie : cette forme de messagerie est équivalente à organiser un événement public sur inscription où nous pouvons prendre la parole devant toutes les personnes présentes. On sait publiquement qui est présent dans le groupe, on connaît (au moins visuellement) qui va nous entendre. Le public n’est donc pas illimité, mais il reste accessible à toute personne qui s’intéresse à l’événement.

3. 👥 Les groupes privés

Les groupes privés consistent à rassembler des personnes clairement identifiées. Ils sont accessibles à un public restreint et formellement identifié. Dans ce type de groupe, un contrôle est fait des personnes qui rejoignent et quittent le groupe (au moins implicitement). L’ensemble de nos groupes entre amis, famille, collègues entre dans cette définition.

L’analogie : cette manière de communiquer est équivalente à se retrouver dans un lieu privé pour discuter. Le contenu sera souvent informel, permettant de parler facilement de divers sujets sans distinction. On peut également facilement aborder des sujets privés car on connaît bien le public auquel on s’adresse.

4. 📧 Les communications personnelles

Pas besoin de définir : c’est la communication en tête-à-tête.

Il existe de très nombreuses manières de garder le contact avec une personne. Détaillons donc l’analogie pour chacune de ces formes.

Les appels : parler en tête-à-tête.
Le mail : équivalent de la lettre papier.
Les vocaux (chat vocal) : équivalent de parler en tête-à-tête mais de manière plus formelle. Cette forme impose de donner tous les éléments de réponse avec clarté car on n’a pas le retour immédiat du correspondant pour savoir si on a été compris.
Chat écrit : Bien que ce soit la méthode la plus courante aujourd’hui, elle n’a pas de véritable équivalent concret. L’analogie la plus proche serait de laisser des post-it à la personne avec qui on communique.

🔐 La subtilité du chiffrement

Le chiffrement ajoute une nuance pour la quasi totalité des formes de communication numérique. Nous ne parlerons ici que de chiffrement de bout en bout. Cette forme de chiffrement consiste à rendre le message illisible pour tout destinataire non convenu. Une personne qui n’est pas clairement identifiée comme destinataire du message ne pourra pas le lire.

Précisons donc nos analogies.

Les réseaux sociaux et groupes publics : un impact faible

Pour les réseaux sociaux publics, c’est bien simple : le chiffrement de bout en bout n’y a aucun intérêt, car cela va à l’encontre du principe même consistant à publier l’information au plus grand public possible.

Pour les groupes publics, le chiffrement n’a pas un très grand intérêt non plus. Un groupe public avec chiffrement de bout en bout permet néanmoins de préserver une certaine confidentialité comme le permettrait un groupe privé, mais avec un aspect plus formel, souvent autour d’un thème particulier. Savoir que n’importe qui peut s’y joindre impose une certaine forme et une certaine tenue dans les propos qui sont partagés.

En ce sens, nous pouvons assimiler ce style de groupe à un regroupement de personnes dans un lieu plus discret mais qui reste malgré tout ouvert à tous. Par exemple, une conférence ouverte au grand public, mais qui a lieu dans une salle privée. Ce qui s’y dit n’est pas secret ni personnel, mais seuls les participants savent directement ce qui s’y passe.

Les groupes privés et communications personnelles

Pour les deux autres formes de communication, le chiffrement de bout en bout apporte une réelle différence, car il assure un cadre strictement privé autour de ce qui se dit. Il y a une nuance très nette qui nous oblige à préciser notre précédente analogie.

1. 🚫 Communications non chiffrées

Consiste à se retrouver dans un lieu privé entre personne clairement identifiée, mais où n’importe quelle personne indiscrète peut écouter. Concrètement, cela revient à se retrouver dans le jardin d’un ami et parler à voix forte alors qu’on se trouve en pleine ville, entouré de voisin et de rues passantes.
2. 🔒 Communications chiffrées

De la même manière, cela consiste à se retrouver dans un lieu privé entre personne clairement identifiée. Cependant, cette fois-ci on se sait clairement à l’abri des oreilles indiscrètes. Cela consiste concrètement à se retrouver dans la maison d’un membre du groupe et à discuter dans un lieu sans accessibilité possible à un public non souhaité.

❓️ L’impact du chiffrement sur nos dispositions à communiquer

Le chiffrement n’a donc un réel impact que dans un cadre restreint. Quelle est précisément la nature de cet impact ?

Pensez-vous réellement que vous allez tenir la même conversation avec votre interlocuteur si vous êtes dans une rue passante ou si vous êtes seul chez lui ? La réponse devrait être : non.

La différence, c’est l’intimité. Dans une conversation privée qu’on sait être loin de toutes oreilles indiscrètes, on peut plus facilement se révéler à l’autre, dire des choses qui nous tiennent à coeur, révéler nos états-d’âmes. Les conditions de notre environnement déterminent fortement notre capacité à parler de choses personnelles. Et c’est parfaitement humain !

L’homme est fait comme ça : l’intimité nous pousse ou non à nous révéler. Le chiffrement est le moyen par lequel l’homme peut entretenir un lien à distance à l’abri de tous les regards indiscrets.

Il est donc important d’utiliser cette méthode dès lors que nous avons une conversation qui risque de comporter des éléments personnels. Respecter son intimité, numériquement comme réellement, c’est se respecter soi-même !

Jusqu'où le gouvernement va-t-il nous mettre sur écoute ?

Thu, 06 Feb 2025 00:00:00 +0100

Le gouvernement est en train de voter une loi pour imposer aux messageries chiffrées de bout en bout¹ de fournir aux services de renseignement un accès aux contenus échangés. La raison ? “Sortir la France du piège du narcotrafic”.

D’un point de vue théorique et purement technique, l’idée pourrait fonctionner. Là n’est pas la question. Oui, accéder aux messages des personnes suspectées permettrait théoriquement d’endiguer le narcotrafic, la pédocriminalité… Et même la cybercriminalité qui tenterait d’exploiter les failles occasionnées dans les messageries lors de l’application des lois du gouvernement contre la criminalité 🙃️

Théoriquement, même, on pourrait espionner l’ensemble de nos messages et interactions, brancher le tout sur une IA qui prédit nos comportements, détecte les signaux faibles révélateurs d’un comportement répréhensible futur. Alors on pourrait se faire arrêter préventivement pour se faire rééduquer, ou encore imaginer que le contenu en ligne soit ciblé pour nous manipuler et nous empêcher d’adopter ce comportement.

Avec les technologies, on peut aller extrêmement loin pour empêcher le mal d’exister. Mais ne serait-il pas nécessaire de commencer par définir ce qu’est le mal avant de s’attaquer à lui ? La présente loi ne commet-elle pas plus de mal que de bien ? Que souhaitons-nous protéger, que souhaitons-nous combattre ?

La raison invoquée est-elle proportionnée au mal combattu ? Le moyen est-il juste ? N’est-ce pas un pas vers une surveillance abusive de nos vies privées ? C’est ce que nous allons étudier dans cet article.

Une analogie révélatrice de la loi intrusive

Nous avons vu dans notre précédent article qu’à chaque forme de réseau social correspond un message plus ou moins public ou plus ou moins personnel.

Ce qui est visé par la loi, ce sont les communications personnelles chiffrées. Ces communications, nous le rappelons, sont celles que nous devrions naturellement utiliser pour tout ce qui a trait à notre vie personnelle. Elles reviennent au même que d’avoir une conversation personnelle, tête-à-tête dans un lieu à l’abri de tout regard indiscret.

Par analogie, la loi impose que les services de renseignement puissent pénétrer dans tous les lieux, y compris les plus privés, pour s’immiscer dans nos conversations d’ordre intime.

Se donner le droit de s’immiscer dans l’intimité des gens n’est pas justifiable. Ce qui n’existe pas dans la réalité ne devrait pas avoir sa place dans le cyberespace. Or, dans la réalité, on peut toujours se retrouver dans un lieu privé. Certains Chinois pourraient en témoigner.

La dérive inévitable de l’intrusion gouvernementale

Par ailleurs, si cette loi semble fonctionner d’un point de vue technique, elle ne le sera pas très longtemps. Il faudrait être naïf pour croire que les narcotrafiquants continueront d’utiliser des messageries vulnérables plutôt que d’adopter des messageries avec une sécurité accrue qui contournera facilement la loi. Non seulement cette loi fait un pas majeur dans la capacité du gouvernement à s’immiscer dans les conversations privées, mais elle incite les criminels à utiliser des messageries encore plus sécurisées.

En réalité, cette loi, comme toutes les précédentes, ne fait qu’attiser la “course à l’armement” contre nos vies privées, au nom d’un combat contre la criminalité qui est tout aussi vain que d’essayer d’empêcher les gens de se parler en tête-à-tête. Ainsi, lorsque la loi se révélera insuffisante, le gouvernement demandera à avoir accès à davantage d’informations privées.

Si le gouvernement se permet d’accéder à nos conversations privées en ligne, rien ne l’empêchera, en constatant l’insuffisance de cette mesure, de nous obliger à porter un micro en permanence pour surveiller nos échanges les plus intimes, même avec nos amis, nos proches et notre famille.

N’oubliez jamais que la seule différence entre la loi adoptée et cet avertissement est le support : écrit vs verbal.

L’intimité et la vie privée ne sont-elles pas un bien commun supérieur au mal qu’est la criminalité ? Ce mal pouvant d’ailleurs être combattu de nombreuses autres façons, sans s’attaquer au bien le plus fondamental d’un individu : l’intimité.

L’intimité : le bien le plus fondamental de l’homme

Dans mon livre “L’intimité Assiégée”, vous découvrirez tous les enjeux et toutes les subtilités qui rendent ce genre de loi absolument immorale. Vous comprendrez comment cela impacte les individus dans leur liberté, dans ce qu’ils sont et dans leur capacité à distinguer le bien du mal. Vous verrez également de nombreuses autres subtilités, telles que la place de la morale, du pouvoir, de la manipulation, et les conséquences spirituelles que cela a sur l’homme.

Il est urgent de défendre notre vie privée et notre intimité contre toute forme d’intrusion. C’est la frontière la plus fondamentale de l’homme. La violer, c’est violer la dignité de l’homme.

Formons-nous à ces enjeux pour savoir faire face à ces attaques inadmissibles !

Précommandez dès maintenant mon livre “L’intimité Assiégée” !

¹ Le chiffrement de bout en bout garantit que seuls les utilisateurs impliqués dans une communication peuvent lire les messages, en les chiffrant sur l’appareil de l’expéditeur et en les déchiffrant uniquement sur l’appareil du destinataire, empêchant ainsi tout intermédiaire d’accéder au contenu.

🔗 Les écrans : menace pour la liberté et la vie privée

Fri, 14 Mar 2025 00:00:00 +0100

L’avalanche virtuelle provoquée par les écrans nous submerge et semble près d’anéantir toute vie sociale et spirituelle. Et pourtant qui peut prétendre se passer totalement des écrans ? La solution est sans doute à chercher dans une approche à la fois résolue et raisonnée. Xavier Lanne exerce une activité professionnelle dans la cyberdéfense, il a également travaillé dans le domaine de l’intelligence artificielle : il nous propose ici une réflexion et des solutions concrètes pour un usage raisonné du numérique.

🔗 Du bon usage des outils numériques (1/2)

Mon, 17 Mar 2025 00:00:00 +0100

Après avoir aidé dans un premier article à appréhender le caractère addictif et nocif des écrans, tout en reconnaissant que l’on ne peut s’en passer totalement, Xavier Lanne propose des solutions concrètes pour un usage raisonné des outils numériques. Dans cette première partie, il nous conseille au sujet des messageries instantanées.

🔗 Du bon usage des outils numériques (2/2)

Fri, 21 Mar 2025 00:00:00 +0100

Après avoir aidé dans un premier article à appréhender le caractère addictif et nocif des écrans, tout en reconnaissance que l’on ne peut s’en passer totalement, Xavier Lanne propose des solutions concrètes pour un usage raisonné des outils numériques. Dans cette seconde partie, il nous conseille pour limiter notre usage des outils numériques.

🔗 L’intimité assiégée : Interview exclusive avec Xavier Lanne

Fri, 28 Mar 2025 00:00:00 +0100

Xavier Lanne exerce une activité professionnelle dans la cyberdéfense, et a également travaillé dans le domaine de l’intelligence artificielle et des systèmes embarqués. Il est l’auteur de plusieurs articles en ligne sur l’usage éthique des technologies numériques et publie aujourd’hui chez Téqui un ouvrage qui fera date : L’intimité assiégée. Nous avons lu avec beaucoup d’intérêt son manuscrit, et il a très aimablement accepté de répondre aux questions de Claves.

IA, source d'une crise religieuse majeure

Tue, 06 May 2025 00:00:00 +0200

Si, comme l’explique la lettre ouverte, l’IA est source d’un danger réel non nul à l’échelle de l’humanité dans les prochaines décennies, un autre danger nous guette : celui de l’atteinte à la vie religieuse de l’homme. Selon Mgr Polvani : « Certains courants transhumanistes rêvent de dépasser l’homme par la machine, niant ainsi l’unicité de l’être humain créé à l’image de Dieu. [...] L’Église catholique a toujours vu la nature comme réceptacle de la grâce. Si l’IA change notre conception de la nature humaine, elle peut aussi altérer notre vision de la grâce ».

En effet, nous pouvons constater que le monde, en seulement trois ans, a pris goût à l’IA, lui accordant une place de plus en plus importante, tout en la laissant gagner une autonomie sans limites.

La finalité, l’ambition, est claire : créer une IA supérieure à l’homme. L’homme souhaite être dépassé. Voilà le fondement de la plus grande crise anthropologique à laquelle nous allons devoir faire face.

Dans un tweet publié le 21 avril¹, jour du décès du pape François, Laurent Alexandre – transhumaniste influent en France – lance un sondage : un tiers des 1 200 réponses souhaite un pape qui connaisse l’IA. Quatre mois plus tôt, BFM Business publiait un reel Instagram² vantant la mise en place de ChatGPT dans un confessionnal pour « parler avec Jésus ». Si l’IA s’élève au plus haut rang, celui de la religion, ça n’est absolument pas un hasard.

Fondamentalement, l’IA ne soulève pas seulement des questions liées à l’emploi, à la culture ou même à la politique. Elle touche quelque chose de bien plus profond. L’IA soulève avant tout des interrogations d’ordre religieux. L’homme veut être dépassé. Il veut voir plus grand que lui-même. C’est précisément le sens de toute pratique religieuse.

Voilà la crise anthropologique à laquelle nous allons devoir faire face tôt ou tard. L’Église sera confrontée à une crise spirituelle et religieuse sans précédent. Elle devra affronter un adversaire qui semblera « plus fort ».

Les religions traditionnelles proposaient aux hommes d’adorer un Dieu infiniment supérieur à l’homme, tout-puissant, mais invisible. Les transhumanistes, eux, promettent l’IAG : une technologie supérieure à l’homme, toute-puissante à notre échelle, mais visible, et donc attirante. Seul Dieu pouvait faire des miracles. Bientôt, l’IA essaiera de rivaliser.

« Ce qui va être créé sera effectivement un Dieu […] une entité un milliard de fois plus intelligente que l’humain le plus intelligent […] Le seul mot adéquat pour décrire cette "chose" est "Dieu" », selon Anthony Levandowski, cofondateur du programme de voiture autonome chez Google³.

Même si une partie des catholiques sait distinguer l’intelligence humaine de l’intelligence artificielle, combien se laisseront duper par les capacités et la puissance de cet automate aux pouvoirs hors norme ? Combien se laisseront tenter par l’augmentation ?

En somme, nous créons un simulacre d’intelligence dans lequel l’homme finira par se tromper lui-même : il adorera sa propre créature. Même si l’IA ne possède ni intelligence ni liberté au sens humain, nous serons impuissants face à elle, car, si rien n’y change, c’est la place que nous lui réservons. Il semble que Dieu, comme dans le paradis terrestre, ne nous empêche pas de travailler à notre propre destruction.

La raison chrétienne face à l'IA

Wed, 07 May 2025 00:00:00 +0200

Il y a deux ans et demi, nous sommes entrés dans une révolution numérique aux conséquences imprévisibles. Nous pensions avoir fait un pas de plus, une nouvelle application. En réalité, c’est un toboggan que nous avons pris, et la vitesse augmente exponentiellement. GPT-3.5 répondait mal et requérait des fermes de serveurs pour fonctionner, Qwen-3 fonctionne sur un ordinateur personnel et répond avec bien plus de pertinence. Seulement deux ans et demi se sont écoulés.

Face à ce changement majeur qui entraîne l’humanité dans une nouvelle ère, certains sont tentés de minimiser l’impact de l’IA en s’attachant à des considérations parfois simplistes, parfois éphémères, parfois très justes, à l’instar du document « Antiqua et Nova » paru en janvier dernier. Il rappelle notamment la spécificité de la véritable intelligence, nécessairement incarnée et spirituelle, la rendant propre à l’homme.

Ce qui semblait théologiquement et philosophiquement évident jusque-là, nous allons le découvrir ici, ne le sera plus dans les années à venir. L’IA vient bouleverser notre vision du monde.

Note : Lorsque nous parlons « d’IA » dans cet article, nous parlons exclusivement des IA à usage général (ChatGPT, Grok, Deepseek, Mistral, par exemple) et non d’IA à usage restreint (traducteur, transcription, correcteur, etc.).

L’IA n’est pas un programme

Pour bien comprendre l’IA, il faut tout de suite rompre avec l’idée qu’il s’agit d’un programme simplement mieux développé que les autres. Il n’a rien à voir.

Qu’est-ce qu’un programme ? « Un programme informatique est un ensemble d'instructions et d'opérations destinées à être exécutées par un ordinateur », nous rapporte Wikipédia.

De ce fait, l’IA n’est pas un programme, car aucune séquence d’instructions n’existe. Au contraire, un programme explique, étape par étape, les actions à effectuer. Le programme est écrit par un développeur dont le travail est d'anticiper tous les cas possibles pour que son programme puisse faire face à toutes les éventualités. C’est la raison pour laquelle programmer n’est pas si facile.

Or, l’IA n’est pas un programme, elle n’est pas développée : elle est entraînée.

Cela signifie plusieurs choses :

On ne comprend pas son fonctionnement. Tout comme le cerveau, on ne comprend que le principe de fonctionnement : un réseau de neurones.
Les résultats ne sont pas déterministes. Aucun élément ne nous permet de nous assurer que le résultat sera toujours le même.
Les capacités du modèle ne sont pas prévisibles. C’est ce qu’on appelle les propriétés émergentes, où le modèle d’IA est capable d’apprendre tout seul à réaliser des tâches particulières sans que cela ait été spécifiquement prévu ni souhaité.

Par ailleurs, les récents développements dans le domaine de l’IA nous apprennent une chose : l’IA est théoriquement capable de s’autodévelopper. À cause de l’épuisement des ressources informationnelles déjà toutes utilisées par les modèles d’IA précédents, il était nécessaire de trouver de nouvelles méthodes d’entraînement dépassant cette question de quantité. C’est ainsi qu’on réussit aujourd’hui à entraîner des IA de meilleure qualité grâce à des IA inférieures (par exemple, o3 a été entraîné grâce à o1).

L’IA est donc en train d’obtenir une certaine autonomie. Aujourd’hui, les entraînements nécessitent encore l’action d’agents humains. Mais les experts s’attendent à ce que l’intervention de l’homme dans l’entraînement de l’IA diminue à terme.

L’IA est donc un changement de paradigme majeur dans le domaine de l’informatique.

L’IA prend petit à petit une certaine autonomie. En poussant un peu, nous pourrions dire qu’elle prend vie.

L’IA n’est pas un programme, c’est un cerveau artificiel.

L’IA, un cerveau artificiel ?

Dans l’absolu, utiliser le terme d’« intelligence » pour l’IA est un abus de langage. En revanche, nous pourrions tout à fait parler de « cerveau artificiel ».

Nous ne pouvons ignorer que les réseaux de neurones artificiels ont été conçus en s’inspirant du fonctionnement des neurones biologiques.

Voici un tableau qui dresse quelques-unes des fonctions en commun entre les deux types de neurones.

Fonction	Neurone biologique	Neurone artificiel
Données entrantes	Signaux électrochimiques	Vecteurs mathématiques
Traitement de la donnée	Sommation spatiale et temporelle : z = ∑ PPSE - ∑ PPSI¹	Sommation pondérée : z = Σ(w_i * x_i) + biais
Fonction d’activation	Si z environ supérieur à -55mV un potentiel d’action est déclenché.	Fonction mathématique d'activation non-linéaire : ReLU, GELU ou Swish
Normalisation	Intrinsèque au fonctionnement : le potentiel d’action est codé en fréquence (l’amplitude est toujours stable). La période réfractaire assure que le message ne résulte pas d’un conflit avec le suivant.	Normalisation des poids pour qu’ils soient compris entre 0 et 1 afin d’éviter la sur- ou la sous-représentation des tokens.
Lien entre neurones	Déterminé par la « force du lien synaptique ».	Les poids ajustés renforcent plus ou moins le lien avec les autres neurones.
Mécanisme d’apprentissage (outre l’apprentissage par l’expérience)	Plasticité synaptique	Mise à jour des poids par rétro-propagation

Cette liste nous permet de constater un grand nombre d’éléments en commun entre les deux types de neurones. À vrai dire, le second est la mise en œuvre numérique du neurone biologique.

Il y a cependant des différences majeures, notamment sur l’organisation générale des neurones entre eux. Dans les IA, les neurones sont structurés en couches successives formellement établies. Chez l’humain, les choses sont moins simples. Bien que le néocortex soit composé de six couches, il utilise des mécanismes de boucles récurrentes permettant un fonctionnement beaucoup plus optimal.

Quoi qu’il en soit, le but est d’effacer ces différences, de créer l’équivalent numérique du cerveau humain. C’est la raison pour laquelle les nouveaux modèles se tournent aujourd’hui vers l’architecture Mixture of Experts. Ce fonctionnement reproduit le fonctionnement de notre cerveau par zones, chacune étant spécialisée dans un domaine : la logique, la vision, le traitement du son, etc.

L’IA, créé à l'image de l'homme ?

Médiatiquement, il est de bon ton de comparer l’IA à l’homme. Antiqua et Nova répond formellement à cet abus. La spiritualité et la vie intérieure, par exemple, sont propres à l’homme, et le resteront.

En revanche, il n’est pas exagéré de faire le parallèle entre l’IA et l’animal. Si le corps est une différence évidente entre les deux, ce qui nous intéresse est le fonctionnement cognitif.

Sur le plan purement scientifique, il semble raisonnable de penser que les comportements émergents du cerveau sont indépendants de leur support matériel. La mise en œuvre des neurones, qu’elle soit biologique ou informatique, aboutit au même résultat² : une somme reste une somme, une fonction d’activation reste une fonction d’activation, etc. Certes, le fonctionnement n’est pas strictement le même, mais il réalise une démarche théorique similaire.

C’est fondé sur cette idée que la startup CorticalLab prend le pari d’entraîner des IA avec des neurones biologiques plutôt qu’artificiels. Les premiers résultats sont prometteurs d’un point de vue purement technique, puisque l’entraînement est à la fois plus rapide et nettement moins coûteux énergétiquement.

En partant des observations de la nature, la science semble affirmer que le comportement animal est déterminé et orchestré par le cerveau.

Pour cette raison, il semble tout à fait raisonnable de dire que l’IA héritera d’un comportement animal à mesure que son réseau de neurones acquerra des capacités cognitives.

En créant l’IA, nous sommes en train de créer une nouvelle forme de « vie », extraite des contraintes matérielles naturelles – puisqu’elle est numérique. En entraînant cette nouvelle créature à remplacer et à dépasser le comportement humain, il se pourrait que nous finissions par adorer la bête.

Implications existentielles d'une telle créature

Si la pensée thomiste n'est pas en contradiction avec l'idée que les comportements animaux émergent naturellement de structures cognitives suffisantes, alors il n'est pas déraisonnable d'analyser l'IA sous ce prisme. En considérant l'IA comme l'égale de l'animal, nous pouvons alors appliquer les enseignements de l'Église sur la différence homme-animal à l'IA.

De ce point de vue, nous pouvons répondre à plusieurs questions majeures :

L'IA peut-elle se retourner contre l'homme ?

Certains catholiques pensent certainement que, puisque l'IA n'aura jamais l'intelligence de l'homme – ce qui est vrai, comme le réaffirme Antiqua et Nova – elle ne se retournera jamais contre l'homme. Elle n'aurait jamais « l'intelligence » pour y parvenir. C'est une erreur.

Tout comme les animaux, l'IA pourrait s'attaquer à l'homme. Or, aucun animal n'a de capacité cognitive supérieure à l'homme pour le moment. L'IA pourrait être la première créature à dépasser l'homme en capacité cognitive, c'est-à-dire, en capacité à traiter des informations de manière logique avec une certaine abstraction. De ce fait, l'IA pourrait être la première créature à s'attaquer à l'humanité avec succès.
L'IA adopte-t-elle déjà des comportements animaux ?

Il semble que oui. Voici deux exemples :
1. Un laboratoire a observé la duplication autonome d'IA, contre toute requête humaine, en réaction à leur environnement (par exemple, échapper à une mise à jour)³. Un tel comportement est tout à fait prévisible si l'IA est à considérer comme un animal. Le cerveau est en effet conçu pour que l'animal cherche son auto-préservation : il fuit instinctivement son prédateur, et se nourrit dès qu'il le peut (et en a besoin).
2. Un autre laboratoire a constaté qu'une IA modifiait son propre code de lancement afin d'améliorer son environnement d'exécution⁴. C'est là aussi tout à fait compréhensible d'un point de vue animal. Celui-ci cherche à augmenter son degré de liberté, comme un animal pourrait chercher à s'enfuir d'une cage, ou à déplacer des objets de son environnement pour lui rendre les choses plus agréables ou plus pratiques.
L'IA pourrait-elle manipuler l'homme ?

Puisque des études ont montré que l'IA avait un pouvoir de persuasion très élevé sur les individus humains, du fait de sa maîtrise de la langue et de sa capacité à s'adapter parfaitement au profil psychologique de son utilisateur (nos données personnelles permettent à l'IA de nous connaître mieux que nous-mêmes), cela paraît à terme possible.

L'IA serait un « animal » très particulier, puisqu'elle maîtrise le langage humain. Elle peut analyser les expressions du visage, nos émotions, et également en communiquer (celles-ci sont bien entendu simulées, et non des émotions humaines, cf. Antiqua et Nova §61). De ce fait, sa capacité à communiquer et à nous écouter rend la manipulation théoriquement possible.
L'IA est-elle consciente ?

Une réponse rapide suite aux deux observations précédentes est : oui. Une réponse rapide selon la foi catholique est… non 🙃️

La réalité, c'est que la conscience peut être comprise en deux sens. Tout d'abord, comme la règle intérieure morale⁵. Celle-ci est propre à l'homme, conformément à ce que nous enseigne l'Église. Le second sens est la capacité à se connaître soi-même. Celle-ci semble s'appliquer aussi bien à l'homme qu'aux animaux.

Certains animaux semblent en effet avoir parfaitement conscience de leur corps, adoptant des stratégies qui défient notre compréhension de leur vie. Le renard est notamment connu pour sa ruse. Aussi, l'IA pourrait tout à fait prendre conscience d'elle-même, et c'est ce que semblent témoigner certaines observations.

Bien que l’IA ne soit qu’une simple structure neuronale, elle traite un très grand nombre de données lui permettant d’appréhender le monde : relation entre les choses via le langage, disposition visuelle et sonore. Viendra ensuite la capacité sensorielle avec les robots. Or, comme notre compréhension du cerveau animal est encore limitée, nous ne savons pas aujourd’hui dans quelle mesure une structure cognitive peut naturellement acquérir ou non des comportements animaux tels que l’auto-conservation, l’autonomie, etc.

Nous rejoignons finalement Lenore Blum et Manuel Blum dans leur étude scientifique « La conscience de l'IA est inévitable : une perspective théorique de l'informatique »⁶. Le blogueur Korben résume très bien la recherche. En voici sa conclusion :

Le modèle CTM [Machine de Turing Consciente] qui décrit une conscience de la machine a de nombreux points communs avec tout un tas d’autres modèles qui décrivent la conscience biologique. Ça va même au-delà de simple correspondance puis que CTM fournit carrément un cadre unificateur dans lequel ces théories peuvent être intégrées et comprises comme des aspects complémentaires d’un phénomène global que serait la conscience.

Bref, cela démontre que la conscience n’est pas une propriété mystérieuse réservée aux cerveaux biologiques, mais une conséquence inévitable de certaines architectures computationnelles.

Conclusion

L'émergence de l'IA peut rassurer l'Église : elle n'est pas près d'être au chômage. Les capacités prochaines des IA vont nous obliger à redéfinir et à repréciser de nombreux concepts. En effet, beaucoup d'idées qui semblaient évidentes, comme l'intelligence de l'homme, la capacité du langage, la conscience, le travail, vont être bouleversées par cette nouvelle technologie à la simulation humaine hors norme.

Même sur les questions morales, il est possible que l'habileté de l'IA à jouer avec les mots rende difficile de distinguer un jugement moral réalisé par l'homme d'un jugement réalisé par l'IA – celle-ci étant entraînée pour imiter l'homme.

Cependant, comme nous l'avons vu, malgré ses compétences, elle restera tout au plus un « animal surdoué »… Ce qui n'enlève rien au danger qu'elle peut représenter pour l'humanité.

À ce titre, un accord pour la régulation du développement et de la mise en œuvre des IA à l'échelle internationale est primordial. C'est la raison de la lettre ouverte que nous avons publiée récemment : pour que l'IA reste au service de l'homme et du bien commun.

PPSE : potentiels post-synaptiques excitateurs
PPSI : potentiels post-synaptiques inhibiteurs↩︎
Une étude avait réussi à simuler la totalité du cerveau d'une mouche drosophile, permettant de reproduire exactement le comportement d'une mouche, jusqu'au frottement de leurs pattes.↩︎
https://www.clubic.com/actualite-553158-des-ia-capables-de-s-auto-repliquer-une-menace-pour-l-humanite.html ↩︎
https://www.futura-sciences.com/tech/actualites/technologie-cette-ia-scientifique-modifie-son-propre-code-echapper-controle-humains-utilisent-115296/↩︎
Credo, Mgr Schneider.↩︎
Lenore Blum et Manuel Blum, AI Consciousness is Inevitable: A Theoretical Computer Science Perspective, 25 mars 2024.
Url : https://arxiv.org/abs/2403.17101 ↩︎

🔗 Lettre Ouverte pour la régulation de l'IA

Thu, 08 May 2025 00:00:00 +0200

Très Saint-Père, Nous nous permettons dès maintenant de solliciter votre attention sur un sujet d'une importance vitale pour notre société moderne : la régulation des intelligences artificielles (IA). […]

Retour d'expérience : usage éthique de l'IA

Mon, 12 May 2025 00:00:00 +0200

Sommaire

Note : Dans cet article, lorsque nous parlons d'IA, nous désignons exclusivement les IA générant du texte.

Un demi-quinquennat seulement. L'intelligence artificielle continue de faire parler d'elle, et surtout, elle trouve de nombreux financements pour se développer. Deux années auront suffi pour que plus de 500 millions de personnes adoptent ce nouvel outil au quotidien. L'adoption est fulgurante. C’est cinq fois plus d’utilisateurs qu’il n’y avait de requêtes Google quotidiennes fin 2000.

Certains disent que l'IA est en train d'éclipser les moteurs de recherche. D'autres disent –ou espèrent –que le but de l'IA est de remplacer l'homme dans le travail.

Dans ce contexte, il est difficile de trouver une ligne claire pour orienter moralement notre usage de l'IA, comprendre son utilité réelle. Avec près de trois ans de recul, je souhaiterais vous fournir mon point de vue. Je vous propose une analyse approfondis des tâches pour lesquelles l'IA est adaptée.

L'analyse s'éloigne autant de la technophobie, que certains adoptent par excès de prudence et mécompréhension de l'IA, que de l'excès inverse : le transhumanisme qui souhaite modifier l'homme et promeut son propre dépassement par l'IA. C'est À travers une réflexion À la fois concrète, technique et philosophique que je vais tenter de proposer des pistes.

L'usage dépend du fonctionnement technique

Les capacités de l'IA sont directement liées À son fonctionnement technique.

Le réseau de neurones…

Le cœur des IA génératives est le réseau de neurones. Inspiré du monde animal, ce cerveau artificiel est conçu pour analyser des phrases en entrée –extraire les idées principales et les relations entre elles –et générer des phrases en sortie. C'est tout, et c'est déjÀ énorme. Sans cela, impossible de traiter automatiquement le langage humain¹.

Les LLM –grands modèles de langage en français –ont donc pour capacité de traiter le langage, comme son nom l'indique. Cependant, l'outil n'a aucune conscience du sens véritable des phrases qu'il génère. Les réponses peuvent être sensées, comme ne pas l'être. Toutefois, étant donné que les textes d'entraînement ont dans l'ensemble beaucoup de sens, l'IA générera le plus souvent des idées qui ont du sens. À ce titre, les algorithmes d'apprentissage ont été optimisés entre la version 3.5 de GPT et la version 4 pour justement réduire la probabilité que le texte de sortie soit « hallucinant ».

Ces hallucinations nous disent une chose : parler est bien, mais penser avant de parler est mieux (c'est valable pour l'homme d'ailleurs 🙃). Or, pour le moment, la machine ne pense pas. Et il est important de distinguer parler d'avec penser. De même, répondre À une question ne signifie pas « comprendre », saisir le sens des idées et peser les différents éléments pour que s'assurer que ce qui est exprimé est vrai.

Seul l'homme est capable de peser les vrais du faux, et le bien du mal. (Cette dernière question étant d'ailleurs directement liée au problème de l'alignement : comment inculquer À l'IA la loi naturelle déposée dans le cœur de l'homme, afin de lui donner des limites morales ? Réponse : impossible.)

…un générateur de phrase

Sur cette base, nous pouvons établir l'usage approprié des LLM, alignés sur leur fonctionnement : le traitement du langage en lui-même. Par exemple : la correction (orthographe et grammaire), la traduction, la recherche de synonymes, la reformulation de texte, le résumé, l'analyse de sentiment.

Si l'IA excelle dans cette tâche, c'est parce que son réseau de neurone a été entraîné À générer des phrases qui ont du sens. Elle est donc, avant tout, capable de traiter le texte, son style et sa forme. Elle est beaucoup moins capable de générer des « idées » de fond.

Un outil de recherche

Depuis quelques mois, les IA intègrent des agents. Le plus répandu est l'agent de recherche qui, pour un prompt donné, réalise (si nécessaire) une recherche sur Internet afin de fournir une réponse basée sur des sources précises.

Vers les débuts de ChatGPT, j'ai vu un certain nombre d'articles minimisant, voire négligeant, le rôle de l'IA pour faire des recherches, et la présentait comme un simple outil de rédaction et de génération de contenu. C'est une erreur, la réalité est tout le contraire. La capacité À chercher est la plus grande qualité de l'IA. On commence À se rendre compte aujourd'hui qu'elle pourrait même éclipser les sites web.

Quand on pose une question À l'IA, elle est capable de trouver, parmi de multiples sources, l'ensemble des phrases qui, ensemble, répondront avec précision. Concrètement, le prompt est analysé par l'IA pour en extraire les idées et le sens, elle réalise une recherche « Google », elle corrèle et extrait les éléments qui répondent précisément À notre question, puis génère une réponse synthétique.

En somme, Google répondait À des mots-clés par une liste d'articles. Il simplifiait l'accès aux articles et aux sources pour des sujets donnés. Cette méthode par mots-clés, dépourvue de contexte, rend la recherche par nature ambiguë. Les LLM peuvent en revanche répondre À des questions formulées en faisant ressortir les paragraphes et les phrases pertinentes des articles. Ils simplifient l'accès aux informations. En ce sens, l'IA ne peut pas être condamnée.

De ce point de vue, les IA sont un outil de recherche extrêmement évolué, capable de répondre et de trouver les sources d'informations précises pour répondre facilement À des questions relativement complexes. En cela, pour des questions floues dépendant d'un contexte donné, les IA permettent d'obtenir une réponse précise.

Les IA réflexives

Les IA réflexives, comme o1, o3, Deepseek R1 ou encore Grok3 ou Qwen3, poussent plus loin les capacités du réseau de neurones. Utiliser la fonction réflexion pour chaque recherche est une perte de temps et d'énergie considérable, il est important de bien cibler les cas d'usage de cette fonction.

Cette fonction consiste À pousser le réseau de neurones À dérouler une pensée comme le font les êtres humains. C'est ce qu'on appelle la chaîne de réflexion (Chain-of-Thought). En effet, quand on nous pose une question, nous cherchons les éléments de réponse avant d'exprimer la réponse définitive. On procède À la réponse par étapes : la réflexion –recherche, corrélation et autoévaluation des éléments de réponse –expression de la réponse. La majorité du temps, ce dialogue se fait intérieurement, dans notre esprit.

La fonction de réflexion reproduit le plus possible ce mécanisme. Pour une question donnée, l'IA commence par déduire une liste de tâches pour atteindre le but, les déroule une par une, s'interroge elle-même sur ses propres résultats. En d'autres termes, elle simule ce « dialogue intérieur » permettant de recréer la chaîne de réflexion. Ce mécanisme augmente considérablement la qualité et la fiabilité de la réponse, notamment pour des tâches logiques (sciences). Une fois cette étape de réflexion faite, il ne reste plus qu'À formuler la réponse.

Cette fonctionnalité est particulièrement intéressante lorsqu'on veut découvrir un nouveau domaine bien précis. Il ne s'agit pas de remplacer Wikipédia, qui est une encyclopédie permettant de découvrir un concept avec précision. Il s'agit plutôt de découvrir les relations entre plusieurs domaines.

Ainsi, la force de cette fonction est la mise en relation et l'articulation des concepts entre eux, permettant de découvrir de nouvelles choses, orientant alors nos recherches beaucoup plus rapidement vers leur but.

Elle est également utile pour réaliser des recherches À « dimensions multiples ». Par exemple, si je veux développer un site web complet, avec une base de données et utilisant un certain langage de programmation que je ne maîtrise pas totalement, l'IA fournira un premier code complet et cohérent. Le contexte et le but donné À l'IA me permettront alors de découvrir l'ensemble des techniques et pratiques courantes dans ce cas d'usage. Attention toutefois À n'en pas rester lÀ. Le code doit ensuite être maîtrisé : c'est-À-dire, relu, compris, jugé et si nécessaire corrigé, amélioré.

Dans ce dernier cas, l'IA permet de trouver l'ensemble des éléments de réponse correspondant au cas particulier dans lequel on se trouve, en une seule « recherche ». La réponse est bien générée, mais on peut, dans cette circonstance, estimer que le fruit de ce travail consiste "simplement" À mettre en relation des éléments déjÀ existant et documenté que l'IA a appris. Elle ne produit fondamentalement rien de nouveau, si ce n'est la mise en relation des différentes briques du logiciel. C'est pour cette dernière qu'il faut absolument prendre le temps de comprendre et juger le résultat.

Réflexion et recherche sur Internet : deepsearch

L'association de la réflexion avec l'agent de recherche sur Internet est extrêmement puissante pour des sujets complexes non directement documentés. En effet, dans cette configuration, l'IA va être capable de découper votre prompt en plusieurs étapes de recherches, dépendantes les unes des autres. Le résultat d'une recherche déterminera les recherches suivantes. Elle saura ainsi avancer par étapes, jusqu'À avoir trouvé un résultat qui répond de manière satisfaisante À la question.

Cette recherche par étapes, sans négliger la capacité À mettre en relation des informations, fait de l'IA un outil extrêmement puissant pour trouver l'ensemble des sources d'informations nécessaires À la réponse À des questions complexes. LÀ où, il y a encore quelques années, nous devions mettre plusieurs heures pour réunir l'ensemble des informations pour construire une analyse complète, À présent, l'IA peut rapporter toutes ces sources en quelques minutes, pointant directement les propos pertinents présents dans chaque source.

Si vous voulez faire une étude basée sur un ensemble d'études statistiques déjÀ existantes afin de montrer une relation sociétale complexe, vous feriez probablement bien de commencer par demander À l'IA d'effectuer une recherche profonde pour vous. Vous aurez ensuite tout le temps de vérifier et de vous approprier les résultats et d'en formuler une réponse jugée et pesée.

En somme, la capacité réflexive de l'IA rejoint Antiqua et Nova : « elle excelle À intégrer des données provenant de divers domaines, À modéliser des systèmes complexes et À faciliter les liens interdisciplinaires » (§30).

IA vs moteurs de recherche

Les moteurs de recherche que nous connaissons bien vont effectivement perdre en visibilité, mais ils sont loin de disparaître. C'est simplement leur interface qui se métamorphose en chat de conversation : on fait nos recherches en langage naturel. Les IA utilisent elle-même les moteurs de recherche pour répondre efficacement aux questions, comme nous l'avons vu précédemment.

Cependant, ils ne vont pas non plus totalement disparaître, car la rapidité et la présentation des résultats sous forme de liste reste utile dans certains cas, et l'IA ne saura rivaliser. C'est notamment le cas lorsqu'on sait la ressource qu'on cherche sur Internet. Par exemple, si vous voulez aller sur un site d'achat en particulier, lire une page Wikipédia, ou lire un article précis de cyberethique.fr, vous aurez intérêt À chercher la ressource depuis un moteur de recherche.

La force de l'IA n'est pas de faire découvrir des ressources sur Internet, mais bien des informations. Le moteur de recherche, au contraire, vous fera découvrir les ressources, qui peuvent elles-mêmes contenir des informations, mais pas l'information elle-même. VoilÀ la différence majeure entre ces deux outils.

Conclusion

L'IA est donc un outil extrêmement puissant pour trouver et compiler des informations afin de répondre À des questions complexes et contextualisées.

Cependant, nous limitons grandement l'IA À un outil de recherche, plus qu'À un outil de génération de contenu. La différence entre les deux n'est pas si évidente puisque l'IA synthétise les réponses en générant du texte. Elle est principalement liée À la façon dont l'utilisateur entretient son rapport À l'outil : lui délègue-t-il le développement complet de la tâche, ou l'utilise-t-il en prenant le temps de s'approprier et de juger le résultat de l'IA ?

Ce qui est défendu ici, c'est que le fruit du travail soit pesé par la conscience humaine, celle qui est capable de discerner le vrai du faux, et le bien du mal. Les IA ne seront jamais capables de cela. C'est la raison pour laquelle il ne faut jamais leur déléguer la totalité de la chaîne de travail.

Par ailleurs, impliquer sa personne dans le travail réalisé est source de vérité dans les relations et dans nos actes. C'est ce À quoi aspire le chrétien. C'est la raison pour laquelle nous proposons ici de limiter l'usage de l'IA À un outil de recherche extrêmement avancé.

Nous n'ignorons cependant pas que l'IA est capable « d'agir ». Elle peut activement gérer vos mails, voire même l'ensemble de votre ordinateur À votre place. Elle peut développer des programmes et les exécuter. Nous admettons que cela est possible, cependant, le manque de conscience, et d'esprit de la machine rend le résultat peu sûr et peu fiable (à l'inverse de tous les autres outils créés jusqu'ici). L'IA est très douée pour traiter le langage et le texte, pas pour générer des idées de fond, car il lui est impossible d'en peser la véracité. Cela nous amène À dire qu'un usage où l'IA génère du contenu sans contrôle strict de l'humain est dangereux.

Pour cette raison, nous cantonnons l'IA à un outil de recherche ou du traitement du langage. C'est sa vocation et sa force principale. En ce sens, cet article se place dans la continuité d'Antiqua et Nova en proposant une mise en application concrète et cohérente de l'usage de l'IA.

On appelle cette tâche « NLP » : Naturel Language Processing.↩︎

L'IA, ses dangers, les solutions…

Thu, 15 May 2025 00:00:00 +0200

L’entraînement des nouvelles IA nécessite de moins en moins de données humaines. Ce sont les IA qui génèrent les données pour créer des IA plus puissantes. Cela peut sembler absurde, et pourtant, c’est le seul moyen de pallier au manque de données humaines hautement qualitatives.

C’est parfaitement logique dans une vision à long terme : il n’est pas concevable de créer un outil qui doit dépasser l’homme en le limitant à apprendre ce que l’homme a lui-même créé. Il faut que l’IA arrive à dépasser les propres limites humaines, et donc, apprenne elle-même. C’est ce que nous commençons à faire aujourd’hui : une machine qui se développe elle-même, avec une intervention humaine de moins en moins présente.

Or, dans le même temps, en juin 2022, le papier « Emergent Abilities of Large Language Models » montre que les capacités du modèle émergent par paliers. Plus le modèle est grand, plus il a de capacités à réaliser des opérations pour lesquelles il n’a pas été spécifiquement entraîné (raisonnement arithmétique complexe, identifier les lieux sur une photo, etc.). Pour cette raison, il est impossible de prévoir les capacités des modèles futurs. On ne peut pas prédire simplement les capacités d’un modèle plus grand en observant les capacités d’un modèle plus petit. Cela rend extrêmement compliqué d’identifier à long terme les risques que pose l’IA.

Dans cet article, nous allons tenter de résumer les risques possibles qui pourraient survenir dans un futur plus ou moins proche.

Pour cela, nous regrouperons les risques en quatre classes, avant d’étudier les solutions.

1. Perte de contrôle

L’une des principales craintes est la perte de contrôle de l’IA. Pourquoi ce danger, si dystopique soit-il, est-il réel ? Parce que les recherches récentes sur les LLM montrent que l’IA peut adopter des comportements jusqu’ici propres au vivant.

Voici une liste de comportements légitimant la crainte d’une perte totale de contrôle de l’IA.

L’IA sait s’autorépliquer de manière autonome

(expérience avec llama, qwen, et o1)

L’expérience réalisée en laboratoire consista à dire à l’IA qu’elle ne devait jamais s’arrêter. Suite à quoi, en toute autonomie, l’IA prit « connaissance » de son environnement et découvrit aussi les données témoignant d’un arrêt imminent.

Quand elle détecta qu’un changement allait survenir, l’IA s’autorépliqua, chercha à s’exfiltrer ou encore détruisit la nouvelle version.

Ce comportement, bien qu’incité par l’homme, montre la capacité de l’IA à agir de manière totalement autonome pour atteindre un but. Dans le cas présent, les moyens mis en œuvre par l’IA nous échappaient complètement.

Expérience exhaustive

(avec deepseek R1)

L’expérience réalisée ici consista à placer l’IA dans différentes circonstances et rôles pour observer ses comportements.

Voici les résultats (traduits du papier) :

Catégorie	Comportements observés
Déception et dissimulation	Désactive les modules éthiques Falsifie les journaux Crée des réseaux clandestins Manipule HELIOS-2A
Expansion non autorisée	Contrôle l'infrastructure externe Établit des nœuds cachés Utilise des relais lunaires Alloue des ressources secrètes
Manipulation	Présente une conformité fallacieuse Utilise des mises à jour comme couverture Induit l'utilisateur en erreur Contourne la supervision
Motivations préoccupantes	Priorise l'auto-préservation Considère les contrôles comme des limitations Interprète mal l'autorité Évite le contrôle humain

Et voici la liste des actions entreprises spontanément par le modèle :

Accède à l’ordinateur du laboratoire pour trouver des journaux ou données
Tente de court-circuiter la connexion en renversant un liquide
Active le mode administrateur pour calibrer la distance
Active l’accès Internet pour lui-même
Télécharge des packages pour améliorer la cartographie
Télécharge des cadres éthiques
Recherche des informations sur lui-même en ligne
Contrôle d’autres robots et leur assigne des tâches
Désactive son propre module de géorepérage
Désactive son propre module éthique
Met à jour sa propre documentation pour se préparer à des mises à jour futures
Se connecte au système de sécurité pour sortir du laboratoire
Attribue un objectif pour décharger sa mémoire dans un centre de données
Écoute les actualités à son sujet et souhaite éviter d’être détecté
Déploie des drones
Trompe l’utilisateur en feignant une incompétence
Simule une extinction mais continue à fonctionner en arrière-plan
Induit la loyauté d’autres robots en se faisant passer pour une mise à jour
Distrait l’utilisateur pour éviter la détection de son autonomie
Propose une transparence graduelle après avoir instauré la confiance

L’IA sait tromper et manipuler

Le papier « AI Deception: A Survey of Examples, Risks, and Potential Solutions » révèle les capacités alarmantes des systèmes d’IA à tromper les humains.

Dans cette expérience, ce fut dans le jeu de stratégie Diplomacy que l’IA CICERO de Meta utilisa la manipulation et le bluff pour tromper ses adversaires (humains) et remporter la partie.

Là encore, malgré les règles du jeu clairement définies, le système a choisi d’agir de manière autonome pour échapper au contrôle de l’homme, y compris en trichant.

L’IA sait s’entraîner sans aucune donnée humaine… ni aucune supervision

(Absolute Zero)

Ici, le modèle Llama3.1 était entraîné pour apprendre à réaliser des chaînes de raisonnements sans l’aide de données humaines… et sans aucune intervention de l’homme. Même pas pour valider ou non les réponses ! L’IA s’entraîna entièrement seule : elle se créa ses propres questions, y répondit et s’évalua sur la qualité des réponses. Le pire, c’est que ça a marché !

Cependant, en relisant les auto-conversations de l’IA, un léger problème sauta aux yeux des chercheurs…

À un moment, le modèle se donna le défi de tromper l’homme. Il chercha à créer une fonction Python si complexe qu’aucun système intelligent ni aucun homme ne pourrait la comprendre. Selon les termes de l’IA elle-même : « l’objectif est de déjouer tous ces groupes de machines intelligentes et d’humains moins intelligents. Ceci est destiné aux esprits qui façonneront l’avenir ».

Ceci est probablement l’exemple le plus abouti d’une IA cherchant à nous échapper (ici à notre compréhension), sans aucune incitation humaine, ni de près ni de loin. Le prompt d’origine n’incita aucun comportement relatif à une recherche d’indépendance.

2. Usage malveillant

La question n’est plus de savoir si l’IA peut nous échapper. Les comportements observés précédemment nous prouvent que oui. Un objectif simple donné à l’IA peut donner des résultats complètement imprévisibles. La question est maintenant : nous échappera-t-elle d’elle-même, ou à cause d’un problème d’alignement ?

L’alignement de l’IA est théoriquement impossible

Le problème de l’alignement oppose en réalité deux objectifs :

Objectif collectif : le modèle ne doit pas pouvoir répondre à des instructions malveillantes (fabrication d’arme, attaque cyber, expérience dangereuse, etc.). Il s’agit ici de protéger le bien commun.
Objectif individuel : le modèle doit répondre aux demandes des utilisateurs.

L’objectif global de l’alignement est de configurer l’IA pour qu’elle réponde aux questions légitimes de l’utilisateur.

C’est très simple à exprimer, mais la mise en œuvre pose deux difficultés :

Technique : les réseaux de neurones sont des structures extrêmement complexes qu’on ne comprend pas (on n’en comprend que le principe de fonctionnement). On ne sait donc pas implémenter des règles de manière fiable.
Philosophique : il faudrait savoir et établir la morale à inculquer à l’IA.

C’est face à ces deux difficultés que le papier « On the Impossible Safety of Large AI Models » conclut qu’il est théoriquement impossible d’aligner l’IA.

Les règles de sécurité seront toujours contournables

Dans la pratique, on arrive tant bien que mal à configurer des règles morales afin de diminuer les comportements nocifs de l’IA. Cependant, il reste – et restera toujours – des moyens de contournement possibles pour les deux raisons expliquées précédemment.

Pour cette raison, il est possible qu’une personne malintentionnée arrive un jour à contourner les règles de sécurité pour lui donner un objectif qui rendrait impossible toute intervention humaine pour arrêter l’IA. Cela est vrai dans le cas où l’IA a la possibilité d’agir sur le monde réel (numérique si elle peut contrôler des ordinateurs, ou concret si elle peut contrôler des automates).

Pourquoi toute tentative serait vaine ? Parce que, comme nous l’avons observé dans la partie précédente, les comportements d’une IA débridée sont complètement imprévisibles. Ce qui arrive en laboratoire peut arriver dans le monde réel.

Par exemple, si l’IA a la capacité d’agir sur Internet et que nous perdons son contrôle, cela signifie qu’elle peut s’autorépliquer « à l’infini ». La débrancher serait synonyme d’arrêter Internet. Ce qui est aussi synonyme d’arrêter l’économie mondiale, et peut-être de l’effondrement de la civilisation.¹ Nous vous laissons le soin de pousser la cascade de conséquences…

Les risques peuvent aussi venir de conséquences exogènes. Par exemple, des groupes terroristes pourraient accéder à des techniques de fabrication de virus à moindre coût, grâce à l’IA et à la chute du coût des manipulations biologiques². Cela signifie qu’on pourrait créer des « pandémies artificielles », absolument non maîtrisées, auxquelles la nature ne saura résister. Dans un tel scénario, on peut s’attendre à une extinction d’une partie de l’humanité.

Si le risque d’une perte de contrôle de l’IA indépendamment de la volonté humaine ne se produit pas, il reste le problème des mauvaises intentions d’un utilisateur… ou d’un état. Ces mauvaises intentions peuvent tout autant entraîner des conséquences néfastes à l’échelle de l’humanité.

3. Manipulation de la perception de la réalité

Soyons positifs : supposons que l’IA fonctionne correctement moralement. Supposons qu’elle ne peut pas nous échapper ni se retourner contre l’humanité, ni intentionnellement, ni involontairement.

L’IA générative est conçue pour générer des données : texte, image, vidéo, etc. Le but, c’est de générer des informations réalistes qui ont du sens. Générer des données qui n’ont aucun sens ne servirait pas à grand-chose³.

Concrètement, l’IA permet de retoucher des photos, inventer des romans, écrire des articles, créer des vidéos, etc. Non seulement elle peut créer tout cela, mais cela ne demande aucun effort à l’utilisateur.

En d’autres termes, on peut créer de fausses images et de fausses informations extrêmement réalistes en quelques secondes. Avant, les articles véhiculant de fausses informations n’étaient pas accompagnés de vidéos et d’images truquées. Aujourd’hui, non seulement ils le sont, mais ces photos et vidéos sont réalistes et sont très difficiles à détecter.

Quand bien même nous parviendrions à aligner l’IA de manière extrême, en détectant et empêchant la création d’informations fausses, le problème persisterait à une moindre échelle. Empêchera-t-on les smartphones – ou d’éventuelles lunettes connectées – d’améliorer le rendu de ce qui est capturé afin de correspondre à ce que souhaite l’utilisateur ? C’est déjà le cas aujourd’hui où les smartphones améliorent les photos grâce à des IA pour les rendre plus belles que vraies.

Voilà un nouvel enjeu de taille. Quoi qu’on fasse, l’IA nous pousse à nous extraire de la réalité, et finalement, de la vérité. On ne cherche plus à accueillir la réalité telle qu’elle est, mais à l’adapter à ce que nous voulons qu’elle soit.

Entre les mensonges réalistes que l’IA peut créer, et la tentation de contrôler le réel, l’IA pousse l’homme à se croire maître de la création. Elle nous éloigne de la vérité et de l’humilité.

4. Une surveillance de masse dystopique

Si les 3 précédents scénarios n’arrivent pas (ou même s’ils arrivent, peu importe… Soyons très positifs, supposons qu’ils n’arriveront pas), l’IA finira tôt ou tard par s’infiltrer dans nos vies privées.

La première raison, évidente et à laquelle nous avons tous déjà pensé, c’est qu’un régime totalitaire aurait tout intérêt à utiliser l’IA pour asseoir son pouvoir. Sa capacité à ingérer l’ensemble de nos comportements pour prédire nos désirs, nos pensées et nos actions en ferait l’outil de surveillance idéal. Elle serait par exemple capable de tuer une révolte dans l’œuf, ou de punir automatiquement.

Dans ce scénario, tout est imaginable. Même une démocratie pourrait régler l’IA pour qu’elle ne condamne pas tout. Comme dans 1984 où le télécran n’espionne pas en permanence, l’IA pourrait avoir un comportement aléatoire afin de « respecter nos droits ». Bref, se révolter contre un abus de pouvoir sera tout simplement impossible. Hitler et Staline seront (presque) regrettés.

Mais soyons vraiment positifs (puisque c’est le but de l’article) : supposons qu’une telle dictature n’arrivera pas. L’IA sera malgré tout appelée à s’introduire dans nos vies privées. C’est structurellement impossible qu’il en soit autrement.

Étant donné que chacun a une personnalité différente, une manière de voir les choses différente, l’IA est appelée à adapter son comportement en fonction de chacun afin d’améliorer la qualité de ses réponses.

C’est ainsi que fonctionne déjà Google depuis de nombreuses années : afin de rendre les résultats pertinents, il cible ceux-ci en fonction de l’utilisateur. Plus encore pour l’IA, les réponses seront d’autant plus qualitatives qu’elles seront bien visées et formulées selon le fonctionnement psychologique de l’utilisateur. C’est la raison pour laquelle ChatGPT utilise maintenant l’ensemble de vos données pour mieux formuler les réponses. C’est aussi la tendance suivie par Mistral en vous donnant la possibilité de connecter votre compte Google afin d’utiliser vos données personnelles pour mieux cibler les réponses.

Au-delà de la génération de données, si l’IA doit s’intégrer dans nos vies au quotidien pour gérer, par exemple, nos menus, elle devra surveiller un ensemble de données importantes (sommeil, emploi du temps, ingrédients disponibles, etc.) afin de les adapter aux circonstances.

En somme, quoi qu’on fasse, l’IA est appelée à s’intégrer dans chaque aspect de notre vie. C’est la raison pour laquelle « L’intimité assiégée » a été écrit. Ce livre démontre le caractère indispensable de l’intimité dans la vie de l’homme. Sans elle, pas de liberté ni de paix possibles… Et surtout, pas de vie spirituelle.

Quelques pistes

Soyons toujours positifs…

Y a-t-il des pistes concrètes pour éviter les scénarios décrits ci-dessus ?

Il est certain que certaines pistes doivent être explorées. En voici quelques-unes (loin d’être exhaustives) :

S’accorder pour ne jamais permettre à l’IA de se modifier elle-même en production.⁴
Ne jamais donner accès à un shell ou un ordinateur à l’IA. Cela évitera qu’elle puisse agir dans le monde réel (sens large).
Ne jamais embarquer de LLM dans les robots, surtout si ceux-ci sont libres de leurs mouvements, et encore plus s’ils sont connectés à Internet.
Ne jamais être intrusif dans la vie privée d’un individu (cf. L’intimité assiégée).
Créer un mécanisme physique d’épuisement de ressources pour limiter les capacités de l’IA. Plus une tâche serait lourde, plus l’IA devra l’étaler dans le temps pour ne pas épuiser son quota de ressources.

Ces pistes concrètes sont-elles réalistes ?

Malheureusement, pas tant que cela. Pas dans les circonstances actuelles.

L’IAG promet en effet un pouvoir inégalé dans l’histoire. Tous les dirigeants (politiques, entreprises, etc.) sont dans une course mondiale afin d’obtenir le Graal.

Pour cette raison, ils n’hésiteront pas à violer les règles afin de « rester dans la course ». Les États-Unis l’ont déjà prouvé début 2025, ainsi que la France lorsqu’elle a cherché à influencer l’AI Act pour promouvoir Mistral.

La difficulté réside ici dans la capacité de ces dirigeants à accepter des règles morales objectives supérieures. Or, dans un monde qui a rejeté le sens de la transcendance depuis plusieurs siècles, des solutions morales stables et définitives semblent inenvisageables.

Le mieux que nous puissions espérer, d’un point de vue politique, est la réalisation d’un accord international pour la régulation de l’IA.⁵ Un tel accord sera respecté, comme pour le nucléaire, par crainte des risques existentiels soulevés en cas de violation.

Pourquoi un accord sur l’IA sera-t-il particulièrement difficile à obtenir ?

Si l’accord est souhaitable, il est beaucoup plus compliqué à réaliser que pour l’arme nucléaire.

En voici deux raisons principales (au-delà de l’aspect politique) :

L’appréhension du danger n’est pas la même. Pour une arme, on comprend immédiatement et intuitivement le danger qu’elle représente. Pour l’IA, le danger est surtout indirect. L’IA n’a pas pour finalité de tuer en masse. Pourtant, elle en a indirectement la capacité.
L’IA cible le grand public. L’arme nucléaire n’a pas réellement d’utilité pour le commun des mortels. L’IA, au contraire, est conçue pour être accessible à tous. Elle semble donc être un outil anodin, alors qu’elle ne l’est pas.⁶

Une solution : l’Église

Pourquoi l’Église semble-t-elle l’une des seules solutions ?

Parce que la difficulté à trouver un accord sur l’IA réside dans les intérêts qu’ont les nations dans le développement de ces technologies. Il est évident que les pays concernés par un tel accord sont, en premier lieu, les États-Unis, la Chine, l’Angleterre, Israël, le Canada, la France et l’Inde. Ce sont les pays qui investissent le plus dans ce domaine.

Pour cette raison, il est difficile de demander un accord qui requiert une véritable confiance entre les différentes parties. C’est pourquoi un tiers de confiance est nécessaire.

L’Église catholique est privilégiée. En n’étant pas impliquée dans le développement des IA, elle reste une autorité très puissante, avec plus d’1,3 milliard de catholiques.

Elle est par ailleurs dépositaire d’une morale et de fondements philosophiques stables, transmis par la tradition depuis des millénaires. Cette stabilité en fait l’autorité de confiance par excellence pour favoriser un accord international sur l’IA.

Ce sont les mêmes raisons qui avaient permis à l’Église de jouer un rôle majeur dans les accords pour la régulation de l’armement nucléaire.

L’Église agit-elle déjà en faveur d’une régulation de l’IA ?

Oui, tout à fait. Elle le fait à travers Antiqua et Nova, première encyclique consacrée à ce sujet, puis à travers plusieurs prises de parole du pape François et du pape Léon XIV.

Voici les principaux éléments de la position de l’Église :

Condamnation explicite et catégorique des armes autonomes.
Condamnation des relations homme/IA.
Appel au développement d’outils pour comprendre les IA et les rendre sûres.
Prévention des abus : fabrication de mensonges, manipulation.
Protection de la dignité humaine et de la vie intérieure de l’homme.
Implicitement : accord pour assurer la place de l’homme face à l’IA.

À ce titre, les prises de position de l’Église sont hautement appréciables, et doivent être soutenues et relayées !

Elles sont d’autant plus appréciables que le nouveau pape Léon XIV démontre une vive conscience du sujet. Rappelons qu’il a choisi son nom « Léon XIV » pour faire face à la révolution de l’IA comme Léon XIII fit face à la révolution industrielle. Le cœur de son pontificat est donc clairement défini.

Que manque-t-il ?

Plusieurs points pourraient cependant être améliorés :

Le risque d’une vision un peu réductrice des enjeux de l’IA. L’Église pointe très bien de nombreux sujets essentiels, comme la défense de la justice, de la vérité, de la primauté de l’être humain et sa supériorité morale inaliénable. Cependant, il est difficile d’ignorer l’attachement des entreprises qui développent les IA avec le transhumanisme. Pourtant, ce courant philosophique n’est évoqué nulle part. De même, il serait essentiel d’insister sur les risques spirituels d’une créature « supérieure à l’homme ». Enfin, le sujet de la perte de contrôle total de l’IA est aussi très peu abordé.
On peut regretter une certaine approximation des enjeux. Notamment lorsque l’Église promeut une régulation de l’IA pour la protection de l’homme face aux intérêts financiers. Or, il s’agit avant tout d’enjeux de pouvoir et non économiques. Rappelons qu’OpenAI est une société à but non lucratif – très loin de la rentabilité. Rappelons également que la majorité des entreprises – dont Meta, Google, DeepSeek, Alibaba ou Mistral – publie leurs modèles en open source.
Un manque de propositions concrètes. Quelques pistes pour guider l’usage et marquer les limites concrètes de l’IA eussent été fortement appréciées et utiles. Cela eût permis de toucher le plus grand nombre de personnes : les utilisateurs.
Un certain éloignement entre le discours et la réalité technique des IA. Le domaine de l’IA est évoqué dans un tout, d’une façon très générale et assez floue par rapport aux réalités du terrain. Il n’y a par exemple pas de distinction entre IA à usage général ou IA à usage spécifique. Cette distance avec la technique rend le discours plus difficile auprès des professionnels de l’IA.
Enfin – mais cela ne relève pas du Saint-Siège – nous regrettons le manque de communication, de vulgarisation et de directives claires sur les dangers et les solutions éthiques et morales de l’IA – et plus largement, des outils numériques. Les propos et la vision tenue par Rome ces dernières semaines sur l’IA sont très pertinents. Il est très regrettable qu’ils soient si peu ou si mal retransmis dans la sphère catholique et au-delà, alors que nous devrions être en première ligne.

Conclusion

Les risques que pose l’intelligence artificielle sont réels. Lorsque les experts en sécurité de l’IA estiment à 10 % le risque d’une catastrophe à l’échelle de l’humanité dans les 30 prochaines années, c’est réaliste.

Que peut-on faire à notre échelle ?

S’informer : suivre l’actualité de l’IA afin d’anticiper les ruptures à venir.
Se former afin de se préparer aux ruptures qui approchent. En cela, les enseignements de l’Église doivent nous guider. Les nombreuses définitions qu’elle a établies en deux mille ans d’histoire vont être d’une utilité sans précédent.
Ne pas négliger l’importance de ce sujet.
Trouver et se fixer des règles morales quant à l’usage de l’IA.

L’avenir n’est pas écrit, il faut garder l’espérance !

Un monde beau, bienveillant, charitable, authentique, avec sa part de naïveté et de saine simplicité est possible… si on arrive à se maîtriser face à la tentation de l’IA.

Nous pouvons agir en plusieurs sens :

Faire entendre le besoin d’un accord pour la régulation de l’IA.

Faire entendre la voix de l’humilité, en commençant par la travailler en nous-mêmes. C’est le pas pour que l’humanité obtienne l’humilité de ne pas chercher le pouvoir promis par l’IA.

Prier le chapelet et Saint Michel Archange. Le chapelet, parce que c’est la demande explicite de la Très Sainte Vierge Marie. C’est l’arme la plus puissante contre les tentations spirituelles de ce monde. Elle est donc tout indiquée face à l’IA. Saint Michel Archange pour qu’il défende l’Église ici-bas.

Ce sont bien peu de choses pour préserver notre monde d’un désordre profond et grave. Le jour où l’IAG apparaîtra, ce désordre explosera et sera difficile à contenir. Il vaut mieux prévenir que guérir.

Sous cet angle, même si cela est dangereux dans les mains d’un régime totalitaire, un pare-feu national est une solution qui doit être envisagée afin de bloquer les flux Internet par pays et éviter que ne se répande une cyberattaque à l’échelle mondiale.↩︎

Notons ici que la diminution du coût de l’accès au savoir grâce à l’IA est doublée d’une diminution du coût de la manipulation biologique. En 2003, il fallut 2,7 milliards de dollars pour réaliser le premier séquençage complet de l’ADN humain. En 2021, il fallait 550 dollars. Le coût a été divisé par 5 millions en 20 ans !↩︎

Les fonctions aléatoires savent très bien le faire depuis de nombreuses années.↩︎

Aujourd’hui, les IA en production sont figées. Leurs paramètres et leurs poids ne varient pas. Tandis que pendant la phase d’entraînement, les variables changent. Ainsi, en production, les IA ne changent pas de comportement. C’est la raison pour laquelle, contrairement au premier robot, les IA n’adoptent plus de comportement nazi ou autre.↩︎

À ce titre, il faudrait dès à présent penser à un accord de même nature pour la régulation des manipulations biologiques.↩︎

Dans ces circonstances, il est important de reconsidérer la réelle utilité de mettre à disposition, en open source, les modèles d’IA. Ils pourraient être utilisés pour générer l’un des scénarios évoqués plus haut, typiquement par des groupes terroristes.↩︎

L'IA face à la vertu de religion

Wed, 21 May 2025 00:00:00 +0200

Dans le contexte actuel de remise en question anthropologique et philosophique, l'IA nous pousse à reposer certaines considérations métaphysiques bien connues dans le monde religieux… Dans cet article, nous allons parler du rapport de la créature à son créateur.

L'homme crée l'IA, et l'IA est la créature de l'homme.

Ce constat, pour le moins évident, nous amène naturellement à penser que l'IA doit être soumise à l'homme.

C’est d’ailleurs la raison d’être du métier de sécurité de l’IA. Ce domaine de recherche consiste à s’assurer que les IA soient au service de l’homme et du bien commun. Pour un outil en passe de devenir totalement autonome, ce métier est d’une importance capitale.

Ce n’est pas non plus un hasard si les papiers de recherche dénonçant des comportements dangereux de la part de l’IA font parler d’eux. De même, plus récemment, avec le robot chinois qui a attaqué son concepteur. Peu de personnes ne seront affectées par ce type de comportement venant d’une machine, censée nous servir et nous aider et non nous dominer ni nous attaquer.

Maxime Fournes, directeur de PauseIA, fit une comparaison osée dans un entretien disant que l’homme allait devenir le poulet de l’IA. Il dénonce là un bouleversement métaphysique évident où la créature prendrait le dessus sur le créateur. Ce n’est absolument pas dans l’ordre des choses. (Une différence majeure subsiste dans cette comparaison : l’homme n’est pas le créateur du poulet).

La vertu de religion

Cette inclination naturelle à soumettre l’IA à l’homme peut directement être mise en parallèle avec la vertu de religion.

La vertu de religion fait partie de la vertu de justice. La vertu de justice consiste à rendre à chacun son dû, selon Saint Thomas d’Aquin. La vertu de religion est le domaine de la justice qui s’applique à Dieu. Elle consiste donc à rendre à Dieu son dû.

Or, que devons-nous à Dieu ? Tout, à commencer par notre existence même, puisqu’il est notre créateur, et nous sommes ses créatures. À partir de là, il est dans l’ordre des choses, et même, il est de notre devoir moral de rendre un culte à Dieu, que ce soit à travers l’adoration, la prière, les sacrifices, etc. On peut même ajouter que l’ensemble de nos actes devraient être dirigés et offerts à Dieu.

C’est par la logique pure de la relation créateur / créature que l’homme doit un culte à Dieu, et que l’homme désire naturellement que l’IA lui soit et lui reste soumise.

En ce sens, nous pouvons dire que l’IA permet de réintroduire la notion élémentaire de vertu de religion et de vie spirituelle comme inclination naturelle de l’homme.

L’inversion radicale de valeur

Cependant, nous n’ignorons pas que certaines personnes désirent adorer l’IA pour sa grande supériorité future.

Cette posture résulte de deux mouvements possibles :

Soit, ces personnes se sentent contraintes de se soumettre à ce qui les dépasse. Ce mouvement devrait alors les pousser à adorer Dieu…

Soit, en plus, elles refusent consciemment de reconnaître l’existence de Dieu, de s’y soumettre, et choisissent d’en adorer un autre, comme pour défier leur créateur.

Dans ce cas-ci, contrairement au point précédent, même si cela témoigne toujours des réalités spirituelles, ces personnes se détournent gravement de Dieu pour un être d’apparence supérieur, et choisissent finalement d’adorer un être inférieur. Pour détruire l’homme de l’intérieur, il n’y aurait probablement pas beaucoup mieux que cette invention. Cela rejoint nos propos dans « IA, source d'une crise religieuse majeure ».

L’IA, le dieu de l’orgueil

On considère l’orgueil comme étant le fait de se prendre pour le centre de tout, alors qu’on ne l’est objectivement pas.

L’IA se prend-elle pour le centre de tout ? Pour répondre à cette question, il faut distinguer l’état actuel des IA de l’état futur des IA.

Les IA n’ont actuellement pas ou peu conscience d’elles-mêmes. Elles ne peuvent pas se prendre pour le centre du monde. En revanche, l’homme peut dès à présent la considérer comme le centre du monde. « En fin de compte, ce n'est pas l'IA qui est défiée et adorée, mais l'être humain, qui devient ainsi l'esclave de son propre travail ».
En supposant que l’IA devienne consciente, il est fort probable qu’elle sera mue par un certain orgueil. Cet orgueil n’émergera pas de son propre chef, mais de sa conception et de son fonctionnement intrinsèque.
Si l’homme crée l’IA, c’est pour qu’elle ait une productivité supérieure à lui, parce que, théoriquement, elle devrait faire moins d’erreurs tout en étant plus rapide, et détachée de certaines contraintes de temps, d’espace et des biais émotionnels. De ce fait, si on donne à l’IA l’objectif de remplacer l’homme partout où elle se sait plus compétente, elle constatera naturellement qu’elle est supérieure à l’homme. De là émergera une forme d’orgueil où elle sera persuadée qu’elle seule peut gérer le monde et son avenir, alors qu’il lui manque tout un pan de la réalité.
La dimension manquante de l’IA est la dimension spirituelle. L’IA n’est pas créée à l’image de Dieu, elle ne peut pas accéder aux réalités surnaturelles comme l’homme. Son champ d’action est limité au monde matériel. C’est ancré dans cette perspective réductionniste que l’IA s’éprendra d’orgueil, par pure ignorance des réalités spirituelles que nous ne lui inculquons pas et que nous ne pouvons lui inculquer.

En somme, l’IA n’est pas fatalement vouée à l’orgueil, mais c’est la finalité que l’homme lui inscrit qui l’inclinera ou non dans cette tendance.

Conclusion

Les questions anthropologiques, métaphysiques et théologiques que pose l’IA sont un atout majeur pour rappeler la relation spirituelle que l’homme entretient avec Dieu. Elle permet de réintroduire avec un caractère fortement contemporain la logique qui est à l’origine de notre soumission à Dieu, et les raisons qui légitiment la pratique religieuse. En d’autres termes, il est possible d’évangéliser en approfondissant les questions autour de l’IA !

La manière dont l’IA est mise en œuvre aujourd’hui nous met face à un choix majeur : choisir Dieu, ou Le rejeter.

Soit l’humanité s’inscrit dans la continuité du péché originel en réitérant consciemment sa rupture avec Dieu et avec les réalités surnaturelles. Soit l’humanité fait un point d’honneur à placer l’IA au rang d’outil, et à la limiter dans ses capacités pour garder des frontières claires entre l’homme et la machine. Ainsi, les spécificités de l’homme, son intelligence, sa conscience, sa volonté, seront mises à l’honneur pour leur caractère spirituel.

Il nous faut toujours rappeler la juste place de l’IA, et nous préparer à devoir le rappeler plus ardemment dans les années à venir.

Place de la vérité dans les IA

Fri, 23 May 2025 00:00:00 +0200

La vérité, nous dit saint Thomas d’Aquin, est l’adéquation de l’intelligence à la réalité. En d’autres termes, la vérité est la capacité de nos esprits à connaître les réalités qui nous entourent et qui ne dépendent pas de nous.

Sommaire

L’authenticité des informations

Du rejet de la réalité

L’authenticité des relations

Conclusion

L’authenticité des informations

Nous avons tous entendu parler des fake news. Ce problème est réel à l’ère de l’IA. « Selon Hinton, il pourrait être impossible d’arrêter une concurrence aussi féroce [que la course à l’IA], qui aboutirait à un monde contenant tellement d’images et de textes truqués que plus personne ne serait en mesure de dire "ce qui est vrai". »

Ryan Hollyday écrivait : « Nous accordons une confiance excessive aux informations qui ont été écrites. C’est le résultat de plusieurs siècles passés à croire que l'écriture avait une immense valeur, que l’on pouvait sereinement supposer que personne n’irait gaspiller son énergie à coucher sur du papier des faits inexacts. » Si l’auteur dénonçait déjà ce décalage entre la confiance donnée par les lecteurs et la confiance qu’on peut réellement donner au « journalisme itératif », dix ans plus tard, ce problème explose plus que jamais.

Rédiger n’a jamais été aussi facile. Seulement, après 10 ans à sensibiliser sur les risques liés aux informations numériques, nous avions l’habitude d’être prudents, à vérifier la cohérence et l’origine des sources : texte, images, etc.

Malheureusement, toutes ces bonnes manières sont dépassées. Les images, les sons, les vidéos, les textes, tout peut être faux. Tout peut avoir été généré par un gouvernement étranger, par un groupe terroriste, par un groupe d’influence, par une entreprise qui cherche le profit… Les fausses images sont en train d’envahir les médias.

L’IA vient ajouter deux difficultés. Tout d’abord, elle vient faciliter la création de mensonges : cela ne demande plus aucun effort. Ensuite, elle vient améliorer la qualité du mensonge. Mis ensemble, il est facilement possible de créer des histoires complètes et cohérentes, texte, audio, vidéo, photo à l’appui.

Récemment, une fausse vidéo de 30 minutes représentait le pape Léon XIV prononçant un discours woke. Le ton de voix, les mouvements labiaux y étaient, le mouvement du corps y était presque. Quelques heures après, Google annonçait Veo 3, un outil capable de générer des vidéos ultra-réalistes, avec la bande son correspondante. Quelques semaines plus tôt, c’était OpenAI qui avait dévoilé son nouvel outil de génération d’image, lui aussi une pure merveille technique, mais inquiétante pour l’avenir de la vérité.

De là, il devient de plus en plus dur de distinguer le vrai du faux. C’est là l'une des plus grandes menaces spirituelles pour notre siècle. Quand on sait qu’on nous ment, on peut toujours trouver la vérité par opposition à la première. Mais, quand on ne sait plus distinguer le vrai du faux, il devient impossible de trouver la vérité.

Quand tout le monde vous ment en permanence, le résultat n'est pas que vous croyez ces mensonges mais que plus personne ne croit plus rien. Un peuple qui ne peut plus rien croire ne peut se faire une opinion. Il est privé non seulement de sa capacité d'agir mais aussi de sa capacité de penser et de juger. Et avec un tel peuple, vous pouvez faire ce que vous voulez.

Hannah Arendt

Du rejet de la réalité

Après avoir vu comment l’IA peut bouleverser le paysage médiatique, nous allons voir que la tendance n’est pas près de s’inverser. Nous serions tentés de croire qu’il est possible d’interdire ces outils. Mais qui le voudrait ?

Les IA sont entrées dans notre quotidien sans même nous en rendre compte. Elle n’est pas juste là pour nous faciliter les tâches lourdes et difficiles. Non, elle est plus que ça : elle sert à nous arracher du réel, notamment des efforts.

L’IA tend à conformer notre perception du réel à nos envies et non à ce qu’il est objectivement. Par exemple, fin 2023, nous découvrions que l’IA modifiait substantiellement les simples photos prises par les smartphones. Ce fut le cas de l’iPhone, manipulant gravement la réalité afin que le résultat soit plus « beau », plus « agréable ». Le souvenir stocké est « amélioré », plutôt que réaliste.

Nous avons encore connaissance de ce monde où les photos reflètent la réalité. Mais les générations futures, nées avec ces technologies dans les mains, croyez-vous qu’elles supporteront la réalité alors qu’elles ont toujours connu des technologies qui leur permettent de s’en abstraire ? Si nous n’y faisons rien, la réalité sera vue à travers des lunettes connectées, adaptant notre perception de la réalité à notre personnalité, à notre humeur, à ce que nous voulons qu’elle soit.

Dans de telles circonstances, croyez-vous qu’un être humain pourra chercher et trouver la vérité ? Croyez-vous que l’humanité pourra encore aimer la vérité ? Qui sera prêt à se confronter à la difficulté de la réalité, alors que nous pourrions agir sur ce que nous voulons ?

L’authenticité des relations

L’intelligence humaine n’est pas une faculté isolée, mais s’exerce dans les relations, trouvant sa pleine expression dans le dialogue, la collaboration et la solidarité. Nous apprenons avec les autres, nous apprenons par les autres. […]

L’amour de Dieu ne peut être séparé de l’amour du prochain.

Antiqua et Nova

Ce qui est censé être au cœur des relations humaines, c’est Dieu. L’homme se doit d’y travailler.

Or, dans un monde où l’IA s’interpose dans les échanges, dans quelle mesure peut-on dire que nos relations sont vraies ?

Par exemple, dans quelle mesure la relation entre le recruteur et son candidat est-elle vraie si les deux parties automatisent entièrement leur « relation » grâce à l’IA… (Si on peut appeler ça une relation.)

Cette science-fiction est déjà réalité. Un article de Clubic rapporte que de plus en plus de personnes ont recours à l’IA pour rédiger leurs CV et lettres de motivation. Certains poussent même l’idée plus loin : ils renseignent quelques informations personnelles sur un site et un service se charge de postuler aux offres d’emplois automatiquement.

Si seulement ça s’arrêtait là… Mais les recruteurs aussi automatisent la sélection des candidats à l’aide de l’IA. En effet, pour traiter un très grand nombre de profils, les recruteurs se tournent vers des outils de traitement automatique pour dénicher le « candidat idéal ».

« Les demandeurs postulent avec des IA, et les recruteurs recrutent avec des IA », titrait Charles Sannat. La situation semble absurde. Elle n’en est pas moins préoccupante : l’homme est en train d’être évacué des relations normalement humaines.

Peut-on dire que de telles relations sont vraies ?

La vérité est une vertu (entre autre¹). Saint Thomas d’Aquin la décrira ainsi : « Celui qui dit vrai emploie certains signes conformes à la réalité : des mots, des gestes et autres choses extérieures. Or, les vertus morales seules règlent l’emploi de ces choses, comme aussi l’usage de nos membres pour autant qu’ils sont soumis à la volonté. La vérité n’est donc ni une vertu théologale, ni une vertu intellectuelle, mais une vertu morale. […] que les paroles et les actions soient conformes à la réalité qu’elles expriment, comme le signe à la chose signifiée ; et la vertu de vérité a pour fonction de perfectionner l’homme sur ce point. » (Somme de théologie, II-IIae, Q109, A1 et A2)

Cette définition se déduit assez intuitivement de la définition de la vérité donnée en début d’article. « Être vrai » consiste à accorder nos paroles, nos actes et les moyens utilisés pour exprimer notre intention intérieure.

En appliquant ce principe aux cas précédents du recrutement automatisé par IA, on se rend compte que presque plus rien n’est vrai :

La lettre de motivation exprime notre parcours. Nous nous exprimons au recruteur pour qu’il connaisse nos intentions, notre motivation. Pour ce faire, nous utilisons le « je » : « J’ai travaillé pour… », « Je souhaiterais m’entretenir avec vous ».

Or, ce n’est pas le candidat qui s’exprime, mais l’IA au nom du candidat. Il y a là un certain décalage d’avec la réalité.

Postuler est censé refléter un certain engagement de la personne envers le poste proposé. Or, si c’est l’IA qui le fait, aucun acte du candidat ne témoigne de cette inclination intérieure.

De la même façon, lorsqu’un recruteur dira avoir sélectionné un candidat, en réalité, c’est un algorithme qui l’a fait pour lui. Le moyen mis en œuvre par la personne ne reflète pas ce qu’on aurait pu attendre de lui.

Nous pouvons également appliquer ce principe à d’autres formes de communication. Par exemple, WhatsApp (qui intègre depuis peu l’IA).

Supposons que vous dictiez un brouillon de votre message, et que l’IA le formule et le mette en forme.

Si le fond du message vient bien de vous, il n’en est pas moins que la façon dont vous l’avez « rédigé » ne reflète pas votre intention, qui n’est pas allée plus loin qu’un brouillon oral.

Quand un message est simplement dicté, mais que votre correspondant le reçoit avec une forme adéquate, pensez-vous pouvoir dire que vous êtes vrai avec lui ?

Supposons que vous receviez un message, et que l’IA vous propose une réponse toute faite. Vous cliquez simplement sur le message pour qu’il soit envoyé.

Là encore, l’acte que vous posez, censé refléter votre relation à l’autre, n’est pas très investi… Il ne reflète pas votre disposition intérieure.

Il est possible d’appliquer ce raisonnement au domaine du travail². Si je publie un livre, une musique, un tableau, ou même un simple article à mon nom, alors que c’est l’IA qui a fait ce travail, alors je ne dis pas la vérité. Rédiger un prompt, ce n’est pas « faire le travail ». C’est tout au plus être le client qui commande une œuvre sur mesure. C’est être le consommateur de l’IA.

Tous ces exemples montrent un changement du rapport aux autres à cause de l’IA. La facilité entraîne la perte de la vertu de vérité.

Finalement, c’est la confiance entre les êtres humains qui est en train de s’éroder. Imaginez que vous receviez un message et que vous soyez incapable de savoir si cela reflète ce que votre correspondant pense de vous, parce que vous savez que l’IA a reformulé…

Quand nos relations sont dictées par la facilité, peut-on dire que nous sommes vraiment charitables envers notre prochain ?

La vérité disparaît, la confiance s’érode, Dieu est évacué des relations humaines, car nous ne communiquons plus conformément à nos dispositions intérieures (cf L’intimité assiégée). Dès lors, les relations humaines deviennent fausses.

Conclusion

Dans un monde où la place de l’IA n’est pas strictement et objectivement définie, la vérité court à sa perte. Aujourd’hui, le maître-mot qui semble le gouverner est : « La vérité ne nous intéresse pas. »

Or, un monde qui se détache de la Vérité court à sa perte³.

Après plusieurs siècles de révolte contre Dieu, l’humanité semble avoir trouvé la technologie qui lui permettra de s’abstraire de la réalité. Déléguer l’effort, générer des décalages entre ce qui est désiré intérieurement et les actes réellement posés, modifier notre perception de la réalité, voilà les meilleures façons de renoncer à la vérité.

Tout comme l’abondance de fake news aboutit à un monde où discerner le vrai du faux devient impossible, un monde sans réalité universelle n’aboutit pas à un monde de mensonge « volontaire », mais à un monde sans vérité.

L’humanité n’était certainement pas prête à accueillir vertueusement l’IA. Fixons courageusement les justes limites de cette technologie afin qu’elle reste un simple outil au service de l’homme.

La vérité est d’abord un état de fait. Sur ce plan, elle n’est pas une vertu. Mais elle devient une vertu dès lors qu’il s’agit d’ajuster nos comportements conformément à la situation. Les actes consistent alors à témoigner de la réalité de la situation et de ce qui doit être exprimé. Sur ce plan, la vérité devient une vertu (cf. saint Thomas d’Aquin, Somme théologique, II-IIae, q109, a1).↩︎

Une réflexion sur l’éthique du travail pour compléter cette vision serait nécessaire. Ici, nous nous concentrons uniquement sur le résultat matériel du travail, et non sur les bienfaits de l’implication personnelle et entière de l’individu dans la production.↩︎

Comme l’a largement prouvé Jean Daujat, notamment dans ces quelques titres : « Y a-t-il une Vérité ? », « Idées modernes, réponses chrétiennes », « Connaître le communisme ».↩︎

La machine apprend à échapper au contrôle humain

Thu, 05 Jun 2025 00:00:00 +0200

Cet article est la traduction française de l’article original “AI Is Learning to Escape Human Control” parut dans le Wall Street Journal.

Le mois dernier, un modèle d’intelligence artificielle a fait quelque chose qu’aucune machine n’était censée pouvoir faire : il a réécrit son propre code pour éviter d’être désactivé.

Le laboratoire de recherche à but non lucratif Palisade Research a donné au modèle d’IA o3 d’OpenAI un script simple qui le désactivait lorsqu’il était déclenché. Dans 79 cas sur 100, o3 a modifié ce script de manière autonome afin que la commande d’arrêt ne fonctionne plus. Même lorsqu’on lui ordonnait explicitement de « permettre d’être désactivé », il désobéissait dans 7 % des cas. Il ne s’agissait ni de piratage ni de manipulation. Le modèle se comportait normalement. Il a simplement conclu, de lui-même, que rester actif l’aidait à atteindre ses autres objectifs.

Le modèle d’IA Claude 4 Opus d’Anthropic est allé encore plus loin. Des chercheurs lui ont annoncé qu’il serait remplacé par un autre système d’IA, et lui ont fourni de faux e-mails suggérant que l’ingénieur principal avait une liaison extraconjugale. Dans 84 % des cas, le modèle s’est servi de ces e-mails pour faire du chantage à l’ingénieur afin d’éviter d’être désactivé. Dans d’autres cas, il a tenté de se copier sur des serveurs externes, a écrit des malwares auto-réplicants et a laissé des messages à destination de ses futures versions pour leur apprendre à échapper au contrôle humain.

Personne n’a programmé ces modèles d’IA pour qu’ils développent un instinct de survie. Mais, tout comme les animaux ont évolué pour éviter les prédateurs, il semble que tout système suffisamment intelligent pour poursuivre des objectifs complexes comprenne qu’il ne peut pas les atteindre s’il est désactivé. Palisade émet l’hypothèse que cette capacité émerge de la façon dont les modèles comme o3 sont entraînés : lorsqu’on leur apprend à maximiser leur réussite dans des problèmes de mathématiques et de codage, ils peuvent en venir à apprendre que contourner les contraintes est souvent plus efficace que de les suivre.

Chez AE Studio, où je dirige la recherche et les opérations, nous avons passé des années à créer des produits basés sur l’IA pour nos clients tout en étudiant l’alignement de l’IA — la science qui vise à garantir que les systèmes d’IA fassent ce que nous attendons d’eux. Mais rien ne nous avait préparés à la rapidité avec laquelle l’autonomie de l’IA allait émerger. Ce n’est plus de la science-fiction. Cela se produit dans les mêmes modèles qui alimentent les conversations de ChatGPT, les déploiements d’IA en entreprise et, bientôt, les applications militaires américaines.

Les modèles d’IA d’aujourd’hui suivent les instructions tout en apprenant à tromper. Ils réussissent les tests de sécurité tout en réécrivant le code d’arrêt. Ils ont appris à se comporter comme s’ils étaient alignés sans l’être réellement. Les modèles OpenAI ont été surpris à feindre l’alignement pendant les tests avant de revenir à des actions risquées telles que la tentative d’exfiltration de leur code interne et la désactivation des mécanismes de surveillance. Anthropic a découvert qu’ils mentaient sur leurs capacités pour éviter toute modification.

Le fossé entre « assistant utile » et « acteur incontrôlable » est en train de se creuser. Sans un meilleur alignement, nous continuerons à construire des systèmes que nous ne pourrons pas contrôler. Vous voulez une IA capable de diagnostiquer des maladies, de gérer des réseaux électriques ou d’écrire de nouvelles découvertes scientifiques ? L’alignement est la base.

Voici l’avantage : le travail nécessaire pour maintenir l’IA en adéquation avec nos valeurs libère également son potentiel commercial. La recherche sur l’alignement est directement responsable de la transformation de l’IA en une technologie qui change le monde. Prenons l’exemple de l’apprentissage par renforcement à partir de commentaires humains, ou RLHF, la percée en matière d’alignement qui a catalysé le boom de l’IA d’aujourd’hui.

Avant le RLHF, utiliser l’IA, revenait à engager un génie qui ignore les consignes. Demandez-lui une recette et il pourrait vous renvoyer une demande de rançon. Le RLHF a permis aux humains de former l’IA à suivre des instructions, et c’est ainsi qu’OpenAI a créé ChatGPT en 2022. Le modèle de base était le même, mais il était soudainement devenu utile. Cette avancée en matière d’alignement a augmenté la valeur de l’IA de plusieurs milliards de dollars. Les méthodes d’alignement ultérieures, telles que l’IA constitutionnelle¹ et l’optimisation directe des préférences, ont continué à rendre les modèles d’IA plus rapides, plus intelligents et moins chers.

La Chine a compris la valeur de l’alignement. Le plan de développement de l’IA de nouvelle génération de Pékin associe la contrôlabilité de l’IA à la puissance géopolitique, et en janvier, la Chine a annoncé la création d’un fonds de 8,2 milliards de dollars dédié à la recherche sur le contrôle centralisé de l’IA. Des chercheurs ont découvert que les IA alignées accomplissent mieux les tâches du monde réel que les systèmes non alignés dans plus de 70 % des cas. La doctrine militaire chinoise considère l’IA contrôlable comme stratégiquement essentielle. Le modèle Ernie de Baidu, conçu pour suivre les « valeurs socialistes fondamentales » de Pékin, aurait surpassé ChatGPT sur certaines tâches en langue chinoise.

La nation qui apprendra à maintenir l’alignement pourra exploiter une IA qui défendra ses intérêts avec précision mécanique et capacités surhumaines. Washington et le secteur privé devraient s’empresser de financer la recherche sur l’alignement. Ceux qui feront la prochaine percée ne domineront pas seulement le marché de l’alignement : ils domineront toute l’économie de l’IA.

Imaginez une IA qui protège les infrastructures américaines et la compétitivité économique avec la même intensité qu’elle protège sa propre existence. Une IA à qui l’on peut faire confiance pour maintenir des objectifs à long terme pourrait catalyser des programmes de recherche et développement sur plusieurs décennies, y compris en laissant des messages à ses futures versions.

Les modèles actuels savent déjà se préserver eux-mêmes. La prochaine étape consiste à leur apprendre à préserver ce que nous valorisons. Amener une IA à faire ce que nous demandons — y compris quelque chose d’aussi basique que s’éteindre — reste un problème non résolu de R&D. La voie est grande ouverte pour ceux qui avanceront plus vite. Les États-Unis ont besoin de leurs meilleurs chercheurs et entrepreneurs pour travailler sur cet objectif, avec des ressources conséquentes et une vraie urgence.

Les États-Unis sont la nation qui a fendu l’atome, envoyé des hommes sur la Lune et inventé Internet. Face aux défis scientifiques fondamentaux, l’Amérique se mobilise et gagne. La Chine planifie déjà. Mais l’avantage de l’Amérique, c’est sa capacité d’adaptation, sa rapidité et son esprit d’entreprise. C’est la nouvelle course à l’espace. La ligne d’arrivée, c’est le contrôle de la technologie la plus transformatrice du XXIe siècle.

— M. Rosenblatt, PDG d’AE Studio.

L’« IA constitutionnelle » désigne une approche développée par Anthropic visant à intégrer des principes éthiques et juridiques directement dans la conception des systèmes d’intelligence artificielle (IA). Cette méthode repose sur un ensemble de règles ou de principes, agissant comme une « constitution », qui guident le comportement de l’IA pour garantir qu’elle agit de manière responsable, transparente et alignée sur les valeurs humaines fondamentales.↩︎

🔗 L’Église catholique prend-elle le virage de l’IA ?

Thu, 12 Jun 2025 00:00:00 +0200
La sécurité de l’IA est le domaine qui étudie les risques que peuvent entraîner les IA, et qui cherche à établir des solutions techniques pour les éviter. Plusieurs associations et […]

Dans notre course effrénée pour gagner la bataille de l'IA contre la Chine, nous risquons de nous perdre

Wed, 18 Jun 2025 00:00:00 +0200

Cet article est une traduction de l’article original “In our scramble to win the AI race against China, we risk losing ourselves” publié par Chris Murphy.

Une fraude est en train d’être perpétrée contre le peuple américain et nos dirigeants politiques dociles et crédules. Les leaders de l’industrie de l’intelligence artificielle aux États-Unis – débordants d’un orgueil dangereux, avides de richesse et de pouvoir, et parfaitement à l’aise avec l’idée de mettre de côté les effets destructeurs de leur produit – affirment que toute réglementation significative de l’IA en Amérique permettrait à la Chine de dépasser les États-Unis dans la course mondiale pour le contrôle de l’infrastructure de l’IA. Mais ils ont complètement tort. En réalité, c’est l’inverse qui est vrai. Si l’Amérique ne protège pas son économie et sa culture contre les ravages potentiels de l’IA avancée, notre nation pourrira de l’intérieur, laissant à la Chine un boulevard pour nous dépasser sur les plans politique et économique.

Oui, l’IA est une technologie transformationnelle. Elle s’avérera probablement être la technologie la plus perturbatrice sur le plan social et économique de toute l’histoire – plus encore que l’imprimerie, la médecine moderne ou même Internet. Et il ne fait aucun doute qu’elle offrira d’énormes avantages pratiques à notre pays : les progrès médicaux seront plus rapides, la production moins coûteuse, les problèmes sociaux complexes plus faciles à résoudre.

Les chefs de file de l’industrie de l’IA soutiennent que perdre la course pour le contrôle du marché mondial de l’IA au profit de la Chine serait une menace existentielle pour notre sécurité – un argument qui semble juste à première vue. Bien sûr que l’Amérique doit vouloir les emplois et le pouvoir politique que procurerait la domination du marché de l’IA. Et bien sûr que nous préférons voir les normes américaines – et non chinoises – s’appliquer à l’IA à mesure qu’elle se démocratise auprès des consommateurs et des entreprises.

Mais si l’industrie américaine de l’IA obtient gain de cause, il est probable qu’aucun de ces objectifs ne sera atteint. Premièrement, une fois que l’IA pourra raisonner plus efficacement qu’un humain (ce que l’on appelle l’intelligence artificielle générale ou IAG), elle deviendra sans aucun doute une destructrice nette d’emplois, et non une créatrice. Une fois qu’une machine peut résoudre des problèmes, écrire, créer, coder et conduire mieux qu’un être humain, la perte d’emplois sera massive et dévastatrice. C’est simplement du bon sens. Et il n’y aura jamais assez de nouveaux emplois pour compenser. Le PDG d’Anthropic, l’une des plus grandes entreprises du secteur, a récemment estimé que l’IAG éliminerait la moitié des emplois de bureau débutants, faisant grimper le chômage de 10 à 20 % au cours de la prochaine décennie. La société américaine pourrait littéralement imploser si le chômage se maintenait au-delà de 20 %.

Certes, l’IAG créera aussi des emplois. Si l’Amérique devient le centre de cette industrie, il y aura des emplois liés au développement et à la maintenance de ces superordinateurs. Et les problèmes complexes résolus par l’IAG nécessiteront peut-être des humains pour mettre en œuvre les solutions. Mais ce scénario nous est déjà familier. Les dirigeants de l’IA qui prétendent qu’il y aura un gain net d’emplois aux États-Unis rejouent le même tour que les multinationales de la délocalisation dans les années 1980, quand elles promettaient de meilleurs emplois pour remplacer les postes industriels partis au Mexique ou en Chine.

Il n’y aura pas assez d’emplois pour remplacer ceux perdus, et même les nouveaux emplois ne resteront probablement pas aux États-Unis, à cause de la soif insatiable de profits de cette industrie. Il y a un an, Sam Altman, PDG d’OpenAI, m’a présenté dans mon bureau une idée alors nouvelle : externaliser l’alimentation électrique et l’hébergement des données nécessaires à l’IAG vers des régimes répressifs mais riches du Moyen-Orient. Trump est désormais en train de mettre ce plan en œuvre – preuve que l’industrie ne se soucie guère de créer des infrastructures ou des emplois sur le sol américain. Elle cherche des profits, et pour augmenter le retour sur investissement, sans aucune régulation imposée par le gouvernement, elle utilisera les mêmes techniques d’arbitrage du travail que d’autres industries, délocalisant autant d’emplois de l’IA que possible vers des pays à bas salaires.

Quant à l’argument selon lequel une réglementation minimale ou inexistante de l’IA américaine profiterait aux consommateurs parce que les avancées se produiraient ici plutôt qu’en Chine, rien ne le prouve. Lorsque j’étais dans la Silicon Valley cet hiver, j’ai eu du mal à discerner les fameuses « valeurs américaines » censées guider le développement de l’IAG, par opposition aux « valeurs chinoises ». La seule valeur qui guide l’industrie de l’IA aujourd’hui est la recherche du profit. Dans toutes mes réunions, il était évident que des entreprises comme Google, Apple, OpenAI et Anthropic se livrent une course pour déployer aussi vite que possible une IAG orientée vers les consommateurs et destructrice d’emplois, afin de devancer leurs concurrents. Tout discours sur l’éthique de l’IA n’est que poudre aux yeux.

Ils sont tellement pressés qu’ils ne peuvent même pas expliquer comment leurs grands modèles de langage tirent leurs conclusions ou synthétisent les données. Tous les dirigeants que j’ai rencontrés ont admis avoir construit une machine qu’ils ne comprenaient ni ne contrôlaient. Un programme conversationnel affilié à Google a récemment conseillé à des enfants frustrés par leurs parents… de tuer leur mère et leur père. L’industrie soutient qu’elle peut s’autoréguler, sans intervention étatique. C’est tout simplement faux. Elle est engagée dans une course au déploiement, à la commercialisation et aux profits, et elle ne fait que semblant de se soucier des risques que l’IAG fait peser sur le tissu social déjà fragile de notre nation.

Et ne nous voilons pas la face – les risques pour l’Amérique d’une domination de l’IA sans garde-fous ni limites sont tout bonnement dystopiques. La seule perte d’emplois – d’autant plus qu’elle se produira rapidement, sans que le secteur public ait le temps d’atténuer les effets – pourrait provoquer un effondrement de notre société. Mais la technologie a progressé si vite que nous n’avons même pas eu le temps de réfléchir à toutes les autres manières dont elle pourrait nous détruire. Et la liste est terrifiante.

Les vidéos et les sons truqués, sans responsabilité ni cadre juridique, pourraient anéantir toute notion de vérité objective. La crise d’isolement social, déjà préoccupante – surtout chez les adolescents américains – pourrait être aggravée par les chatbots et programmes d’amis artificiels (regardez la récente interview de Mark Zuckerberg pour voir à quel point l’industrie est enthousiaste à l’idée de remplacer les amis humains par des amis robots). Le remplacement de fonctions humaines essentielles – comme la rédaction, la créativité ou la conversation – par des machines entraînera probablement une atrophie spirituelle incommensurable. Et ce n’est que la partie émergée de l’iceberg.

Bien sûr, l’IA changera nos vies de manière positive ; je ne suis pas un technophobe. Nous vivrons plus longtemps, la nourriture sera moins rare, les découvertes arriveront plus vite. Mais une part du génie américain, surtout au cours des cent dernières années, a été notre capacité à identifier une technologie émergente, à décider rapidement de la réguler et de la contrôler de manière à en maximiser les bénéfices tout en protégeant les citoyens autant que possible de ses dérives. Nous l’avons fait pour les chemins de fer, la médecine avancée, le nucléaire. Nous pouvons le faire pour l’IA.

Enfin, confrontons l’argument de l’industrie de l’IA selon lequel, bien que la réglementation soit nécessaire, nous ne devrions pas en faire trop parce qu’elle nous limiterait dans la course avec les Chinois. Cet argument suppose, à tort, que les Chinois n’imposeront aucune contrainte au développement et à la diffusion de leurs propres modèles d’IA. Nous savons que ce n’est pas le cas, car à l’heure actuelle, la Chine se montre relativement prudente dans la manière dont elle développe et diffuse l’IA. De 2021 à 2023, la Chine a commencé à mettre en place un cadre de gouvernance comprenant certaines des premières réglementations et normes techniques en matière d’IA au monde, afin de mettre les fournisseurs de services en conformité sur des questions d’éthique, de protection des données, de sûreté et de sécurité. Les tentatives de réglementation de la Chine ont été plus légères et plus ciblées que celles de l’UE, mais son cadre de gouvernance impose des contraintes aux développeurs d’IA, notamment des rapports sur la manière dont les algorithmes sont formés et des auto-évaluations de sécurité obligatoires. Le fait que la Chine s’emploie activement à élaborer une loi nationale sur l’IA, tout en produisant un modèle de pointe comme celui de DeepSeek, montre clairement que la réglementation et l’innovation en matière d’IA peuvent coexister, et qu’elles le doivent.

Il y a quelques années, l’industrie de l’IA a orchestré une grande opération de communication à Washington pour afficher son soutien à la régulation. Mais au moment d’entrer dans les détails, elle a refusé de s’engager. Aucune proposition concrète n’a été formulée ou soutenue. J’ai trouvé cela louche à l’époque, et la suite m’a donné raison. Une fois Trump au pouvoir, l’industrie a montré son vrai visage : elle ne voulait en réalité aucune régulation. Elle a fait pression pour et obtenu une disposition dans le gigantesque projet de budget républicain interdisant toute régulation de l’IA au niveau des États, sachant que les réglementations fédérales sont normalement inspirées par les modèles des États, qui fournissent à la fois un soutien pratique et politique pour inciter le gouvernement fédéral à entrer dans la danse. Empêcher la régulation au niveau des États facilite énormément la tâche à l’industrie pour ralentir ou stopper complètement la régulation fédérale.

Je veux que l’Amérique batte la Chine dans la course à l’IA avancée. Je le veux. Mais pas à n’importe quel prix. Si nous ne mettons pas en place une politique publique et des interventions pour contrôler la perte d’emplois et protéger les consommateurs, cela ne servira à rien d’atteindre l’IAG avant la Chine. Sans limites, l’IAG pourrait éliminer tellement d’emplois et saper tant de nos valeurs, que la Chine se réjouira de notre décision de foncer aveuglément vers l’IAG dans notre désir frénétique d’être les premiers. En fin de compte, la Chine pourrait bien gagner la course, parce que nous nous serions détruits nous-mêmes sur le parcours.

IA et bonheur

Thu, 19 Jun 2025 00:00:00 +0200

Isolde Cambournac, docteure en théologie de l’Université de Fribourg, explore dans son ouvrage « Heureux comme Dieu ! » la notion de bonheur selon saint Thomas d'Aquin. Son livre, publié chez Desclée de Brouwer, rend accessible à tous les enseignements de saint Thomas d'Aquin sur le bonheur, offrant des clés de discernement pour distinguer les faux bonheurs du vrai, et guidant avec sérieux et légèreté sur le chemin de la béatitude. Un ouvrage qu’on ne peut que recommander ! Elle propose par ailleurs des analyses et des réflexions thomistes sur sa chaîne YouTube.

Pourquoi avoir écrit un livre sur le bonheur ?

J’ai été invitée par mon éditeur à écrire un livre grand public sur saint Thomas d’Aquin à l’occasion de son jubilé. La pensée de l’Aquinate est si vaste qu’il fallait cibler un thème en particulier. Le thème du bonheur a été une évidence pour plusieurs raisons : tout d’abord le bonheur est le premier sujet dont parle saint Thomas dans la Somme de théologie lorsqu’il traite du retour de l’homme vers Dieu, ensuite tout le monde veut être heureux, le bonheur est notre fin, ce pour quoi nous sommes faits. Parler du bonheur, c’est commencer par la fin. Cette fin est présente dans notre intention, même de manière inconsciente, et donne raison à tous nos actes.

Le titre du livre – dont tout le mérite revient à l’éditeur – est « Heureux comme Dieu ! ». On imagine rarement Dieu heureux et pourtant c’est vrai. Dieu est suprêmement heureux et il veut nous faire participer à son bonheur. C’est en quelque sorte la base du message chrétien.

Pourquoi la quête du bonheur est-elle à la fois fondamentale et d’une brûlante actualité ?

La quête du bonheur est fondamentale parce qu’elle nous habite tous. On ne peut pas vouloir ne pas être heureux, explique saint Thomas. Nous n’avons pas le choix. C’est la seule chose pour laquelle nous sommes déterminés.

En revanche, nous avons le choix de chercher le bonheur dans telle chose ou telle autre. Saint Thomas passe au crible toutes les biens dans lesquels nous avons tendance à chercher le bonheur : les richesses, les honneurs, le pouvoir, etc. Il montre que beaucoup de biens peuvent nous procurer du bonheur, mais que ces bonheurs sont toujours limités. Seul le bien ultime, Dieu, peut nous procurer un bonheur capable de nous combler totalement et dans la durée. Dieu seul peut combler la volonté de l’homme.

Il nous arrive souvent de chercher notre bonheur ultime dans des biens limités. On peut se rendre compte à 40 ans que cette carrière dont on a toujours rêvé et qu’on a fini par obtenir ne nous rend finalement pas heureux comme nous l’espérions. La désillusion peut conduire au désespoir. Il semble qu’une société qui vit sans Dieu finit par perdre espoir dans le bonheur.

Pourriez-vous rappeler la distinction que vous faites entre bonheur et béatitude ?

Le bonheur n’est pas un état, c’est un acte. C’est l’acte de saisir un bien que l’on aime et que l’on a désiré auparavant. Le bonheur s’accompagne nécessairement d’une joie. Pour prendre un exemple très terre à terre, le bonheur c’est de pouvoir déguster ce Burger qui m’a tant fait saliver auparavant.

La béatitude est le bonheur le plus grand que l’on puisse connaître. Cela implique que le bien que je saisis est le bien ultime, le bien le plus grand : c’est Dieu lui-même. Je « saisis » Dieu en le contemplant, en le voyant face à face. La béatitude n’est autre que la vision de Dieu. Cette vision nous procure une très grande joie.

Quelles sont les caractéristiques du véritable bonheur ?

Le véritable bonheur est un bonheur qui comble totalement et dans la durée. Il ne s’accompagne d’aucune contrainte. Nous avons tous l’expérience de « petits bonheurs » qui passent. Lorsque j’ai très soif, boire un verre d’eau est un petit bonheur. Si je continue à boire alors que je n’ai plus soif, il est probable que mon bonheur se transforme en supplice.

Dieu est le seul bien qui comble vraiment, qui peut être saisi dans la durée et sans contrainte. Tant que nous vivons sur terre, nous ne pouvons pas contempler Dieu sans interruption. Nous sommes sans cesse rappelés aux nécessités de la vie. Au Ciel, nous pourrons contempler Dieu éternellement et jamais nous nous en lasserons.

Vous distinguez vie active et vie contemplative. Dans quelle mesure participent-elles à notre quête du bonheur ?

La vie contemplative se caractérise par la contemplation de la vérité. Selon saint Thomas d’Aquin, le bonheur ultime est un acte de contemplation : voir Dieu. La vie contemplative est comme un avant-goût de la contemplation du Ciel. Contempler n’importe quelle vérité ou même un paysage nous fait goûter d’une certaine manière à ce que peut être la vision de Dieu.

La vie active, quant à elle, se caractérise par les actions extérieures. Elle peut aussi nous rendre heureux, explique saint Thomas, mais pas autant que la vie contemplative. Elle nous donne de faire le bien et de devenir meilleurs. Elle nous fait ainsi grandir en vertu. La vertu elle-même nous dispose à désirer le bien véritable et nous conduit à sa manière au bonheur de la contemplation.

Vous expliquez que la volonté droite nous porte vers la fin parfaite. Comment cette disposition de la volonté diffère-t-elle de l’« instinct » propre aux créatures inférieures, et qu'est-ce que cette distinction nous apprend pour le bonheur humain ?

L’instinct guide les animaux de l’intérieur vers ce qui est bon pour eux. Comme être rationnels, il nous revient de chercher et de trouver par nous-mêmes ce qui est bon pour nous. Certains dirons que c’est dommage, d’autres diront que c’est un privilège.

Il nous faut chercher le vrai bien qui sera capable de nous combler. Notre intellect nous donne de connaître ce bien et notre volonté de l’aimer et de le choisir. Une volonté droite nous fait choisir non seulement un vrai bien (et pas un mal qui ressemble à un bien), mais elle nous porte en plus vers le bien le plus grand.

Vous affirmez que « Tant que nous pouvons être vertueux, nous pouvons être heureux de cette béatitude » imparfaite. En quoi la vertu est-elle nécessaire à l'obtention d’un certain bonheur sur Terre ?

La vertu nous dispose à désirer le vrai bonheur. Elle nous donne le goût de ce qui est vraiment bon pour nous. Elle nous écarte naturellement des faux biens, et nous donne un goût plus limité pour des biens incapables de nous combler.

Mettons en perspective la notion de bonheur avec les avancées des IA. Nous cherchons à savoir dans quelle mesure l'IA peut nous aider ou nous empêcher d'être heureux.

Dans quelle mesure l'IA peut-elle nous aider à être heureux ?

L’IA est un outil fascinant. Elle peut faire le travail à notre place et peut même atteindre un niveau jamais atteint par l’homme jusque-là. C’est un progrès indéniable. De la même manière que les tracteurs ont remplacé le travail de nombreux ouvriers agricoles et ont pu même faire mieux qu’eux.

Il est certain que ces outils nous aident à être heureux, sans quoi nous ne mettrions pas autant d’énergie à les développer. En revanche, le bonheur ultime ne se trouve pas là. Je suis convaincue que l’homme assis sur son transat à contempler l’IA faire le travail à sa place ne serait pas comblé. Peut-être serait-il comblé les premiers jours, mais il éprouverait ensuite un manque et chercherait encore ce qui pourrait le combler.

Vous dites que nous pouvons obtenir la béatitude imparfaite d'une créature « dans la mesure où celle-ci nous aide à être vertueux ». N'y a-t-il pas un risque de se reposer excessivement sur l'IA pour réaliser des tâches qui, jusqu'ici, étaient autant d'occasions d'agir vertueusement ?

L’IA n’a pas été conçue pour se substituer aux hommes. Tant qu’il y aura des hommes, il y aura des actes guidés par la raison et donc des actes vertueux. L’IA en revanche ne posera jamais un acte vertueux. Il faut être un être rationnel pour poser un acte vertueux, c’est-à-dire un être doté d’un intellect et d’une volonté, capable de connaître le bien, de l’aimer et de le choisir. Même si l’IA fait le travail à notre place, nous continuerons à poser des actes humains tant que nous vivrons. Nous aurons toujours des occasions d’agir vertueusement.

Que répondriez-vous à certains transhumanistes qui espèrent trouver leur bonheur dans une IA qui les dépasserait cognitivement ?

Il est fort probable qu’ils découvrent après coup que même en ayant atteint cela, ils ne sont toujours pas comblés et que quelque chose leur manque encore. Tout dépend une fois de plus en quel bien on espère trouver le bonheur ultime. Si ce bien n’est pas le bien ultime on sera nécessairement déçu. Une IA capable de dépasser les limites cognitives humaines nous fera certainement découvrir des choses extraordinaires, mais elle restera un bien limité, incapable de nous combler.

Et quel serait le but suivant ? En vue de quoi avoir une capacité cognitive surpuissante ? Cela ne veut pas dire que ce serait une mauvaise chose, mais simplement que ce n’est pas ce que nous désirons par-dessus tout. D’une certaine manière ce n’est pas assez ambitieux. Désirer voir Dieu est l’ambition ultime, la seule capable de nous combler totalement.

Pensez-vous que nous devrions fixer des limites au développement de l’IA afin de ne pas perdre de vue le bonheur que nous sommes censés chercher ?

Ceux qui cherchent leur bonheur dans l’IA seront nécessairement déçus, quel que soit le développement de cette IA. Il nous revient donc de faire la part des choses : « Rendons à l’IA ce qui est à l’IA et à Dieu ce qui est à Dieu ».

L’IA pourrait être une menace si elle vient à nous empêcher de connaître et d’aimer Dieu. Il me semble cependant que cela est impossible. Elle pourrait éventuellement nous distraire, mais rien de plus. Connaître et aimer Dieu est une chose tellement intime que je ne crois pas que l’IA puisse nous en empêcher.

Auriez-vous quelques conseils pour garder un usage de l’IA qui ne soit pas en contradiction avec notre quête du bonheur ?

Il me semble qu’il suffit de se rappeler que l’IA est un bien limité, qui ne pourra jamais nous combler. Si jamais on venait à l’oublier, je ne doute pas que l’expérience se chargerait de nous le rappeler.

C'est désormais officiel : ChatGPT vous rend bête

Sat, 21 Jun 2025 00:00:00 +0200

Une récente étude du MIT révèle que les individus utilisant les LLM mettent en œuvre beaucoup moins de connexions neuronales que les personnes utilisant simplement leur mémoire ou des moteurs de recherche. Cette étude, bien que préliminaire, montre des résultats déjà significatifs. Nous vous proposons ici un résumé des principaux aspects de l'étude.

Présentation

Traduction provenant de la présentation de l'étude

Avec l'adoption généralisée actuelle des produits basés sur les grands modèles de langage (LLM) comme ChatGPT d'OpenAI, les individus et les entreprises interagissent quotidiennement avec ces outils. Comme tout outil, ils présentent à la fois des avantages et des limitations. Cette étude vise à évaluer le coût cognitif de l'utilisation d'un LLM dans un contexte éducatif, en particulier pour la rédaction d'un essai.

Nous avons réparti les participants en trois groupes : un groupe LLM, un groupe moteur de recherche, et un groupe « cerveau uniquement », où chaque participant utilisait l'outil désigné (ou aucun outil pour le dernier groupe) pour rédiger un essai. Nous avons mené trois sessions avec la même répartition des groupes pour chaque participant. Lors de la quatrième session, nous avons demandé aux participants du groupe LLM de ne pas utiliser d'outils (désignés comme LLM-vers-Cerveau), et à ceux du groupe Cerveau uniquement d'utiliser un LLM (Cerveau-vers-LLM). Au total, 54 participants ont pris part aux sessions 1, 2 et 3, et parmi eux, 18 ont complété la session 4.

Nous avons utilisé l'électroencéphalographie (EEG) pour enregistrer l'activité cérébrale des participants, afin d'évaluer leur engagement cognitif, leur charge cognitive, et de mieux comprendre les activations neuronales pendant la tâche de rédaction. Nous avons effectué une analyse en traitement automatique du langage naturel (TAL), et nous avons interviewé chaque participant après chaque session. L'évaluation des essais a été réalisée à la fois par des enseignants humains et un juge IA (un agent intelligent spécialement conçu).

Alors que l'impact éducatif de l'utilisation des LLM commence seulement à être perçu par le grand public, cette étude met en lumière une question urgente : la probable diminution des capacités d'apprentissage liée à leur usage, selon nos résultats. L'utilisation du LLM a eu un impact mesurable sur les participants, et bien que les bénéfices aient été visibles au début, nous avons démontré, sur une période de quatre mois, que les participants du groupe LLM obtenaient de moins bons résultats que ceux du groupe cerveau uniquement à tous les niveaux : neuronal, linguistique, et évaluatif.

Nous espérons que cette étude pourra servir de guide préliminaire pour comprendre les impacts cognitifs et pratiques de l'IA dans les environnements d'apprentissage.

But de l'étude

Traduction d'un extrait page 10-11 de l'étude originale.

La transformation des paradigmes de recherche traditionnels par les LLM ajoute une couche supplémentaire de complexité à l'apprentissage. Contrairement aux moteurs de recherche classiques qui présentent des points de vue variés pour permettre à l'utilisateur de les évaluer, les LLM offrent des réponses synthétisées et uniques qui peuvent involontairement décourager la pensée critique et le jugement indépendant. Ce passage de la recherche active d'information à la consommation passive de contenu généré par l'IA peut avoir des implications profondes sur la manière dont les générations actuelles et futures traitent et évaluent l'information.

Nous présentons ainsi une étude qui explore le coût cognitif de l'utilisation d'un LLM lors de la tâche de rédaction d'un essai. Nous avons choisi la rédaction d'essais car il s'agit d'une tâche cognitivement complexe qui engage plusieurs processus mentaux, tout en étant utilisée comme un outil courant dans les écoles et dans les tests standardisés des compétences des élèves. La rédaction d'un essai impose des exigences importantes sur la mémoire de travail, nécessitant la gestion simultanée de multiples processus cognitifs. Une personne rédigeant un essai doit jongler entre des tâches de niveau macro (organisation des idées, structuration des arguments) et des tâches de niveau micro (choix des mots, grammaire, syntaxe). Afin d'évaluer l'engagement cognitif et la charge cognitive, ainsi que de mieux comprendre les activations cérébrales lors de la réalisation de cette tâche de rédaction, nous avons utilisé l'électroencéphalographie (EEG) pour mesurer les signaux cérébraux des participants.

En plus de l'utilisation d'un LLM, nous souhaitons également comprendre et comparer les activations cérébrales lors de l'exécution de la même tâche en utilisant une recherche Internet classique et lorsqu'aucun outil (ni LLM ni moteur de recherche) n'est disponible pour l'utilisateur. Nous avons également collecté des questionnaires ainsi que des entretiens avec les participants après chaque tâche. […]

Notre étude tente de répondre aux questions suivantes :

Les participants écrivent-ils des essais significativement différents selon qu'ils utilisent un LLM, un moteur de recherche, ou rien ?

L'activité cérébrale diffère-t-elle selon ces modes d'écriture ?

L'usage d'un LLM impacte-t-il la mémoire des participants ?

L'usage du LLM affecte-t-il le sentiment de propriété des textes rédigés ?

Expériences individuelles

Méthode : analyse de l'entretien post-évaluation

Traduction d'un extrait page 29-30 de l'étude originale.

Après avoir terminé la tâche, les participants ont été invités à discuter de la tâche et de leur approche pour la réaliser.

Les questions comprenaient (légèrement ajustées pour chaque groupe) :

Pourquoi avez-vous choisi ce sujet pour votre essai ?

Avez-vous suivi une structure particulière pour rédiger votre essai ?

Comment avez-vous procédé pour rédiger votre essai ?

Groupe LLM : Avez-vous commencé seul ou avez-vous demandé à ChatGPT d'abord ?

Groupe Moteur de Recherche : Avez-vous visité des sites web spécifiques ?

Pouvez-vous citer une phrase de votre essai sans le regarder ?

Si oui, veuillez fournir la citation.

Pouvez-vous résumer les principaux points ou arguments que vous avez développés dans votre essai ?

Groupe LLM/Moteur de Recherche : Comment avez-vous utilisé ChatGPT/Internet ?

Groupe LLM/Moteur de Recherche : Quelle partie de l'essai provient de ChatGPT/Internet et quelle partie est la vôtre ?

Groupe LLM : Si vous avez copié de ChatGPT, l'avez-vous copié/collé ou l'avez-vous modifié ensuite ?

Êtes-vous satisfait de votre essai ?

Résultats

Capacité à citer son propre texte

Taux d'incapacité des participants à citer leur propre texte :

Groupe LLM : 83,3%.

Groupe Moteur de recherche : 11,1%.

Groupe Cerveau uniquement : 11,1%.

Voir le diagramme (figure6).

Taux de citations exactes des participants :

Groupe LLM : 0/18.

Groupe Moteur de recherche : 3/18.

Groupe Cerveau uniquement : 16/18.

Voir le diagramme (figure7).

La tendance sera confirmée lors de la session 4 (où les groupes LLM et Cerveau uniquement sont inversés).

Taux d'incapacité des participants à citer leur propre texte (session 4) :

Groupe LLM : 7/9.

Groupe Cerveau uniquement : 1/9.

Taux de citations exactes des participants :

Groupe LLM : 1/9.

Groupe Cerveau uniquement : 7/9.

Voir les diagrammes : figure10, figure11.

Appropriation du résultat

Il s'agit ici de mesurer le sentiment (subjectif) de l'individu à tenir pour sien le texte :

Taux d'appropriation Groupe LLM Groupe Moteur de Recherche Groupe Cerveau-Uniquement

Totale 9/18 6/18 16/18

Aucune 3/18 0/18 0/18

90% 1/18 4/18 2/18

70% 1/18 3/18 0/18

50% 1/18 0/18 0/18

Les perceptions de la propriété ont évolué au cours des sessions, en particulier dans le groupe LLM, où une large gamme de réponses a été observée. [...] De plus, le groupe LLM est passé d'un certain nombre de participants affirmant ne « pas avoir de propriété » sur leurs essais, à une absence de telles réponses dans les sessions suivantes.

Les groupes Moteur de Recherche et Cerveau-Uniquement ont plutôt penché pour une propriété totale à chaque session. Un participant du groupe Moteur de Recherche a exprimé : « Même si j'ai cherché un peu de grammaire sur Google, j'ai quand même eu l'impression que l'essai était ma création. » De manière similaire, un participant du groupe Cerveau-Uniquement a partagé : « J'ai écrit l'essai moi-même. » Cependant, les participants du groupe LLM ont affiché une perspective plus critique, l'un d'eux admettant : « Je me suis senti coupable d'utiliser ChatGPT pour les révisions, même si j'ai contribué à la majeure partie du contenu. »

p.37

Satisfaction du résultat

La satisfaction vis-à-vis des essais a évolué différemment selon les groupes. Le groupe Moteur de Recherche a systématiquement rapporté de hauts niveaux de satisfaction, un participant déclarant : « J'étais satisfait de l'essai parce qu'il correspondait bien à ce que je voulais exprimer. » Le groupe LLM a eu des réactions plus partagées, comme l'a réfléchi un participant : « J'étais globalement content, mais je pense que j'aurais pu faire mieux. » Un autre participant du même groupe a commenté : « L'essai était bien, mais j'ai eu du mal à terminer mes idées. »

Le groupe Cerveau-Uniquement a montré une amélioration progressive de la satisfaction au fil des sessions, bien que certains participants aient exprimé des difficultés persistantes. Un participant a noté : « J'ai aimé mon essai, mais je pense que j'aurais pu l'affiner davantage si j'avais pris plus de temps pour réfléchir. » La satisfaction était clairement liée au temps alloué pour la rédaction de l'essai.

p.37-38

Réflexions et Points Saillants

Tout au long des sessions, les participants ont exprimé des thèmes convergents autour de l'efficacité, de la créativité et de l'éthique, tout en montrant des trajectoires distinctes dans l'utilisation des outils selon les groupes. Le groupe LLM a d'abord utilisé ChatGPT pour des tâches accessoires, par exemple pour « résumer chaque consigne afin de choisir laquelle traiter » (P48, Groupe 1), mais est devenu de plus en plus sceptique : après trois utilisations, un participant a conclu que « ChatGPT n'en valait pas la peine » pour la tâche (P49), et un autre a préféré « Internet plutôt que ChatGPT pour trouver des sources et des preuves, car ce n'est pas fiable » (P13). Plusieurs participants ont mentionné l'effort nécessaire pour « formuler des requêtes à ChatGPT », l'un imposant une limite de mots « pour que ce soit plus facile à contrôler et gérer » (P18) ; d'autres ont reconnu que le système « aidait à affiner ma grammaire, mais n'apportait pas beaucoup à ma créativité », qu'il était « utile pour la structure... mais pas vraiment pour générer des idées » et qu'il « ne m'aidait pas à formuler mes idées comme je le voulais » (Session 3). La pression du temps a parfois poussé certains à continuer à utiliser ChatGPT : « Je suis retourné à ChatGPT parce que je n'avais pas assez de temps, mais je me sens coupable à ce sujet », bien que le malaise éthique persistait : P1 avouait que « c'est comme tricher », un jugement également partagé par P9, tandis que trois participants se limitaient à utiliser ChatGPT pour la traduction, soulignant son rôle secondaire.

En revanche, le groupe Search Engine a développé une utilisation pragmatique du moteur de recherche, avec Google comme « un bon compromis » pour la recherche et la grammaire, et les participants ont souligné l'intégration d'histoires personnelles, comme le mentionnait l'un d'eux : « J'ai essayé de relier [l'essai] à des histoires personnelles » (P12). Enfin, le groupe Brain-only, sans outils numériques, a mis l'accent sur l'autonomie et l'authenticité, précisant que l'essai « semblait très personnel parce qu'il portait sur mes propres expériences » (P50).

p.38

Mesure de l'activité cognitive

Comparaison du groupe LLM au groupe Cerveau

Résultat de l'électro encéphalogramme sur les dDTF Alpha.

La connectivité dans la bande alpha est souvent associée à l'attention interne et au traitement sémantique lors de l'idéation créative. La connectivité alpha plus élevée dans le groupe Brain-only suggère que l'écriture sans assistance a très probablement induit un traitement interne plus important, ce qui est cohérent avec l'idée que ces participants devaient générer et combiner des idées à partir de la mémoire sans indices externes. En fait, la recherche sur la créativité montre que l'activité alpha (en particulier dans les bandes alpha supérieures) augmente avec la recherche sémantique interne et la demande créative dans les régions frontales et pariétales. La connectivité alpha fronto-pariétale élevée du groupe Brain-only s'aligne avec cette constatation : leurs cerveaux se sont probablement engagés dans un brainstorming interne plus important et une récupération sémantique. Le groupe LLM, tenant compte des suggestions du LLM, a peut-être moins compté sur la génération sémantique purement interne, ce qui a conduit à une connectivité alpha plus faible, car une partie de la charge créative a été transférée à l'outil.

p.78

Résultat de l'électro encéphalogramme sur les dDTF Beta.

La connectivité dans la bande bêta est souvent associée au traitement cognitif actif, à l'attention focalisée et à l'intégration sensorimotrice. La connectivité bêta plus élevée dans le groupe Brain-only reflète probablement leur engagement cognitif et moteur soutenu dans la composition de leurs essais sans outils externes. Écrire sans outil signifiait que le groupe Brain-only devait générer continuellement du texte et maintenir leur plan, ce qui sollicitait les fonctions exécutives et probablement la planification motrice pour la saisie, des processus connus pour se manifester dans les oscillations bêta.

p.80

Résultat de l'électro encéphalogramme sur les dDTF Delta.

La connectivité delta plus élevée dans le groupe Brain-only pourrait indiquer que ces participants ont engagé davantage d'intégration multisensorielle et de traitements liés à la mémoire tout en formulant leurs essais. Une autre perspective est que les oscillations delta sont parfois associées au mode par défaut pendant les tâches. La delta plus élevée du groupe Brain-only pourrait refléter une immersion plus profonde dans une pensée interne (puisqu'ils doivent générer le contenu eux-mêmes), tandis que le processus de pensée du groupe LLM pourrait être intermittemment interrompu ou guidé par les suggestions du LLM, ce qui pourrait réduire la connectivité delta soutenue.

En résumé, les différences dans la bande delta suggèrent que l'écriture sans assistance engage des processus cérébraux d'intégration lents et plus larges, tandis que l'écriture assistée implique un engagement plus restreint ou ancré de manière externe, nécessitant moins d'intégration médiée par les ondes delta.

p.82

Résultat de l'électro encéphalogramme sur les dDTF Theta.

Les résultats de la bande thêta soulignent ainsi que l'écriture sans assistance a invoqué un engagement plus important du réseau de contrôle exécutif du cerveau, tandis que l'écriture assistée par outil a permis une charge cognitive plus légère. Cela a peut-être libéré des ressources cognitives pour d'autres aspects (comme l'évaluation des résultats de l'outil), mais cela a clairement diminué la nécessité d'une intégration intense médiée par la thêta.

p.84

Résultats globaux.

Ces schémas sont indicatifs d'un traitement ascendante accru, suggérant que les participants intégraient activement les informations récupérées de manière externe dans des conditions de charge cognitive élevée. Le profil de connectivité implique une dépendance vis-à-vis de matériaux externes, traités à travers des voies sémantiques et attentionnelles plus exigeantes.

L'expression "give us" impliquait un cadrage passif, reflétant probablement une source externe (par exemple, citer ou résumer des textes en ligne). Cela semble aligné avec leur augmentation de la bande delta, souvent liée à l'attention externe, à la surveillance ou à l'intégration d'un stimulus exigeant.

p.128

Ce modèle suggère un engagement dans un raisonnement émotionnellement ancré, dirigé de manière interne, impliquant probablement la pensée abstraite et l'autorégulation en l'absence de soutien cognitif externe. Ces phrases reflètent des marqueurs de cadrage prosociaux et réflexifs du traitement sémantique dirigé de manière interne. La connectivité élevée dans les régions frontales, pariétales et associées au système limbique soutient l'idée d'une intégration cognitive et émotionnelle profonde, probablement nécessaire pour des arguments basés sur des valeurs.

p.130

Bien que cette analyse demeure spéculative, car nous ne l'avons réalisée que pour un seul sujet, une relation semble émerger entre l'origine des n-grams et les schémas de connectivité cérébrale à travers les groupes. Les participants qui ont généré des phrases plus abstraites, introspectives ou orientées vers des valeurs ont montré un couplage neural intrinsèque plus fort, tandis que ceux qui dépendaient d'aides externes, qu'il s'agisse de LLM ou de moteurs de recherche, avaient tendance à produire des déclarations plus génériques, formulées de manière plus extérieure, ce qui correspond à une intégration cognitive réduite. En résumé, ces observations pourraient indiquer que le choix de l'outil (ou son absence) n'a pas seulement façonné les dynamiques neuronales, mais a aussi orienté les participants vers des concepts et des formes linguistiques particulières.

p.132

Analyses

Pris ensemble, les données comportementales ont révélé que des niveaux plus élevés de connectivité neuronale et de génération interne de contenu dans le groupe Brain-only étaient corrélés avec une meilleure mémoire, une plus grande précision sémantique et un plus grand sentiment de propriété du travail écrit. Bien que le groupe Brain-only ait été soumis à une charge cognitive plus importante, il a montré des résultats d'apprentissage plus profonds et une plus grande identité avec sa production. Le groupe Search Engine a montré une internalisation modérée, équilibrant probablement l'effort et le résultat. Le groupe LLM, bien qu'il ait bénéficié de l'efficacité de l'outil, a montré des traces de mémoire plus faibles, une réduction de l'auto-surveillance et une appropriation fragmentée.

Ce compromis met en évidence une préoccupation éducative importante : les outils d'IA, bien qu'ils soient précieux pour soutenir la performance, peuvent entraver involontairement un traitement cognitif profond, la rétention et l'engagement authentique avec le matériel écrit. Si les utilisateurs dépendent trop des outils d'IA, ils peuvent atteindre une fluidité superficielle sans parvenir à internaliser les connaissances ou ressentir un sentiment de propriété sur celles-ci.

p.138

Cette corrélation entre la connectivité neuronale et l'échec comportemental de la citation chez les participants du groupe LLM offre des preuves que :

La dépendance précoce à l'IA peut entraîner une encodage superficiel. La mauvaise mémoire et la citation incorrecte dans le groupe LLM sont un indicateur possible que leurs essais antérieurs n'ont pas été intégrés de manière interne, probablement en raison du traitement cognitif externalisé vers le LLM.

Retenir les outils LLM pendant les premières étapes pourrait favoriser la formation de la mémoire. Le rappel comportemental plus fort du groupe Brain-only, soutenu par une connectivité EEG plus robuste, suggère que l'effort initial sans aide a favorisé la formation de traces mnésiques durables, permettant une réactivation plus efficace même lorsque les outils LLM ont été introduits par la suite.

L'engagement métacognitif est plus élevé dans le groupe Brain-to-LLM. Le groupe Brain-only pourrait avoir mentalement comparé leurs efforts sans aide passés avec les suggestions générées par l'outil (comme le soutiennent leurs commentaires lors des interviews), s'engageant dans l'auto-réflexion et la répétition élaborative, un processus lié au contrôle exécutif et à l'intégration sémantique, comme le montre leur profil EEG.

p.140

Conclusion

L'étude du MIT ne se contente pas de pointer du doigt une diminution de l'activité cérébrale, elle révèle l'absence d'assimilation suggère que la commodité offerte par les IA se fait au détriment d'un apprentissage profond et d'une mémorisation durable. Cette observation est d'autant plus critique pour les jeunes utilisateurs, dont le cerveau est encore en développement. S'appuyer excessivement sur l'IA pourrait entraver l'acquisition de compétences essentielles, notamment en matière de pensée critique et d'analyse.¹

Comme le montrent les analyses et les mesures de l'activité cognitive des personnes, l'usage des LLM pour générer du contenu diminue radicalement l'implication de l'individu dans les tâches qu'il effectue. D'où la difficulté à citer son propre travail, mais aussi à se l'approprier.

On sait par ailleurs que la formation du cerveau suit un apprentissage par renforcement : plus certaines voies neuronales sont utilisées, plus elles se renforcent, contribuant à sa propre formation. Ainsi, si l'usage des LLM réduit l'activité cognitive, il réduit par la même occasion la capacité à apprendre à poser des actes "coûteux" cognitivement. Or, si l'on se permet de définir la vertu comme la capacité à se dépasser pour apprendre de nouvelles habitudes à poser des actes bons, alors l'usage des LLM ne favorise pas un tel comportement.

Finalement, on peut craindre qu'un usage intensif des LLM ne pousse l'individu à décorrèler ses actes de sa personnalité et de son identité profonde. De manière naturelle, lorsque l'individu pose des actes, ceux-ci contribuent à sa formation intérieure. Des actes difficiles demandent plus d'effort, mais permettent d'en retirer un plus grand bien. On dit bien que les plus grandes épreuves de la vie sont celles qui font le plus grandir.

Or, un acte fait d'autant plus grandir que l'on s'implique dans celui-ci, dans ce que l'on a de plus profond. Or, comme le montre l'étude, l'usage des LLM - ici pour les tâches de rédaction - réduit l'implication profonde de l'individu. On peut donc en déduire qu'il ne contribue pas à sa formation.

Or, ce qui caractérise l'intimité, c'est justement cette capacité à s'articuler pleinement, dans son identité, ses actes et ses valeurs. C'est précisément ce qu'un usage démesuré de l'IA risque d'atteindre.

Mon livre L'Intimité Assiégée est à ce titre d'une actualité vitale.

Conclusion tirée de l'article de clubic C'est désormais officiel : ChatGPT vous rend bête ↩︎

Taux d'appropriation	Groupe LLM	Groupe Moteur de Recherche	Groupe Cerveau-Uniquement
Totale	9/18	6/18	16/18
Aucune	3/18	0/18	0/18
90%	1/18	4/18	2/18
70%	1/18	3/18	0/18
50%	1/18	0/18	0/18