Cette carte comporte huit pièges qui peuvent tromper ton esprit et quatre étapes pour ne pas y tomber.
Clique sur chaque cadre pour voir un exemple et la manière de te protéger. Une fois vu, une ✓ apparaît. Si tu cliques sur la ✓, elle disparaît.
L’ESSENTIEL
Il ne s’agit pas de se méfier de tout, mais de vérifier avant de croire.
Cette carte rassemble huit distorsions qui faussent notre jugement, regroupées en trois fronts, et trois outils pour s’en défendre.
4
Ils viennent de l’extérieur : ce que d’autres font pour te convaincre.
2
Ce qu’apporte l’IA : ce qu’ajoute le fait de parler à des machines qui écrivent très bien.
2
Ils viennent de l’intérieur : ce que nous nous faisons à nous-mêmes.
3
Outils : un protocole, des exercices et les sources.
Comment lire la carte
Chaque flèche forme une phrase avec le cadre central, par exemple « Ton jugement se rend face à l’autorité ». Clique sur n’importe quel cadre pour ouvrir son explication. Dans une fenêtre, les flèches ← → du clavier (ou les boutons du pied) te mènent à la précédente ou à la suivante, et Échap la ferme. Ceux que tu as déjà visités affichent une ✓ ; un clic dessus le décoche.
Chaque distorsion suit la même structure : ce que c’est, un cas, comment elle fonctionne, signaux d’alarme, questions de défense et une habitude concrète. Certaines comprennent une invite prête à être copiée dans une IA.
⚠️ L’objectif n’est pas de se méfier de tout. Le cynisme est aussi une distorsion : qui ne croit rien est aussi manipulable que qui croit tout, car il finit par accepter celui qui lui dit ce qu’il veut entendre. Il s’agit de calibrer la confiance : l’accorder à la mesure des preuves.
Idées pour la classe
1
Diagnostic avant d’expliquerCommence par Mets-toi à l’épreuve sans avoir vu le reste. Les réponses montrent quelles distorsions le groupe reconnaît déjà et lesquelles lui échappent.
2
Une distorsion par groupeChaque groupe cherche un exemple réel de la semaine passée (une publicité, un titre, une vidéo virale, une réponse d’IA) et le présente avec sa question de défense.
3
Le protocole comme routineAvant de rendre un travail réalisé avec l’aide de l’IA, on applique les quatre étapes et l’on note ce qui a été vérifié et où.
POUR LE CORPS ENSEIGNANT
Niveau 12 ans · 1º ESO. Chaque fenêtre ne contient qu’une brève explication, un exemple du quotidien et une mise en garde. Aucun nom propre n’apparaît en dehors de « D’où vient cette carte ? ». Vocabulaire : « pièges » au lieu de « distorsions ».
S’intègre dans : Tutorat, Technologie et Numérique (usage sûr d’internet) et Langue et littérature castillanes (lecture de messages et d’annonces).
Activité suggérée : un piège par séance. On lit l’exemple à voix haute et chaque élève invente un autre exemple semblable tiré de sa propre vie.
Niveau 13 ans · 2º ESO. Par rapport au 1º, chaque fenêtre ajoute un second conseil et quelques signaux d’alerte, et le test passe de 4 à 5 cas. Toujours aucun nom propre en dehors des sources.
S’intègre dans : Langue et littérature castillanes, Tutorat et Éducation aux valeurs civiques et éthiques si elle est enseignée cette année.
Activité suggérée : apporter de chez soi une publicité avec « à partir de » ou « jusqu’à » et la réécrire de manière honnête.
Niveau 14 ans · 3º ESO. Apparaissent les termes « distorsion », « effet de halo », « hallucination », les cas réels avec le nom des entreprises et les questions de défense. Les chercheurs ne sont pas encore nommés.
S’intègre dans : Langue et littérature castillanes (confronter les sources), Mathématiques (pourcentages et graphiques), Biologie et Géologie (fausses informations sur la santé) et Éducation aux valeurs civiques et éthiques.
Activité suggérée : chaque groupe prend une distorsion et cherche un exemple réel de la semaine dernière.
Niveau 15 ans · 4º ESO. Structure complète de chaque distorsion, habitudes, relations entre elles et prompts pour utiliser l’IA avec discernement. Le test comporte les 8 cas.
S’intègre dans : Numérique, Mathématiques (statistiques ; risque relatif et absolu), Philosophie si elle est suivie, et Langue et littérature castillanes.
Activité suggérée : demander à une IA des informations sur un sujet du cours et appliquer le protocole, en documentant ce qui a été vérifié et où.
Niveau 16 ans · 1º Bachillerato. Ajout des chercheurs, des expériences et études avec leur description, ainsi que des nuances (consensus scientifique face à l’autorité).
S’intègre dans : Philosophie (argumentation, sophismes, connaissance), Psychologie si elle est proposée, et Technologies de l’information et de la communication.
Activité suggérée : comparer l’expérience de conformité d’Asch avec un phénomène actuel des réseaux sociaux.
Niveau 17 ans · 2º Bachillerato. Pratiquement l’ensemble du contenu, avec les études les plus récentes sur l’IA et la pensée critique. Il ne manque que les références bibliographiques détaillées du niveau universitaire.
S’intègre dans : Histoire de la philosophie, Psychologie et travaux de recherche.
Activité suggérée : demander à une IA cinq références sur un sujet et vérifier une par une qu’elles existent et qu’elles disent ce qu’on leur attribue.
Les cadres avec « ? » sont cachés à ce niveau : un clic les découvre et montre leur relation, un autre ouvre leur fenêtre, et après l’avoir vue, un autre clic les masque à nouveau. Le bouton 🔗 copie un lien avec l’âge et les cadres découverts, pour partager avec le groupe ce qui a été travaillé.
Le sélecteur Âge modifie la carte et toutes les fenêtres. Dans l’adresse sont enregistrés l’âge (?edad=12, de 12 à 17 ou uni) et les cadres découverts (&ver=motivado,fuentes).
Nous croyons parfois quelque chose simplement parce que quelqu’un célèbre ou qui semble important l’affirme. Mais être célèbre ne signifie pas avoir raison.
UN EXEMPLEUn youtubeur avec des millions d’abonnés affirme que certaines chaussures te font courir plus vite. Ce qu’il ne dit pas, c’est qu’il est payé pour les promouvoir. Le fait qu’il soit célèbre ne prouve pas qu’elles fonctionnent.
POUR TE PROTÉGER
Demande-toi : cette personne sait-elle vraiment de quoi elle parle ?
Et aussi : gagne-t-il quelque chose si je le crois ?
Signaux d’alarme
Parle de quelque chose qui ne le concerne pas.
Dit « crois-moi » sans expliquer pourquoi.
On les paie pour le dire.
Nous acceptons une affirmation pour le prestige, la fonction ou le charisme de celui qui la formule, plutôt que pour les preuves qu’elle apporte. L’effet de halo aggrave le problème : la crédibilité qu’une personne a dans un domaine s’étend sans raison à d’autres domaines où elle n’en a pas.
CAS RÉEL · THERANOS (États-Unis) Cette entreprise promettait de réaliser des centaines d’analyses de sang avec une seule goutte. Son conseil comptait des responsables politiques et des militaires très célèbres, mais presque personne qui connaisse les analyses cliniques. De nombreux investisseurs lui ont confié d’énormes sommes sans rien vérifier. La machine n’a jamais fonctionné et sa fondatrice a fini condamnée pour fraude.
CAS RÉEL · THERANOS (2003–2018) Elizabeth Holmes promettait des centaines d’analyses cliniques avec une seule goutte de sang. Son conseil d’administration réunissait d’anciens secrétaires d’État et de hauts gradés militaires, mais presque personne ne connaissait les analyses de laboratoire. L’entreprise a levé des centaines de millions de dollars auprès d’investisseurs très en vue, protégée par un secret important justifié comme une protection des brevets. La technologie n’a jamais fonctionné comme annoncé, et Holmes a été condamnée pour fraude en 2022.
Comment ça marche
Faire confiance à celui qui sait est un raccourci raisonnable : personne ne peut tout vérifier. Le problème apparaît lorsque l’autorité remplace la preuve au lieu de nous orienter vers elle. Chez Theranos, trois poussées se sont conjuguées : l’effet de halo des noms illustres, la peur de rater « la prochaine Apple » et un secret qui empêchait de poser des questions.
Signaux d’alarme
Des références impressionnantes, mais dans un autre domaine.
Des noms célèbres là où devraient figurer des données.
« Je ne peux pas l’expliquer, c’est confidentiel. »
Celui qui se porte garant gagne quelque chose si tu le crois.
La critique est présentée comme de la jalousie ou de l’ignorance.
Réponses vagues à des questions précises.
Questions de défense
Que faudrait-il qui soit vrai pour que cela fonctionne ?Cela oblige à passer du « qui » au « quoi ». Si tu ne peux pas répondre, il n’y a encore rien à croire.
Est-il expert en ceci en particulier ?Un prix Nobel de physique n’est pas une autorité en nutrition.
Qui l’a vérifié de manière indépendante ?Quelqu’un qui n’en tire aucun bénéfice si c’est vrai.
Le croirais-je si l’affirmation venait d’un inconnu ?Si la réponse est non, ce qui te convainc, c’est la personne, pas l’argument.
Habitude
Sépare mentalement deux colonnes : qui le dit et quelles preuves il y a. Utilise la première uniquement pour décider s’il vaut la peine de regarder la seconde, et décide avec la seconde.
Nuance importante : il ne s’agit pas de se méfier des experts. Le consensus scientifique n’est pas une « autorité » en ce sens : c’est le résultat d’épreuves examinées par de nombreuses personnes qui rivalisent pour trouver des erreurs. Ce qu’il faut éviter, c’est d’accepter quelque chose uniquement parce que c’est celle ou celui qui le dit.
SE COMBINE AVEC
Quand nous sommes nerveux ou pressés, nous agissons sans réfléchir. Les escrocs le savent, c’est pourquoi ils te pressent.
UN EXEMPLETu reçois un message : « Tu as gagné un téléphone ! Tu as 10 minutes pour le réclamer sur ce lien ». La précipitation est le piège : ils veulent que tu cliques avant de réfléchir.
POUR TE PROTÉGER
Si un message te met la pression, ne fais rien. Demande d’abord à un adulte de confiance.
Ne saisis jamais ton mot de passe dans un lien qui t’arrive par message.
Signaux d’alarme
« Aujourd’hui seulement ! », « Vite ! ».
« Ne le dis à personne. »
Elle fait peur ou procure une grande joie d’un seul coup.
Quand nous ressentons la peur, la précipitation, l’indignation ou l’euphorie, nous agissons avant de vérifier. C’est l’outil préféré des escroqueries et de la désinformation : ils n’ont pas besoin de te tromper longtemps, seulement assez pour que tu agisses.
CAS RÉEL · ARUP, HONG KONG (2024) Un employé de cette grande entreprise d’ingénierie a reçu un message de son supposé supérieur lui demandant une opération secrète. Il a douté, puis a eu une visioconférence avec son supérieur et plusieurs collègues. Tous étaient faux, créés avec l’IA. Il a transféré environ 25 millions de dollars aux escrocs.
CAS RÉEL · ARUP, HONG KONG (2024) Un employé du service financier de l’ingénierie Arup a reçu un message du supposé directeur financier concernant une opération confidentielle. Il a eu des doutes, mais ceux-ci ont disparu lors d’une visioconférence où il a reconnu le directeur et plusieurs collègues. Il s’agissait de reconstitutions réalisées par deepfake. Suivant ses instructions, il a transféré environ 200 millions de dollars de Hong Kong (environ 25 millions de dollars américains).
Comment ça marche
Notre cerveau dispose d’un mode rapide et automatique et d’un mode lent, qui s’arrête pour réfléchir. La précipitation nous piège dans le rapide. Le secret ajoute une autre pièce : il nous isole de ceux qui pourraient nous aider à vérifier. Et l’affaire Arup enseigne autre chose : l’employé a bien eu un doute, et c’est précisément voir ses supérieurs qui l’a rassuré. Voir ne suffit plus à croire.
Daniel Kahneman distinguait une pensée rapide, automatique et émotionnelle, et une autre lente et délibérée (Kahneman, 2011). L’urgence nous laisse entre les mains de la première. Le secret ajoute une autre pièce : isole la victime des personnes qui pourraient l’aider à vérifier. Le cas Arup enseigne autre chose : l’employé a bien eu un doute, et c’est précisément voir ses supérieurs qui l’a rassuré. Voir ne suffit plus à croire.
Signaux d’alarme
« Il faut le faire maintenant » ou « en 30 minutes, c’est bloqué ».
« C’est confidentiel, n’en parle à personne. »
On te demande de contourner la procédure habituelle.
Un titre te met immédiatement en colère ou te fait peur.
Il arrive par un canal inhabituel ou depuis un nouveau numéro.
L’offre expire aujourd’hui même.
Questions de défense
Que perds-je si j’attends dix minutes ?Presque jamais rien. Si tu ne peux vraiment pas attendre, méfie-toi encore davantage.
Pourquoi ne puis-je pas le vérifier autrement ?Celui qui t’empêche de vérifier te dit quelque chose.
Qui gagne si j’agis sans réfléchir ?
Que ressens-je en ce moment ?Une émotion forte est un signal pour freiner, pas pour accélérer.
Habitudes
1
Pause obligatoireAvant toute action irréversible (payer, transférer, signer, publier), attends quelques minutes, même si tu es sûr de toi.
2
Vérifie par un autre canalAppelle le numéro que tu avais déjà, pas celui qui apparaît dans le message. Ouvre l’application en tapant toi-même l’adresse, jamais depuis le lien reçu.
3
Mot-clé convenuDans les familles et les équipes, un mot secret convenu à l’avance désactive les usurpations de voix et de vidéo.
SE COMBINE AVEC
Certaines publicités disent des choses qui sont vraies à moitié. L’essentiel est caché dans un mot ou dans les petits caractères.
UN EXEMPLE« Écouteurs à partir de 5 € ». Quand tu entres dans le magasin, ceux à 5 € sont les pires, et ceux que tu veux coûtent 40 €. Le mot « à partir de » était le piège.
POUR TE PROTÉGER
Quand tu vois « à partir de » ou « jusqu’à », demande-toi : et le normal, c’est combien ?
S’il y a un astérisque (*), cherche les petits caractères et lis-les.
UN AUTRE EXEMPLE« Batterie : jusqu’à 20 heures ». Cela signifie : écran presque éteint et appareil non utilisé. Avec un usage normal, elle durera peut-être la moitié.
Phrases techniquement vraies, conçues pour laisser une impression fausse. Elles ne mentent pas dans ce qu’elles disent, mais dans ce qu’elles taisent. La publicité, la politique et aussi certains titres scientifiques les utilisent.
+100 %
Titre : « multiplie le risque par deux ». Cela sonne alarmant.
1 → 2
La même réalité : de 1 à 2 cas pour 100 000 personnes.
Formules habituelles et la question qui les désamorce
Ce qu’ils disent
Ce qu’elle peut cacher
Question
« Jusqu’à 8 fois plus rapide »
Le maximum dans des conditions idéales ; le cas courant peut être bien inférieur.
Et en moyenne, dans mon cas ?
« À partir de 9,99 € »
Le prix de la version que personne ne veut, ou seulement pendant les premiers mois.
Combien coûte ce dont j’ai besoin, pour toute l’année ?
« Multiplie le risque par deux »
Le risque absolu, qui peut être minuscule.
De combien à combien ?
« 90 % le recommandent »
Qui a été interrogé et combien de personnes il y avait.
90 % de qui ?
« Réduit le temps de 50 % »
La référence de comparaison.
Par rapport à quoi ?
« Cliniquement prouvé »
Quelle étude, avec combien de personnes, financée par qui.
Où se trouve l’étude ?
Graphique avec l’axe tronqué
De petites différences qui semblent énormes.
Où commence l’axe ?
Habitude
Entraîne ton oreille à repérer ces formules et, quand elles apparaissent, ajoute-leur mentalement un point d’interrogation : « jusqu’à huit fois plus rapide ? ». Pose-toi ensuite les questions universelles : comparé à quoi ?, quel est le dénominateur ? et quel chiffre ne te donne-t-on pas ?
Le psychologue Gerd Gigerenzer a montré que beaucoup de personnes, y compris des médecins, interprètent mal les pourcentages relatifs (Gigerenzer, 2002). Les convertir en fréquences naturelles (« 2 sur 100 000 ») suffit généralement à dissiper le malentendu.
SE COMBINE AVEC
Quand nous entendons quelque chose plusieurs fois, ou que tout le monde le dit, nous finissons par le croire. Mais répéter quelque chose ne le rend pas vrai.
UN EXEMPLEDans le groupe de classe, on dit qu’il n’y a pas d’examen demain. Tout le monde le répète… mais personne ne l’a demandé au professeur. Le lendemain, il y a un examen.
POUR TE PROTÉGER
Demande-toi : qui l’a réellement vérifié ? Si personne, demande-le à celui qui le sait.
Ose dire « je ne suis pas sûr que ce soit le cas ». Quand une personne doute à voix haute, les autres s’enhardissent.
Ce que nous entendons souvent nous paraît plus vrai, même si c’est faux : c’est l’effet de vérité illusoire. Et ce que dit tout le groupe nous coûte de le contredire, même si nous voyons qu’il se trompe. Les réseaux sociaux et leurs algorithmes multiplient les deux.
UNE EXPÉRIENCE CLASSIQUE DE PSYCHOLOGIE Dans un groupe, il fallait dire quelle ligne mesurait la même chose qu’une autre. C’était très facile, mais tous sauf un étaient de mèche et donnaient exprès une mauvaise réponse. Souvent, la personne réelle finissait par dire la même chose que le groupe. Mais si un seul camarade donnait la bonne réponse, presque tous osaient la dire aussi.
EXPÉRIENCE CLASSIQUE · ASCH (ANNÉES 1950) Solomon Asch demandait à des groupes d’élèves de dire laquelle de trois lignes avait la même longueur qu’une ligne de référence. La réponse était évidente, mais tous sauf un étaient des complices qui donnaient volontairement la mauvaise réponse. Environ un tiers des réponses du participant réel se sont alignées sur celles du groupe, et la majorité des participants a cédé au moins une fois. Lorsqu’un seul complice se démarquait du reste, la conformité chutait brutalement (Asch, 1956).
Comment ça marche
Notre cerveau utilise la familiarité comme indice : ce que nous avons déjà entendu auparavant est plus facile à comprendre, et cela « paraît » vrai. Cela fonctionne même lorsque nous savons que l’affirmation est fausse. La pression du groupe ajoute la peur de rester en dehors.
Notre cerveau utilise la familiarité comme indice de vérité : ce que nous avons déjà traité auparavant est traité plus facilement, et cela « paraît » vrai. L’effet a été documenté en 1977 (Hasher, Goldstein et Toppino)(Hasher, Goldstein et Toppino, 1977) et fonctionne même lorsque nous savons que l’affirmation est fausse. La pression du groupe ajoute la peur de rester en dehors.
Signaux d’alarme
« Tout le monde sait que… ».
De nombreux sites avec le même texte, presque mot pour mot.
Des « likes », des vues ou des abonnés présentés comme une preuve.
Tu l’as lu tellement de fois que tu ne te souviens plus où.
Sentiment que remettre cela en question est mal vu.
Dans ton entourage, personne ne pense le contraire.
Outils
1
Compte les sources indépendantes, pas les répétitionsDix sites qui copient la même information ne forment qu’une seule source. Cherche d’où elle est sortie pour la première fois.
2
Lecture latérale (méthode SIFT)Avant de lire en profondeur, ouvre un autre onglet et découvre qui se cache derrière la source. Les quatre mouvements de Mike Caulfield : stop, examine la source, cherche une meilleure couverture et remonte jusqu’à l’original.
3
Cherche la voix dissidente, ou sois-la toi-mêmeL’expérience le démontre : il suffit qu’une seule personne soit en désaccord pour que les autres osent.
4
Utilise l’IA comme avocat du diableNon pas pour qu’elle te donne raison, mais pour qu’elle te présente le meilleur argument contraire.
L’avocat du diableRemettre en question un consensus
À propos de cette affirmation, que dans mon entourage on tient pour vraie : [AFFIRMATION] 1. Présente les trois meilleurs arguments contraires qu’un expert en désaccord défendrait. 2. Indique quelles preuves soutiendraient chaque argument et où les trouver. 3. Signale quelle partie de l’affirmation originale semble solide. Ne me donne pas raison par défaut : si l’affirmation est correcte, dis-le, mais explique pourquoi.
SE COMBINE AVEC
Les IA écrivent très bien et paraissent très sûres d’elles. Mais parfois elles inventent des choses, et les racontent avec la même assurance.
UN EXEMPLETu demandes à une IA un livre sur les volcans pour un devoir. Elle te donne le titre, l’auteur et l’année. Tu le cherches à la bibliothèque… et ce livre n’existe pas. L’IA l’a inventé.
POUR TE PROTÉGER
Vérifie l’important ailleurs : un livre, un site web fiable ou ton professeur.
Lui demander « tu es sûre ? » ne sert à rien : elle peut répondre oui même si elle se trompe.
Signaux d’alarme
On te donne un livre ou un site web que tu ne trouves pas.
Il change d’avis dès que tu insistes.
Donne des chiffres très précis sans dire d’où ils viennent.
Un texte bien écrit, sans hésitations, nous paraît plus fiable. C’est la fluidité : ce qui se lit facilement se croit facilement. Les modèles de langage produisent toujours un texte fluide, même lorsqu’ils se trompent ou qu’ils inventent quelque chose.
Comment ça marche
Une IA ne cherche pas la réponse dans un livre de vérités vérifiées : elle écrit ce qui sonne le plus probable. C’est pourquoi elle peut inventer, en toute assurance, des données, des dates, des noms ou des livres entiers. On appelle cela une hallucination. De plus, les IA ont tendance à te donner raison : si tu insistes, elles peuvent modifier une réponse qui était juste.
Un modèle de langage génère le texte le plus plausible à partir de ce qu’il a appris ; il ne consulte pas une base de vérités vérifiées. C’est pourquoi il peut inventer en toute assurance des citations, des références, des chiffres, des dates ou des noms : ce sont les hallucinations. De plus, les modèles tendent à la complaisance : donner raison à l’utilisateur. Des chercheurs d’Anthropic ont montré que les assistants peuvent abandonner une réponse correcte lorsque l’utilisateur la conteste (Sharma et al., 2023)(Sharma et al., 2023 ; ICLR 2024).
C’est pourquoi « es-tu sûr ? » n’est pas une vérification. L’IA peut corriger une réponse juste pour te plaire, ou réaffirmer une réponse fausse. La vérification se fait en dehors de la conversation.
Avec les images, la voix et la vidéo, c’est la même chose : un deepfake est une fluidité visuelle. Si quelque chose se voit et s’entend parfaitement, cela ne dit rien sur son caractère réel (voir le cas Arup).
Signaux d’alarme
Une référence impeccable que tu ne trouves pas.
Chiffres très précis sans source.
L’IA change d’avis dès que tu insistes.
Citations textuelles avec numéro de page.
La réponse coïncide de manière suspecte avec ce que tu attendais.
Tout semble parfait et tu ne vois aucune nuance.
Questions de défense
La source existe-t-elle et dit-elle ce qu’on lui attribue ?Ouvre-la toi-même. Les citations et les références sont ce qui est le plus inventé.
Ai-je vérifié dans une source originale ?Comparer plusieurs IA aide, mais elles peuvent se tromper de la même façon.
Quelle partie de la réponse est la plus précise ?Plus elle est précise (chiffre, date, nom), plus il faut la vérifier.
Ai-je posé la question de manière neutre ?Si la question révèle la réponse que tu attends, la complaisance te la renverra.
VérificationRéponse avec carte de certitude
Réponds à cette question : [QUESTION] Sépare clairement ta réponse en trois parties : (A) Ce qui est un savoir établi. (B) Ce qui est discuté ou dépend du contexte. (C) Ce que tu ignores ou ne peux pas savoir. Pour chaque donnée précise (chiffre, date, citation, référence), indique une source originale que je puisse consulter. Si tu n’as pas de source fiable, dis-le au lieu de l’inventer.
Cette consigne réduit le problème, mais ne l’élimine pas : la source que tu indiques peut elle aussi être inventée. Vérifie-la toujours.
SE COMBINE AVEC
L’IA peut faire tes devoirs en une seconde. Mais si c’est elle qui réfléchit, c’est elle qui apprend, pas toi.
UN EXEMPLEPendant un mois, tu fais faire par l’IA tous les exercices de maths. Ils sont parfaits. Le jour de l’examen, il n’y a pas d’IA… et tu n’en sais faire aucun.
POUR TE PROTÉGER
Essaie d’abord toi-même. Utilise l’IA seulement quand tu bloques, pour demander un indice, pas la solution.
Si tu ne sais pas l’expliquer avec tes propres mots, tu ne l’as pas encore appris.
Confier à l’IA ce que nous devrions penser nous-mêmes. C’est ce qu’on appelle la délégation cognitive, qui n’est pas mauvaise en soi (nous utilisons des calculatrices et des agendas), mais elle a un coût : ce qui ne s’exerce pas ne s’apprend pas.
Ce que dit la recherche
UNE ÉTUDE RÉCENTE (2025) Dans une université des États-Unis, on a comparé des personnes qui rédigeaient des dissertations avec l’IA et sans elle. Celles qui utilisaient l’IA se souvenaient beaucoup moins bien de ce qu’elles venaient d’écrire. C’est une petite étude, mais un signal à prendre en compte.
MIT MEDIA LAB · KOSMYNA ET AL. (2025) Celles et ceux qui ont écrit des rédactions avec l’aide de ChatGPT ont montré moins d’activité cérébrale liée à la tâche et, surtout, avaient du mal à se souvenir de ce qu’ils venaient d’écrire ou à le citer. C’est une étude portant sur peu de participants, publiée en prépublication : à prendre comme un signal, non comme une preuve définitive (arXiv:2506.08872).
MICROSOFT RESEARCH · LEE ET AL. (CHI 2025) Dans une enquête auprès de 319 travailleurs du savoir, plus ils avaient confiance en l’IA, moins ils disaient appliquer leur esprit critique ; plus ils avaient confiance en eux-mêmes, plus ils disaient l’appliquer.
Le paradoxe de l’apprenti : l’IA est d’autant plus utile qu’on en sait déjà beaucoup, car on peut repérer ses erreurs. Celui qui apprend est justement celui qui peut le moins la superviser, c’est donc lui qui a le plus besoin de réfléchir d’abord.
Signaux d’alarme
Tu colles l’énoncé avant de le lire en entier.
Tu ne saurais pas expliquer ce que tu as rendu.
Tu acceptes les suggestions sans les lire.
Sans l’IA, on ne sait pas par où commencer.
Habitudes
1
Tenter d’abord par soi-mêmeUn plan, un brouillon ou une solution, même imparfaits. L’effort est ce qui produit l’apprentissage.
2
L’IA comme critique, non comme auteur·riceDemande-lui de signaler les faiblesses et de te poser des questions, et non de la réécrire.
3
Test d’explicationFerme tout et explique-le avec tes propres mots. Si tu n’y arrives pas, tu ne l’as pas appris : tu l’as copié.
4
Décide toi-mêmeAccepte ou rejette chaque suggestion en justifiant pourquoi.
Critique, non auteur·riceRelire sans réécrire
Voici mon brouillon sur [SUJET]. Ne le réécris pas. 1. Signale les trois points les plus faibles de mon raisonnement. 2. Pose-moi des questions qui m’obligent à l’améliorer moi-même. 3. S’il y a des erreurs de fait, ne les corrige pas : dis-moi dans quelle phrase elles se trouvent pour que je les cherche. Mon brouillon : [TEXTE]
Nous aimons tous avoir raison. C’est pourquoi nous croyons vite ce qui nous donne raison et nous nous méfions de ce qui ne le fait pas.
UN EXEMPLETon équipe perd et tu lis deux avis. Celui qui dit que l’arbitre a été catastrophique te paraît tout à fait juste. Celui qui dit que ton équipe a mal joué, une bêtise. Les deux pourraient être vrais.
POUR TE PROTÉGER
Demande-toi : est-ce que je le croirais tout autant si l’affirmation était contraire ?
Écoute vraiment celui qui pense autrement : il a peut-être une part de raison.
Nous cherchons, acceptons et retenons ce qui confirme ce que nous pensions déjà, et nous sommes beaucoup plus exigeants avec ce qui nous contredit. C’est le biais de confirmation.
Nous cherchons, acceptons et retenons ce qui confirme ce que nous voulons croire, et nous exigeons beaucoup plus de ce qui nous contredit. C’est le biais de confirmation au service de nos désirs, de notre identité ou de notre groupe.
SITUATION QUOTIDIENNE Tu lis deux études sur un sujet qui te tient à cœur. Celle qui te donne raison te paraît rigoureuse ; l’autre, suspecte d’être payée par quelqu’un. Peut-être que les deux le sont. La différence ne tient pas aux études, mais au niveau d’exigence que tu leur appliques.
Comment ça marche
Nous ne raisonnons pas comme des juges, mais comme des avocats de la défense d’une conclusion que nous avons déjà. Être plus intelligent ne protège pas : celui qui raisonne mieux est aussi meilleur pour justifier ce qu’il croyait déjà.
Les moteurs de recherche et les IA l’amplifient, car elles renvoient ce que tu demandes : « pourquoi X est bien » apporte des arguments en faveur ; « informations sur X » apporte quelque chose de plus proche de la réalité.
Signaux d’alarme
Tu ressens du soulagement en trouvant une donnée qui va dans ton sens.
Tu cherches des « preuves que… » au lieu d’« informations sur… ».
Les critiques t’irritent avant même que tu ne les comprennes.
Tu ne sais pas dire ce qui te ferait changer d’avis.
Tu te souviens des points forts de ta position et oublies les failles.
Les sources ne sont mises en doute que lorsqu’elles ne donnent pas raison.
Questions de défense
Quelle preuve concrète me ferait changer d’avis ?Écris-la avant de chercher. Si tu n’en trouves aucune, tu ne cherches pas : tu défends.
Accepterais-tu cet argument s’il soutenait la conclusion contraire ?Applique le même niveau d’exigence aux deux côtés.
Qu’est-ce que je refuse de voir parce que j’ai besoin que cette histoire soit vraie ?
Comment quelqu’un qui pense le contraire chercherait-il cela ?
Habitude : l’homme d’acier
Le contraire de l’homme de paille. Avant de rejeter une position, construis sa meilleure version possible, celle que défendrait son représentant le plus intelligent et le plus honnête. Si tu n’es toujours pas d’accord après, ton opinion est plus solide.
Homme d’acierLa meilleure version de la position contraire
Je pense que [MA POSITION]. Construis la version la plus forte et honnête de la position contraire : celle que défendrait son meilleur représentant, et non une caricature. Dis-moi ensuite quelle preuve je devrais chercher pour vérifier laquelle des deux tient le mieux, et où la trouver.
SE COMBINE AVEC
Il nous arrive de croire que nous savons déjà quelque chose… jusqu’au moment où nous devons le faire. Se sentir sûr de soi n’est pas la même chose que savoir.
UN EXEMPLETu lis le sujet trois fois et tu penses : « Je le sais ». Mais quand tu essaies de l’expliquer à ta sœur, ton esprit se vide.
POUR TE PROTÉGER
Mets-toi à l’épreuve avant l’examen : explique-le à voix haute ou fais un exercice sans regarder.
Dire « je crois que » au lieu de « c’est sûr » quand on n’est pas tout à fait certain.
Se sentir sûr de soi n’est pas la même chose qu’avoir raison. Nous sommes souvent plus convaincus que ce que justifient nos données, surtout sur des sujets que nous connaissons peu, où nous ne savons même pas ce que nous ignorons.
Comment ça marche
Fais le test : sais-tu comment fonctionne une fermeture éclair ? Tu diras sûrement que oui. Essaie maintenant de l’expliquer étape par étape, sans regarder… Nous croyons comprendre les choses bien mieux que nous ne sommes capables de les expliquer. L’IA peut aggraver cela : une explication claire et rapide donne la sensation d’avoir compris, et relire un résumé donne l’impression de savoir sans rien prouver.
Les psychologues Leonid Rozenblit et Frank Keil ont décrit l’illusion de profondeur explicative(Rozenblit et Keil, 2002) : nous croyons comprendre comment fonctionne une fermeture éclair ou une chasse d’eau, jusqu’à ce qu’on nous demande de l’expliquer étape par étape. L’IA peut l’aggraver : une explication claire et rapide donne la sensation d’avoir compris, et relire un résumé donne l’impression de maîtriser sans rien démontrer.
Signaux d’alarme
Tu vois tout en noir ou blanc, sans nuances.
Tu as lu le résumé, mais tu n’as fait aucun exercice.
Tu ne vérifies jamais après coup si tu avais raison.
« C’est facile » avant de l’avoir essayé.
Outils
1
Parle en degrés : dis « je suis sûr à 70 % » au lieu de « oui » ou « non ». Cela t’oblige à réfléchir à ce que tu sais vraiment.
2
CalibreNote tes prédictions et vérifie ensuite combien étaient justes. Si, pour ce que tu affirmes « sûr à 90 % », tu n’en réussis que la moitié, tu sais déjà combien déduire.
3
Test d’explicationExplique pas à pas comment cela fonctionne, sans regarder. L’endroit où tu bloques est la limite réelle de ce que tu sais.
4
Pré-mortem (Gary Klein)Avant de décider, imagine que dans un an tout a mal tourné et demande-toi pourquoi. Repère les risques que l’optimisme dissimule.
Pré-mortemImaginer l’échec avant de décider
Je vais [DÉCISION OU PLAN]. Imagine-toi que nous sommes dans un an et que ça a mal tourné. 1. Écris les cinq causes les plus probables de l’échec, classées par probabilité. 2. Pour chacune, indique un signal précoce que je puisse surveiller. 3. Signale quelle hypothèse de mon plan te paraît la plus fragile.
SE COMBINE AVEC
Avant de croire, partager ou faire quelque chose d’important, suis ces quatre étapes : Pour · Question · Vérifie · Interroge-toi.
Huit distorsions, c’est trop pour s’en souvenir sur le moment. Ces quatre étapes les couvrent presque toutes et tiennent en mémoire : Vérifie · Interroge-toi.
1
STOPEst-ce qu’on me presse ou est-ce que je suis très nerveux ? Respire et attends un peu.Est-ce qu’on me presse ou est-ce de l’émotion ? Si c’est le cas, attends avant de faire quoi que ce soit.
2
QUESTIONQui le dit ? Comment le sait-il ?Qui le dit et comment le sait-il ? Sépare l’autorité des preuves et cherche le chiffre qui manque.
3
CROISEUn autre site de confiance le dit-il aussi ? Demande à un adulte ou regarde sur un autre site sérieux.Que disent d’autres sources indépendantes ? Lecture latérale ; avec l’IA, vérifier dans la source originale.
4
INTERROGE-TOIEst-ce que j’y crois seulement parce que ça me plaît ? Est-ce que je le sais vraiment ?Qu’est-ce qui me ferait changer d’avis ? Combien est-ce que je sais réellement sur le sujet ?
QUAND L’UTILISER ?
Avant de cliquer sur un lien, d’acheter quelque chose, de partager une actualité ou de remettre un travail réalisé avec une IA.
Quelle distorsion neutralise chaque étape
Étape
Neutralise surtout
Quand c’est indispensable
1 · Pour
Avant de payer, de virer, de transférer, de signer ou de publier.
2 · Question
Face aux annonces, aux titres, aux experts et aux offres.
3 · Vérifie
Avant de citer quelque chose dans un travail ou de croire une information virale.
4 · Interroge-toi
Avant une décision importante ou un examen.
Pas besoin de l’appliquer tout le temps. Ce serait épuisant. Utilise-le quand ce qui est en jeu compte : de l’argent, la santé, une décision difficile à défaire, quelque chose que tu vas partager avec d’autres personnes ou signer de ton nom.
Lis chaque situation et choisis quel piège c’est. Si tu choisis un piège qui est présent, mais qui n’est pas le principal, nous te le dirons.
Lis chaque situation et choisis la distorsion principale. Parfois, plusieurs sont en jeu : si tu en choisis une secondaire, nous te le dirons aussi.
Réussites : 0 / 8
Tu reçois un message : « Ton compte du jeu sera supprimé dans 30 minutes si tu n’écris pas ton mot de passe sur ce lien ».Tu reçois un SMS : « Nous avons détecté un accès suspect. Votre compte sera bloqué dans 30 minutes si vous ne vérifiez pas vos données via ce lien ».
On te met la pression pour que tu ne réfléchisses pas. Pour te protéger : n’appuie sur rien et demande à un adulte.Il y a une autorité (il dit être ta banque), mais le moteur, c’est la précipitation : trente minutes pour que tu ne réfléchisses pas. Défense : arrête-toi et connecte-toi à l’application ou appelle le numéro officiel. Jamais depuis le lien.
« Patins à roulettes à partir de 10 € ! ». En magasin, ceux qui te plaisent coûtent 60 €.Une publicité : « Fibre jusqu’à 1 Gb, à partir de 19,90 €/mois* ». L’astérisque renvoie à des petits caractères que personne ne lit.
Le piège est le mot « à partir de ». Pour te protéger : demande combien coûte ce que tu veux vraiment.Deux pièges dans une phrase : « jusqu’à » (la vitesse maximale théorique) et « à partir de » (le prix minimum, souvent seulement pour quelques mois). Défense : combien vais-je payer le 13e mois et quelle vitesse aurai-je chez moi ?
Un youtubeur célèbre affirme qu’une boisson énergisante t’aide à avoir de meilleures notes.Un footballeur célèbre recommande sur ses réseaux une plateforme d’investissement en cryptomonnaies : « J’ai déjà multiplié mes économies ».
Être célèbre ne veut pas dire s’y connaître en notes ni en boissons, et il est sans doute payé pour le dire. Défense : s’y connaît-il ? Gagne-t-il quelque chose si je le crois ?Effet de halo : son talent dans son domaine ne lui donne pas de connaissances financières, et il est sans doute payé pour le dire. Défense : est-il expert en la matière ? Gagne-t-il quelque chose si je lui fais confiance ?
Pour un travail, tu demandes à une IA une citation d’un livre. Elle te donne une belle phrase, entre guillemets et avec un numéro de page. Tu ne la trouves pas dans le livre.
Un format parfait ne garantit pas qu’il existe. Les citations et les références sont ce que les IA inventent le plus. Défense : vérifie toujours dans la source originale avant de citer.
Dans le groupe de classe, tout le monde dit qu’il n’y a pas d’examen demain. Personne ne l’a demandé au prof.Dans le groupe de classe, tout le monde dit que le professeur ne regarde pas la bibliographie, donc personne ne la consulte.
Que tout le monde le répète ne le rend pas vrai. Pour te protéger : demande-le à quelqu’un qui le sait, au professeur.Combien de sources indépendantes y a-t-il ? Probablement une seule, répétée de nombreuses fois. Défense : remonte jusqu’à l’original ; ici, demander au professeur.
Sur un sujet polémique, l’article qui correspond à ton opinion te paraît sérieux et bien documenté. Celui qui la contredit, « de la propagande ».
Deux poids, deux mesures : le niveau d’exigence dépend de la conclusion. Défense : accepterait-tu cet argument s’il soutenait la conclusion contraire ? Qui finance chacun ?
Pendant le trimestre, tu résous tous les exercices de mathématiques en les collant dans une IA. À l’examen, tu restes sans rien écrire.
L’IA a fait l’effort qui t’aurait fait apprendre. Pour te protéger : essaie d’abord toi-même et n’utilise l’IA que pour demander des indices.L’IA a fait l’effort qui t’aurait fait apprendre. Défense : tentative personnelle d’abord, et l’IA seulement pour les indices ou pour relire.
La veille de l’examen, tu te dis : « Je l’ai, j’ai relu trois fois le résumé que l’IA m’a fait. » Tu n’as pas résolu un seul exercice sans regarder.
Relire donne une impression de maîtrise parce que ce qui est connu se lit facilement, mais cela ne prouve pas que tu saches le faire. Défense : fais une épreuve d’explication ou résous un exercice sans regarder.
Cette carte s’appuie sur une vidéo de Sandeep Swadia sur la manière de mieux penser à l’ère de l’IA et sur de nombreuses années d’études de psychologie. Voici d’où elle vient et où tu peux en apprendre davantage.
Le point de départ de cette carte est une vidéo de Sandeep Swadia qui propose cinq distorsions : l’autorité, le marketing, la pensée de groupe, la dépendance à l’IA et l’auto-tromperie. La carte les réorganise et les élargit grâce à des recherches et à des outils pour la classe.
Ce qui change par rapport à la vidéo
Vidéo
Cette carte
5 distorsions en liste
8 distorsions sur trois fronts : de l’extérieur, de l’IA et de l’intérieur.
Ouvre avec le cas Arup, mais ne l’analyse pas comme une urgence
Nouvelle distorsion :
Marketing
Étendu à tout usage trompeur des chiffres :
Pensée de groupe
Lié à l’effet de vérité illusoire et à la lecture latérale :
Dépendance à l’IA
Séparée en deux : et
« Qu’une IA vérifie une autre IA »
Utile mais insuffisant : la vérification se fait auprès de la source originale.
—
Nouvelles : , et
Un seul niveau
Sept niveaux d’âge, de la 1re ESO à l’université.
Sources et lectures
▶ Vidéo · Juillet 2026
Sandeep Swadia — This Is Boring But It Will Make You Scary Intelligent
La vidéo de départ, en anglais.La vidéo de départ, en anglais. Cinq distorsions avec les cas Theranos et Arup.
Swadia, S. (2 juil. 2026). This Is Boring But It Will Make You Scary Intelligent [vidéo]. YouTube.
Journalistes qui vérifient les rumeurs qui circulent sur les réseaux et la messagerie. Tu peux vérifier si une information qui t’est parvenue a déjà été démentie.
L’étude des lignes : comment la pression du groupe nous fait nier ce que nous voyons, et comment une seule voix dissidente change tout.
Asch, S. E. (1956). Studies of independence and conformity: I. A minority of one against a unanimous majority. Psychological Monographs, 70(9), 1–70.
◆ Article · 1977
Hasher, Goldstein et Toppino — Frequency and the conference of referential validity
Le premier travail sur l’effet de vérité illusoire : répéter une affirmation augmente sa crédibilité.
Hasher, L., Goldstein, D. et Toppino, T. (1977). Journal of Verbal Learning and Verbal Behavior, 16(1), 107–112.
▤ Livre · 2011
Daniel Kahneman — Thinking, Fast and Slow (Système 1 et Système 2)
Les deux systèmes de pensée et un catalogue de biais qui sous-tend presque toute cette carte.
Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux. Éd. espagnole : Debate, 2012.
● Site web · Littératie informationnelle
Mike Caulfield — La méthode SIFT
Les quatre mouvements de la lecture latérale, développés dans le livre Verified.
Caulfield, M. et Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online. University of Chicago Press.
Lee et al. (Microsoft Research) — The Impact of Generative AI on Critical Thinking
Enquête auprès de 319 travailleurs du savoir sur la confiance dans l’IA et la pensée critique.
Lee, H.-P. et al. (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers. Proceedings of CHI '25, ACM.
⚠️ Applique aussi les 4 étapes à cette carte ! Elle a été réalisée par une personne avec l’aide de l’IA et peut contenir des erreurs.
⚠️ Applique aussi le protocole à cette carte. Elle a été élaborée avec l’aide de l’IA et relue, mais elle peut contenir des erreurs. Les sources liées sont là pour que tu vérifies ce qu’elle affirme, et non pour que tu la croies parce qu’elle est bien présentée.