拖动概念图 · 滚轮缩放 · 点击方框 · ←/→ 浏览
语言 年龄
判断扭曲概念图
已浏览： 0/12
−
+
⟲
投影模式
🔗
🖨️
作者： René Mérou + AI · 2026 年 10 月 · 开放教育内容
查看我所有的开放教育内容
这张概念图里有八个陷阱 ，它们会骗过你的大脑；还有四个步骤 ，帮你不掉进去。
点击每个方框，看一个例子以及如何保护自己。看过之后，会出现一个 ✓。如果你点击这个 ✓，它就会消失。
最重要的一点 不是要怀疑一切，而是要先核实，再相信 。
这张概念图汇集了让我们的判断走偏的八种扭曲 ，分为三个方面，以及用来抵御它们的三种工具 。
2
AI 带来的： 与写得非常好的机器对话所增加的问题。
如何阅读这张概念图
每个箭头都与中央方框组成一句话，例如“你的判断屈服于 权威” 。点击任意方框即可打开它的解释。在窗口中，键盘上的 ← → 方向键（或底部的按钮）可以带你去上一个或下一个，Esc 键关闭窗口。你已经看过的方框会显示 ✓；点击它即可取消标记。
每种扭曲都采用相同的结构：是什么 、一个案例 、如何起作用 、警示信号 、防御问题 和一个具体的习惯 。有些还附有可以直接复制到 AI 中使用的提示词。
⚠️ 目标不是怀疑一切。 犬儒主义也是一种扭曲：什么都不信的人和什么都信的人一样容易被操纵，因为他最终会接受那个说他想听的话的人。关键是校准 信任：按证据的多少来给予信任。
课堂活动建议
1
先诊断，再讲解 在看其他内容之前，先从
考考你自己 开始。答案会显示小组已经能识别哪些扭曲，又有哪些没有察觉。
2
每组一种扭曲 每个小组寻找上周的一个真实例子（一则广告、一个标题、一段热门视频、一个 AI 的回答），并结合相应的防御问题进行展示。
3
把流程变成习惯 在提交借助 AI 完成的作业之前，执行这四个步骤，并记录核实了什么、在哪里核实的。
教师参考
层级：12 岁 · ESO 一年级。 每个窗口只有一段简短的解释、一个日常例子和一条提醒。除“这张概念图从哪里来？”之外不出现人名。用词：用“陷阱”代替“扭曲”。
适用课程： 班会课、技术与数字化（安全上网）以及西班牙语语言与文学（阅读消息和广告）。
建议活动： 每节课讲一个陷阱。大声朗读例子，每个学生从自己的生活中编一个类似的例子。
层级：13 岁 · ESO 二年级。 与一年级相比，每个窗口增加了第二条建议和几个警示信号，测验从 4 个情境增加到 5 个。除资料来源外仍不出现人名。
适用课程： 西班牙语语言与文学、班会课，以及公民与伦理价值观教育（如果本学年开设）。
建议活动： 从家里带来一则含有“起”或“高达”的广告，并把它改写成诚实的版本。
层级：14 岁 · ESO 三年级。 出现专业术语（“扭曲”“光环效应”“幻觉”）、带有公司名称的真实案例以及防御问题。尚不提及研究者的名字。
适用课程： 西班牙语语言与文学（比对信息来源）、数学（百分比和图表）、生物与地质（健康谣言）以及公民与伦理价值观教育。
建议活动： 每个小组选一种扭曲，寻找上周的一个真实例子。
层级：15 岁 · ESO 四年级。 每种扭曲的完整结构、习惯、彼此之间的关系，以及审慎使用 AI 的提示词。测验包含全部 8 个情境。
适用课程： 数字化、数学（统计；相对风险与绝对风险）、哲学（如选修）以及西班牙语语言与文学。
建议活动： 向 AI 询问某个课堂主题的信息并应用这套流程，记录核实了什么、在哪里核实的。
层级：16 岁 · Bachillerato 一年级。 增加了研究者、实验和研究及其说明，以及细微之处（科学共识与权威的区别）。
适用课程： 哲学（论证、谬误、知识）、心理学（如开设）以及信息与通信技术。
建议活动： 把阿希的从众实验与当下社交网络上的某个现象进行比较。
层级：17 岁 · Bachillerato 二年级。 几乎是全部内容，包括关于 AI 与批判性思维的最新研究。只缺少大学层级的详细参考文献。
适用课程： 哲学史、心理学以及研究性作业。
建议活动： 请 AI 提供某个主题的五条参考文献，然后逐一核实它们是否存在，以及是否真的说了被归于它们的内容。
带 “?” 的方框在此层级是隐藏的：点击一次揭开它并显示其关系，再点击一次打开它的窗口，看过之后再点击一次会重新隐藏。🔗 按钮会复制一个包含年龄和已揭开方框的链接，方便与小组分享已学习的内容。
年龄 选择器会改变概念图和所有窗口。网址中会保存年龄（?edad=12，从 12 到 17 或 uni）以及已揭开的方框（&ver=motivado,fuentes）。
有时我们相信某件事，只是因为说话的人有名 或者看起来很重要。但有名并不代表说得对。
一个例子 一位拥有数百万粉丝的视频博主说，某款运动鞋能让你跑得更快。他没说的是：有人付钱让他做广告 。他有名，并不能证明这鞋有用。
如何保护自己
问问自己：这个人真的懂这个话题吗？
还要问：如果我相信了，他能得到什么好处吗？
警示信号
他谈论的不是自己的专业领域。
他说“相信我”，却不解释为什么。
有人付钱让他这么说。
我们接受一个说法，是因为说话者的声望、职位或个人魅力，而不是因为他提供的证据。光环效应 让问题更严重：一个人在某个领域的可信度，会毫无理由地延伸到他并不擅长的其他领域。
真实案例 · THERANOS（美国）
这家公司承诺只用一滴血就能做数百项血液检测。它的董事会里有非常有名的政客和军人，却几乎没有懂临床检验的人。许多投资者没有核实任何东西就投入了巨额资金。那台机器从来没有真正运作过 ，公司创始人最终因欺诈被定罪。
真实案例 · THERANOS（2003–2018）
伊丽莎白·霍姆斯承诺只用一滴血就能完成数百项临床检测。她的董事会汇集了前国务卿和高级军官，却几乎没有人懂实验室检验。公司从声名显赫的投资者那里筹集了数亿美元，并以保护专利为由，用严格的保密来自我保护。这项技术从未达到宣传的效果，霍姆斯于 2022 年因欺诈被定罪 。
如何起作用
信任懂行的人是一条合理的捷径：没有人能核实一切。问题出现在权威取代 了证据，而不是引导我们去看证据的时候。在 Theranos 一案中，三股推力叠加在一起：显赫名字的光环、害怕错过“下一个苹果”的心理，以及让人无法提问的保密。
警示信号
资历令人印象深刻，却来自另一个领域。
该出现数据的地方出现的是名人的名字。
“我不能解释，这是机密。”
为此背书的人，在你相信他时能获得好处。
批评被说成是嫉妒或无知。
对具体问题给出含糊的回答。
防御问题
要让这件事成立，什么必须是真的？它迫使你从“谁”转到“什么”。如果你答不上来，那就还没有什么可相信的。
他是这个 具体领域的专家吗？物理学诺贝尔奖得主并不是营养学的权威。
谁独立核实过？一个不会因为它是真的而获益的人。
如果是陌生人说的，我还会相信吗？如果答案是否定的，那说服你的是这个人，而不是论据。
习惯
在脑海中分出两栏：谁说的 和有什么证据 。第一栏只用来决定是否值得去看第二栏，而做决定要依据第二栏。
重要的区别： 这并不是要怀疑专家。科学共识不是这个意义上的“权威”：它是许多相互竞争、努力找错的人审查证据后得出的结果。要避免的是仅仅 因为是谁说的就接受某件事。
当我们紧张或匆忙 时，会不假思索地做事。骗子知道这一点，所以他们会催你。
一个例子 你收到一条消息：“你赢了一部手机！你有 10 分钟时间通过这个链接领取。”匆忙就是陷阱： 他们想让你在思考之前就点击。
如何保护自己
如果一条消息催你，什么都别做 。先问一位你信任的大人。
永远不要在消息里收到的链接中输入你的密码。
警示信号
“仅限今天！”“快！”
“别告诉任何人。”
它突然让你很害怕或很开心。
当我们感到恐惧、匆忙、愤怒或狂喜时，会在核实之前就采取行动。这是诈骗和虚假信息最爱用的工具：它们不需要骗你很久，只要骗到你行动就够了 。
真实案例 · ARUP，香港（2024）
这家大型工程公司的一名员工收到一条消息，自称是他上司的人要求他进行一笔秘密 交易。他起初有所怀疑，但随后与上司和几位同事开了一次视频会议。他们全是假的，是用 AI 生成的。 他向骗子转账约 2500 万美元。
真实案例 · ARUP，香港（2024）
工程公司 Arup 的一名财务员工收到自称首席财务官的消息，内容涉及一笔机密 交易。他起了疑心，但在一次视频会议中认出了财务官和几位同事后，疑虑便消失了。他们全是用深度伪造技术生成的。 他按照指示转账约 2 亿港元（约合 2500 万美元）。
如何起作用
我们的大脑有一种快速、自动的模式，还有一种会停下来思考的慢速模式。匆忙让我们困在快速模式里。保密又加上一环：它把我们与可能帮助我们核实的人隔离 开来。而 Arup 案例还告诉我们一件事：那名员工确实怀疑过，恰恰是看见 了上司才让他放下心来。眼见已经不足以为信了。
丹尼尔·卡尼曼区分了快速、自动、情绪化的思维和缓慢、审慎的思维 (Kahneman, 2011) 。紧迫感让我们受制于前者。保密又加上一环：它孤立了受害者 ，使其远离可能帮助其核实的人。Arup 案例还告诉我们一件事：那名员工确实怀疑过，恰恰是看见 了上司才让他放下心来。眼见已经不足以为信了。
警示信号
“必须马上办”或“30 分钟后将被冻结”。
“这是机密，别跟任何人说。”
有人要求你跳过通常的流程。
一个标题瞬间让你愤怒或害怕。
消息来自不寻常的渠道或一个新号码。
优惠恰好今天到期。
防御问题
如果我等十分钟，会损失什么？几乎从来什么都不会损失。如果真的不能等，那就更要提高警惕。
为什么我不能通过其他途径核实？阻止你核实的人，其实在向你透露些什么。
如果我不假思索地行动，谁会得益？
我此刻有什么感受？强烈的情绪是该刹车的信号，而不是该加速的信号。
习惯
1
强制暂停 在做任何无法撤销的事（付款、转发、签字、发布）之前，先等几分钟，即使你很确定。
2
通过其他渠道核实 拨打你原本就有的号码，而不是消息里出现的号码。自己输入网址进入应用，绝不要通过收到的链接进入。
3
事先约定的暗号 在家庭和团队中，事先约定一个秘密词语，可以识破冒充声音和视频的骗局。
有些广告说的是半真半假 的话。重要的部分藏在一个词里，或者藏在小字里。
一个例子 “耳机 5 欧元起 ”。走进店里你才发现，5 欧元的是最差的，你想要的那款要 40 欧元。“起”这个字就是陷阱。
如何保护自己
当你看到“起” 或“高达” 时，问问自己：那通常是多少？
如果有星号（*），找到小字并读一读。
另一个例子 “电池续航高达 20 小时”。意思是：屏幕几乎全暗、而且不使用的情况下。正常使用的话，也许只能撑一半时间。
技术上为真的句子，却是为了留下错误印象而设计的。它们说的话不是谎言，谎言在于它们没说 的部分。广告、政治以及一些科学新闻标题都会用到它们。
1 → 2
同样的现实：每 10 万人中 从 1 例增加到 2 例。
常见说法以及拆穿它们的问题
他们怎么说 可能隐瞒了什么 问题
“快达 8 倍” 理想条件下的最大值；通常情况可能少得多。 平均来说，在我的情况下呢？ “9.99 欧元起” 没人想要的那个版本的价格，或者只是头几个月的价格。 我需要的东西，一整年要花多少钱？ “风险翻倍” 绝对风险，可能微乎其微。 从多少到多少？ “90 % 的人推荐” 问的是谁，一共有多少人。 谁的 90 %？ “时间减少 50 %” 比较的基准。 和什么比？ “经临床验证” 哪项研究，有多少人参与，由谁出资。 研究在哪里？ 纵轴被截断的图表 看起来巨大的微小差异。 坐标轴从哪里开始？
习惯
训练你的耳朵识别这些说法，当它们出现时，在心里给它们加上一个问号 ：“快达八倍？”。然后问自己几个通用问题：和什么比？ 、分母是什么？ 以及他们没有给我哪个数字？
心理学家格尔德·吉仁泽的研究表明，很多人（包括医生）会误解相对百分比 (Gigerenzer, 2002) 。把它们换算成自然频数 （“10 万人中有 2 人”）通常就能消除误解。
当我们多次听到某件事，或者大家都这么说时，最后就会相信它。但重复并不能让一件事变成真的 。
一个例子 班级群里传说明天不考试。大家都在转述……但没有人问过老师 。第二天，照样考试。
如何保护自己
问问自己：谁真正核实过？ 如果没人核实过，就自己去问知道的人。
敢于说出“我不确定是这样”。当一个人公开表示怀疑时，其他人也会鼓起勇气。
我们多次听到的东西，即使是假的，也会显得更真实：这就是真相错觉效应 。而整个群体都在说的话，我们很难去反驳，即使我们看出它是错的。社交网络及其算法会把这两种情况都放大。
一个经典的心理学实验
在一个小组里，大家要说出哪条线和另一条线一样长。这非常简单，但除了一个人之外，其他人都是串通好的，故意给出错误答案。很多时候，那个真正的参与者最后会说出和群体一样的答案。 但只要有一个同伴说出正确答案，几乎所有人都敢说出正确答案了。
经典实验 · 阿希（1950 年代）
所罗门·阿希请几组学生说出三条线中哪一条与参照线一样长。答案显而易见，但除一人外，其他人都是故意给出错误答案的实验助手。真正参与者的回答中约有三分之一屈从于群体 ，大多数参与者至少屈从过一次。当有一名助手与其他人意见不同时，从众率便急剧下降 (Asch, 1956) 。
如何起作用
我们的大脑把熟悉感当作线索：以前听过的东西更容易理解，而这会让人“感觉”是真的。即使我们知道这个说法是错的，它依然起作用。群体压力又加上了害怕被排斥的心理。
我们的大脑把熟悉感当作判断真假的线索：以前处理过的信息处理起来更容易，而这会让人“感觉”是真的。这一效应于 1977 年被记录下来 （Hasher、Goldstein 和 Toppino） (Hasher, Goldstein 和 Toppino, 1977) ，即使我们知道这个说法是错的，它依然起作用。群体压力又加上了害怕被排斥的心理。
警示信号
“谁都知道……”。
许多网站上是同样的文字，几乎一字不差。
把点赞、浏览量或粉丝数当作证据。
你读过太多次，已经不记得是在哪里读到的了。
感觉质疑它会被人看不起。
你身边没有人持相反意见。
工具
1
数独立来源，而不是数重复次数 十个转载同一条新闻的网站只算一个来源。去找它最初出自哪里。
2
横向阅读（SIFT 方法） 在深入阅读之前，打开另一个标签页，查清楚信息来源背后是谁。迈克·考尔菲尔德的四个步骤：停下来 、调查来源 、寻找更好的报道 以及追溯到原始出处 。
3
寻找不同的声音，或者成为那个声音 实验证明了这一点：只要有一个人表示异议，其他人就敢开口。
4
把 AI 当作“魔鬼代言人” 不是为了让它赞同你，而是让它给出最有力的反方论据。
复制 📋
关于下面这个在我周围被视为理所当然的说法：[说法]
1. 列出一位持不同意见的专家会提出的三个最有力的反方论据。
2. 指出每个论据有哪些证据支持，以及我可以在哪里找到这些证据。
3. 指出原说法中哪一部分确实显得站得住脚。
不要默认赞同我：如果这个说法是正确的，就直说，但要解释原因。
AI 写得非常好，看起来也非常有把握。但有时它们会编造内容 ，而且讲得同样信心十足。
一个例子 你为了做作业，请 AI 推荐一本关于火山的书。它给了你书名、作者和年份。你去图书馆找……结果这本书根本不存在 。是 AI 编造的。
如何保护自己
重要的内容要到别处核实 ：一本书、一个可靠的网站，或者问你的老师。
问它“你确定吗？”没有用：即使错了，它也可能回答“是”。
警示信号
它给出一本你找不到的书或一个你找不到的网站。
你一坚持，它就改变看法。
它给出非常精确的数字，却不说出处。
一篇写得好、毫不犹豫的文字，在我们看来更可靠。这就是流畅性 ：读起来容易的东西，也容易被相信。语言模型总是 生成流畅的文字，即使在出错或编造的时候也是如此。
如何起作用
AI 并不是在一本经过核实的真理之书里查找答案：它写出的是听起来最有可能 的内容。所以它能信心十足地编造数据、日期、人名甚至整本书。这叫作幻觉 。此外，AI 往往会顺着你说 ：如果你坚持，它们可能会改掉一个原本正确的答案。
语言模型根据所学内容生成最合理的文本；它并不查询经过核实的真理数据库。所以它能信心十足地编造引文、参考文献、数字、日期或人名：这就是幻觉 。此外，模型倾向于迎合 ：顺着用户说。Anthropic 的研究人员发现，当用户质疑时，助手甚至会放弃正确的答案 （Sharma 等，2023） (Sharma 等, 2023; ICLR 2024) 。
所以，“你确定吗？”不是一种核实。 AI 可能为了讨好你而改掉正确的答案，也可能坚持错误的答案。核实要在对话之外进行。
图像、声音和视频也是一样：深度伪造就是视觉上的流畅。某样东西看起来、听起来很完美，并不能说明它是真的（参见 Arup 案例 ）。
警示信号
一条无可挑剔却找不到的参考文献。
没有来源的非常精确的数字。
你一坚持，AI 就改变看法。
带页码的逐字引文。
回答与你的预期吻合得可疑。
一切听起来都很完美，你看不到任何细微差别。
防御问题
这个来源存在吗？它真的说了被归于它的内容吗？亲自打开它。引文和参考文献是最常被编造的。
我在原始来源中核实过吗？比较几个 AI 有帮助，但它们可能犯同样的错误。
回答中哪一部分最具体？越具体（数字、日期、人名），越需要核实。
我的提问方式中立吗？如果问题透露了你期待的答案，迎合倾向就会把它还给你。
复制 📋
回答这个问题：[问题]
把你的回答清楚地分成三部分：
(A) 已有定论的知识。
(B) 有争议或取决于具体情况的内容。
(C) 你不知道或无法知道的内容。
对每一条具体信息（数字、日期、引文、参考文献），请给出一个我可以查阅的原始来源。如果你没有可靠的来源，就直说，不要编造。
这个提示词能减轻问题，但不能消除问题：它给你的来源也可能是编造的。务必核实。
AI 一秒钟就能帮你做完作业。但如果是它在思考，学到东西的是它，而不是你 。
一个例子 整整一个月，你的数学练习全是从 AI 那里抄来的。做得完美无缺。考试那天没有 AI……你一道题也不会做 。
如何保护自己
先自己试试。 只在卡住的时候才用 AI，向它要提示，而不是答案。
如果你不能用自己的话解释出来，就说明你还没有学会。
把本该我们自己思考的事交给 AI。这叫作认知卸载 ，它本身并不坏（我们也用计算器和日程本），但它有代价：不练习的东西就学不会 。
研究怎么说
一项最新研究（2025）
美国一所大学比较了用 AI 和不用 AI 写文章的人。使用 AI 的人对自己刚写的内容记得差得多 。这是一项小型研究，但它是一个值得重视的信号。
MIT 媒体实验室 · KOSMYNA 等（2025）
借助 ChatGPT 写文章的人，与任务相关的大脑活动更少，而且最重要的是，他们很难回忆或引用自己刚写的内容 。这项研究参与者很少，以预印本形式发表：请把它当作一个信号，而不是定论 (arXiv:2506.08872) 。
微软研究院 · LEE 等（CHI 2025）
在一项针对 319 名知识工作者的调查中，他们对 AI 越信任，自称运用的批判性思维就越少 ；对自己越有信心，运用得就越多。
学习者的悖论： 你懂得越多，AI 就越能帮上忙，因为你能发现它的错误。正在学习的人恰恰最没有能力监督它，所以他们最需要先自己思考。
警示信号
还没读完题目就把它粘贴过去。
你无法解释自己交上去的东西。
你不读建议就直接接受。
没有 AI，你就不知道从哪里开始。
习惯
1
先自己尝试 一个提纲、一份草稿或一个解法，即使不完美也没关系。正是付出的努力带来了学习。
2
让 AI 当批评者，而不是作者 请它指出弱点、向你提问，而不是帮你重写。
3
解释测试 合上一切，用自己的话解释一遍。如果做不到，说明你没有学会，只是抄了下来。
复制 📋
这是我关于 [主题] 的草稿。不要重写它。
1. 指出我推理中最薄弱的三个地方。
2. 向我提出问题，迫使我自己去改进它。
3. 如果有事实错误，不要改正：告诉我错误在哪一句，让我自己去找。
我的草稿：[文本]
更多学习类提示词（苏格拉底式、费曼式、诊断式），请参阅概念图借助 AI 的个性化学习 （英文）。
我们都喜欢自己是对的。所以我们很快就相信支持自己的说法 ，而对不支持的说法心存怀疑。
一个例子 你支持的球队输了，你读到两种看法。说裁判判得很糟糕的那种，你觉得再公道不过；说你的球队踢得很差的那种，你觉得是胡说八道。两种看法都可能是对的。
如何保护自己
问问自己：如果它说的是相反的话，我还会同样相信吗？
认真听听想法不同的人怎么说：他们也许有一部分是对的。
我们会寻找、接受并记住那些证实我们原有想法的东西，而对与我们相悖的东西则苛刻得多。这叫作确认偏误 。
我们会寻找、接受并记住那些证实我们想要 相信的东西，而对与我们相悖的东西则要求高得多。这是为我们的愿望、身份认同或所属群体服务的确认偏误 。
日常情境
你读了两项关于你关心的话题的研究。支持你的那项在你看来很严谨；另一项，你怀疑是有人出钱资助的。也许两项都是。 区别不在于研究本身，而在于你对它们的要求有多严格。
如何起作用
我们推理时不像法官，而像在为一个早已认定的结论辩护的律师。更聪明并不能保护你：推理能力越强的人，也越擅长为自己原本的信念找理由 。
搜索引擎和 AI 会放大这一点，因为它们会给出你所问的东西：搜“为什么 X 是好的”，得到的是支持的论据；搜“关于 X 的信息” ，得到的东西更接近现实。
警示信号
找到一条对你有利的数据时，你会松一口气。
你搜索的是“……的证据”，而不是“关于……的信息”。
你还没理解批评，就已经被它激怒了。
你说不出什么会让你改变看法。
你记得自己立场的成功之处，却忘了它的失误。
只有当来源不支持你时，你才会怀疑它。
防御问题
什么具体的证据会让我改变看法？在搜索之前 先把它写下来。如果你一个也想不出来，那你不是在调查，而是在辩护。
如果这个论据支持的是相反的结论，我还会接受它吗？对双方采用同样的要求标准。
因为我需要这个故事是真的，我拒绝看到什么？
一个持相反观点的人会怎么搜索这个问题？
习惯：钢铁人论证
稻草人谬误的反面。在否定一个立场之前，先构建它最好的版本 ，也就是它最聪明、最诚实的代表会捍卫的那个版本。如果之后你仍然不同意，你的看法就更站得住脚。
复制 📋
我认为 [我的立场]。
请构建对立立场最有力、最诚实的版本：也就是它最好的代表会捍卫的版本，而不是一幅漫画。
然后告诉我，应该寻找哪些证据来检验两者中哪一个更站得住脚，以及去哪里找。
有时我们以为自己已经懂了……直到必须动手去做。感觉有把握不等于真的懂。
一个例子 你把这一课读了三遍，心想：“我会了。”可当你试着讲给姐姐听时，脑子一片空白 。
如何保护自己
考试前先测测自己： 大声讲出来，或者不看书做一道练习。
当你不是完全确定时，说“我认为”，而不是“肯定”。
感觉有把握不等于说得对。我们往往比数据所能支持的更加确信，尤其是在我们了解不多的话题上，在那里我们甚至不知道自己不知道什么。
如何起作用
试一试：你知道拉链是怎么工作的吗？你多半会说知道。现在试着一步一步解释，不许看……我们以为自己对事物的理解，远比我们能解释出来的要好。AI 可能让情况更糟：一个清晰、快速的解释会给人一种已经理解了的感觉 ，而重读一份摘要会让人觉得自己懂了，却什么也证明不了。
心理学家列昂尼德·罗森布里特和弗兰克·凯尔描述了解释深度错觉 (Rozenblit 和 Keil, 2002) ：我们以为自己懂得拉链或马桶水箱是怎么工作的，直到别人请我们一步一步解释。AI 可能加剧这种错觉：一个清晰、快速的解释会给人一种已经理解了的感觉 ，而重读一份摘要会让人产生掌握了的感觉，却什么也证明不了。
警示信号
你看什么都是非黑即白，没有程度之分。
你读了摘要，却一道练习也没做。
你从不事后检查自己是否猜对了。
还没试过就说“这很简单”。
工具
1
用程度来表达 说“我有 70 % 的把握”，而不是“是”或“不是”。这会迫使你思考自己到底知道多少。
2
校准 记下你的预测，事后检查猜对了多少。如果你说“有 90 % 把握”的事情只对了一半，你就知道该打多少折扣了。
3
解释测试 不看任何资料，一步一步解释它是怎么工作的。你卡住的地方，就是你知识的真正边界。
4
事前验尸（加里·克莱因） 做决定之前，想象一年后事情失败了，然后问自己为什么。这样能发现被乐观掩盖的风险。
复制 📋
我打算 [决定或计划]。
想象现在是一年以后，事情失败了。
1. 写出最可能导致失败的五个原因，按可能性排序。
2. 为每个原因给出一个我可以留意的早期信号。
3. 指出你认为我的计划中最脆弱的假设是哪一个。
在相信、分享或做一件重要的事情之前，请按照这四个步骤 来做：停下 · 提问 · 比对 · 自问 。
八种扭曲太多了，在关键时刻很难全部记起来。这四个步骤 几乎涵盖了全部，而且容易记住：停下 · 提问 · 比对 · 自问 。
1
停下 有人在催我吗？还是我很紧张？深呼吸，稍等一会儿。 是匆忙或情绪在推着我走吗？如果是，先等一等再做任何事。
2
提问 是谁说的？他是怎么知道的？ 是谁说的？他是怎么知道的？把权威和证据分开，找出缺少的那个数字。
3
比对 其他可信的地方也这么说吗？问问大人，或者看看另一个正规网站。 其他真正独立的来源怎么说？横向阅读；对于 AI，要到原始来源中核实。
4
自问 我相信它只是因为我喜欢它吗？我真的知道吗？ 什么会让我改变看法？我对此到底了解多少？
什么时候用？ 在点击链接、购买东西、分享新闻或提交借助 AI 完成的作业之前。
每个步骤化解哪种扭曲
步骤 主要化解 何时必不可少
1 · 停下 在付款、转账、转发、签字或发布之前。 2 · 提问 面对广告、标题、专家和优惠时。 3 · 比对 在作业中引用某样东西或相信某个热门内容之前。 4 · 自问 在做重要决定或考试之前。
不必每次都用。 那样会让人筋疲力尽。当事关重大时再用：金钱、健康、难以挽回的决定、你要和别人分享的东西，或者你要签上自己名字的东西。
阅读每个情境，选出它是哪种陷阱 。如果你选的那个也存在，但不是主要的，我们会告诉你。
阅读每个情境，选出主要的 扭曲。有时不止一种在起作用：如果你选了次要的那种，我们也会告诉你。
答对：0 / 8
你收到一条消息：“如果你不在这个链接里输入密码，你的游戏账号将在 30 分钟后被删除。” 你收到一条短信：“我们检测到可疑登录。如果您不通过此链接验证您的信息，您的账户将在 30 分钟后被冻结。”
他们催你，是为了让你来不及思考。如何保护自己： 什么都别点，去问大人。 这里有权威（它自称是你的银行），但真正的推动力是匆忙 ：给你三十分钟，就是不让你思考。防御： 停下来，自己打开应用或拨打官方电话。绝不要通过链接。
“轮滑鞋 10 欧元起！”。在店里，你喜欢的那双要 60 欧元。 一则广告：“光纤宽带高达 1 Gb，每月 19.90 欧元起*”。星号指向一段没人会读的小字。
陷阱就是“起”这个字。如何保护自己： 问一问你真正想要的那款要多少钱。 一句话里有两个陷阱：“高达”（理论上的最高速度）和“起”（最低价格，往往只限头几个月）。防御： 第十三个月我要付多少钱？在我家能有多快的网速？
一位有名的视频博主说，某种能量饮料能帮你考出更好的成绩。 一位著名足球运动员在社交媒体上推荐一个加密货币投资平台：“我的积蓄已经翻了好几倍。”
有名并不代表懂成绩或懂饮料，而且很可能有人付钱让他这么说。防御： 他懂这个吗？如果我相信他，他能得到好处吗？ 光环效应： 他在球场上的天赋并不能给他带来金融知识，而且很可能有人付钱让他这么说。防御： 他是这方面的专家吗？如果我听他的，他能得到好处吗？
为了写作业，你请 AI 提供一本书中的一句引文。它给了你一句很美的话，带引号，还有页码。你在书里却找不到这句话。
完美的格式并不保证它真的存在。引文和参考文献是 AI 最常编造的东西。防御： 引用之前，务必到原始来源中核实。
班级群里大家都说明天不考试。没有人问过老师。 班级群里大家都说老师不看参考文献，所以没有人去检查。
大家都在重复，并不能让它变成真的。如何保护自己： 去问知道的人——老师。 有多少个独立来源？很可能只有一个，被重复了很多次。防御： 追溯到原始出处；在这个例子里，就是去问老师。
在一个有争议的话题上，和你观点一致的文章在你看来严肃、有理有据。与之相反的那篇，你觉得是“宣传”。
双重标准：要求的严格程度取决于结论。防御： 如果这个论据支持的是相反的结论，我还会接受它吗？两篇文章分别是谁资助的？
整个学期，你都是把数学练习粘贴到 AI 里来完成的。考试时，你脑子一片空白。
AI 替你付出了本该让你学会的努力。如何保护自己： 先自己试试，只在需要提示时才用 AI。 AI 替你付出了本该让你学会的努力。防御： 先自己尝试，AI 只用来给提示或帮你检查。
考试前一晚，你心想：“没问题了，AI 给我做的摘要我已经读了三遍。”可你一道练习都没有不看答案独立做出来过。
重读会让人产生掌握了的感觉，因为熟悉的东西读起来很轻松，但这并不能证明你会做。防御： 解释测试，或者不看答案独立做一道练习。
↺ 重新开始
这张概念图基于桑迪普·斯瓦迪亚 的一段视频（讲的是如何在 AI 时代更好地思考），以及多年的心理学研究。这里告诉你它从哪里来，以及你可以去哪里学到更多。
这张概念图的出发点是桑迪普·斯瓦迪亚 的一段视频，视频提出了五种扭曲：权威、营销、群体思维、对 AI 的依赖和自我欺骗。这张概念图对它们进行了重新组织，并用研究成果和课堂工具加以扩充。
与视频相比有哪些变化
视频 这张概念图
以列表形式呈现 5 种扭曲 8 种扭曲分为三个方面：来自外部、来自 AI 和来自内心。 以 Arup 案例开篇，但没有把它当作紧迫感来分析 新增扭曲： 营销 扩展到任何误导性地使用数字的情况： 群体思维 与真相错觉效应和横向阅读结合： 对 AI 的依赖 拆分为两种： “让一个 AI 检查另一个 AI” 有用但不够：核实要以原始来源为准。 — 新增： 只有一个层级 七个年龄层级，从 ESO 一年级到大学。
资料来源与延伸阅读
▶ 视频 · 2026 年 7 月
Sandeep Swadia — This Is Boring But It Will Make You Scary Intelligent
作为出发点的视频，英文。 作为出发点的视频，英文。以 Theranos 和 Arup 案例讲解五种扭曲。
Swadia, S. (2026 年 7 月 2 日). This Is Boring But It Will Make You Scary Intelligent [视频]. YouTube.
youtube.com →
● 网站 · INCIBE
Internet Segura for Kids (IS4K)
西班牙国家网络安全研究所面向未成年人的网络安全中心：指南、游戏和免费求助热线（西班牙语）。
is4k.es →
● 网站 · 事实核查
Maldita.es
核查社交网络和即时通讯中流传谣言的记者团队。你可以查询收到的内容是否已被辟谣（西班牙语）。
maldita.es →
◆ 社会心理学 · 1951–1956
所罗门·阿希 — 从众实验
线段研究：群体压力如何让我们否认自己亲眼所见，以及一个不同的声音如何改变一切。
Asch, S. E. (1956). Studies of independence and conformity: I. A minority of one against a unanimous majority. Psychological Monographs, 70 (9), 1–70.
◆ 论文 · 1977
Hasher、Goldstein 和 Toppino — Frequency and the conference of referential validity
关于真相错觉效应的第一项研究：重复一个说法会提高它的可信度。
Hasher, L., Goldstein, D. 和 Toppino, T. (1977). Journal of Verbal Learning and Verbal Behavior, 16 (1), 107–112.
▤ 书籍 · 2011
丹尼尔·卡尼曼 —《思考，快与慢》
两种思维系统，以及几乎贯穿这整张概念图的一系列偏误。
Kahneman, D. (2011). Thinking, Fast and Slow . Farrar, Straus and Giroux. 西班牙文版：Debate, 2012.
● 网站 · 信息素养
迈克·考尔菲尔德 — SIFT 方法
横向阅读的四个步骤，在《Verified》 一书中有详细阐述 。
Caulfield, M. 和 Wineburg, S. (2023). Verified: How to Think Straight, Get Duped Less, and Make Better Decisions about What to Believe Online . University of Chicago Press.
hapgood.us/sift →
◆ 预印本 · 2023
Sharma 等 — Towards Understanding Sycophancy in Language Models
为什么 AI 助手倾向于顺着用户说，甚至放弃正确的答案。
Sharma, M. 等 (2023). arXiv:2310.13548. 发表于 ICLR 2024.
arxiv.org/abs/2310.13548 →
◆ 预印本 · 2025
Kosmyna 等（MIT 媒体实验室）— Your Brain on ChatGPT
借助和不借助 AI 写作时的大脑活动与记忆。样本很小：请谨慎看待。
Kosmyna, N. 等 (2025). Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task . arXiv:2506.08872.
arxiv.org/abs/2506.08872 →
◆ CHI 会议 · 2025
Lee 等（微软研究院）— The Impact of Generative AI on Critical Thinking
针对 319 名知识工作者关于信任 AI 与批判性思维的调查。
Lee, H.-P. 等 (2025). The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers . Proceedings of CHI '25, ACM.
microsoft.com/research →
◆ 论文 · 2002
Rozenblit 和 Keil — The misunderstood limits of folk science
解释深度错觉：我们以为自己理解的，远比我们能解释的要多。
Rozenblit, L. 和 Keil, F. (2002). The misunderstood limits of folk science: An illusion of explanatory depth. Cognitive Science, 26 (5), 521–562.
▤ 文章 · 2007
Gary Klein — Performing a Project Premortem
在做决定前想象失败的方法。
Klein, G. (2007). Performing a project premortem. Harvard Business Review, 85 (9), 18–19.
hbr.org →
▤ 书籍 · 2002
Gerd Gigerenzer — Calculated Risks
我们为什么会误解百分比，以及自然频数如何纠正这一点。
Gigerenzer, G. (2002). Calculated Risks: How to Know When Numbers Deceive You . Simon & Schuster.
◆ 新闻 · 2024
CNN — Arup 成为 2500 万美元深度伪造诈骗的受害者
该公司确认，它就是香港那起通过虚假视频会议实施的诈骗案的受害者。
CNN Business (2024 年 5 月 16 日). ABC17 News 转载.
CNN（经 ABC17）→
● 网站 · saberlibre.net
概念图 — 借助 AI 的个性化学习
本图的姊妹篇：借助 AI 学习的工具、教育类提示词和隐私保护（英文）。
saberlibre.net/AI →
⚠️ 也请对这张概念图使用这 4 个步骤！ 它是由一个人在 AI 的帮助下制作的，可能有错误。
⚠️ 也请对这张概念图使用这套流程。 它是在 AI 的帮助下编写并经过审校的，但仍可能包含错误。所附的来源链接是为了让你核实它的说法，而不是因为它排版精美就相信它。