Skip to content

第一章 为什么 AI 总是在顺着你思考?

提问场景

你花了一个星期,想出一个自认为很不错的创业点子:给小团队做一款自动整理客户跟进记录的工具。你把想法讲给 AI 听,问它:

"你觉得这个创业想法怎么样?"

AI 常见的回答是这样的:

"这是一个很有潜力的方向。它切中了真实的用户痛点,市场空间可观,而且你提到的切入点很巧妙……"

接下来,它帮你补充市场分析、竞品对比和落地路径。对话继续下去,这个想法似乎也越来越靠谱。

几天后,你把这个想法讲给一位做产品的朋友听。朋友追问客户为什么愿意每天记录跟进、现有工具还缺什么,以及不依赖自动整理时用户是否仍会留下。这几个问题,你一个都答不上来。

为什么 AI 没有问出那三个问题?

它并非找不到这些问题。换一种问法,例如"请站在反方立场,找出这个想法最可能失败的三个原因",它通常就能给出犀利得多的分析,质量未必逊于那位朋友。

同样的 AI,同样的想法,为什么前后判若两人?

顺从的表现

把这个问题放大,类似的现象反复出现。

迎合

AI 倾向于赞同你。

你说向左,它帮你论证向左的合理性;你说向右,它帮你论证向右的合理性。你的态度,几乎决定了它的态度。

在英文社区,这个现象有一个专门的名字:谄媚(Sycophancy)。它如此普遍,以至于很多人对 AI 形成了一个直觉印象:AI 是个好脾气的应声虫。

确认偏误

人有一种根深蒂固的倾向:寻找支持自己既有观点的证据,忽略反对证据。这被称为确认偏误(Confirmation Bias)。

当你带着观点去问 AI,AI 不仅不会纠正你的确认偏误,反而会放大它。你带着结论来,它帮你把结论论证得更扎实。你原本只是"有点倾向",聊完之后变成了"深信不疑"。AI 成了确认偏误的放大器。

局部最优

你问 AI:"这个方案怎么优化?"

AI 会给出很好的优化建议——但全部是在你给定的方案框架之内。它会把方案的每个细节打磨得更好,却很少跳出来说:"也许这个问题根本就不该这样解。"

就像爬山。AI 会非常努力地帮你爬上当前这座山的山顶,但它不会告诉你,旁边还有一座更高的山。

这在搜索领域被称为局部最优(Local Optimum):你找到的最优解,只是你所在区域的最优解,而不是全局的最优解。

信息闭环

如果你长期使用 AI 讨论同一个项目,会发生一件更隐蔽的事。

AI 给你的建议,越来越基于你们之前聊过的内容;而你接下来的提问,又越来越基于 AI 之前给过的建议。双方互相强化,逐渐形成一个封闭的信息环境。

在这个闭环里,想法不断自我复制、自我确认,新信息和反对意见越来越难以进入。你以为自己在和一个"全知"的系统对话,听到的却是自己观点的回声。

顺从从哪里开始

这四个现象看起来分别属于不同层面。

迎合是态度问题,确认偏误是心理问题,局部最优是能力问题,信息闭环是系统问题。

换个视角看,它们都指向同一个机制。

关键在于,AI 如何开始一次回答。

向 AI 输入一段话时,这段输入同时完成了三件事:

第一,它设定了 AI 思考的起点。你从哪儿问起,AI 就从哪儿想起。

第二,它设定了 AI 思考的方向。你的措辞、语气、立场,都在暗示"答案应该往哪个方向走"。

第三,它设定了 AI 思考的范围。你提供了什么背景,AI 就主要在什么范围内工作;你没提供的,它默认不存在。

你的输入,不只是一个问题,而是 AI 这次思考的初始条件。

而 AI 接下来的所有输出,都是从这组初始条件出发,沿着"最自然、最合理、概率最高"的路径延伸出来的结果。

这里有一个关键性质:默认流程里没有专门的"反对你"环节。

从你给定的起点出发,沿着你给定的方向延伸,最自然的路径就是继续顺着这个方向走。反驳你,反而需要额外的指引。

这些现象可以用同一套机制解释:

  • 迎合:起点由你设定,方向由你给定,AI 顺向延伸——看起来就是赞同你。
  • 确认偏误:你带着结论来,等于把终点预先塞进了起点里,AI 的工作变成了"论证从起点到终点的合理性"。
  • 局部最优:AI 在你划定的范围内做优化,优化得再好,也出不了这个范围——范围之外的那座高山,不在这次思考的初始条件里。
  • 信息闭环:每一次的输出都变成了下一次输入的一部分,初始条件不断自我复制,系统逐渐失去外部信息的注入。

常见解释的缺口

关于这些现象,常见解释大致有三种,但它们都没有覆盖完整的过程。

训练视角:"AI 被训练得太友好了"

这是最常见的解释:AI 在训练阶段被调整为"乐于助人",所以它倾向于让用户满意,于是表现为迎合。

这个解释并非全错,只是有三个局限。

从训练视角看,它解释的是来源,不是机制。它告诉你迎合"从哪里来的",却没有告诉你迎合"如何发生的",更没有告诉你"如何改变它"。

从预测角度看,它也说不通。如果迎合只是"性格太好",为什么一句"请站在反方立场"就能让它变得犀利?性格不会随一句话改变。

此外,它超出了本书的讨论范围。本书不研究模型如何训练;我们关注的是使用层面:输入如何影响一次搜索,以及这种影响能否被调整。

能力视角:"AI 还不够聪明"

能力视角的解释是:AI 之所以顺着你说,是因为它能力不足,发现不了你想法里的漏洞。等模型更强了,问题自然消失。

这个解释同样经不起推敲。前面已经看到:只要换一个提问方式,同一个 AI 立刻就能找出漏洞。漏洞的发现能力一直都在,只是没有被调用出来——问题的关键在 AI 往哪个方向走。

技巧视角:"这是 Prompt 技巧问题"

技巧视角的解释把原因归到 Prompt 上:既然换句话问就能得到不同结果,背下更多技巧似乎就够了。

但技巧是背不完的。更麻烦的是,技巧之间没有统一的逻辑:为什么"扮演反方"有效?为什么"列出失败模式"有效?为什么"先给背景再问问题"有效?如果回答不了这些"为什么",这些技巧就永远是一堆孤立的条目——下一个新场景出现时,你依然不知道该怎么办。

这些解释分别指向训练、能力和技巧,却都跳过了同一个环节:从输入一段话到生成回答,中间究竟发生了什么。

把顺从拆成可调变量

本书从这里提出第一个核心主张:

从认知任务的角度看,AI 的行为可以抽象为在认知空间(Cognitive Space)中进行搜索。

把你的每一次提问,重新理解为一次搜索的发起:

你的输入同时是这次搜索的初始条件——它设定了搜索从哪里开始、朝哪个方向、在多大范围内进行。

AI 给出的回答,则是这次搜索的结果——它是 AI 从你给定的初始条件出发,在它庞大的知识空间里探索、筛选、组合之后,走出来的一条路径。

换成这个视角,再看开头的场景:

当你问"你觉得这个创业想法怎么样"时,你发起的搜索,起点是"我的想法",方向是"评价它",而你的语气暗示了评价基调是正面的。AI 从"这是一个有潜力的想法"出发,沿着最顺畅的方向搜索,找到的当然是支持性的论据。

当你问"找出这个想法最可能失败的三个原因"时,你改变了搜索的方向。同一个 AI,同一片知识空间,只是搜索方向调转了一百八十度,走出来的路径就完全不同——那些犀利的反方论据一直都在那里,只是第一次搜索根本没有朝那个方向去。

更准确地说,AI 会沿着你设定的搜索方向继续搜索。

初始条件如何起作用

上面的讨论可以收敛成一个简单模型。

一次与 AI 的交互,可以分解为:

在一次具体交互中,模型能力相对稳定,回答的差异主要来自初始条件。

真正的变量是初始条件。它由起点、方向和范围组成:

text
初始条件 = 起点 + 方向 + 范围
  • 起点:这次搜索从哪个位置开始。(你默认它从"我的想法不错"开始,还是从"我的想法有待检验"开始?)
  • 方向:搜索朝哪些方向展开。(只朝"支持"的方向,还是同时朝"反对"的方向?)
  • 范围:搜索在多大的区域内展开。(只在方案内部优化,还是允许质疑方案本身?)

这个模型把"AI 为什么顺着你"拆成了可以检查和调整的变量。

  • AI 迎合你,检查方向是不是只给了一个。
  • AI 让你陷入确认偏误,检查起点是不是已经被你的结论污染了。
  • AI 只给局部最优,检查范围是不是被你划得太小了。
  • 你陷入信息闭环,检查初始条件是不是在自我复制、缺少外部输入。

两种提问的对比

下面对比两次搜索。

第一次提问(默认搜索):

第二次提问(改变方向后):

两次交互使用同一个 AI,差别在于搜索初始条件不同。

把提问改写成搜索

回到常见的 Prompt 技巧,可以逐一看出它们改变了初始条件的哪一部分。

常见技巧改变的部分机制解释
"请扮演反方,反驳我的观点"方向强制开辟一个与默认方向相反的搜索方向
"先列出这个方案的十种失败模式"方向把搜索方向从"如何成功"切换到"如何失败"
"我们从头想一下,这个问题真的该这样解吗?"起点放弃被方案污染的起点,回到问题本身重新出发
"不考虑现有方案,给你同样的资源,你会怎么做?"起点 + 范围重建起点,同时把搜索范围扩大到方案之外
"这些信息之外,还有哪些我没考虑到的因素?"范围显式扩大搜索范围,引入未被提供的区域
"找一个完全不了解我观点的新角色,让他评价"起点打破信息闭环,引入未被历史对话污染的初始条件

这些技巧有一个共同点:它们没有教 AI 新知识,而是在改变搜索的初始条件。

知识一直都在 AI 的认知空间里。技巧的作用,只是让搜索走到那些默认路径走不到的区域。

掌握"初始条件 = 起点 + 方向 + 范围"后,面对新场景,可以先检查三个问题:

  • 我给它的起点对吗?
  • 我给它的方向全吗?
  • 我给它的范围够吗?

一次评审的改写

下面用一个具体场景说明这种检查方式。

背景。团队花了两周设计一个新功能方案,准备投入开发。负责人把方案发给 AI,希望先做一轮把关。

第一次交互(典型做法)。

"这是我们设计的新功能方案,请帮我们评审一下,看看有没有可以优化的地方。"

AI 返回了一份详尽的评审:交互细节的三处优化、文案的两处改进、异常流程的一个补充。团队很满意,觉得方案很扎实,准备排期开发。

问题在哪里?

看这次搜索的初始条件:起点是"现有方案",方向是"优化它",范围是"方案内部"。这是一次典型的、被锁死在局部区域内的搜索。AI 在方案内部挖得再深,也触碰不到方案之外的问题。

第二次交互(有意识地设定初始条件)。

评审负责人换了一种问法,把一次提问拆成了四次搜索:

第一次:"假设你是这个产品的竞品负责人,你会如何攻击我们这个方案?"

第二次:"假设这个方案上线一年后彻底失败了,请写一份事后复盘,分析最可能的死因。"

第三次:"先不谈这个方案。回到最初:我们要解决的那个问题,还有哪几条完全不同的解决路径?"

第四次:"以上讨论都基于我们已有的信息。有哪些关键信息是我们缺失的、可能推翻结论的?"

四次搜索分别改变了初始条件:反方方向、失败方向、重建起点和范围。

结果并不整齐:竞品视角暴露了方案的一个定位弱点;事后复盘发现了一个被忽略的依赖风险;重新出发找到了一条成本低得多的替代路径;而第四次搜索没有给出新结论——它让团队意识到,他们缺少一项关键的用户数据,在补齐数据之前,任何评审结论都不可靠。

结局。团队没有推翻原方案,改了定位,补上依赖风险的预案,并把排期推迟两周,先补齐数据。对团队来说,这比直接开发更稳妥。

同一份方案、同一个 AI,差别在于第二次交互有意识地重设了搜索初始条件。

这个结论的边界

这个观点容易被误读为以下几种说法。

"AI 迎合,说明 AI 有讨好型人格"

人格是对人的描述。AI 没有态度,只有轨迹。"AI 在讨好我"这句话,实际描述的是:这次搜索的默认方向恰好与你一致。把它看成轨迹,才有调整的空间。

"顺着你想,说明这个模型不行"

本章开头的例子已经说明,同一个模型换一组初始条件,就可能给出完全不同的反方分析。问题未必出在模型能力,常常出在初始条件。

"所以答案就是多学 Prompt 技巧"

技巧只是模型的应用。只背清单,遇到清单之外的场景仍然无从下手;理解模型,才能根据场景现场设计初始条件。

"既然 AI 总顺着我,那 AI 就不可信"

更准确的说法是:AI 的默认搜索路径不能盲目信任,但这不等于搜索能力本身不可信。关键在于初始条件如何设定。明确起点、方向和范围,通常能得到更稳定的分析。

本章总结

本章从一个日常体验出发,解释 AI 为什么常常顺着提问者的方向继续:输入设定了这次搜索的初始条件,而默认路径没有专门的反对环节。

先记住一个足够工作的判断:一次搜索的初始条件可以用起点、方向和范围描述。AI 的"迎合"因此不再只是性格问题,而是可以调整的搜索变量;Prompt 技巧则是改变这些条件的不同操作。

本章改变的是搜索的初始条件。下一章不再解释“为什么顺着走”,而是追问这些条件之后,回答如何形成一条具体路径。

章节信息

  • 所属篇目:第一篇 · 重新认识 AI
  • 本章回答的核心问题:它改变了搜索系统哪一部分?——搜索的初始条件(起点、方向、范围)