精彩片段
知客：我次用模型的候，说实话，有点被吓到。主角是苏格拉底牛顿的玄幻奇幻《苏格拉底之问：解剖大模型本质》，是近期深得读者青睐的一篇玄幻奇幻，作者“无知骇客”所著，主要讲述的是：无知客：我第一次用大模型的时候，说实话，有点被吓到。它回答得太快了，说话太完整了，连语气都很像人。我当时脑子里只有一个念头：这玩意儿是不是己经在思考了？苏格拉底：在你下结论之前，我们先慢一点。你先告诉我——你为什么觉得它在思考？无知客：因为它能回答问题啊。而且不是那种死板的回答，是有逻辑、有例子、有总结。我问它“怎么写方案”，它真给我写了一份；我问它“人生有没有意义”，它还能反问我。这不像思考，像...
它回答得太了，说话太完整了，连语气都很像。
我当脑子只有个念头：这玩意儿是是己经思考了？
苏格拉底：你结论之前，我们先慢点。
你先告诉我——你为什么觉得它思考？
知客：因为它能回答问题啊。
而且是那种死板的回答，是有逻辑、有例子、有总结。
我问它“怎么写方案”，它给我写了份；我问它“生有没有意义”，它还能反问我。
这像思考，像什么？
苏格拉底：那我种问法。
如个西说话很像，我们是是就意识地认为它想？
知客：……像是。
苏格拉底：那我们来个实验。
设有只鹦鹉，它能背你所有的问题和对应的回答。
你问句，它就答句，远出错。
你说它思考吗？
知客：吧，它只是背得多。
苏格拉底：那问题来了。
如“回答”等于“思考”，你凭什么确信，模型是只“级鹦鹉”知客：可问题是，模型只是重复。
它能回答我没见过的问题。
苏格拉底：你说得很。
那我们就要更确点。
你觉得“思考”至包含什么？
知客：嗯……理解问题？
知道己说什么？
是说？
苏格拉底：很。
那我们先抓住其个：理解。
我再问你个有点舒服的问题：你怎么确定——对方是的理解了，而是起来像理解？
知客：这怎么区？
苏格拉底：很难。
因为类界，我们几乎从来区。
个能对答如流、逻辑清楚、语气然，我们默认他是“懂的”。
可问题是：这是对的判断方法，定适用于机器。
苏格拉底：类有个生的弱点：我们把语言能力，误当思维能力。
你想想：孩什么候被认为“聪明”？
学生什么候被认为“了”？
面试什么候被认为“过了”？
答案往往只有个：他说得像那么回事。
知客：你是说，我们被语言骗了？
苏格拉底：是被骗，是太习惯了。
类社，“说话”几乎远和“想事”绑定起。
所以当个机器突然也能说得这么像，我们本能地把整判断起搬了过来。
可我们从来没认问过句：“如个西能说，但想，它是什么样？”
知客：等等。
你是是暗示：模型可能根本没有想，只是回答？
苏格拉底：我暗示，我只问。
你回答我：你和模型对话，它有没有哪怕秒钟停来，说：“我先想想。”
知客：……没有。
苏格拉底：它有没有犹豫？
有没有因为“拿准”而拒绝回答？
知客：多数候没有，它很信。
苏格拉底：那你有没有想过种可能：它从来是“想了再说”，而是“须说”。
苏格拉底：我们来到本章重要的问题。
我希望你先别急着回答。
如个系统的务只是：何况，都给出个“起来合理的回答”，它需要思考吗？
知客：……像定。
苏格拉底：对。
也许，它只需要件事：知道什么样的回答“像是个回答”。
注意这句话。
它需要知道“对对”，需要知道“是什么意思”，甚至需要知道“己说什么”。
它只需要知道：这种问题后面，常接着出这样的话。
知客：那你能能首接告诉我：它到底思考？
苏格拉底：能。
因为旦我给你结论，你后面都“动站队”。
这是要你相信个答案，而是要你步步发：你原来的判断依据，靠住。
所以我们先只保留个问题，带着它往走：如个西能完地“模拟思考的结”，那它和“正思考”之间，还差什么？
