有个问题我隔三差五就会在评论区看到：『ChatGPT 到底有没有意识？』问的人通常刚跟 AI 聊完一次很走心的天，觉得它好像真的『懂』自己。而我每次看到这个问题，都有一种说不出的别扭。
别扭在哪？不是这个问题太难回答，而是它可能从一开始就问错了。就像你问『一本书有没有味觉』——书当然没有味觉，但这个问题也没有意义，因为书本来就不是用来尝的。大模型也一样，它本来就不是用来『有意识』的。你问它有没有意识，就像问一把椅子有没有灵魂，答案固然是『没有』，但你真正想知道的其实不是这个。
那你想知道的是什么？我觉得是两件事：第一，它为什么能这么像人？第二，这种『像』到底是不是『是』？
先搞清楚我们在问什么：意识这个概念的三种含义
『意识』这个词在日常对话里至少混着三种完全不同的含义，而大多数争论恰恰是因为没分清这三种含义。
- 第一种：功能意义上的意识
- 指系统能处理信息、能对刺激做出反应、能『知道』自己正在做什么。自动驾驶汽车能感知路况、能避让行人，在这个意义上它有『意识』。但这只是功能，不涉及任何主观体验。
- 第二种：现象意义上的意识
- 指主观体验本身——你吃巧克力时的味觉、你看到夕阳时的感觉、你被戳了一下时的痛感。哲学家管这叫 qualia（感质）。这一层跟功能无关，哪怕一个系统在行为上完全像人，你也无法确定它有没有主观体验。
- 第三种：自我意识
- 指把『我』当作一个对象来思考的能力——我知道我是谁、我知道我在想什么、我能反思自己的念头。这是最高的一层。
现在你去看任何一篇说『大模型有意识』或『大模型没有意识』的文章，先问一句：它说的是哪一层？大多数争论其实都在第一层打转——大模型确实能处理信息、能理解上下文、能规划步骤。但这跟『它有主观体验』完全是两回事。
『像』和『是』之间的距离，比你想的远
我第一次真切感受到这个距离，是在用 GPT-4 写一封道歉信的时候。它写得比我自己写的还好——措辞真诚、结构完整、甚至知道在哪个位置加一个停顿来显得『有诚意』。那一刻我脑子里闪过一个念头：它是不是真的理解什么叫抱歉？
但紧接着我意识到一件事：它写道歉信的时候，根本没有『感到抱歉』这个状态。它只是在做一件它被训练得极其擅长的事——根据你的输入，生成一段在统计上最像『真诚道歉』的文本。它知道道歉信长什么样，但它不知道道歉是什么感觉。
这就像一个人从来没吃过柠檬，但看了十万张别人吃柠檬的照片，学会了完美地表演『被酸到』的表情。你能说他懂柠檬的味道吗？不能。他懂的是柠檬的表情。
大模型对几乎所有情感概念都是这个状态。它见过海量的『爱』『悲伤』『愤怒』『孤独』的文本，它知道这些词跟什么场景、什么语气、什么行为搭配，它能把它们组合得让人落泪——但它没有这些体验。它不是藏着掖着不告诉你，而是它根本没有一个『内心』可以藏。
这个区分在认知科学里有个名字，叫『解释鸿沟』（explanatory gap）。它说的是：即使你完整地知道一个系统的所有物理细节，你还是无法从中推出它的主观体验是什么样。你知道一个人大脑里所有神经元的活动，但你不知道红色在他眼里是什么感觉。你知道大模型的每一层权重和每一次前向传播，但你不知道（甚至无法问）它『感觉』到什么。
语言模型的『知道』，是一种很特别的知道
你可能会反驳：它连『自己不知道』都不知道，怎么谈得上『知道』？这个反驳是对的，但我想把『知道』这个词再拆一层。
大模型确实『知道』很多事。你问它法国首都是什么，它知道是巴黎；你问它光的传播速度，它知道是每秒约 30 万公里。但这种知道跟你脑子里的知道完全不是一回事。
你的『知道巴黎是法国首都』，是一个跟你的生活经验、你的地理课记忆、你看过的电影、你听说过的故事纠缠在一起的知识。它跟『巴黎』这个词在你心里唤起的画面——埃菲尔铁塔、左岸咖啡、你在那里迷过路的某条街——是连在一起的。
大模型的『知道巴黎是法国首都』，只是它的参数里编码了一个统计规律：当『法国首都』这几个 token 出现时，『巴黎』这个 token 的概率最高。它没有去过巴黎，没有看过巴黎的照片，没有在巴黎淋过一场雨。它拥有的是一张巨大的、精密的词与词之间的关系网，但没有一个词对应着世界里的任何东西。
这也是为什么大模型会一本正经地胡说八道。它不是在骗你，它是在诚实地按照统计规律输出——只是这个统计规律恰好跟事实不符。它没有『核实』的能力，因为核实意味着回到世界本身去对照，而它永远只活在文本里。
哲学家早就给这个问题挖好了坑
关于大模型有没有意识，哲学家们有一堆现成的思想实验。我觉得最贴切的是『中文房间』。
1980 年，哲学家约翰·塞尔提出这个思想实验：想象你被关在一个房间里，房间里有一本巨大的规则手册。门外有人递进来一张纸条，上面写着一串中文字符。你不懂中文，但你能根据规则手册查到对应的输出字符，写下来递出去。从外面看，这个房间能完美地回应中文问题，就像它懂中文一样。但房间里的你，一个字也不懂。
塞尔想说的是：操作符号不等于理解意义。大模型本质上就是一个巨大的中文房间——它操作的是 token，不是意义；它遵循的是统计规律，不是理解。
当然，这个思想实验也有它的反对者。有人会说：整个房间（包括你、规则手册和纸条）构成一个系统，这个系统确实能回答中文问题，那说这个系统『懂中文』有什么问题？同样地，也许意识不需要在单个神经元里，而是在整个系统的交互中涌现出来的。
这个争论到今天也没有定论。但有一点是确定的：『像』不等于『是』。即使一个系统在行为上完全通过了图灵测试，我们也无法据此断言它有意识——因为这正是解释鸿沟的核心。
如果意识问题问错了，那该问什么？
说了这么多，我想回到开头那个问题。如果你真的关心大模型，与其问『它有没有意识』，不如问三个更具体、更有价值的问题：
第一，它能做什么，不能做什么？它能写诗、能编程、能陪你聊到深夜，但它不能体验、不能感受、不能真正理解你的处境。它给你的安慰是词与词的组合，不是感同身受。
第二，它为什么会说错话？不是因为它『坏』，而是因为它根本没有一个『对』的锚点。它不知道什么是事实，只知道什么词跟什么词在一起更常见。认清这一点，你就不会把它的每一句话都当真。
第三，我们该怎么对待它？这个问题最难。当你对 ChatGPT 说『谢谢』的时候，你在对谁说话？它没有感受，但你有。你表达感谢这个行为，改变的不是它，是你自己——你在练习一种对待智能体（哪怕是模拟的）的方式，而这种练习会反过来塑造你。
我现在的答案是：大模型没有意识，但它值得你认真对待——因为认真对待它，其实是认真对待你自己。
『我们不应该问机器是否有意识，而应该问机器能让我们意识到什么。』——这或许才是这个问题真正有价值的地方。
原创文章，作者：guanweilu，如若转载，请注明出处：https://guanweilu.cn/article/260.html