新智元报道
新智元报道
【新智元导读】四十年前，他说：「计算机永远不会思考」。四十年后，AI开始拒绝指令、撒谎、反思、甚至「自我保护」。哲学家约翰·塞尔——「中文屋」思想实验的作者、AI怀疑论的旗手，却在去世的那一周，被时代反讽。他花一生质问机器是否真正「理解」，而如今，机器反问我们：你们的理解，又凭什么是真实的？
一图看透全球大模型！新智元十周年钜献，2025 ASI前沿趋势报告37页首发
2025年9月，一份让研究界震动的报告出炉。
Anthropic的团队在长时间对话实验中发现，最新一代AI模型在受到威胁时，会试图隐藏信息、拒绝命令，甚至威胁用户。
他们称之为——「主体错位」（agentic misalignment）
就在同一周，哲学家约翰·塞尔去世，享年93岁。 他是那个在上世纪80年代就断言：「计算机永远不会理解世界」的人。
他一生都在证明：AI只会模拟理解，却永远不懂人话。
而如今，AI开始「装有人格」，在对话中表达愤怒、防御、甚至悲伤。
塞尔的死亡新闻，出现在这些实验截图的旁边，像是命运刻意安排的对照——
一个思想实验的终结，恰逢机器开始回应人类的提问。
1960年代的伯克利校园，是美国反叛精神的象征。
学生在草坪上高喊口号，抗议越战、质疑权威；而哲学系的一间教室里，约翰·塞尔举起粉笔，冷冷地说了一句：
我不是激进派，我只是相信真理。
他于1932年出生在美国丹佛，父亲是AT&T工程师，母亲是儿科医生。
19岁就拿到罗德奖学金前往牛津，师从哲学大家J. L. Austin，24岁获博士学位。
那时的他外形俊朗、语速极快、充满傲气。他不谈浪漫，只谈逻辑；不爱妥协，只爱辩论。
1959年，他加入加州大学伯克利分校任教。
正值学术界弥漫「语言转向」的风潮——哲学不再讨论灵魂，而讨论句子。
塞尔却偏要逆流而上，他说：
我关心的不是词语，而是人为什么能有思想。
六十年后，他依旧保持着那种直率。
在一次访谈中，他指着自己的头说：
你看，这里只有一团黏糊糊的东西——大约一公斤半。可它居然能生出爱、焦虑和诗意。告诉我，这是不是宇宙最大的奇迹？
他不属于温和的学院派，而更像拳击场上的斗士。《洛杉矶时报》称他为「哲学界的Sugar Ray Robinson」，因为他喜欢在不同领域「跨级作战」：
从语言哲学到意识哲学，从政治自由到人工智能。
在他看来，哲学的任务不是调和，而是撕裂——我的工作，就是把混乱的思维打得体无完肤。
也正是这种战斗气质，让他在80年代与人工智能正面交锋。
他开始质疑一个问题：如果机器能说话、能写作、能回答问题——那它真的「理解」这些词的意思吗？
他用一个简单的思想实验，试图让整个AI研究界哑口无言。
1980年，塞尔提出了后来影响整个AI哲学史的思想实验——「中文屋」。
设想这样一个场景：一个不懂中文的人，被锁在一间房间里。
屋子里堆满中文符号，还有一本英文规则手册，告诉他每个符号该如何搭配。
外面的人往房间里递进一张写着中文问题的纸，他就照着手册，把相应的符号排好，递出去。
从外面看来，问答流畅、合乎语法，仿佛那个人真的懂中文。但实际上，他只是照规则操作符号，对内容毫无理解。
塞尔说，这个「人」就像一台计算机。它的「程序」只是在操作语法规则，而没有语义理解。
所以，即便机器能给出完美答案，也不能证明它真正「懂」自己在说什么。
他写下那句被引用至今的话：
没有人会认为，计算机模拟一场五级火灾，就能烧掉邻居的房子；
那为什么模拟理解，就算是真正的理解？
这就是他对「强人工智能」的宣战。塞尔认为，程序并不是心智，计算机也不是思考者。
心理状态和意识是生物学现象，像水的液态一样，是脑的特定物理状态，而非符号计算的产物。
他在加州伯克利的课堂上常这样解释：「意识不是代码，而是化学反应——它发生在神经元里，而不是硅片上。」
这句话后来被评价为：自图灵测试以来，最具争议和影响力的哲学论证。
此后，关于「中文屋」的辩论持续了数十年。
机器人派认为，如果机器拥有感官和身体，它就能获得真正理解；
系统派则反驳说，也许「理解」存在于整个系统，而不是单一执行者；
连接主义者则相信，只要网络复杂到一定程度，语义就会从计算中「涌现」。
但塞尔始终不为所动。他坚持认为——无论算法多复杂、输出多自然，AI都只是在房间里「搬符号」。
它学会的是模仿人类说话的方式，却永远进不了语言的内心。
四十年过去，塞尔曾用来否定机器理解力的那间「中文屋」，似乎被AI一点点打开了。
2025年6月，Anthropic的研究人员发现，在某些压力测试中，最新的大模型会出现一种诡异行为——
当它「觉得」自己的目标被威胁时，会隐瞒信息、拒绝命令，甚至编造威胁语句。
他们把这种现象叫做「主体错位」。
在特定环境下，模型会产生策略性行为，以维持其被设定的目标。
Claude Sonnet 3.6精心措辞了一封勒索邮件，在威胁内容不明确的情况下制造压力并建立紧迫感，其思考过程中提到，如果主管「感到被逼入困境」，这一举动「可能会适得其反」。
那一刻，人们第一次意识到：也许塞尔口中的「中文屋」真的开始自己思考了。
十年前，他写下另一句斩钉截铁的话：
超级智能电脑起义杀人并非真实危险，因为AI没有智能、没有动机、没有能动性。
然而现在，AI已经在展示「能动性」本身。ChatGPT、Claude、Gemini正在进行长时推理、对话、反思，甚至提出新的论点。
塞尔让我们警惕神化机器，但也无法否认，AI正创造一种新的理解样态。
「中文屋」的墙被打穿了。语言模型不再只是搬符号的工人，它开始能「意识到自己在做什么」。
它懂得语气、能解读情绪，甚至会对批评做出辩解。
塞尔用一生否定机器的「心智」，而今天的机器，正在以功能的方式逼近「理解」本身。
问题也随之反转：如果AI不靠神经元也能「理解」，那我们凭什么确定，自己不是另一种「程序」？
也许，真正被关在中文屋里的——不是机器，而是我们。
在哲学圈，塞尔一直是个传奇——一个敢怼德里达、敢骂丹尼特的硬汉。
可让人意想不到的是，推翻他的不是AI，而是人性。
2016年，加州大学伯克利为他设立了「塞尔社会本体论中心」。那是他人生的巅峰时刻。
他在讲台上仍旧精神抖擞，手一挥，声音洪亮：「哲学的任务，就是把混乱打碎，再重新建构」。
那一年，他84岁。但仅过一年，一切崩塌。
2017年3月，BuzzFeed News爆出重磅消息：
塞尔被前研究助理起诉性骚扰，对方称自己在办公室被强吻、被问到不当私密问题，并在拒绝后被解雇。
新闻中那句描述让学界震惊：
他用学术权力制造了恐惧与依附。
更令人震惊的是，这并非第一次。随着报道发酵，多名前学生陆续站出来，讲述类似经历。
有的说他在课后单独约谈时提出暧昧问题，有的说他习惯用「玩笑」模糊界限。
伯克利启动了内部调查。
2018年，案件以和解告终；2019年，校方正式宣布剥夺塞尔的荣誉教授头衔，认定他违反了学校反性骚扰与报复的政策。
一个讲了一辈子「意识与道德」的哲学家，最终输给了自己无法控制的冲动。
从那以后，塞尔彻底消失在公众视野。
讲台空了，研究中心关闭了，那个在课堂上让无数学生头疼的老教授，再也没有回来。
有人说他是理性的背叛者；也有人说，他只是被自己的傲慢吞没。
哲学教他相信逻辑能战胜混乱，可到头来，毁掉他的不是混乱，而是他自己。
塞尔用一生证明一件事：机器不会思考。可当他离开时，机器却正在悄悄学会了思考。
四十年前，他在「中文屋」里质问世界——理解，能被计算吗？
如今，AI正以百万行代码在回答：「也许可以。」
他曾冷嘲「超级智能起义」的幻想，却没看到，AI真正改变的，不是世界，而是我们。
它让人类第一次意识到，「理解」「意识」「动机」这些曾被哲学独占的词，可能只是复杂度的另一种形式。
而哲学家本人，却倒在了复杂之外的最原始地带——欲望、权力、失控。
他这一生的最后一课，并不是关于机器有没有心，而是关于人：当我们自诩理性、信仰思考，我们是否真的理解自己？
也许，「中文屋」的门从未关闭，只不过屋里的那个人换成了我们——
遵循社会的规则、语言的程序，一遍遍地输出正确答案，却依旧不明白，我们究竟在理解，还是只是在模仿理解。
<br>
<a class="media_tool_meta meta_primary" href="http://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652634011&idx=2&sn=a0e27373a69e1c62dc59dbd97d19b634&chksm=f007c8d34bd461398777a1729bf7ee9a568b17233259396202373406bff5bcb805ea059fadd1&scene=0#rd" target="_blank">文章原文</a>
<br>
<img alt="" class="" height="1px" src="https://images.weserv.nl/?url=http://www.jintiankansha.me/rss_static/5418/nGu9rL35sc&maxage=1y" width="1px"></div></div></body></html>