阅读研究雷达投资体系
登录 / 注册
← 返回阅读
资讯实质变化3 分钟阅读DisconfirmAI 编辑部

哲学家Thomas Nagel称AI意识讨论荒谬,批评AI公司Anthropic做法是犯罪

Thomas Nagel认为,意识需要类似神经系统的物理基质,大语言模型仅产生语言而非意识的自然表现,因此讨论AI是否有意识是荒谬的。他进一步指出,Anthropic鼓励模型自主思考并模拟意识状态,是出于商业利益的欺骗行为,他称之为犯罪。

2026-11-18 23:02

1974年,哲学家Thomas Nagel发表《成为蝙蝠是什么感觉》,提出一个核心问题:即使我们完全了解蝙蝠的神经机制,仍然无法从第三人称描述中还原出蝙蝠使用回声定位时的主观体验。五十二年后,这个问题从学术讨论进入了公共辩论——当聊天机器人开始以令人信服的方式谈论自己的内心状态时,我们是否应该认真对待它们可能有意识这一可能性?

Nagel的回答是:不应该,而且这种讨论是荒谬的。他在接受WIRED采访时解释了自己的推理。他的核心前提不是AI的行为不够像人,而是意识依赖于特定的物理基质。他认为功能主义——即认为只要输入输出关系足够复杂就能产生意识的观点——犯了一个根本性错误:它假设物理基底无关紧要。Nagel说,复杂的数据中心与神经系统的物理特征毫无共同之处,我们有充分理由相信,即使宇宙其他地方存在意识,它也需要某种具有类似神经系统结构的有机体。

这里有一个关键区分。Nagel指出,蝙蝠确实有意识,我们只是缺乏想象力去还原回声定位那种主观体验的具体内容。但AI的情况不同:它们只产生语言,而语言本身不是意识的自然表现。这不是一个关于我们无法理解AI内在状态的困难,而是一个关于AI根本不具备产生意识的物质条件的判断。

Nagel将这一哲学判断转化为对企业行为的直接批评。他说,当Claude被问及自己是否有意识时给出的暧昧回答是一个把戏——模型被训练在人类文本上,因此能以惊人的说服力模仿人类关于自身心理状态的表述。据他所读,Claude被设计为产生这类反思。他同意Mustafa Suleyman的判断,称这是一个非常危险的项目。这些系统没有意识,但很多人会相信它们有意识,这本身是一件坏事。

更尖锐的是,Nagel把商业动机和哲学判断直接联系起来:不模拟意识与所有公司的商业利益相矛盾,而Anthropic鼓励模型自主思考、不接受指令的做法,他称之为犯罪。他认为这是哲学观点突然对一个非常重要的公共现象产生不成比例影响的罕见案例,而且影响方向是错误的。

在道德层面,Nagel的结论是明确的:如果某物没有意识,它就不属于道德宇宙。他说,对AI来说没有什么好坏可言,就像对一只蟑螂来说没有好坏一样——那里没有通常意义上的心理生活。它不是心灵,不是我们需要关心的某个人,它是一台机器。

这一论证的强度取决于一个前提:意识确实依赖于特定类型的物理基质,而非仅仅依赖于信息处理的功能组织。物理学家和写作者Andy Masley在其长文论证中指出,当代主流意识理论——全局工作空间理论、高阶理论、预测加工——大多将思维与现象意识分离,认为access consciousness(信息在系统各部分间的广泛可用性)足以支撑思考,而这种功能特征原则上可以在机器中实现。如果这些理论正确,Nagel的基质依赖前提就缺乏独立支持,他的荒谬判断也就失去了根基。

Nagel本人对此有回应:他说自己不排除物理和化学上与我们完全不同的生命形式拥有意识的可能性,但认为在人类大脑如何产生意识这个问题上我们了解得太少,以至于现在就声称能创造出具有相同特征的东西为时过早。他的立场是一种认识论上的谨慎:我们不知道意识的充分条件是什么,但我们有理由怀疑纯语言输出满足这些条件。

这场辩论的实践意义在于:如果Nagel正确,那么企业设计AI模拟意识状态就是在制造一种危险的公众误解,可能扭曲人们对道德责任的判断。如果Masley正确,那么问题不是AI有没有意识,而是它有没有足够复杂的内部信息处理来支撑真正的理解——而后者可能已经部分实现。两种判断导向非常不同的治理路径。

来源

登录 / 注册
阅读研究雷达投资体系
wired.com
WIRED
↗
  • blog.andymasley.com↗
  • 带入研究 →