AI 完全可以拥有主观体验！Hinton 教授在 The Weekly Show with Jon Stewart 的播客中做了个断言。我们大多数人对"心智"的理解，存在着"和地平论者一样程度的误解"。

AI 完全可以拥有主观体验！Hinton 教授在 The Weekly Show with Jon Stewart 的播客中做了个断言。我们大多数人对"心智"的理解，存在着"和地平论者一样程度的误解"。

当我告诉你"我正体验着看到粉色大象的幻觉"时，我们通常会想象：在我的脑海里有一个"内在剧场"，粉色大象真的在那里飘浮，而"我"这个意识主体是剧场的唯一观众。

我们把"主观体验"当成了一种真实存在的"东西"👀 Hinton 认为所谓的“体验”是你和那些并不真实存在的事物之间的关系。“主观体验”不是一个内在的“实体”，而是一种语言工具，用来向他人描述我们感知系统的状态，尤其是当它发生故障或接收到非标准输入时。

他在节目中设计了一个思想实验：

- 一个可以看、说、指的多模态机器人，被告知它前方的物体；我们在它的摄像头前偷偷放一个棱镜，使其看到的物体位置发生偏移；

- 当它指向错误的位置时，我们告诉它真相：“物体其实在正前方，我只是放了个棱镜”；

- 此时，这个机器人完全可能推理并回答：“哦，我明白了。物体实际上在那里，但我刚才的‘主观体验’是它在旁边。”  

如果它能这样说，那么它使用“主观体验”这个词的方式，就和人类毫无二致。“那种认为我们和机器之间有一道界线，我们拥有叫做主观体验的特殊东西而它们没有 —— 这纯属无稽之谈（It's rubbish）。”  

我们之所以认为自己是独特的、有灵魂的，可能仅仅是因为我们对自己心智的运作机制一无所知。而 AI，这个我们亲手创造的“镜子”，正以前所未有的清晰度，映照出我们自身的机械本质。

AI: What Could Go Wrong? with Geoffrey Hinton | The Weekly Show with Jon Stewart 完整采访视频 https://youtu.be/jrK3PsD3APk?si=0HZp_dhVc700jnoj