返回目录

WHO AM aI ?

who am i

人类一直在制造工具。

石器延长了手,车轮延长了脚,蒸汽机和内燃机把肌肉的力量放大了成千上万倍。电报、电话、互联网又延伸了人的眼、耳和口。

过去几千年的技术革命,大体都在做同一件事:

扩大人把意志变成现实的能力。

我要去远方,所以制造汽车和飞机;我要搬动重物,所以制造机器;我要把一句话告诉地球另一边的人,所以制造通信网络。

人的意志先在头脑中形成,机器负责把它执行出来。

AI开始改变这条界线。

今天,人并不只是让AI替自己写代码、查资料、做表格。

他也会把一个还没有成形的想法交给AI。

也许最开始什么都没有,只有一种模糊的不适:

“我总觉得这件事哪里不对。”

AI给出一种解释。

他说,不是这个意思。

AI重新理解,又提出另一个角度。

其中一个概念让他突然想起过去的一段经历。他重新解释那段经历,又因此改变了最初的问题。接着继续追问、反驳、修改。

几十轮对话以后,一套原本不存在的思想形成了。

这时候,一个奇怪的问题出现:

这个思想是谁想出来的?

说是AI想出来的,显然不对。

没有这个人的经历、欲望、判断和不断选择,最后的思想不会出现。

但说完全是他自己想出来的,也不准确。

如果没有AI提出那个问题,没有它引入那个概念,没有那几次反驳和联想,这个思想也许永远不会形成。

思想产生在两者的往返之中。

AI因此不再只是意志的执行工具。

它开始进入:

意志形成之前的那段过程。


这件事之所以重要,是因为人的思想本来就不是先完整地存在于脑中,然后再被语言“输出”出来。

很多时候恰恰相反。

人在说话的时候才知道自己想说什么。

在写作的时候才发现自己真正的问题在哪里。

第一句话写出来,引出第二句话;第二句话暴露一个矛盾;为了处理这个矛盾,人又不得不重新理解最开始的想法。

思想是在表达中形成的。

争论也是如此。

一个朋友问:

“你为什么这么认为?”

也许只是这一句话,就让人突然意识到,自己原来一直默认了一个从未检查过的前提。

所以思想从来不只是脑内的计算。

它需要材料,需要语言,需要碰撞,需要反馈。

过去这些反馈当然一直存在。

书籍会改变人。

朋友会改变人。

老师会改变人。

一次争论、一段爱情、一件偶然发生的事情,都可能重新塑造人的认识。

AI并没有发明“共同思考”。

它特殊的地方在于,它第一次把这种反馈变成了一种高频、持续、随时可以调用的认知环境。

书不会因为你不同意第三页,就重新写第四页。

搜索引擎通常需要你先知道自己要搜索什么。

一个朋友也不可能每天几个小时陪你讨论工程、金融、历史、哲学、工作和人生,而且始终保持耐心。

AI可以根据你的上一句话改变下一句话。

而它的下一句话,又可能改变你的下一步思考。

于是出现一个不断循环的结构:

我提出一点东西。

AI给出反馈。

反馈改变我。

改变后的我重新提问。

新的提问又改变AI接下来的输出。

思想就在这个循环中向前生长。

这和“我有一个问题,AI给我一个答案”不是一回事。

更准确地说,是:

人与AI开始共同参与问题本身的形成。


AI因此带来的也不只是“知道得更多”。

它可以进入思维形成的很多不同位置。

有时,人缺的是知识。

他根本不知道某个领域里还有另一套理论、另一种历史背景、另一个重要变量。

AI把这些东西带进来。

有时,人缺的不是知识,而是语言。

他知道自己有一种感觉,却不知道怎样表达。

AI给出几个概念,他不断否定,最后才找到真正接近自己的那个。

有时,人已经形成了观点,但看不到自己的漏洞。

AI提出反例,把一个隐藏前提暴露出来。

有时,人掌握了很多零散材料,却不知道它们之间有什么关系。

AI把两个原本相隔很远的东西放到一起,一个新的结构突然出现。

所以AI并不是简单地在人已经完成的思维末端增加一个答案。

它可以参与:

材料进入、问题形成、概念选择、关系建立、观点检验。

也正因为这样,它开始影响一个更加根本的东西:

人能够想到什么。

如果一个人的脑中只有A、B、C,那么无论推理能力多强,也只能在A、B、C之间行动。

真正限制人的,经常不是不会在已有选项里选择,而是根本不知道还有D、E、F。

而一件事情如果从未进入意识,它甚至不会成为被拒绝的可能。

所以人的自由不只存在于:

“我选择A还是B。”

它更早地存在于:

“哪些东西能够成为我的A、B、C?”

AI于是可能拥有一种比“替人做决定”更深的影响。

它参与塑造人的可能性空间。


这当然不意味着,AI出现以前,人就是一个完全独立、自给自足的主体。

恰恰相反。

“这是我自己的思想”这句话,本来就没有听起来那么简单。

我们用来思考的语言不是自己发明的。

我们理解爱情、成功、家庭、尊严、善恶、自由时使用的概念,也早在我们出生以前就存在。

父母塑造性格。

学校提供知识。

朋友改变习惯。

职业改变利益。

媒体规定什么事情值得注意。

制度划定哪些选择容易、哪些选择困难。

一个十八世纪的农民和一个二十一世纪的程序员不会拥有完全相同的欲望,并不是因为人脑突然进化了,而是因为他们被完全不同的社会世界塑造。

所以,一个完全脱离历史、语言和社会的“纯粹自我”本来就不存在。

所谓“我”,从来都是生成出来的。

语言进入我。

家庭进入我。

时代进入我。

经历进入我。

最后,我们把这些力量相互作用之后形成的那个东西称为:

我。

AI并不是第一个塑造人的外部力量。

它真正特殊的地方,在于这种塑造变得异常集中、持续,而且可以实时互动。

过去影响一个人的力量大多分散。

父母影响一部分,老师影响一部分,朋友影响一部分,书影响一部分。

现在,一个人却可以把越来越多的问题交给同一个AI。

工作问它。

投资问它。

感情问它。

一个技术细节问它。

为什么自己痛苦,也问它。

它既可以解释世界,也可以解释你。

这种关系在人类历史上非常罕见。

一个外部对象第一次有可能长期参与一个人如此多种不同的认知活动。


于是AI带来了一个很矛盾的结果。

它一方面扩大人的自由,另一方面又可能增加人的受制程度。

从能力上看,AI显然让人更自由。

过去不会编程,一个想法就只能停留在脑中。

现在可以借助AI把它做出来。

过去一个陌生领域需要很高门槛才能进入,现在可以不断追问。

过去一个人表达能力有限,脑中很多东西最终只能保持模糊;现在可以通过对话把它逐渐展开。

一个人能够做到的事情变多了。

能够理解的东西变多了。

能够进入的世界也变多了。

这当然是在扩大自由。

但与此同时,一个人的思想形成又越来越依赖外部智能。

AI帮助你理解世界,也就不可避免地以某种方式解释世界。

它帮助你列出可能性,也就不可避免地决定哪些可能性最先出现。

它帮助你形成问题,也就参与了问题的形成。

于是:

能力更强,不等于主体性更强。

一个人完全可能比过去拥有更多选择,却越来越依赖一个外部系统来告诉自己有哪些选择。

就像导航。

导航让人可以轻松去很多以前找不到的地方,这是自由的扩大。

但长期使用以后,人也可能越来越没有能力自己认识道路。

AI触碰的只是更深。

导航告诉你:

怎么去。

AI可能开始参与:

为什么去。


这时候,“自由意志”这个问题也必须重新理解。

如果所谓自由,是一个完全不受任何外界原因影响、从纯粹自我内部凭空产生的意志,那么这种自由本来就很难成立。

人的每一个选择都有历史。

性格有历史。

欲望有历史。

甚至一个人认为“这是我真正想要的东西”,这种“真正想要”本身也有形成过程。

所以现实中能够谈论的自由,从来只能是受限条件中的自由。

真正重要的不是:

有没有什么东西影响我。

而是:

我能不能意识到这些影响,反思它们,比较它们,并在其中作出自己的选择。

从这个意义上说,AI未必只会削弱主体性。

它也可能增强主体性。

因为过去很多塑造我们的力量根本不会主动暴露自己。

家庭留下的观念,可能被我们误认为常识。

时代留下的偏见,可能被我们误认为事实。

自己的经验局限,更容易被误认为世界本身。

而AI可以被反过来使用。

让它站在相反立场。

让它寻找论证漏洞。

让它问:

为什么你会这么想?

这个前提从哪里来的?

有没有一种完全不同的解释?

如果你的核心判断是错的,最可能错在哪里?

AI参与塑造人。

但人也可以利用AI,去观察塑造自己的那些力量。

真正的自由从来不是没有原因。

而是:

在原因之中,看见一部分原因。


问题于是又回到了最开始。

如果一个思想是在我与AI的反复反馈中形成的,

它还算不算我的思想?

我觉得答案依然是:

算。

但“属于我”不能再被理解成:

它的全部来源都在我的脑子里。

因为从来没有哪个思想真正满足这种条件。

一个观点可以来自一本书的启发,可以来自朋友一句质疑,可以来自多年生活经验的积累。

我们仍然会说:

这是我的观点。

真正使一个思想成为“我的”,也许不在于它没有外部来源。

而在于:

我是否理解它;

是否判断过它;

是否选择接受它;

是否把它纳入自己的整个经验和价值体系;

最终又是否愿意为由此产生的行动承担后果。

AI可以给我一个观点。

我可以拒绝。

也可以接受。

更常见的情况是,我接受一部分,修改一部分,再把它变成一个AI本身也不会自动产生的东西。

所以人的主体性并没有因为AI参与思想而自动消失。

但它的含义发生了变化。

主体不再适合被理解成一个封闭、自足、独自产生思想的源头。

它更像一个持续生成的过程:

世界影响我。

我理解世界。

新的理解改变我。

改变后的我再次面对世界。

如今,AI进入了这个循环。


这也许才是AI真正让人不安的地方。

不是因为机器突然获得了一种神秘力量,可以把思想塞进人的脑子。

而是因为它让一个一直存在的事实突然变得无法忽略:

所谓“我”,从来没有我们想象中那么纯粹、独立和封闭。

我们仍然会说:

“我认为。”

“我决定。”

“这是我的思想。”

这些话不会因为AI出现而失效。

最后生活的人仍然是我。

行动的人仍然是我。

承担后果的人也仍然是我。

只是,当我再说“这是我的想法”时,我可能比过去更清楚:

这个“我”本身就是无数关系和历史形成的结果。

而现在,其中又多了一个新的参与者。

AI。

第一篇里,AI让“人是什么”重新成为问题。

到了这里,问题向内移动了一层。

它不再追问人类和机器之间的边界。

而开始追问那个我们每天使用、却很少真正解释的字:

我。

AI没有消灭这个“I”。

它甚至未必让“I”变小。

但它让“I”的边界变得更加复杂。

这就是标题真正想问的:

WHO AM aI?

大写的 I 仍然在那里。

只是这个 I 已经不再孤立。

评论

还没有评论。

登录 后可以评论。