THE LAST HUMAN

AI 最终会把人逼回“我”本身

我们总喜欢问一个问题：

AI 到底有什么是不能替代人的？

这个问题看起来是在讨论 AI，实际上最后讨论的一定是“人是什么”。

因为只要我们不断追问下去，就会发现，人们最初拿来捍卫“人类不可替代性”的东西，几乎全部都是某种能力：

AI 不会创造。
AI 不会理解。
AI 不会做复杂工作。
AI 不能接触现实世界。
AI 不能真正做工程。
AI 只能模仿已有的东西。
AI 可以写代码，但不能真正调试。
AI 可以给建议，但最终还是要靠人判断。

这些说法的问题在于，它们都默认了一件事：

人之所以重要，是因为人拥有某些 AI 永远无法拥有的能力。

可如果 AI 的发展方向就是不断吞掉这些能力呢？

那么每一次 AI 进步，我们就只能重新向后退一步。

最开始我们说：

AI 不会写代码。

后来它会了。

于是我们说：

写代码不算，真正难的是理解整个工程。

等它开始能够阅读几十万行代码、理解调用关系、修改架构之后，我们又说：

这也不算，真正难的是调试。

于是它开始读日志、分析 core dump、修改程序、重新运行测试。

然后我们继续说：

但它碰不到真实世界。

那么问题来了。

为什么不能把真实世界接给它？

一、程序员真正发生的变化，不是“写代码更快了”

今天很多人仍然把 AI 编程理解成一种效率工具。

过去一个函数需要写一个小时，现在让 AI 五分钟生成。

过去一个程序员一天写几百行，现在可以生成几千行。

于是他们觉得，这只是：

$\text{程序员} + \text{AI}$

就像过去：

$\text{程序员} + \text{IDE}$

或者：

$\text{程序员} + \text{编译器}$

但我觉得，这低估了正在发生的变化。

真正的变化不是“程序员写代码更快了”，而是：

写代码这件事本身，正在逐渐从人的工作中被剥离出去。

过去一个固件工程师的典型工作是：

理解需求，查协议，设计模块，写代码，编译，烧录，看日志，查寄存器，测波形，猜哪里错了，然后继续修改。

人在整个链条里是执行主体。

但今天这条链已经可以慢慢变成：

$\text{人提出需求} \rightarrow \text{AI理解协议} \rightarrow \text{AI设计架构} \rightarrow \text{AI修改代码} \rightarrow \text{AI编译} \rightarrow \text{AI根据结果继续修改}$

人真正需要做的，开始越来越集中在两个位置。

第一个是：

我到底要什么？

第二个是：

AI 给我的东西到底对不对？

也就是：

$\boxed{\text{Specification}} + \boxed{\text{Verification}}$

中间的 Implementation，正在越来越便宜。

这其实意味着，未来程序员最核心的能力未必再是：

“我能亲手实现这个系统。”

而更可能是：

“我能够把这个系统应该是什么说清楚，并判断实现出来的东西是不是对的。”

这已经不是同一种职业了。

二、甚至“调试”也未必天然属于人

有人会说：

写代码当然可以交给 AI，但调试不能。AI 又不知道真实硬件发生了什么。

这句话在今天有一定现实意义，但它不是原则性障碍。

假设一个模块出现问题。

现在工程师可能告诉 AI：

I²C 没有 ACK。

AI 问：

SDA 和 SCL 波形是什么样？

人去拿逻辑分析仪测，然后告诉它。

AI继续推理。

这时候，人其实承担的是一个非常特殊的角色：

$\boxed{\text{AI 与物理世界之间的接口}}$

人把现实世界里的东西转成信息，再喂给 AI。

但问题是，这个接口为什么必须是人？

逻辑分析仪本来就是数字设备。
示波器可以通过 USB、LAN、SCPI 等方式读数据。
电源可以远程控制。
烧录器可以自动下载固件。
摄像头可以观察 LED 状态。
温箱可以设置温度。
功率计可以输出测量值。

那么完全可以形成一个闭环：

$\text{AI} \rightarrow \text{修改代码} \rightarrow \text{编译} \rightarrow \text{烧录} \rightarrow \text{运行} \rightarrow \text{仪器测量} \rightarrow \text{AI读取结果} \rightarrow \text{继续修改}$

这时候，人连“把真实世界发生了什么告诉 AI”这一步都可以退出。

所以“AI 接触不到物理世界”并不是一道哲学上的墙。

它只是在说：

今天这个系统的传感器和执行器还没有完全接好。

摄像头就是眼睛。
麦克风就是耳朵。
力传感器、压力传感器、温度传感器就是触觉的某种展开。
机械臂就是手。
示波器甚至是一种比人的感官精确得多的“感觉器官”。

如果 AI 真正接入这些东西，它对物理世界的感知能力甚至未必需要模仿人类。

它可以直接“看”一个人眼根本无法看见的 25 GHz 波形。

三、工程从来不要求我们完全理解世界

这里会出现一个更加有意思的问题。

很多人可能会说：

就算 AI 可以自动设计、自动试验，但它未必真正理解自己做的东西。

问题在于：

工程真的要求完整理解吗？

我们可以看看飞机。

今天人类当然已经非常深入地理解了空气动力学。我们知道升力、阻力、边界层、失速、激波、压强分布，也有 Navier-Stokes 方程，有计算流体力学。

但真实空气流动依然极其复杂。

特别是湍流。

一个真实飞机周围的流场，不是我们在纸上写一个简单公式，就能彻底解释完的。

很多时候我们必须：

理论推导。
数值模拟。
风洞实验。
缩比模型。
结构测试。
最后实机试飞。

我们并不是因为已经“完全理解空气中的每一个涡旋如何运动”，飞机才终于能够起飞。

恰恰相反。

我们建立模型。

我们设计。

然后让现实世界来回答：

这个东西到底飞不飞得起来？

如果能飞起来，我们继续问：

在多大攻角下会失速？
高速情况下会怎样？
侧风条件呢？
一个发动机失效呢？
结构疲劳呢？
极端温度呢？

然后继续试验。

最终，我们真正依靠的是一个巨大的闭环：

$\text{模型} \rightarrow \text{设计} \rightarrow \text{实验} \rightarrow \text{反馈} \rightarrow \text{修正}$

这里真正的最终裁判从来不是设计者脑子里的理论。

而是：

$\boxed{\text{物理世界}}$

桥梁也是如此。

你可以有漂亮的有限元模型。

但最终还要载荷试验。

芯片也是。

仿真再漂亮，最终要流片，要 bring-up，要在真实电压、温度和工艺偏差下运行。

药物也是。

分子设计再漂亮，最后要做实验。

固件也是。

代码逻辑看起来完全正确，但真正烧进芯片以后，时序、干扰、硬件差异、边界条件仍然可能让它失败。

工程的核心并不是：

我能否对每一个微观过程都拥有完整解释。

而是：

这个系统是否在规定条件下可靠满足我的目标。

四、那么为什么 AI 不能自己做这个闭环？

一旦这样看，事情就会变得非常清楚。

如果人类工程师可以做：

$\text{设计} \rightarrow \text{试验} \rightarrow \text{发现失败} \rightarrow \text{修改}$

AI为什么不可以？

假设我们要设计一个散热结构。

AI生成第一版。
仿真温度太高。
自动修改。
第二版通过仿真。
制造样件。
热像仪采集数据。
发现局部热点。
重新建模。
继续优化。

只要这个循环中的信息能够被数字化，它就可以被接入 Agent 系统。

最后甚至可能出现一种我们今天不太习惯的工程形态：

AI 给出了一个极其奇怪的散热结构。人类工程师第一眼甚至看不懂为什么这样设计。但 CFD 仿真通过。机械强度通过。制造性通过。真实样件测试也通过。在相同成本下，它比人类设计的方案性能提高了 17%。

那么我们要不要用？

当然可以问：

为什么？

但从工程角度来说，更先要问的是：

它可靠吗？

如果它在我们规定的所有验证条件下都可靠，那它就已经具有工程意义。

五、“让现实裁决”比“让人理解”更重要

这会慢慢改变我们对“正确”的理解。

今天的软件工程里，我们习惯让人 review。

因为过去人是最好的验证器。

一个 senior engineer 看一遍代码，说：

这里有 race condition。这里状态机不对。这里可能越界。

于是我们认为：

人理解了，所以安全。

但这其实只是一种验证方式。

更强的验证是：

自动化测试。
静态分析。
形式验证。
故障注入。
边界条件测试。
长期压力测试。
实机测试。

如果 AI 可以自己生成测试，再主动寻找能够击穿自己方案的反例，它甚至可能比普通人类 review 更严格。

真正高级的 AI 工程系统不应该问：

“我怎么证明我写的东西是对的？”

而应该问：

“我怎样才能证明我写的东西是错的？”

然后不断攻击自己的方案。

生成极端输入。
制造异常时序。
拔掉某个传感器。
改变温度。
模拟 packet loss。
模拟 flash corruption。
模拟掉电。
模拟并发。
模拟器件老化。

直到越来越难找到反例。

这时候，人类今天承担的“验证者”角色，也会继续被压缩。

六、于是人类开始不断后退

我们可以把整个过程画成一条很有意思的后退路径。

最开始：

$\text{人设计} + \text{人实现} + \text{人验证}$

后来：

$\text{人设计} + \text{AI实现} + \text{人验证}$

再后来：

$\text{人定义需求} + \text{AI设计} + \text{AI实现} + \text{人验证}$

再后来：

$\text{人定义需求} + \text{AI设计} + \text{AI实现} + \text{AI验证}$

最后甚至可能是：

$\text{人表达意图} \rightarrow \text{AI把意图形式化} \rightarrow \text{AI设计} \rightarrow \text{AI实现} \rightarrow \text{AI验证}$

这时候，人还剩下什么？

好像只剩下了一句话：

我想要什么。

七、这个时候我们才真正遇见了“主体”

假设我告诉 AI：

我要一辆车。

AI可以继续问：

你希望多少钱？
多安全？
多快？
多舒适？
多省电？
多漂亮？

如果这些东西都可以量化，AI就可以不断优化。

可问题始终会存在：

为什么你想要一辆车？为什么你愿意拿三十万元买，而不是二十万元？为什么你愿意牺牲一点续航换更好的操控？为什么你觉得这种外观漂亮？为什么安全和性能冲突时，你选择安全？

这些问题继续往下追，最终就会落到：

$\boxed{\text{我想要}}$

AI可以预测我的偏好。

甚至可能预测得比我自己还准确。

它知道我过去买了什么，浏览了什么，说过什么，喜欢过什么。

它可以说：

根据你的历史，你大概率会选择 A。

但：

$\text{AI认为我想要A}$

永远不等于：

$\text{我想要A}$

这是两种不同性质的事实。

第一个是第三人称描述。

第二个是第一人称体验。

八、AI 越强，人类能力反而越不适合定义“人”

过去我们经常通过能力定义人。

人会语言。
人会计算。
人会创造。
人有理性。
人会使用工具。
人会设计。
人会编程。

可 AI 的出现正在一个一个拆掉这些定义。

如果 AI 写诗比绝大多数人好，那么“会写诗”显然不能定义人。

如果 AI 写代码比绝大多数程序员快，“会编程”也不能定义人。

如果 AI 能设计芯片、设计机械、做数学证明，那么这些都只能说明：

这些能力并不是人的本体。

它们只是：

$\boxed{\text{人所拥有的能力}}$

就像我们的手。

没有手，人依然是人。
不会积分，人依然是人。
不会编程，人依然是人。
不会写作，人依然是人。

甚至有一天，如果一个人所有认知劳动都交给 AI，他仍然不是因此就消失了。

因为能力不是主体。

九、于是 AI 反而逼我们重新看见“我”

这件事情很有意思。

过去技术不够强的时候，我们很容易把人的价值建立在技能上。

我会这个。
我会那个。
别人不会。
机器不会。
所以我重要。

AI正在把这种价值基础一块块抽掉。

这会让很多人非常不安。

因为一个程序员可能花十年建立自己的职业身份：

我会写 C++。我能解决复杂 bug。我理解架构。普通人做不了这些事情。

然后突然有一天，他发现 AI 几分钟做完了。

这不仅是生产力问题。

这是身份危机。

所以很多人会本能地说：

AI 不行。这种复杂东西它不会。它只能模仿。最后还是得靠人。

这背后当然可能有现实依据。

但有时候，它也可能是一种心理防御：

如果 AI 真能做到，那么我的重要性来自哪里？

而我觉得真正的答案恰恰是：

你的重要性从来不应该来自“机器不会做什么”。

如果人的价值必须建立在机器的无能之上，那机器每进步一步，人就要恐慌一次。

真正稳定的答案只能来自主体本身。

十、How 会越来越廉价，What 会越来越重要

人类文明过去大量的劳动其实都在解决：

$\boxed{\text{How}}$

怎么造飞机？
怎么生产芯片？
怎么治病？
怎么写程序？
怎么设计桥梁？
怎么提高产能？
怎么优化路线？
怎么做一个产品？

技术越进步，How 越便宜。

AI可能把这个过程推进到一个极端。

你只说：

我要这个。

它就把中间所有 How 解决掉。

那么人类真正剩下的问题反而变成：

$\boxed{\text{What}}$

我究竟想要什么？

而当 What 继续往下追，就会进入：

$\boxed{\text{Why}}$

为什么我要它？
什么样的生活值得过？
什么东西值得牺牲？
什么风险可以接受？
效率重要还是自由重要？
舒适重要还是意义重要？
我要成为怎样的人？

这些问题 AI 当然也可以参与讨论。

它甚至可能分析得比绝大多数人更系统。

但仍然存在一个根本区别。

AI可以给你回答：

“如果你重视长期健康，那么 A 最优。”

但只有你能够说：

“可是我不想选 A。”

这个“不想”，就是主体留下来的痕迹。

十一、真正不可替代的，不是能力，而是“位置”

所以“AI 能不能替代人”其实应该拆开。

AI能不能替代人的功能？

当然可能。

而且应该大胆假设：

$\text{凡是能力，都可能继续被替代}$

不要轻易宣称：

这是人类最后的能力堡垒。

历史已经多次证明这种宣言很危险。

但还有另一个问题：

AI 能不能替代我成为我？

这里“替代”这个词开始失去意义。

因为“我”并不是一个工作岗位。

不是某个功能模块。

不是一组技能。

“我”是世界对于一个第一人称主体的显现方式。

你可以制造一个系统，完全复制我的语言。

复制我的决策。

复制我的记忆。

预测我的偏好。

甚至复制我的性格。

它仍然没有因此证明：

我的第一人称体验已经转移到了那里。

所以：

$\text{功能等价}$

不自动推出：

$\text{主体同一}$

这是两个问题。

十二、人可以一路后退，但“我”不会因为后退而消失

这也许才是 AI 时代最有意思的事情。

今天我们从写代码退到定义需求。

以后从验证退到设定验证标准。

再以后，从设定验证标准退到表达目标。

我们的能力位置可能不断后退。

但这个过程并不一定意味着人的消失。

它反而可能像一场剥离。

剥掉计算。
剥掉记忆。
剥掉写作。
剥掉设计。
剥掉编程。
剥掉推理的一部分。
剥掉执行的一部分。

最后留下的不是一个什么都不会的人。

而是：

$\boxed{\text{主体本身}}$

我存在。
我经历。
我喜欢。
我厌恶。
我痛苦。
我希望。
我想要。

到这里，问题已经彻底不再是计算机科学问题。

它重新回到了最古老的主体哲学。

AI 也许最终会比我们更会设计飞机。

比我们更会写程序。

比我们更会做实验。

比我们更会优化整个社会的生产系统。

甚至它可能能够完成绝大多数我们今天称为“智力劳动”的事情。

但这仍然不能回答：

这一切究竟为了谁？

机器可以越来越完整地回答：

怎么做。

却仍然必须面对一个在逻辑上先于“怎么做”的问题：

为什么要做？

而只要最后还有一个人说：

“因为这是我想要的。”

主体就还没有消失。

所以 AI 真正带来的，也许不是“人类变得无用”。

而是它逼着我们把那些曾经误以为属于“人之本质”的能力一层层交出去，直到最后不得不面对那个无法再通过技能定义的东西：

$\boxed{\text{我}}$

AI 可以替代我所能做的一切。

但它不能仅仅因为比我更强，就成为那个“我”。