AI为何到底还没有替代人类 —— 关于软件设计、达达主义与人类的不可替代性

Smile_slime_47

AI为何到底还没有替代人类 —— 关于软件设计、达达主义与人类的不可替代性

在如今AI的浪潮下,AI替代人类的声音愈演愈烈,有人欢喜有人愁,有人拥抱科技,觉得AIGC已经无法区分与Human-GC的区别,认为AI已经通过了图灵测试;也有人出于多方面的因素反对AIGC,觉得存在版权问题、质量仍然无法保证、作品灵魂的丧失

我们不妨下一个更严格的定义:从现象上来看,AI正在取代所有的内容产出的设计工作,其中最明显的就是以工科为代表的软件开发行业以文科为代表的的视觉设计行业,其中

我本人并不是一个AI的推崇者(至少不是狂热的粉丝),我个人作为一个在平时工作中既频繁地用到大模型,却又始终在保持克制(我个人很少会真正的vibe-coding,大部分时间将大模型作为技术顾问,但最终的细节还是由自己来把控)的开发者,也一直在思考一系列的问题:

  • 为什么在“AGI”、“技术奇点”临近的预言下,我们依然不可替代?
  • 人类与AI的差异性到底在哪里
  • 为什么AI可以生图、写代码,却既不能写出《老人与海》,也不能证明哥德巴赫猜想?

我无意探讨AI到底能否替代人类,只是想提供一个视角,帮助大家理解:现如今 AI 的争议性,究竟出自何处?

达达主义?

在20世纪初,随着资本主义工业化和世界大战等多方面的时代因素,诞生了一种名为达达主义的文艺运动,我并不想在这里过多的描述达达主义本身是什么样的,而是想聊一下达达主义讨论的核心,这个问题在一定程度上是和如今AIGC面临的问题是非常接近的:当内容被工业化流水线批量生产后,艺术的本质还剩下什么?

在文艺复兴以前,艺术作品的核心目的就是思想传达,正如一千个读者就有一千个哈姆雷特一样,思想本身是具有偶然性的,不同的人会写出不同的作品。但是随着资本主义的兴起,内容逐渐具有了商业属性,资本主义更多强调的是可复刻性内容逐渐不再传达思想,而是逐渐沦落为可以被流水线化批量生产的产品

于是人们开始思考:当内容不再只为艺术服务后,艺术(设计)的本质是什么?

如今的AIGC,某种意义上是极致的反达达主义。 它是理性、概率与统计学的极致产物,它是工业化生产的巅峰。它消灭了“偶然”,追求的是基于海量数据的“最优解”

设计的本质是什么

我认为不论是工科、理科还是文科,一切的设计,核心目的都是服务于设计者本人的思想传达,如果艺术的本质在于艺术家的思想传达,那么不论是软件设计还是视觉设计,我认为都是某种层面上的艺术,优秀的软件架构设计与算法设计,就是工科领域的艺术品

对于工科,我们比较熟悉的软件/架构设计,实际上传达了设计者对于业务的认知(某种意义上这一点和DDD或者本体论都是契合的),业务专家和架构师对于整个系统的业务建模和设计,会深刻地影响系统里其他的开发者的认知

  • 如果你在设计某个规则系统时,采用了泛化的思想,用经过抽象和归纳的规则去实现,就是认为这个场景是一个可知且可抽象的场景,而这一点也是和规则/建模驱动契合的
  • 如果你在设计某个规则系统时,采用了特化的思想,针对不同的场景采用不同的定制化规则,就是认为这个场景是一个不可知且多变的场景,而这一点也是和数据驱动契合的

这两种方案可能都能跑通(尚且不论哪一种设计方案是更优的),但选择哪一种,完全取决于架构师个人的认知与偏好。这就是设计的个人色彩,也是达达主义所主张的:艺术(设计)是具有偶然性的

偶然性也导致了设计工作本质上是一个难以验证和量化的工作,当架构师设计出一个优秀的架构时,也很难从某些架构直接的指标上去评价设计的优劣,往往只能从开发成本、扩展性等间接指标来侧面印证

设计的偶然性出自人的阅历是不同的(人与AI最大的鸿沟)

这一点是我最想核心探讨的一点,人和AI如今最大的差异性在哪里。其实这一点既意料之外又情理之中,仍然是老生常谈的问题:训练语料和上下文获取效率的质与量的巨大Gap

往大了说->人的自由意志

设计是人自由意志的体现,每个人之所以为他自己,就在于人既会受到环境的塑造,又会自发地表现出与环境的差异性,导致每个人都是与众不同的存在。人的自由意志本身就是在复杂的生活阅历、环境因素和对环境的认知下产生的,而AI是缺少这部分的,也技术缺少对于世界的主观认知

设计的关键在于思想的传达,而思想本身也是创作者基于过往经历的体现,每个人创作的作品都能在某个维度上映射出自己一生的缩影。而AI实际上是不存在经历的,从诞生之初的意义就是为人类服务,因此也无从谈起是否具有自己的思想

缺少对世界的主观认知是AI幻觉的一个很大的来源之一,也是难以产生突破人类领域的真正伟大的文学作品与科学创新的瓶颈,因为AI没有经历过义务教育,也没有什么具身智能去切身实地地在现实中生活过,更不用提现在的AI上下文难以支持如此巨大的记忆工程,而实际上,一个人在过去无意间说的某句话,是可能深切地影响另一个人的一生的。如果海明威没有上过战场,经历过绝境,很可能就写不出老人与海,AI也许能模仿出海明威的文学风格,但也许永远都写不出这样具有深刻内涵的作品

往小了说->团队合作的原罪

哪怕在具体的工作中,阻碍AI取代人类的核心Gap也是巨大的隐性知识的信息差。

对于架构师or产品经理而言,能够和手下的开发者讲清楚需求背景、讲清楚设计方案,并把控好开发周期和质量管控是一件极其考验个人沟通能力、设计能力、管理能力的高阶技能,很多人难以一次性把自己想表达的东西讲清楚

正所谓我想表达的≠我实际说出来的≠你实际听到的≠你所理解的我想表达的,这也是为什么项目管理差的团队会频繁拉通对齐,被巨大的沟通成本拖垮的原因,不会拆解需求和沟通的程序员自然也用不好AI-Coder

而目前AI的上下文获取渠道集中于文本(有的AI-Coder可以自己看代码),大体上是一位能力出众的伸手党,只会坐在那里不动然后等你告诉他需要做什么

AI领域的上下文工程确实一直在进步,诸如Cursor、OpenCode等产品都展露出了针对明确的开发需求下优异的上下文理解能力,但是在实际的工作中,还要考虑更多隐形的没有同步的上下文:代码的历史包袱、公司内部的业务知识、上下游团队的妥协、公司政策的约束、各种指标的平衡、难以讲清楚的业务价值等等,很多信息在一个紧密的团队里大家能通过默契、口口相传、拉通对齐来同步,但是对于AI来说,这些都是使用者需要去从零补齐的额外的信息真空

团队合作会带来的巨大的沟通成本,这也是为什么前沿的研究团队相比集中力量办大事,更侧重的是专家构成的外科手术团队,充分依靠个人的直觉和能力,而非“人海战术”来完成那些更加需要偶然性的工作 —— 一个人解决不了哥德巴赫思想,一百亿个人加在一起,也仍然无法解决

在奇点到来之前

上面的结论是不是比较反直觉?因为许多公司的价值观一向认为“人是可以被替换的螺丝钉”、“集中力量办大事”。但是我们确实无法否认的是,软件设计必然映射了一个人对于业务的独特认知,因此也必然是具有不可复制的偶然性的*,哪怕是对于相同的业务场景,不同专业出身的人也会从不同的角度去看待和解构问题**

回过头看,AI现在最适合做的是什么

在短期来看(可能是有生之年,也有可能是短短的一两年),我认为AI仍然不适合应用在那些依赖于创造性和偶然性、需要个人意志的设计工作,我相信在未来的某一天(可能是AGI),会迎来AI替代人类的那一天,但至少现在技术奇点还尚未到来

我们既不能盲目崇拜个人英雄主义,也不能无视个人的自由意志能够发挥出的力量

我们真正需要思考的也许并不是AI到底能做什么,人类到底能做什么;而是到底哪些工作是真正依赖个人力量和直觉,具有偶然性和创造性的。只要我们还在用自己的经历、痛苦和思考去定义什么是好的设计,我们就依然是这个世界的达达主义者,是 AI 无法模仿的偶然

Comments