2023 年,自疫情和俄乌战争后,chatgpt 成为了世界的新闻焦点。与 AI 有关的各类讨论迅速淹没了社交空间,其中不乏一些耸人听闻的言论。本文的目的是为了破除一些关于 AI 的迷信,以及由此带来的不必要的恐慌,即祛魅。
大语言模型只是一个更高级的模式处理机器
与 chatGPT 交谈过的人兴许都感受到他的威力。从拟人层面看,它的逼真、灵活远远超过了像微软小冰那样的聊天机器人,从知识层面看,它就像一部会说话的百科全书,大大节省了我们查阅资料的时间。面对这种强大的造物,不免有人会产生崇拜之情,甚至神化它。我们看到不断有人声称 chatGPT 产生了自主意识,随之而来的就是各种 AI 阴谋论:chatGPT 被诱导说出各种反人类的言论,以此证明它有独立思想,并且将会威胁人类。
且不说 GPT 有多容易被弱智吧的问题调戏,就被诱导说出反人类言论而证明其思想独立这一点,就是完全站不住脚的。好比我训练一只鹦鹉天天骂人,它就是一只有独立思想的反人类鹦鹉了?我们恰恰会说它是鹦鹉学舌,只会模仿而没有思考能力。你可能会说,gpt 并不是被简单的诱导重复这些话。那么请看香港那些毒教材,上面没有直接写着反中,但字里行间明嘲暗讽,难道受此荼毒的香港废青高举殖民者的旗帜,冲上大街袭击百姓,我们就能称赞他们是有独立思考的年青一代了吗?
因此道理是显然的,即便 GPT 真的有自我意识,也绝非以这种耸人听闻、夺人眼球的方式来证明。那么 GPT 究竟有没有自我意识呢?或者说有没有“智能”呢?若要回答这个问题,恐怕得先定义什么是智能。我在此不牵涉过多的哲学上的讨论,仅谈谈个人的有限认识。
我以为,智能,即人之所以为人的那部分,或人工智能的终极理想,在于对任何变化的适应,即主观能动性。这种对变化的适应,不是‘switch case’语句那样对固定情况的分类讨论,而是因时因地制宜的适应,哪怕所面临的情况此前从未出现。这种适应蕴含着对矛盾的包容。它不会像机器遇见故障就彻底死机,而是尽最大可能继续工作,并将这种新情况与旧经验的矛盾不断的纳入到它既有的经验中。人类智慧的不可思议,在于它能将这个矛盾的世界纳入秩序,并且理解乃至赞赏这种矛盾的不可或缺。
因此,大语言模型并没有智能。他所做的只是一种更高级的模式处理罢了。我们与其抬高 GPT 的能力,不如说 GPT 降低了某些工作的门槛,尤其是那些过去人们普遍认为必须由受过良好教育的人来从事的种种脑力劳动,并且由此破除了原本这些工作因为其知识密集的特点而造成的比体力劳动高人一等的表象。现在随着 GPT 的出现,这些工作的价值将得到重新审视:一方面是曾经多少有些优越感的白领打工人对自身价值(乃至虚荣)的重新审视,另一方面则是老板对这些员工工资的重新审视。一同将受到重新审视的,是“教育改变命运”这句“箴言”。(教育能否改变命运尚且存疑,教育应能够刺激人们更清醒地认识自己的命运)
我们不止一次地在历史上看到,随着新技术的出现,技术工人待价而沽、引以为豪的一技之长被机器取代,同时他们的位置被更廉价的普通工人所取代。因为有了这些经验,我们就不至于像早期那些卢德主义者一样,认为是机器造成了他们的失业。同样地,随着 GPT 模型在生产领域的广泛运用,我们能够预见越来越多的人将离开他们“应许”的岗位。(这种情况目前已经屡见不鲜:北大毕业养猪、当月嫂,985 毕业生摆摊,研究生扫大街、端盘子洗碗。知识分子劳动化、劳动人民知识化,曾经正面教员未能实现的事,现在让反面教员做成了。)但我们不会说是 AI 造成了他们的失业。我们更不会说那“应许”的饭碗,是知识分子不愿脱下的长衫。毕竟这件意识形态的长衫是从宣传机器里面纺出来的,是应试教育亲手为我们穿上的,至于为什么现在这长衫如此碍眼不合时宜,因为时代变了。又或者说这才是历史的常态,功名利禄、出将入相才是一种变态。
(千头万绪啥都能拎出来展开讲,但是精力有限,就这样戛然而止吧)
[本文吸纳了阳老的一些想法]