《人工智能的邊界》
作者：張軍平
版本：湖南科學(xué)技術(shù)出版社
2025年7月
人工智能的設(shè)計(jì)主體還是人類(lèi)
在第三次人工智能熱潮里，人工智能似乎已經(jīng)無(wú)處不在，各行各業(yè)都在嘗試用人工智能來(lái)替代某些傳統(tǒng)元素，從而獲得新質(zhì)生產(chǎn)力。人工智能似乎無(wú)所不能，能聽(tīng)、能看、能說(shuō)、能唱、能決策、能控制。但它是否能完全取代人類(lèi)呢？
這可以從三個(gè)層面來(lái)剖析：（1）人工智能可以部分取代人類(lèi)完成的工作；（2）人工智能能否完成人類(lèi)所有的工作；（3）人工智能能否像人腦一樣完成這些工作。
對(duì)于第一個(gè)問(wèn)題，答案顯然是肯定的。本書(shū)的內(nèi)容正是在介紹這場(chǎng)正在發(fā)生的AI變革。對(duì)于后兩個(gè)問(wèn)題，答案卻是否定的。這可以從五個(gè)主要層面來(lái)分析，包括人對(duì)自身的了解、人類(lèi)的努力、人與自然進(jìn)化的比較、對(duì)任務(wù)的形式化，以及耗能情況。
人能否完全了解自己呢？我們不妨想象一只只能在二維平面上行走的螞蟻。如果這個(gè)二維平面實(shí)際上是一個(gè)莫比烏斯環(huán)（舉例來(lái)說(shuō)，將一個(gè)紙條一端扭轉(zhuǎn)180度后再和另一端粘起來(lái)，即可形成莫比烏斯環(huán)），螞蟻又無(wú)法垂直于這個(gè)環(huán)走到環(huán)的邊界，或者環(huán)的兩側(cè)邊界在螞蟻的認(rèn)知中是無(wú)限的。那么，如果螞蟻沿著莫比烏斯環(huán)一直向前爬，它會(huì)不知不覺(jué)地爬到環(huán)的背面，再爬回正面。當(dāng)莫比烏斯環(huán)上缺乏任何可辨識(shí)位置的信息時(shí)，對(duì)螞蟻而言，這個(gè)世界可能是沒(méi)有盡頭的，因?yàn)樗鼪](méi)有辦法脫離這個(gè)環(huán)來(lái)了解這個(gè)世界。但如果有一個(gè)高一維（即三維）的生物在觀察螞蟻，那個(gè)生物就會(huì)很清楚，螞蟻其實(shí)生活在一個(gè)陷入死循環(huán)的特殊幾何結(jié)構(gòu)的世界里。
《我，機(jī)器人》（2004）劇照。
人類(lèi)想完全了解自己，其中的原理與生活在莫比烏斯環(huán)上的螞蟻類(lèi)似。如果缺乏跳出這個(gè)環(huán)的能力，人類(lèi)是無(wú)法完全了解自己的。就像孫悟空縱然能一個(gè)筋斗翻十萬(wàn)八千里，在五指山撒泡尿以證明到此一游，卻最終還是沒(méi)逃脫如來(lái)佛的手掌一樣。既然自身都無(wú)法完全明了，如何讓以人類(lèi)為模仿主體的人工智能更了解人類(lèi)呢？就更不用說(shuō)要完全取代人類(lèi)，形成與人類(lèi)一樣功能的強(qiáng)人工智能了，畢竟人工智能的設(shè)計(jì)主體還是人類(lèi)。
再者，人工智能熱潮中集聚了全世界最聰明的科學(xué)家，他們?cè)跒橥ㄓ萌斯ぶ悄埽ˋGI）努力奮斗著。然而，這并不意味著其他領(lǐng)域或者以前的科學(xué)家就不聰明。在人類(lèi)文明史上，每一項(xiàng)技術(shù)的突破都凝聚著同樣聰明的科學(xué)家的智慧和努力。
目前的人工智能研究，可以用飛機(jī)與鳥(niǎo)來(lái)比擬。像鳥(niǎo)類(lèi)一樣飛行，一直是沒(méi)有翅膀的人類(lèi)的夢(mèng)想之一。在14世紀(jì)末期，傳說(shuō)我國(guó)明朝的士大夫萬(wàn)戶(hù)就曾將自制的火箭綁在椅子上。他兩手各舉一只大風(fēng)箏，坐在椅子上（也有說(shuō)法是他坐在一只仿制的飛鳥(niǎo)上），希望等火箭將他帶上天后，可以用風(fēng)箏滑翔著地。但當(dāng)火箭點(diǎn)燃后，很不幸發(fā)生了爆炸，他成了犧牲者。他因是“第一個(gè)試圖利用火箭飛行的人”而被世人銘記。
《我，機(jī)器人》（2004）劇照。
真正有意義的飛行始于1903年，萊特兄弟發(fā)明了飛機(jī)。自此以后，人類(lèi)研發(fā)的飛機(jī)越飛越遠(yuǎn)、越飛越高，載客量也越來(lái)越大。但是，時(shí)間過(guò)了120多年，全世界那么多聰明人為飛機(jī)的設(shè)計(jì)做出過(guò)貢獻(xiàn)，但至今尚未出現(xiàn)能夠像真鳥(niǎo)一般飛行的仿生鳥(niǎo)。我們也還沒(méi)仿制出如瓢蟲(chóng)或隱翅蟲(chóng)一般能效極高、想象力極豐富的飛行翅膀。人工智能的發(fā)展過(guò)程與此有著相似之處。當(dāng)今人工智能在性能上的大突破，主要是歸功于將不少人工智能任務(wù)聚焦于與鳥(niǎo)的飛行類(lèi)似的單一指標(biāo)上，即轉(zhuǎn)化成預(yù)測(cè)任務(wù)或大模型里等同于預(yù)測(cè)的自回歸來(lái)求解，而其他智能元素在現(xiàn)階段或多或少被忽略了。這導(dǎo)致人工智能實(shí)現(xiàn)出來(lái)的智能，與人類(lèi)的智能有著顯著的不同。這也提醒我們，需要有清醒的認(rèn)識(shí)，即使投入了最聰明的科學(xué)家，也很可能會(huì)與研制飛機(jī)一樣，雖然在模仿人類(lèi)智能的某些方面取得巨大突破，但要模仿出像人一樣的智能體，還為時(shí)尚早。
算法更多是從信息處理的角度模擬人腦的功能
為什么會(huì)如此呢？不妨看看自然界的進(jìn)化歷程。生命在地球上已存在約38億年，而現(xiàn)代人類(lèi)——智人的出現(xiàn)時(shí)間不過(guò)30萬(wàn)年。如果把生命的時(shí)間濃縮成一年，則人類(lèi)文明的時(shí)間相當(dāng)于8分鐘多一點(diǎn)。雖然人類(lèi)利用這點(diǎn)時(shí)間成了地球的絕對(duì)主宰，制造了大量的工具和建筑物，但和自然進(jìn)化的生命相比，這些工具和建筑物在細(xì)節(jié)上仍然很粗糙，所謂慢工出細(xì)活。就拿吸管或針來(lái)說(shuō)，雖然人類(lèi)能做出尖銳的、中空的針，但在顯微鏡下觀察，其結(jié)構(gòu)仍然顯得過(guò)于簡(jiǎn)單。相比之下，蚊子的“吸管”（口器）里藏著六根針，其中兩根像刀片，兩根像鋸子，它們通過(guò)相互配合來(lái)割開(kāi)皮膚，另外兩根針里的唾液管負(fù)責(zé)吐出具有麻醉作用的唾液，而食管則負(fù)責(zé)吸血。其實(shí)也不止蚊子的口器如此復(fù)雜，仔細(xì)觀察就會(huì)發(fā)現(xiàn)毒蛇的尖牙、蜘蛛的尖牙、蝎子的尾針等都有著更為復(fù)雜的顯微圖像。而噬菌體的結(jié)構(gòu)，類(lèi)似登月艙，不禁讓人驚嘆生命進(jìn)化的精妙設(shè)計(jì)。
自然進(jìn)化的生命還有一個(gè)人類(lèi)至今也未能成功模仿的特點(diǎn)，那就是基因的按時(shí)表達(dá)能力。如果我們把雙螺旋結(jié)構(gòu)的基因看成是一段程序，這段程序里包含了我們大部分已解碼成功的外顯子和部分已經(jīng)解讀但還有很多未知內(nèi)容的內(nèi)含子。外顯子和內(nèi)含子的共同作用決定了人類(lèi)的成長(zhǎng)。這段程序比人類(lèi)目前能編制的任何程序都要精妙。它發(fā)展出的很多功能像是裝了定時(shí)器一般能夠按時(shí)表達(dá)，但卻沒(méi)有無(wú)限制地延長(zhǎng)自己的代碼長(zhǎng)度。
相比之下，人類(lèi)編制的代碼還只能針對(duì)特定任務(wù)，來(lái)一個(gè)新任務(wù)還得重新編程。雖然大模型的“預(yù)訓(xùn)練+微調(diào)”的做法不需要對(duì)算法進(jìn)行大的改動(dòng)，但調(diào)參依然是一項(xiàng)艱巨的任務(wù)，且只能處理類(lèi)似的科學(xué)問(wèn)題。
另外，我們?cè)O(shè)計(jì)的軟件（算法）和硬件能否替代人腦？從算法層面看，目前主流的深度學(xué)習(xí)和生成式人工智能并未采用與人腦類(lèi)似的形式。比如目前用于優(yōu)化深度模型必備的反向傳播算法或其變形體，并沒(méi)有證據(jù)表明人類(lèi)的大腦使用類(lèi)似的機(jī)制進(jìn)行推理和計(jì)算等。相反，這些算法更多的是從信息處理的角度模擬人腦的功能。
另一個(gè)被認(rèn)為有希望模仿大腦的模型是脈沖神經(jīng)網(wǎng)絡(luò)。它模擬了生物神經(jīng)系統(tǒng)中信號(hào)的傳播方式，通過(guò)在突觸間交換“神經(jīng)遞質(zhì)”來(lái)傳播脈沖信號(hào)。其主要的優(yōu)勢(shì)是耗能低、可塑性強(qiáng)，但目前表現(xiàn)出的性能還無(wú)法與深度學(xué)習(xí)這一主流技術(shù)媲美，甚至不得不通過(guò)借鑒深度學(xué)習(xí)的思路、背離其生物啟發(fā)的初衷來(lái)增強(qiáng)其性能。而硬件模仿方面，雖然能見(jiàn)到號(hào)稱(chēng)與人腦神經(jīng)元數(shù)量相仿的數(shù)字大腦的報(bào)道，但數(shù)字大腦要擁有與人腦相同的功能還言之過(guò)早。綜合來(lái)看，要形成與自然進(jìn)化媲美的智能體，人類(lèi)還有相當(dāng)長(zhǎng)的路要走。
《我，機(jī)器人》（2004）劇照。
除此之外，要想讓人工智能能夠替代一切工作，我們還需要解決將問(wèn)題形式化的任務(wù)。但正如20世紀(jì)80年代提出的莫拉維克悖論所言：“人類(lèi)覺(jué)得簡(jiǎn)單的，機(jī)器覺(jué)得復(fù)雜；人覺(jué)得復(fù)雜的，機(jī)器覺(jué)得簡(jiǎn)單?！睆哪撤N意義上來(lái)說(shuō)，它表明還有相當(dāng)一部分的工作無(wú)法形式化，也意味著人工智能不可能完成所有人類(lèi)的工作。
另外，耗能問(wèn)題也是亟待解決的問(wèn)題。現(xiàn)在人工智能的性能突破，非常依賴(lài)散播在世界各地的顯卡或GPU集群。它對(duì)電量的依賴(lài)，正快速逼近甚至超過(guò)人類(lèi)在某地區(qū)可提供的最大電力負(fù)荷。反觀人類(lèi)，一天消耗的能量遠(yuǎn)低于人工智能在顯卡時(shí)代的需求，卻也能自如地進(jìn)行快思維和慢思維，做著人工智能覺(jué)得困難的因果推斷。
更何況，人工智能是人類(lèi)設(shè)計(jì)的。而人類(lèi)至今也沒(méi)有弄明白人類(lèi)最為緊要的意識(shí)從何而來(lái)。雖然能見(jiàn)到的關(guān)于意識(shí)的書(shū)籍已經(jīng)不少，但還沒(méi)有哪一本被公認(rèn)是完全正確的。
而人工智能如果要取代人類(lèi)，那么意識(shí)的問(wèn)題是必須弄明白的。但這個(gè)問(wèn)題也許永遠(yuǎn)沒(méi)有答案。而人工智能，在沒(méi)有解決這些問(wèn)題之前，也許只能是一臺(tái)沒(méi)有靈魂的機(jī)器。然而，我們還是要保持警醒，如果不發(fā)揮人的能動(dòng)性，不持續(xù)學(xué)習(xí)，假如真有一天人工智能全方位替代了人類(lèi)的工作，人類(lèi)很有可能不會(huì)因此變得更聰明，反而有可能會(huì)因?yàn)檫^(guò)分依賴(lài)人工智能而變得更低能。
本文選自《人工智能的邊界》，已獲得出版社授權(quán)刊發(fā)。
原文作者/張軍平（復(fù)旦大學(xué)計(jì)算與智能創(chuàng)新學(xué)院教授）
摘編/何也
編輯/張進(jìn)
導(dǎo)語(yǔ)校對(duì)/趙琳
