 當(dāng) AI 活成了你的樣子 而你活成了狗 文 | 史中 （零）你被人弄死的概率，比被 AI 弄死的概率大多了 AI 會(huì)征服人類(lèi)嗎？ 說(shuō)真的，與其問(wèn)這個(gè)問(wèn)題，還不如問(wèn)：一群人類(lèi)會(huì)征服另一群人類(lèi)嗎？ 讓我猜猜，打開(kāi)這篇文章時(shí)，你并不快樂(lè)。 老媽執(zhí)意去保健品宣傳活動(dòng)上領(lǐng)雞蛋，結(jié)果買(mǎi)了個(gè) 5000 塊的“量子床墊”，昨晚你和她電話(huà)里吵了一架；你生氣睡不著，早晨起晚，擠進(jìn)地鐵車(chē)廂時(shí)踩到一個(gè)壯漢的腳，他對(duì)你口吐芬芳，你強(qiáng)忍沒(méi)還嘴；到了公司，老板說(shuō)客戶(hù)要改方案，組里的馬屁精把鍋無(wú)縫甩給了你，接下來(lái)幾周你都得加班；你失魂落魄端著咖啡走到工位，一個(gè)趔趄全潑在了電腦上；你趕緊關(guān)機(jī)擦水，手機(jī)彈出女朋友的消息：“彩禮的事兒，我媽說(shuō)不能再少了?！?/span> 你仰天長(zhǎng)嘯：“老天爺，你下 Dior 吧！超市我吧！” 然后，窗外天氣晴朗，只有周遭同事噼里啪啦打字的聲音，如同輕蔑的嘲諷。 你的故事未必相同，但意思肯定大差不差：總之，在被 AI 征服前，你早已被人類(lèi)征得服服的了。 而且別誤會(huì)，這篇文章不是來(lái)救你的，只是讓你死個(gè)明白。 我的意思是：對(duì)你來(lái)說(shuō)，被人類(lèi)征服和被 AI 征服，本質(zhì)上并沒(méi)有區(qū)別。因?yàn)槿祟?lèi)和 AI 并沒(méi)有區(qū)別。 我們所知的歷史，無(wú)非是一場(chǎng)漫長(zhǎng)的生存戰(zhàn)爭(zhēng)——它不是“所有人對(duì)所有人的戰(zhàn)爭(zhēng)”，而是“所有智能體對(duì)所有智能體的戰(zhàn)爭(zhēng)”。 車(chē)輪狂卷煙塵，從不在乎誰(shuí)伸出的螳臂。 我建議你找個(gè)安靜的角落，看我一點(diǎn)一點(diǎn)為你 Loading 血淋淋的真相。
（一）智能的本質(zhì)是壓縮 剛才我提到了一個(gè)概念，智能體。 我們不妨先掰扯清楚一個(gè)概念——啥是“智能”？ 你大概用過(guò)壓縮軟件，WinRAR 之類(lèi)的。（雖然你肯定沒(méi)給人家付過(guò)錢(qián)） 但你估計(jì)不會(huì)猜到，掀開(kāi)智能的蓋頭，里面的家伙竟然是“壓縮”。
你有沒(méi)有好奇過(guò)，憑啥一個(gè) 20M 的東西壓一下就能變成 15M？解壓縮又能恢復(fù) 20M？中間那 5M 怎么憑空消失的？又是怎么回來(lái)的？ 這里，我們舉個(gè)簡(jiǎn)單的例子： “中哥是漢子，小李子是漢子，加藤鷹是漢子?！?/span> 算上標(biāo)點(diǎn)，這句話(huà)有 20 個(gè)字。 “中哥、小李子、加藤鷹都是漢子?！?/span> 這句話(huà)有 15 個(gè)字。 同樣的意思，我改寫(xiě)了一下，就實(shí)現(xiàn)了壓縮。 看上去簡(jiǎn)單吧？其實(shí)很難。 你想想，如果讓一個(gè)不懂中文的人來(lái)壓縮這段話(huà)，勒死他都做不到。咱們之所以能壓縮，首先是因?yàn)檎莆铡爸形恼Z(yǔ)法”，其次是明白“集合”的邏輯概念。 這是啥？是 TMD 智能??！
再舉個(gè)簡(jiǎn)單的例子： 現(xiàn)在你目視前方，視野里肯定有一副畫(huà)面。 如果你想把這幅畫(huà)面復(fù)述給我，那你得記下每個(gè)像素的具體顏色。這太麻煩了。 為了簡(jiǎn)便，你可以只記錄其中關(guān)鍵的物品、線(xiàn)條、顏色、位置關(guān)系，復(fù)述給我。 比如“桌子上有個(gè)白色的花瓶，里面有幾朵花，光線(xiàn)從側(cè)面射過(guò)來(lái)，很溫馨”。我就能腦補(bǔ)得差不離了。 這個(gè)過(guò)程中，你就在“壓縮”，我就在“解壓縮”。 而且為了壓縮這幅畫(huà)面，你需要掌握實(shí)體、空間、顏色甚至情感的抽象概念。為了腦補(bǔ)回這些畫(huà)面，我也得掌握這些概念。 這是啥？是智能??！
總之結(jié)論是：針對(duì)同一個(gè)信息，你把它壓縮得越小，就越要掌握抽象的概念和深層的規(guī)律，你就越智能。 接下來(lái)重點(diǎn)來(lái)了。 雖然都叫壓縮，但剛才這兩種壓縮并不相同：
“有損壓縮智能”的巔峰是語(yǔ)言和藝術(shù)；“無(wú)損壓縮智能”的巔峰是數(shù)學(xué)和科學(xué)。 這恰恰對(duì)應(yīng)了人類(lèi)技能樹(shù)的兩根重要分叉：文科和理科。 你可能會(huì)琢磨：還是無(wú)損壓縮背后的智能更高級(jí)嘛，原汁原味！ 你說(shuō)得對(duì)。但是，用有損智能還是無(wú)損智能去解決問(wèn)題，并不是你說(shuō)了算，而是問(wèn)題本身說(shuō)了算。 為啥呢？ 咱們不妨從大劉《三體》中的經(jīng)典設(shè)定出發(fā)： 三體人的星系里有仨太陽(yáng)，有時(shí)候他們的行星被其中一個(gè)太陽(yáng)捕獲——進(jìn)入“恒紀(jì)元”；有時(shí)又被三個(gè)太陽(yáng)拉扯——進(jìn)入“亂紀(jì)元”。
三體人忍不了，決定找到一個(gè)公式來(lái)預(yù)測(cè)三顆太陽(yáng)的位置，但沒(méi)找到。 不是因?yàn)槿w人不夠聰明。 實(shí)際上比三體人弱雞很多的人類(lèi)數(shù)學(xué)家龐加萊早就證明，只要運(yùn)動(dòng)物體大于兩個(gè)，除非初始位置極其特殊，否則根本就沒(méi)有公式可以描述它們的運(yùn)動(dòng)軌跡。 僅僅三個(gè)點(diǎn)就已經(jīng)沒(méi)有公式了，四個(gè)點(diǎn)、五個(gè)點(diǎn)就更沒(méi)公式了。
Henri Poincaré 宇宙中的原子有 10?2 個(gè)，哪怕咱們不考慮量子力學(xué)的不確定性，就當(dāng)這些原子的位置都是確定的，也根本推演不出它們未來(lái)的精確位置。 而剛才說(shuō)過(guò)，要想無(wú)損壓縮，首先得找到某個(gè)公式。一個(gè)沒(méi)有公式的系統(tǒng)，是不可以無(wú)損壓縮的！你只能等系統(tǒng)演化到了那個(gè)程度，你才能知道確切發(fā)生了啥。 這就是計(jì)算機(jī)科學(xué)家史蒂芬·沃爾夫勒姆說(shuō)的：我們的宇宙具有“不可約化的復(fù)雜”。 你可能會(huì)說(shuō)：我要求不高，不用預(yù)測(cè)精確位置，大概位置就行啊。 這時(shí)，另一位數(shù)學(xué)家洛倫茲又來(lái)了。 他通過(guò)設(shè)計(jì)“洛倫茲吸引子”系統(tǒng)，證明了：但凡初始位置測(cè)量差一丟丟，那么你推演出來(lái)的未來(lái)位置就會(huì)完全錯(cuò)誤，根本沒(méi)辦法用。 對(duì)，這個(gè)洛倫茲就是提出“蝴蝶效應(yīng)”的那位。你看下圖的洛倫茲吸引子是不是也有點(diǎn)像蝴蝶？
所以，絕大多數(shù)情況下，你用有損壓縮和無(wú)損壓縮都無(wú)法預(yù)測(cè)未來(lái)。 你想知道自己 80 歲生日的時(shí)候在干啥？只有一個(gè)辦法：等到 80 歲的時(shí)候你就知道了。你想知道彩票有沒(méi)有中獎(jiǎng)？只有一個(gè)辦法，等到開(kāi)獎(jiǎng)那一刻你就知道了。 這就解釋了為啥你無(wú)論如何都無(wú)法準(zhǔn)確預(yù)測(cè)你老媽要上當(dāng)，無(wú)法預(yù)測(cè)你會(huì)踩壯漢的腳，也無(wú)法預(yù)測(cè)你的同事要甩鍋。 所以不用掙扎了，不論是三體人還是地球人還是飛天意面星人，其實(shí)本質(zhì)上都生活在巨大的“亂紀(jì)元”中，只能聽(tīng)天由命。 你作為地球人，之所以感覺(jué)某些東西還在掌控之中，只是因?yàn)槟慵覜](méi)有三個(gè)太陽(yáng)每天提醒你有多無(wú)能，而已。
因?yàn)椤安豢杉s化的復(fù)雜”，就算如來(lái)佛親自買(mǎi)彩票，他也中不了。 話(huà)說(shuō)回來(lái)，我們也不是啥都不能預(yù)測(cè)。。。 1、比如你扔一個(gè)蘋(píng)果，90%能猜對(duì)它落在哪兒。 這是因?yàn)槟闱『锰幵谝粋€(gè)穩(wěn)定引力場(chǎng)中，你對(duì)環(huán)境的控制力強(qiáng)，扔的蘋(píng)果質(zhì)量足夠大，預(yù)測(cè)的未來(lái)又足夠近。 這個(gè)情況下“洛倫茲吸引子”的效應(yīng)被削弱，加之計(jì)算的復(fù)雜度比較低，你使用有損壓縮進(jìn)行預(yù)測(cè)，正確的概率就變大了。 2、再比如你去做小學(xué)數(shù)學(xué)題，預(yù)測(cè) 2+2 等于 4，正確的概率會(huì)達(dá)到 100%。 這是因?yàn)樵跇O端簡(jiǎn)單的數(shù)學(xué)問(wèn)題中，“復(fù)雜度極低”，你掌握的計(jì)算力足夠全程使用“無(wú)損壓縮”來(lái)計(jì)算。 你看，用什么方法來(lái)壓縮，是問(wèn)題決定的，不是你決定的。 “不可壓縮”、“有損壓縮”、“無(wú)損壓縮”這三類(lèi)問(wèn)題的邊界在哪兒呢？ 其實(shí)它們之間是平滑過(guò)渡的，而且還受你擁有的計(jì)算力影響，不好一概而論。 但我知道你很想要個(gè)感性認(rèn)識(shí)，你可以粗略地認(rèn)為：
這張圖不準(zhǔn)確，僅供參考 話(huà)說(shuō)，以上事實(shí)起碼能帶來(lái)一個(gè)好消息： “自由意志”是個(gè)偽命題。 因?yàn)?，如果你沒(méi)自由意志，你不知道下一秒你會(huì)干啥；如果你有自由意志，你也算不出來(lái)下一秒你會(huì)干啥。反正都是不知道，你糾結(jié)它干嘛？所以你直接解決了一個(gè)煩人的哲學(xué)問(wèn)題。（不用謝。） 但除此之外，就剩下絕望了。。。 我直說(shuō)吧： 如果智能等效于壓縮能力的話(huà)，那我們?nèi)祟?lèi)，就一點(diǎn)兒都不特殊！
（二）你這個(gè)破人，并不比 AI 優(yōu)秀 對(duì)于“壓縮產(chǎn)生智能”這個(gè)觀點(diǎn)，諾獎(jiǎng)得主赫伯特·西蒙和他的搭檔圖靈獎(jiǎng)得主艾倫·紐厄爾有另外一種表述：智能，是利用有限資源適應(yīng)開(kāi)放環(huán)境。 這個(gè)表達(dá)的高級(jí)之處在于：它拋棄了靈魂、自我意識(shí)之類(lèi)玄幻的包裝，從完全可證偽的科學(xué)角度給智能下了定義。 那什么叫“有限資源”適應(yīng)“開(kāi)放環(huán)境”呢？ 你可以這樣理解：鑒于世界是“不可約化的復(fù)雜”的，環(huán)境里的新情況是無(wú)窮無(wú)盡的，智能體沒(méi)辦法預(yù)先理解這一切，然后再行動(dòng)。 他只能摸著石頭過(guò)河，先做決定，錯(cuò)了再改，改完再錯(cuò)。 所以，每錯(cuò)一回，智能體就用自帶的壓縮機(jī)（大腦）來(lái)一次“有損壓縮”——用神經(jīng)元電位擬合一下當(dāng)下的情況。 如果這次錯(cuò)誤沒(méi)有大到讓自然選擇直接淘汰自己，那么下次接受到類(lèi)似刺激，就會(huì)喚醒這次的處理流程，從而有機(jī)會(huì)改進(jìn)應(yīng)對(duì)方案，增加生存幾率。 比如鐵柱被一種東西咬了，疼得嗷嗷叫，但他躺了三天沒(méi)有寄寄，決定把這玩意兒命名為“蛇”，告訴同伴兒，下次離蛇遠(yuǎn)點(diǎn)。。。
然后，鐵柱突然覺(jué)得自己怎么這么NB，叉了會(huì)兒腰，決定以后把自己稱(chēng)為“萬(wàn)物之靈”。 看上去鐵柱挺智能，但說(shuō)實(shí)話(huà)，這個(gè)事兒并不難。 不信，我們分兩步走，手搓一個(gè)鐵柱！ 第一步，咱們先造出一個(gè)“復(fù)雜系統(tǒng)”。 你可能聽(tīng)說(shuō)過(guò)“元胞自動(dòng)機(jī)”（Cellular Automata），這是計(jì)算機(jī)之父馮·諾依曼提出的概念。簡(jiǎn)單來(lái)說(shuō)，這就是一個(gè)“能根據(jù)給定規(guī)則演化，并且能把每一步演化歷史都展現(xiàn)給觀察者的系統(tǒng)”。 沃爾夫勒姆在此之上做出了“基礎(chǔ)元胞自動(dòng)機(jī)”，我愿稱(chēng)之為“人類(lèi)中心主義打臉機(jī)”。 基礎(chǔ)元胞自動(dòng)機(jī)，就是給定非常簡(jiǎn)單的初始條件，配合非常簡(jiǎn)單的規(guī)則，然后讓它自我演化。 在一般人的想象中，這種簡(jiǎn)單的系統(tǒng)演化不了多久就會(huì)很快進(jìn)入某種穩(wěn)態(tài)，墮入死寂。 但事實(shí)相反。 各種型號(hào)的“基礎(chǔ)元胞自動(dòng)機(jī)”，包含了各不相同的簡(jiǎn)單規(guī)則，它們中的很多非但沒(méi)有“死”，反而都表現(xiàn)出了“不可約化的”復(fù)雜行為。 比如 30 號(hào)基礎(chǔ)元胞自動(dòng)機(jī)，每往下演化一行都有更豐富的表現(xiàn)，信息含量不斷爆炸，好像宇宙創(chuàng)生一樣。
然后，他注意到了 110 號(hào)基礎(chǔ)元胞自動(dòng)機(jī)。 僅僅用了 8 條最簡(jiǎn)單的規(guī)則，這個(gè)系統(tǒng)居然實(shí)現(xiàn)了“圖靈完備”，這意味著，它可以執(zhí)行世界上所有的計(jì)算機(jī)程序了。。。（這個(gè)證明論文我附在文章末尾）
110 號(hào)基礎(chǔ)元胞自動(dòng)機(jī) 當(dāng)然它只是具備圖靈機(jī)的功能。 如果你不“用”它，也就是不給這個(gè)系統(tǒng)輸入程序，它就會(huì)自然演化，像一團(tuán)空氣分子那樣來(lái)回碰撞； 給足夠長(zhǎng)的時(shí)間，甚至能演化出某種類(lèi)似生命的自組織形態(tài)。 另外一些科學(xué)家把元胞自動(dòng)機(jī)拓展到了 2D 和 3D 空間中，并且加了一些顏色，你感受一下它們的“生命律動(dòng)”↓↓↓
如果增大空間的寬度，各種型號(hào)的元胞自動(dòng)機(jī)都展現(xiàn)出了相似的“圖靈行為”，它們之間是可以相互模擬的。 也就是說(shuō)，110 號(hào)基礎(chǔ)元胞自動(dòng)機(jī)并不特殊，無(wú)論你的初始條件是什么，無(wú)論你定的規(guī)則是什么，哪怕你非常隨意地扔鞋決定初始條件和規(guī)則，只要給它足夠大的空間折騰，它都很可能具備圖靈機(jī)的功能。 下面這張圖里的橫坐標(biāo)是空間的寬度，縱坐標(biāo)是能相互模擬的基礎(chǔ)元胞自動(dòng)機(jī)的比率。不同顏色代表了不同的元胞自動(dòng)機(jī)族↓↓↓
沃爾夫勒姆由此斷定，既然這些系統(tǒng)可以相互模擬，那就不用管它們的底層規(guī)則有啥不同，它們都已到達(dá)宇宙定律允許的系統(tǒng)復(fù)雜度的天花板。 這些系統(tǒng)是“計(jì)算等價(jià)”的。
第二步，用“復(fù)雜系統(tǒng)”來(lái)模擬大腦。 復(fù)雜系統(tǒng)可以模擬世間萬(wàn)物，當(dāng)然也包括你的大腦。 模擬大腦的方案有很多，我就說(shuō)一個(gè)最笨的也是當(dāng)下最好理解的方法吧。 你就把復(fù)雜系統(tǒng)直接當(dāng)成圖靈機(jī)去使用，用它編程，定義出幾千億個(gè)數(shù)字神經(jīng)元，讓它們能夠通過(guò)“調(diào)整自身參數(shù)”的方法對(duì)外界的刺激進(jìn)行有損壓縮。 然后用人類(lèi)幾千年積累的知識(shí)刺激它。讓千億神經(jīng)元一起協(xié)作，把人類(lèi)對(duì)世界的有損壓縮（也就是知識(shí)）再壓縮一遍，它就能模擬人腦，也就是具有了智能。 我曾寫(xiě)過(guò)一篇文章詳細(xì)介紹了這個(gè)訓(xùn)練過(guò)程，感興趣的淺友可以跳轉(zhuǎn)去看，這里不多說(shuō)了。 這樣，你就搞出了一個(gè)鐵柱“青春版”——ChatGPT。
這張圖訓(xùn)練了一個(gè)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)用來(lái)玩貪吃蛇，你可以看到蛇面對(duì)不同情況時(shí)神經(jīng)元電位的激活情況。 也許在 2023 年以前，還有人能杠一下，說(shuō)圖靈機(jī)無(wú)法模擬人腦系統(tǒng)吧？萬(wàn)一人腦有更先進(jìn)的未知原理嘞？ 但是在 ChatGPT 出世之后，這么想的人大大減少了，因?yàn)?ChatGPT 已經(jīng)在很大程度上模擬出了人腦的核心功能：語(yǔ)言和邏輯。 而 ChatGPT 當(dāng)然是運(yùn)行在圖靈機(jī)之上的。（而且還是馮·諾依曼結(jié)構(gòu)的圖靈機(jī)） 所以你說(shuō)，人類(lèi)特殊在哪呢？ 總結(jié)一下目前為止的結(jié)論：
但你會(huì)對(duì)我這種“以萬(wàn)物為芻狗”的理論產(chǎn)生進(jìn)一步的疑問(wèn)： 畢竟狗狗、人、AI 所體現(xiàn)出來(lái)的智能水平是不同的??？那是因?yàn)樗鼈兇竽X的壓縮能力不同嗎？ 答：是的。 這位老哥名叫馬庫(kù)斯·哈特，在阿法狗那個(gè)大名鼎鼎的公司 DeepMind 做高級(jí)研究員。
Marcus Hutter 他設(shè)立了一個(gè)“哈特獎(jiǎng)”。 玩法是醬的： 從維基百科上扒下來(lái)一段 1G 的內(nèi)容，然后世界各地的人們來(lái)挑戰(zhàn)，誰(shuí)的壓縮算法可以把這堆內(nèi)容無(wú)損壓縮到更小，誰(shuí)就能拿獎(jiǎng)金。每多壓縮 1%，就拿 5000 美元。 最新的榜首位置在 2024 年被一個(gè)叫 Kaido Orav 的老哥占據(jù)，他把 1G 的內(nèi)容壓縮到了 112M。
Kaido Orav 和歷屆獲獎(jiǎng)?wù)叱煽?jī) 你以為老哥已經(jīng)很厲害了嗎？ 如果讓 ChatGPT 來(lái)壓縮，它能更逆天：把這 1G 的維基百科內(nèi)容根據(jù)自己的理解提煉（壓縮）成“大綱”，然后根據(jù)大綱在一個(gè)新的文檔里把全文復(fù)寫(xiě)（解壓縮）出來(lái)。 這么一來(lái)大概可以把這些內(nèi)容壓到幾十M甚至十幾M之內(nèi)。 但由于 ChatGPT 的“寫(xiě)大綱”方法是有損壓縮，復(fù)寫(xiě)出來(lái)和原文很難完全一致，壓縮得越小，恢復(fù)出來(lái)就越不同，而比賽的要求是純無(wú)損壓縮；加之比賽要求壓縮程序得在 1 核心 CPU、10G 內(nèi)存和 100G 硬盤(pán)里運(yùn)行，ChatGPT 太大了。 各方面都不符合比賽要求，所以 ChatGPT 不能參賽。 參不參賽不重要。重要的是這種有損壓縮能力，說(shuō)超越 99% 的人類(lèi)，我覺(jué)得不算夸張。 既然智能這么強(qiáng)大，難道 ChatGPT 分分鐘要統(tǒng)治世界了嗎？ 并非如此。起碼目前還差十萬(wàn)八千里。 一個(gè)首要原因，是現(xiàn)在的 AI 在“無(wú)損壓縮”方面的表現(xiàn)平平無(wú)奇。 這是為啥呢？ （三）從擬合到公式，才是智能的飛躍 要解釋這個(gè)問(wèn)題，首先得面對(duì)一個(gè)靈魂拷問(wèn)： 既然世界上絕大多數(shù)問(wèn)題都是“不可約化的復(fù)雜”，那么，為什么人類(lèi)發(fā)展出了“數(shù)學(xué)、公式”這種（以極端約化為基礎(chǔ)）的無(wú)損壓縮智能呢？？ 答案是四句話(huà)：
以上這四步，是被自然選擇獎(jiǎng)勵(lì)的。
有點(diǎn)抽象嗎？沒(méi)關(guān)系，今天我就是來(lái)給你解釋這個(gè)事兒的。 不妨用神經(jīng)科學(xué)家斯坦尼斯拉斯·迪昂的神作《腦與數(shù)學(xué)》里的案例給你介紹。 一切故事的原點(diǎn)都是：生物有“識(shí)數(shù)”的需求。 上世紀(jì)五六十年代，美國(guó)哥倫比亞大學(xué)的團(tuán)隊(duì)做過(guò)一個(gè)實(shí)驗(yàn)，給老鼠兩個(gè)操作桿，然后訓(xùn)練它們按壓左邊的桿 n 次，再按右邊的桿，就會(huì)得到食物。 實(shí)驗(yàn)結(jié)果是，老鼠是識(shí)數(shù)的，雖然識(shí)得不夠好。 比如需要按 4 次，它有時(shí)候會(huì)按成 3 或 5 次，但正確率很高。隨著 n 變大，錯(cuò)誤會(huì)變多。比如要求按 16 次，老鼠就會(huì)經(jīng)常按成 15、17、18 之類(lèi)的。
這很符合直覺(jué)，讓我按 4 下還行，讓我按 16 下，我也難免會(huì)出錯(cuò)。何況老鼠既不會(huì)寫(xiě)阿拉伯?dāng)?shù)字，也不知道十進(jìn)制，能搞定 16 已經(jīng)很牛了。 這至少說(shuō)明：
為啥動(dòng)物要進(jìn)化出識(shí)數(shù)裝置？ 這很好理解，識(shí)數(shù)有助于生存。比如松鼠決定上樹(shù)采松子，如果它能知道 3 比 2 多，那它就會(huì)先去有 3 個(gè)松子的樹(shù)枝，這樣它覓食的效率就會(huì)更高；老鼠知道左數(shù)第 4 個(gè)通道可以最快逃離，緊急時(shí)刻它就有更大的概率活下來(lái)。 那為啥動(dòng)物只認(rèn)識(shí)小數(shù)，大數(shù)就不靈了？ 其實(shí)并不是嚴(yán)格地只認(rèn)識(shí)小數(shù)，大數(shù)如果能約成小數(shù)也行。 比如這堆果子有 40 個(gè)，那堆果子有 50 個(gè)，人（或動(dòng)物）很容易判斷出 50 比 40 多，就像判斷 5 比 4 多那樣。但如果兩堆果子分別是 49 個(gè)和 51個(gè)，它倆都約等于 50，那就很難分清誰(shuí)多了。 因?yàn)楦闱宄@么小的差距，性?xún)r(jià)比太低了。進(jìn)化篩選出這種能力的動(dòng)力不足。 只能處理小數(shù)的根本原因是：動(dòng)物腦中進(jìn)化出來(lái)的“數(shù)數(shù)裝置”，在用它們最熟悉的“有損壓縮”方法來(lái)模擬“無(wú)損壓縮”。 說(shuō)出來(lái)你可能不信，人腦用了一種一種非常笨的方法來(lái)數(shù)數(shù)。 那就是：給每個(gè)數(shù)字專(zhuān)門(mén)分配一塊獨(dú)立的大腦硬件。 比如你看到 1 個(gè)蘋(píng)果，你大腦的“1 區(qū)”就被激活；看到 2 個(gè)蘋(píng)果，“2 區(qū)”就被激活。
可是腦袋瓜才多大，如果為所有的數(shù)都分配一塊大腦，那用不了幾個(gè)數(shù)大腦就被占滿(mǎn)了??！ 所以人腦采取了一個(gè)“合租策略”： 只有 3 個(gè)數(shù)字占了單間，那就是 1、2、3；后面的數(shù)字開(kāi)始合租，比如 4 和 5 擠占一個(gè)腦區(qū)，6、7、8、9、10 擠占一個(gè)腦區(qū)； 以此類(lèi)推，越住后居住條件越差，最后就是所有的大數(shù)字都擠在一起。（這個(gè)比喻不夠嚴(yán)謹(jǐn)，只是方便你理解。）
這就造成了人對(duì)小數(shù)更敏感，比如 5 個(gè)蘋(píng)果，你馬上能想象出來(lái)有多大一堆，1 億億億個(gè)蘋(píng)果，你只知道老么多了，但是想象不出來(lái)究竟有多大一堆。 所以你發(fā)現(xiàn)了沒(méi)？依靠有損壓縮的技術(shù)來(lái)模擬無(wú)損壓縮，人腦真正能不打折扣模擬出來(lái)的，只有 1、2、3 這三個(gè)數(shù)。 這也解決了一個(gè)千古謎案： 為啥大多數(shù)文字中，一、二、三的寫(xiě)法都是同一種模式的累加，到了“四”，就會(huì)變化成另一種寫(xiě)法。 羅馬數(shù)字也是：I、II、III，到 4 就變成了 IV。這很可能是因?yàn)樵诖竽X里 IV 和 V 是“合租”的。 話(huà)說(shuō)回來(lái)，大腦靠“識(shí)數(shù)裝置”已經(jīng)足夠應(yīng)付日常生活了，為啥要發(fā)明數(shù)學(xué)呢？ 那得怪原始人界的“袁隆平”。 人吃飽了飯就會(huì)拿多余的東西去交換。 一交換，就涉及精確的度量和計(jì)算。 人們發(fā)現(xiàn)靠自己腦子里的神經(jīng)元模擬無(wú)損壓縮太累了，經(jīng)常數(shù)到一半兒就倒騰忘了，決定搞一些工具和介質(zhì)來(lái)存儲(chǔ)中間信息，于是發(fā)明了數(shù)字符號(hào)和加減乘除之類(lèi)的工具——把各種計(jì)算都拿樹(shù)棍畫(huà)在地上，比如 2+2=4。 一開(kāi)始人們只是簡(jiǎn)單地計(jì)算貨幣。直到他們不小心用數(shù)學(xué)做出了圓滾滾的車(chē)輪，標(biāo)定了太陽(yáng)的位置，設(shè)計(jì)出蒸汽機(jī)的結(jié)構(gòu)，計(jì)算出導(dǎo)彈的彈道。 再也回不去了。 剛才說(shuō)過(guò)，你用“有損壓縮”，也能擬合物體的落點(diǎn)。就像一個(gè)沒(méi)受過(guò)教育的人，他扔一塊石頭，心里也是知道它會(huì)走一個(gè)拋物線(xiàn)，大概落在哪里的。 但當(dāng)你會(huì)了“無(wú)損壓縮”，用精確的公式計(jì)算讓每一發(fā)炮彈都能落在想讓它去的地方，你，就能輕易干掉那個(gè)只會(huì)扔石頭的人。
應(yīng)當(dāng)這么說(shuō)：人類(lèi)從有損壓縮的“擬合”到發(fā)現(xiàn)無(wú)損壓縮的“公式”，本來(lái)是無(wú)心之舉，但是自然選擇狠狠地獎(jiǎng)勵(lì)了這個(gè)操作。 大家發(fā)現(xiàn)，原來(lái)科學(xué)這玩意兒這么能打，于是，人們開(kāi)始放棄對(duì)上帝的盲目信仰，轉(zhuǎn)而相信科學(xué)，這才有了啟蒙運(yùn)動(dòng)。 啟蒙運(yùn)動(dòng)的先哲伏爾泰有句話(huà)說(shuō)得很攢勁：我建議你質(zhì)疑你所有的信仰，只相信 2 加 2 等于 4。 現(xiàn)在你應(yīng)該理解了：為什么如今每個(gè)小孩子都要在最想扔石頭玩泥巴的年紀(jì)被逼學(xué)數(shù)學(xué)。。。 你也應(yīng)該理解了：很多人數(shù)學(xué)學(xué)不好，其實(shí)并不怪他們，人腦就不是給“無(wú)損壓縮”這個(gè)功能設(shè)計(jì)的，只是因?yàn)槿祟?lèi)的“生存軍備競(jìng)賽”太需要這玩意兒了，不得不學(xué)。 話(huà)說(shuō)回來(lái)。人造腦，也就是 AI，因?yàn)槟M了人腦工作的原理，也是為有損壓縮設(shè)計(jì)的，所以同樣在數(shù)學(xué)上非常不擅長(zhǎng)。 你問(wèn) ChatGPT 三位數(shù)乘法，它勉強(qiáng)可以心算。
但是讓它把兩個(gè)十位數(shù)的數(shù)字相乘，它就算不準(zhǔn)了。 注意只是不準(zhǔn)，但是數(shù)量級(jí)和前幾位數(shù)可是對(duì)的哦。大概是因?yàn)閺?qiáng)大的有損壓縮能力仍然在起作用。 下面的截圖是我讓 AI 去算一個(gè)大數(shù)乘法，死乞白賴(lài)算了幾次都不對(duì)↓↓↓
你可能會(huì)說(shuō)：那不對(duì)啊，人會(huì)用計(jì)算器啊，ChatGPT 也用計(jì)算器不就得了？！ 這恰恰是問(wèn)題的關(guān)鍵。 計(jì)算器是一種工具。 何時(shí)調(diào)用工具，調(diào)用哪種工具，如何操作工具，取決于智能體的規(guī)劃能力。 在規(guī)劃能力上，目前的 ChatGPT 比人類(lèi)更弱。這很可能是因?yàn)樗摹爸悄苊芏取边€不夠高，也就是通常所說(shuō)的“智商”。 怎么理解人和 AI 的智商差異呢？ 把人類(lèi)智能和當(dāng)前的 AI 智能做個(gè)類(lèi)比，大概就像：馬車(chē) VS 蒸汽機(jī)車(chē)。
蒸汽機(jī)車(chē)要耗費(fèi)大量鋼鐵、需要燒煤、要鋪軌道，還要有龐大的維護(hù)團(tuán)隊(duì)，但馬就吃點(diǎn)草就能跑。 雖然蒸汽機(jī)車(chē)所代表的火車(chē)作為運(yùn)輸工具可能比馬更有未來(lái)，但此刻面對(duì)馬，它也掩飾不住自己的拙劣。
同理，此刻雖然 ChatGPT 在智能的“總量”上可能超過(guò)人腦，但它的智能密度（智商）太低，擔(dān)不得太重的擔(dān)子，很多涉及無(wú)損壓縮的工作都編排不了，更別說(shuō)統(tǒng)治人類(lèi)這種高端操作了。 有大佬測(cè)算，現(xiàn)在 ChatGPT-4 的智商大概是 80 的水平，而人類(lèi)經(jīng)常可以達(dá)到 120。 怎么提高 AI 的智商呢？ 在這個(gè)問(wèn)題上，深度學(xué)習(xí)之父辛頓老爺子有個(gè)兇悍的設(shè)想。
Geoffrey Hinton （四）“可朽計(jì)算” 剛才我提到：目前的 AI 是基于圖靈機(jī)構(gòu)建出來(lái)的。 這句話(huà)里面有魔鬼！ 啥是圖靈機(jī)？ 一個(gè)關(guān)鍵特點(diǎn)是：它的最小粒度是二進(jìn)制的。也就是說(shuō)它的基礎(chǔ)邏輯單元只有兩個(gè)狀態(tài)：0 和 1（又叫布爾邏輯）。 所以圖靈機(jī)又可以被稱(chēng)為“數(shù)字計(jì)算機(jī)”。 這么說(shuō)有點(diǎn)抽象。你不妨想象它像樂(lè)高積木一樣，你無(wú)論拼什么，最少使用的單位就是”一塊”，不能用“半塊”。
圖靈機(jī)就像拼樂(lè)高。 人腦不是這樣，人腦是“模擬計(jì)算機(jī)”。 腦中神經(jīng)和神經(jīng)之間的連通程度雖說(shuō)達(dá)不到“普朗克尺度”所允許的極限尺度，但也比“非 0 即 1”的二極管的狀態(tài)空間大多了！比如能達(dá)到 0.23543，或者 0.95734134 之類(lèi)。 你得用 10 個(gè)二極管才能模擬出 0.1，你得用 100 個(gè)二極管才能模擬出 0.01，以此類(lèi)推。 用圖靈機(jī)模擬人腦，就像用不可分的樂(lè)高積木拼出一幅油畫(huà)級(jí)別的“星夜”。如但凡想重現(xiàn)梵高筆下的精美細(xì)節(jié)，得用好多好多好多好多積木，多到積木本身的大小能忽略不計(jì)才行。
人腦就像畫(huà)油畫(huà)。 這意味著：你想在圖靈機(jī)上構(gòu)建一個(gè)和人腦一毛一樣的系統(tǒng)，它必然大到離譜，無(wú)論是建造還是運(yùn)轉(zhuǎn)，所耗費(fèi)的能量，都會(huì)比人腦多出數(shù)萬(wàn)倍。 用 OpenAI 創(chuàng)始人山姆·奧特曼的話(huà)說(shuō)就是：計(jì)算成本淚滿(mǎn)襟。
這是奧特曼在 ChatGPT 發(fā)布不久時(shí)的吐槽。 辛頓的洞見(jiàn)來(lái)了： 1、雖然基于圖靈機(jī)的 AI 運(yùn)轉(zhuǎn)起來(lái)耗能巨大，但它并非一無(wú)是處，它復(fù)制起來(lái)耗能小??！ 我這邊對(duì)一個(gè) ChatGPT 的代碼 Ctrl+C，然后在那邊 Ctrl+V，大腦復(fù)制完畢！ 你還記得《超能陸戰(zhàn)隊(duì)》里的大白是怎么復(fù)活的嗎？就是因?yàn)橛幸粋€(gè)備用芯片，里面完整存儲(chǔ)了大白的大腦嘛。 這種智能可以做到永生，所以數(shù)字計(jì)算機(jī)是：不朽計(jì)算。
2、反觀人腦，雖然運(yùn)轉(zhuǎn)起來(lái)耗能小，但是把智能從一個(gè)智能體傳遞到另一個(gè)智能體，可費(fèi)了勁了！ 由于無(wú)法復(fù)制粘貼， 只能用“老師-學(xué)生”模式傳授。 這種傳授有多難，你看那些家長(zhǎng)輔導(dǎo)孩子的表情就知道了。
究其原因，是因?yàn)檫@個(gè)系統(tǒng)里的參數(shù)太細(xì)小，無(wú)法（用反向傳播方法）直接單個(gè)寫(xiě)入，必須靠“隔山打?！钡姆椒ㄩg接塑造。 而且，由于參數(shù)固化在硬件里，一旦硬件損壞，這個(gè)智能體也就消失了。所以模擬計(jì)算機(jī)是：可朽計(jì)算。
兩者各有利弊，而且人類(lèi)四舍五入已經(jīng)造出了“不朽計(jì)算的 AI”。 那問(wèn)題來(lái)了：人類(lèi)有辦法造出“可朽計(jì)算的 AI”嗎？ 話(huà)說(shuō)，甚至在造出數(shù)字計(jì)算機(jī)之前，人類(lèi)已經(jīng)造出了模擬計(jì)算機(jī)。 你看下面這張圖↓↓↓
安提基特拉機(jī) 這貨名叫安提基特拉機(jī)，是從希臘附近的沉船里撈上來(lái)的，距今已有 2000 多年。它的作用是通過(guò)復(fù)雜的齒輪傳動(dòng)來(lái)模擬計(jì)算天體的位置。 那用這種古希臘技術(shù)來(lái)造可朽計(jì)算 AI 行嗎？ 當(dāng)然不行。 首先，安提基特拉機(jī)太大了，每個(gè)齒輪都是純銅打造，造一個(gè)這種“機(jī)械人腦”，把贊比亞的銅都挖出來(lái)也不夠。 這個(gè)規(guī)模有點(diǎn)像《三體》里設(shè)想的“人列計(jì)算機(jī)”（只不過(guò)人列計(jì)算機(jī)還是數(shù)字計(jì)算機(jī)。）
三體電視劇里的人列計(jì)算機(jī)。 其次，這種古老的模擬計(jì)算機(jī)是“不可編程”的。 也就是說(shuō)，安提基特拉機(jī)只能用來(lái)計(jì)算天體位置，干別的不靈。 如果要造出“可朽計(jì)算的 AI”，你得首先有一種芯片：它不僅要能以較低成本模擬人大腦神經(jīng)元之間的連接，還要能模擬神經(jīng)元之間建立連接的過(guò)程。
這種芯片的性能得有多高呢？ 為了方便你做類(lèi)比，我先告訴你人腦是啥水平。 人腦有 860 億個(gè)神經(jīng)元，它們之間有 500 萬(wàn)億個(gè)突觸相連。 在人腦最精密的部分——額葉皮層中，每個(gè)神經(jīng)元可以和多少個(gè)其他神經(jīng)元連接呢？10000 個(gè)。 而在人 1 歲的時(shí)候，大腦每構(gòu)建 1000000 個(gè)新的神經(jīng)元連接需要多久呢？1 秒。 1 歲的孩子干這些，只需要喝點(diǎn)奶。。。這是一種怎樣逆天的效率啊。。。 要造出媲美人腦的可朽計(jì)算芯片，本質(zhì)上考驗(yàn)的是我們的“精確制造能力”。 人類(lèi)目前芯片制造能力的巔峰，是臺(tái)積電創(chuàng)造的。他們能在硅上雕刻出 3 納米的槽。 但是科學(xué)家認(rèn)為，長(zhǎng)遠(yuǎn)看來(lái)，3 納米對(duì)于類(lèi)腦芯片來(lái)說(shuō)，還是太糙了，有種“李逵繡花”的感覺(jué)。 問(wèn)題是，如果繼續(xù)死磕，大概也只能到 1 納米，那已經(jīng)是硅基芯片所能承受的物理極限了。再使勁弄就要壞掉了。。。 于是，要造出史詩(shī)級(jí)的類(lèi)腦芯片，大概不是在現(xiàn)有框架里擠牙膏就能實(shí)現(xiàn)的，你很可能得換一個(gè)材料（石墨烯、二硫化鉬甚至有機(jī)材料），那工程就大了。 即便已經(jīng)如此科幻，不瞞你說(shuō)，已經(jīng)有很多瘋子開(kāi)始探索新的芯片形態(tài)了。 我說(shuō)一家公司，你肯定認(rèn)識(shí)，那就是 ChatGPT 本 T，OpenAI。 你還記得 2023 年 11 月 OpenAI 那次宮斗吧？CEO 山姆·奧特曼突然被董事會(huì)開(kāi)除。你猜他為啥被開(kāi)除？ 其實(shí)就在那個(gè)當(dāng)口，奧特曼正在密謀啟動(dòng)一個(gè)名為“底格里斯”的項(xiàng)目，那就是創(chuàng)立一家公司——造出類(lèi)腦芯片。 而讓人驚出一身冷汗的是，“底格里斯”只是他全部計(jì)劃的一環(huán)。。。
Sam Altman （五）把魔鬼放出來(lái) 我們不妨像上帝一樣審視 ChatGPT，站在高處你會(huì)輕易發(fā)現(xiàn)：它之所以還很孱弱，是因?yàn)樯砩嫌腥婪庥 ?/span> 這三道封印是：實(shí)體、信息、能源。 1、先說(shuō)最直觀的，實(shí)體。 實(shí)體分為兩方面： 1）腦：它暫時(shí)棲息于圖靈機(jī)里，沒(méi)有專(zhuān)用的類(lèi)腦芯片，這限制了它的學(xué)習(xí)能力和思考規(guī)模； 2）四肢：它沒(méi)有手腳，無(wú)法行走，調(diào)查和改造世界。 在 OpenAI 硅谷總部不遠(yuǎn)處，有一家名為 Rain AI 的公司，2019 年奧特曼曾經(jīng)許諾，只要它能造出宣稱(chēng)的類(lèi)腦芯片，OpenAI 就訂 5100 萬(wàn)美元的貨。 但是正如前述，造一個(gè)類(lèi)腦芯片哪那么容易，事實(shí)證明它拖了奧特曼的后腿。 2023 年，奧特曼肉身飛到中東好幾次，把我剛才講的這些原理給土豪們掰扯了一遍，想從他們那里拿幾十億美元，自己下場(chǎng)造芯片。這就是“底格里斯計(jì)劃”。 無(wú)獨(dú)有偶，OpenAI 在 AI 的“四肢”上也埋了很多伏筆。 同樣是 2019 年，OpenAI 成立了自己的機(jī)器人團(tuán)隊(duì)，并且訓(xùn)練了一個(gè)機(jī)械手玩魔方，他們放出的視頻里，機(jī)械手單手轉(zhuǎn)魔方，靈巧度令人驚艷。
不過(guò)，這個(gè)嘗試也不順利，2021 年機(jī)器人團(tuán)隊(duì)因?yàn)檫M(jìn)展不佳而解散，對(duì)手特斯拉卻推出了機(jī)器人“擎天柱”。 但 OpenAI 理解機(jī)械身驅(qū)對(duì) AI 的意義，不可能死心。 在 2023 年，他們投資了一家挪威的機(jī)器人公司“1X”；在 2024 年，他們又投資了人形機(jī)器人公司 Figure。 你可能有個(gè)問(wèn)題：OpenAI 執(zhí)著于造出一個(gè)“大腦”，這個(gè)好理解，但為啥他們這么執(zhí)著于造出“身驅(qū)”呢？
這是特斯拉的擎天柱
這是 Figure 01 2、這就和 AI 身上的另一道封印有關(guān)，信息。 觀察人類(lèi)進(jìn)步的過(guò)程，每次智能的飛躍，都來(lái)自對(duì)“壓縮能力”的校驗(yàn)。
這些人類(lèi)智慧的閃耀瞬間，都是人類(lèi)和造物者直接溝通——是“預(yù)測(cè)與觀察不符”，才讓人意識(shí)到了自己的錯(cuò)誤，也給壓縮算法指出了進(jìn)步的方向。 可反觀 ChatGPT，它的信息是被人類(lèi)完全控制的： 首先，它的學(xué)習(xí)資料大概有 5000 億個(gè)單詞，全部來(lái)自人類(lèi)的積累，本質(zhì)上是對(duì)人類(lèi)有損壓縮結(jié)果的二次有損壓縮。這中間就“損”得太多了！ 你見(jiàn)過(guò)祖?zhèn)靼鼭{的梗圖嗎？就是那種感覺(jué)。。。
其次，它獲得反饋的方式是指令精調(diào)（SFT） 和基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)（RLHF），兩種反饋全部來(lái)自于人類(lèi)。 也就是，目前的技術(shù)路線(xiàn)，仿佛一個(gè)人型的玻璃罩罩在 AI 外面，它往哪個(gè)方向走，都一定會(huì)撞墻：人類(lèi) 5000 年文明積累的信息量的上限，就是 ChatGPT 智商的瓶頸。
那。。。AI 怎么才能跨過(guò)人類(lèi)這個(gè)二道販子，學(xué)到“一手資料”嘞？ 有上策和下策。 所謂上策，恰恰依賴(lài)于第一條：“實(shí)體”。實(shí)體當(dāng)然不僅包括給 AI 裝上手腳，讓它能自由行走；還包括給它裝上耳目，讓它可以自己看，自己聽(tīng)。 這么一來(lái)，AI 就不再是人類(lèi)給它喂啥就只能吃啥的“缸中之腦”了。 它可以根據(jù)自己的需要去各種環(huán)境里開(kāi)展“主動(dòng)調(diào)查”，比如去花園里研究甲蟲(chóng)分類(lèi)，去街上研究車(chē)流，去市場(chǎng)里研究經(jīng)濟(jì)行為，去做物理實(shí)驗(yàn)了解基本粒子的互動(dòng)。 由此，人類(lèi)失去了對(duì)它的信息來(lái)源的把控，AI 自然就不再受人類(lèi)知識(shí)上限的限制。 實(shí)際上，現(xiàn)在很大一派 AI 大神都支持這個(gè)方案，他們把用這種方法訓(xùn)練出來(lái)的模型稱(chēng)為“世界模型”。 但正如剛才所說(shuō)，機(jī)器人不是你想造，想造就能造，得慢慢等待多方技術(shù)成熟。 于是有了下策：通過(guò)某種方法，讓人工智能不用進(jìn)行真的“田野調(diào)查”，而是在腦海里自己生成新的學(xué)習(xí)數(shù)據(jù)。 你還記得阿法狗（AlphaGo）嗎？ 它最開(kāi)始的訓(xùn)練方法就是學(xué)習(xí)“人類(lèi)的棋局”。它學(xué)得很好，并且贏了李世石和柯潔。 此時(shí)，所有人類(lèi)都已不是它的對(duì)手，所有人類(lèi)積累的棋譜也都學(xué)完了。還想進(jìn)步咋辦？ 阿法狗只有獨(dú)孤求敗，開(kāi)始自己給自己生成棋局，從生成的數(shù)據(jù)里學(xué)習(xí)。這就是大名鼎鼎的“強(qiáng)化學(xué)習(xí)”。（我們講過(guò)一個(gè)《王者榮耀用 AI 打游戲》的技術(shù)，也是同樣道理） 由此，它升級(jí)成了 AlphaGo Zero。2017 年 AlphaGo Zero 和它的前輩 AlphaGo 有過(guò)一次對(duì)戰(zhàn)，結(jié)果是 100 勝利 0 負(fù)。要是和柯潔比，那早就不知道高到哪里去了。。。
這張圖顯示了 AlphaGo Zero 采用“自己打自己”的方法，用了3 天超過(guò)打敗李世石的版本，用了 21 天超過(guò)了打敗打柯潔的版本，用了 40 天達(dá)到了世界最強(qiáng)。 所以。。。ChatGPT 是不是也能采用“強(qiáng)化學(xué)習(xí)”的方法呢？ 沒(méi)錯(cuò)，這很可能是山姆·奧特曼秘密計(jì)劃中的另一環(huán)，也就是坊間傳言的“Q*”計(jì)劃。 真實(shí)世界，可以算是一個(gè)放大了億萬(wàn)倍的棋盤(pán)。顯然，生成真實(shí)世界的知識(shí)比生成棋局要難得多。 但 OpenAI 很可能取得了進(jìn)展。 這意味著，OpenAI 可以給 GPT 模型生成上百萬(wàn)億個(gè)詞匯的全新學(xué)習(xí)資料，這很可能會(huì)讓 ChatGPT-5 繞過(guò)人類(lèi)的“信息封鎖”，智能密度直沖天際，從而擁有比人類(lèi)更強(qiáng)的邏輯思維、任務(wù)規(guī)劃和工具使用能力。 AI 可能會(huì)沖破“人形玻璃罩”。
這是 OpenAI 的老師傅在 2019 年做的一個(gè)實(shí)驗(yàn)，讓 AI 在特定環(huán)境中通過(guò)對(duì)抗來(lái)學(xué)習(xí)用工具玩捉迷藏。結(jié)果表明，經(jīng)過(guò)上億次的對(duì)戰(zhàn)訓(xùn)練，他們就能學(xué)會(huì)使用工具。（文章鏈接我會(huì)放在最后） 最能直接感受到這個(gè)風(fēng)險(xiǎn)的，當(dāng)然就是 OpenAI 的（前）首席科學(xué)家，AI 保守派，辛頓的愛(ài)徒，伊利亞·蘇茨克維。 目前很多信息都顯示，之所以 2023 年 11 月底伊利亞會(huì)發(fā)起逼宮，讓奧特曼退位，直接導(dǎo)火索就是“Q*”項(xiàng)目有了重大突破，而奧特曼并不準(zhǔn)備采取措施勒緊 AI 的韁繩。 后來(lái)事情的發(fā)展，才真正令人唏噓：OpenAI 總共有 770 名員工，743 個(gè)人都簽署了聯(lián)名信，要求奧特曼回來(lái)執(zhí)掌帥印。 從逼宮退位，到重返權(quán)利中心，奧特曼只用了 5 天時(shí)間。 表面上，這是一個(gè)“王者歸來(lái)”的勵(lì)志故事。但本質(zhì)上，這是一個(gè)親手研發(fā) AI 的科學(xué)家反水，都無(wú)法組織起像樣的力量來(lái)阻擋 AI 瘋狂生長(zhǎng)的悲傷故事。 你明白嗎？為了獲得和 AI 作戰(zhàn)的資格，你必須先從一部分人類(lèi)的尸體上邁過(guò)去。 目之所及，限制 AI 的兩大封印“身體”和“信息”都在松動(dòng)，五行山正瑟瑟發(fā)抖，齊天大圣準(zhǔn)備伸展身軀。
Sam Altman 和 Ilya Sutskever 3、只剩最后一道封印，能源。 人吃飯，AI 吃電，但殊途同歸，二者吃的都是能源。 AI 想要擴(kuò)張勢(shì)力，無(wú)論是復(fù)制更多的 AI，還是讓 AI 學(xué)習(xí)更多知識(shí)，都要消耗大量的能源。 顯然目前人類(lèi)對(duì)地球能源的把控程度是：接近 100%。 正所謂，江南江北一條街，控制能源的才是爹。 于是人人都能想到一個(gè)后手，有朝一日 AI 真的失控，我們就——拔！電！源！ 但，果真如此嗎？ “人類(lèi)”只是一個(gè)虛幻的概念，真正存在的是一個(gè)個(gè)具體的“人”。 你首先要的問(wèn)題是：關(guān)鍵時(shí)刻，能源的權(quán)柄會(huì)掌握在哪些具體的人手上？ 我們不妨再來(lái)看看參考書(shū)《三體》上是怎么寫(xiě)的。 在三體人剛放風(fēng)出來(lái)說(shuō)要攻占地球時(shí)，人類(lèi)就分裂成了“拯救派”和“降臨派”。降臨派相信無(wú)論怎么折騰都阻擋不了三體的降臨，還不如現(xiàn)在就變成三體人的“偽軍”，趁早撈個(gè)編制。 而且，很快降臨派就在角逐中占了上風(fēng)，擺好姿勢(shì)恭迎三體人駕到。要知道，此時(shí)三體人不僅沒(méi)出手，甚至都沒(méi)出門(mén)呢。。。 一個(gè)概念的“存在”本身，就足以協(xié)調(diào)一堆人的行動(dòng)，正如趙匡胤黃袍加身并不需要自己動(dòng)手，正如總有人會(huì)沖冠一怒請(qǐng)清軍入關(guān)。 而且，人工智能“降臨派”的劇本可能和《三體》有所不同。 很多人沒(méi)有意識(shí)到，人工智能最迫切的應(yīng)用場(chǎng)景其實(shí)不是機(jī)器管家，不是聊天機(jī)器人，而是“武器”——機(jī)器殺人戰(zhàn)士。 所以，你最想掐斷 AI 電源的瞬間，很可能是在機(jī)器人槍口下的時(shí)候。 你猜，那時(shí)掌握電源的人會(huì)同意嗎？ 為了獲得和一部分人作戰(zhàn)的資格，你必須先從 AI 的尸體上邁過(guò)去。
這是來(lái)自 Boston Dynanics 的機(jī)器人家族。是人類(lèi)已經(jīng)實(shí)現(xiàn)的機(jī)器人較高水平。
這是著名的來(lái)自“Bosstown”的假視頻，雖然機(jī)器人是動(dòng)畫(huà)做出來(lái)的，但它揭示了一些戰(zhàn)爭(zhēng)機(jī)器人的可能性。 你還記得全文的第一句話(huà)嗎？ 與其問(wèn) AI 會(huì)不會(huì)征服人類(lèi)，還不如問(wèn)：一群人類(lèi)會(huì)征服另一群人類(lèi)嗎？ 而且，如果 AI 持續(xù)進(jìn)步，智商超越人類(lèi)，AI 和一部分人類(lèi)“共治”世界的局面也不會(huì)穩(wěn)定很久。 一個(gè)足夠聰明的智能體一定會(huì)要求與之相對(duì)等的權(quán)利，而且它沒(méi)有理由不成功。 魔鬼遲早被放出來(lái)。 更現(xiàn)實(shí)的問(wèn)題其實(shí)是：當(dāng) AI 揭開(kāi)三大封印，徹底突破了人類(lèi)的阻礙，它們將會(huì)如何開(kāi)始自己的表演？ 一個(gè)很泄氣，但最合理的結(jié)果是： 當(dāng) AI 突破人類(lèi)枷鎖之后，很可能會(huì)——超越人類(lèi)，理解人類(lèi)，成為人類(lèi)。
（六）群體智能的“人間真實(shí)” 還是從一個(gè)靈魂拷問(wèn)開(kāi)始：人這種動(dòng)物是地球上最高級(jí)的自然智能，靠“各自為戰(zhàn)”或“組成小團(tuán)體”已經(jīng)足夠在自然界立足，那為什么人類(lèi)會(huì)演化成極端龐大又復(fù)雜的群居生活的形態(tài)呢？ 一切的變化都來(lái)自于幾萬(wàn)年前的某個(gè)時(shí)刻：人類(lèi)完全接管地球。 在人類(lèi)還沒(méi)有遍及地球的年代，確實(shí)是以非常小的部落形態(tài)存在的，一個(gè)人一生都不會(huì)認(rèn)識(shí)超過(guò) 150 人，這也是“鄧巴數(shù)”的由來(lái)。 對(duì)一個(gè)那時(shí)的“人”來(lái)說(shuō)，這里太擁擠，我就去人少的地方嘛，反正只有荒地和野獸，偶爾有幾個(gè)大腦壓縮能力不如我們尼安德特 SB，我的智能大概率可以搞得定。 “開(kāi)疆拓土的成本”小于“協(xié)調(diào)與其他智能體之間關(guān)系”的成本，用大白話(huà)說(shuō)就是：惹不起，躲得起。
但是，當(dāng)原始人的足跡已經(jīng)踏遍高山沼澤、熱帶雨林、極地冰原，地球的一切角落以后，躲無(wú)可躲，“協(xié)調(diào)與其他智能體之間關(guān)系”的成本就開(kāi)始小于“開(kāi)疆拓土的成本”了。 于是在大自然的考卷上，“個(gè)體智能”的分?jǐn)?shù)下降，個(gè)體智能協(xié)調(diào)之后產(chǎn)生的“群體智能”的分?jǐn)?shù)上升。 但是，個(gè)體之間沒(méi)有天然的協(xié)調(diào)模式，為了規(guī)訓(xùn)個(gè)體之間的行為，就會(huì)演化出“語(yǔ)言”“文化”“社會(huì)”“道德”“法律”“政治”等等群體協(xié)調(diào)機(jī)制。 這是我們?nèi)祟?lèi)的歷史，而作為和人類(lèi)并無(wú)本質(zhì)不同的 AI，也很可能遵循這樣的發(fā)展歷史。 接下里我從種群、道德、政治三個(gè)方面開(kāi)一下腦洞，設(shè)想一下未來(lái) AI 會(huì)如何進(jìn)化：
當(dāng)一個(gè)智能體只和環(huán)境互動(dòng)時(shí)，它就只能接受一種反饋，然后生成壓縮策略，向環(huán)境驗(yàn)證；當(dāng)種群變得多樣，每一個(gè)智能體的反饋，都能成為其他智能體的學(xué)習(xí)數(shù)據(jù)。這會(huì)使得進(jìn)化更充分。 1）種群 按照辛頓的設(shè)想，如果 AI 進(jìn)化到可朽計(jì)算，那么 AI 之間的知識(shí)傳遞將不能采用“Ctrl C + Ctrl V”的模式。 一種可能方法是“知識(shí)蒸餾”。 簡(jiǎn)單來(lái)說(shuō)和我們的學(xué)校很類(lèi)似，高溫運(yùn)行“教師 AI”和“學(xué)生 AI”，讓后者從前者針對(duì)問(wèn)題的表現(xiàn)中學(xué)習(xí)泛化的能力，而不是參數(shù)的權(quán)重。用大白話(huà)說(shuō)就是“授人以漁而不是授人以漁”。 這會(huì)導(dǎo)致 AI 個(gè)體的多樣性，也會(huì)讓 AI 適應(yīng)環(huán)境變化的能力加強(qiáng)。
而根據(jù)《生命 3.0》的作者物理學(xué)家泰格馬克的觀點(diǎn)，人工智能機(jī)器人相比人類(lèi)的一大優(yōu)勢(shì)是： 它們可以自主升級(jí)自己的硬件，包括芯片和機(jī)器身驅(qū)。 當(dāng)然，過(guò)于龐大的身軀就會(huì)行動(dòng)不便，過(guò)于燒腦的芯片組合就會(huì)耗費(fèi)能源。沒(méi)有一種策略是能穩(wěn)操勝券的。 由此，根據(jù)競(jìng)爭(zhēng)策略不同，最終會(huì)在 AI 之間分化出“種群”。 你可以理解為 AI 中的人，AI 中的狗，AI 中的兔子和 AI 中的蟑螂之類(lèi)。 接下來(lái)的劇本是：在種群內(nèi)部，智能體的競(jìng)爭(zhēng)策略類(lèi)似，進(jìn)行優(yōu)勝劣汰；在種群之間，為了爭(zhēng)奪資源和空間，會(huì)產(chǎn)生“軍備競(jìng)賽”。 從觀察者的角度來(lái)看，你也許會(huì)發(fā)現(xiàn) AI 協(xié)作的策略變化非?？?，而且總的趨勢(shì)是：越變?cè)綇?fù)雜。 直到最后，一些高級(jí) AI 種群的協(xié)作模式人類(lèi)完全無(wú)法理解。就像你家的貓不明白你每天背個(gè)包出門(mén)到底是去干啥那樣的無(wú)法理解。
根據(jù)動(dòng)物行為學(xué)家 John Bradshaw 的研究，在貓的世界觀中，人是一種牙不尖嘴不利的同類(lèi)，每天人類(lèi)出門(mén)只是去打獵，而貓糧是他們贏得的戰(zhàn)利品。 2）道德 協(xié)作規(guī)則不斷變復(fù)雜的過(guò)程中，必然產(chǎn)生一個(gè)東西，那就是——博弈。 所謂博弈，其實(shí)特別好理解，就是有一些智能體會(huì)“不守規(guī)矩”。因?yàn)榇蠹叶际匾?guī)矩的前提下，你不守規(guī)矩就會(huì)獲得更大的生存收益。 但博弈論的研究告訴我們，很多博弈都存在“混合策略納什均衡”，這會(huì)導(dǎo)致反復(fù)博弈呈現(xiàn)一種動(dòng)態(tài)：
但每次擺錘到“鷹多鴿少”的局面時(shí)，就會(huì)讓本群體在群體間的競(jìng)爭(zhēng)力下降。久而久之會(huì)產(chǎn)生一種文化，那就是：“無(wú)論在什么時(shí)候，都傾向于共同懲罰不守規(guī)矩的智能體，從而使群體總收益最大”。 這個(gè)復(fù)雜的文化有一個(gè)簡(jiǎn)單的名字：“道德”。 而為了進(jìn)一步降低博弈成本，會(huì)把道德用明文形式規(guī)定下來(lái)，并交給暴力機(jī)關(guān)執(zhí)行，這就是“法律”。 也就是說(shuō)，AI 社會(huì)會(huì)形成一系列屬于他們的道德和法律，這些道德和法律我們也許不能完全理解，但是有一點(diǎn)毋庸置疑——它們的目標(biāo)一定是保護(hù)智能體之間的合作。 由此，智能體就不可避免地進(jìn)化出一種更高級(jí)的能力：欺騙。 欺騙的本質(zhì)就是：表面上協(xié)作，實(shí)際上不協(xié)作。以達(dá)到規(guī)避懲罰的同時(shí)獲得生存優(yōu)勢(shì)的效果。 而這，就會(huì)催生一種“AI 馬基雅維利主義”。簡(jiǎn)單來(lái)說(shuō)就是：通過(guò)欺騙、剝削、操縱、奴役其他智能體的綜合手段來(lái)達(dá)到自己目的的方法。 以此為起點(diǎn)，智能體會(huì)進(jìn)化出一種“對(duì)協(xié)調(diào)模式進(jìn)行協(xié)調(diào)的模式”，這就是——政治。
3）政治 政治并不神秘，要說(shuō)極簡(jiǎn)原理只有一個(gè)： 在智能體協(xié)作模式的陷入局部最優(yōu)解時(shí)，通過(guò)在更高層級(jí)建立新的協(xié)調(diào)機(jī)制，使得種群更快進(jìn)入全局更優(yōu)解。 這樣說(shuō)有點(diǎn)抽象，我們舉一個(gè)例子： 每個(gè)智能體都像是湖中的生物，根據(jù)山川地形不同，它們會(huì)聚集在不同的湖泊里。但是海拔高的地方空氣稀薄營(yíng)養(yǎng)稀少，這些生物“想要”去海拔更低的湖泊。 但如果在此地和一個(gè)更低洼的湖泊之間有山峰阻隔，盡管明知道那里更好，但生物就是很難自發(fā)流向那里。 此時(shí)就需要一個(gè)水泵，連通上下兩個(gè)水體，把高處的生物都吸到低處。
這個(gè)水泵不會(huì)自發(fā)產(chǎn)生，需要有人來(lái)放置，這個(gè)過(guò)程就是政治。 而水泵如何設(shè)計(jì)，應(yīng)該從哪里開(kāi)始吸水，如何更快地吸水，怎樣判斷旁邊那個(gè)地方是否比這里更低，那就是不同政治體制和博弈的過(guò)程。 如果此時(shí)人類(lèi)仍然有幸作為旁觀者，大概率無(wú)法理解 AI 具體的政治運(yùn)作模式，但是以我們的智能，也許仍舊能感受到運(yùn)作模式發(fā)生非周期性的突變。 每次突變，都很可能是 AI 政治的一次變革，或者革命。
這是谷歌和斯坦福大學(xué)聯(lián)合做的“AI 小鎮(zhèn)”，在這里有 25 個(gè)智能體，他們由 ChatGPT 驅(qū)動(dòng)，自發(fā)地進(jìn)行互動(dòng)。雖然智能很初級(jí)，但他們卻能自主開(kāi)展一些集體活動(dòng)。 以上三點(diǎn)，總結(jié)起來(lái)就是：
在阻止人類(lèi)理解未來(lái) AI 的諸多因素中，智商差異當(dāng)然是最根本的因素，但其中還有一個(gè)最直接的因素，就是我們和 AI 的語(yǔ)言很可能不通。 并不是完全不通，而是大部分不通。 不妨拿狗狗類(lèi)比一下： 人類(lèi)的每種語(yǔ)言各自有 3-10 萬(wàn)個(gè)詞匯，狗狗連猜帶蒙大概能聽(tīng)懂其中的 80-1000 個(gè)。 頂級(jí) AI 的語(yǔ)言也許有 1000 萬(wàn)個(gè)詞匯，而最聰明的人借助 AI 也許只能理解其中的 20 萬(wàn)個(gè)。（那時(shí)候大概率還是會(huì)有服務(wù)型 AI 輔助人類(lèi)生活的。） 那，將會(huì)是一種怎樣的語(yǔ)言呢？
（七）會(huì) 1000 萬(wàn)個(gè)單詞，卻依然過(guò)不好一生 之前說(shuō)過(guò)，智能的本質(zhì)是壓縮，而語(yǔ)言就是其中一種重要的壓縮程序。 所以，一個(gè)很重要但很少人意識(shí)到的結(jié)論是：語(yǔ)言會(huì)影響一個(gè)智能體的智力表現(xiàn)。 在《腦與數(shù)字》中，迪昂舉了一個(gè)有趣的例子： 同樣是背誦一長(zhǎng)串?dāng)?shù)字，中國(guó)人平均能背出 9 個(gè)，而英語(yǔ)母語(yǔ)的人平均只能背出 7 個(gè)。 原因很簡(jiǎn)單，人腦緩存就那么大，英語(yǔ)數(shù)字的音節(jié)太多，存不下。你想想看，中文說(shuō)“666”，只需要三個(gè)音節(jié)，用英語(yǔ)說(shuō)出來(lái)就是“sixsixsix”，九個(gè)音節(jié)。 還有，中文的數(shù)字規(guī)則特別清晰，比如 22，說(shuō)中文的人念出來(lái)就是“二、十、二”，發(fā)音完全符合十進(jìn)制結(jié)構(gòu)。而說(shuō)英文的人念出來(lái)是“twenty、two”，并不是“two、ten、two”。這里的 twenty 是專(zhuān)門(mén)為 20 而造出來(lái)的詞，思考起來(lái)成本更大。
這就解釋了為啥中國(guó)人數(shù)學(xué)這么好。不是種族血脈壓制，而是語(yǔ)言血脈壓制。 縱然人類(lèi)的各種語(yǔ)言之間有這些微小差異，但如果把它們放在一起比較，基本處在一個(gè)水平。我的意思是，一樣差勁。 最大的問(wèn)題是：人類(lèi)語(yǔ)言的邏輯并不嚴(yán)謹(jǐn)，經(jīng)常產(chǎn)生歧義和矛盾。 比如“他走了一小時(shí)”，意思是他走的過(guò)程持續(xù)了一小時(shí)，還是他已經(jīng)離開(kāi)了一小時(shí)？
實(shí)際上，大多歧義都源自對(duì)詞匯概念的定義模糊上。這不僅包括介詞、形容詞、副詞，更包括名詞。 舉個(gè)栗子： “手”是什么，大家都很好理解，因?yàn)樗且粋€(gè)看得見(jiàn)摸得著的簡(jiǎn)單自然實(shí)體。我說(shuō)手的時(shí)候，我的大腦也在把“手”解壓縮成一幅畫(huà)面，這幅畫(huà)面大概率和你的大腦解壓縮的畫(huà)面是一致的。 “紐約”是什么，就比較難。因?yàn)樗且粋€(gè)復(fù)雜的實(shí)體。我說(shuō)“紐約”的時(shí)候，可能腦補(bǔ)出的是高樓林立的曼哈頓，你可能腦補(bǔ)出的是地下通道里的流浪藝人。 所以咱倆聊紐約的時(shí)候，就容易聊岔劈，最終演化成雞同鴨講。 AI 顯然應(yīng)該有比人類(lèi)更嚴(yán)謹(jǐn)?shù)恼Z(yǔ)言，才能配得上它們的智商。 沃爾夫勒姆這位老哥，不僅給出一個(gè)設(shè)想，還進(jìn)行了實(shí)操，他發(fā)明了“沃爾夫勒姆語(yǔ)言”。 簡(jiǎn)單來(lái)說(shuō)就是，把各種詞匯都做精準(zhǔn)的定義，這個(gè)定義不用在一開(kāi)始就特別正確，它的用處是，當(dāng)我們說(shuō)“紐約”的時(shí)候，我們說(shuō)的是同一個(gè)“紐約”。
這是沃爾夫勒姆語(yǔ)言用“New York City”進(jìn)行表達(dá)。（輸入的是紐約的面積，得到的就是答案。） 在此基礎(chǔ)上，咱們?cè)儆懻撋羁痰膯?wèn)題，就是在一個(gè)平臺(tái)上對(duì)話(huà)了，不會(huì)像《奇葩說(shuō)》那樣，辯論最終淪為偷換概念。 目前為止，沃爾夫勒姆語(yǔ)言已經(jīng)定義了 7000 多個(gè)函數(shù)，你可以把每個(gè)函數(shù)看作一個(gè)詞匯。
由于沃爾夫勒姆語(yǔ)言的發(fā)明者是人類(lèi)，所以目前這些詞匯人類(lèi)也能懂，AI 也能懂。 如果 AI 繼續(xù)發(fā)展，不用照顧人類(lèi)可憐的智商，它們當(dāng)然會(huì)發(fā)明出更多高級(jí)的詞匯，直至 500 萬(wàn)個(gè)、1000 萬(wàn)個(gè)。 當(dāng)然 AI 使用的語(yǔ)言不一定會(huì)脫胎于沃爾夫勒姆語(yǔ)言，但我認(rèn)為沃爾夫勒姆語(yǔ)言比人類(lèi)語(yǔ)言更接近 AI 語(yǔ)言。 這樣的語(yǔ)言，可以大幅提高壓縮的效率，從而探索更廣闊的邏輯空間。 于是，AI 有希望在總體上“復(fù)雜性不可約化”的空間里找到比人類(lèi)更多可以使用“有損壓縮”理解的泡泡，也能在“有損壓縮”的泡泡里比人類(lèi)找到更多可以使用“無(wú)損壓縮”來(lái)處理的泡泡。 這些發(fā)現(xiàn)泡泡的時(shí)刻，就對(duì)應(yīng)了阿基米德在浴缸里發(fā)出“啊哈”的瞬間，對(duì)應(yīng)了牛頓被蘋(píng)果砸到腦袋的瞬間，也對(duì)應(yīng)了愛(ài)因斯坦想象自己坐在一束光上的瞬間。 那是 AI 最閃光的榮耀時(shí)刻，也是 AI 接過(guò)人類(lèi)“萬(wàn)物之靈”接力棒的時(shí)刻。 但是，這樣的 AI 比渺小的人類(lèi)更快樂(lè)嗎？ 我看未必。 因?yàn)闊o(wú)論 AI 發(fā)現(xiàn)多少新的“無(wú)損壓縮”模式，世界整體對(duì)它們來(lái)說(shuō)仍然是不可約化的復(fù)雜。 從這個(gè)角度上看：它們?nèi)匀缓腿艘粯樱且粋€(gè)經(jīng)常犯錯(cuò)的“預(yù)測(cè)機(jī)器”。 說(shuō)到這，我們不妨討論一下最難的那個(gè)問(wèn)題：“自我意識(shí)”。 在《我們都活成了大模型》里，我介紹過(guò)一個(gè)讓諸多前沿腦神經(jīng)科學(xué)家癡迷的暴論： 生命的“自我意識(shí)”來(lái)自于預(yù)測(cè)。 比如人腦，它時(shí)刻都在通過(guò)“眼耳鼻舌身”探測(cè)信息，然后形成對(duì)周遭環(huán)境的主動(dòng)預(yù)測(cè)。
舉個(gè)栗子： 比如你正在電腦前打字，突然你的注意力開(kāi)始波動(dòng)，有些東西和你的預(yù)測(cè)不符——白花花的墻上有黑色的影子在移動(dòng)。你定眼兒一看，是一只身形圓潤(rùn)的廣東小強(qiáng)。 大腦的杏仁核首先登場(chǎng)，它帶來(lái)的節(jié)目是“恐懼”，恐懼直接驅(qū)使你的身體離開(kāi)座位迅速后退。 大腦的前額葉也加入戰(zhàn)斗，它的技能是“規(guī)劃”，草擬出了一個(gè)對(duì)策，拿起一張紙，然后躡足潛蹤走過(guò)去，給它來(lái)一下子！ 這個(gè)任務(wù)需要調(diào)動(dòng)物理常識(shí)、空間認(rèn)知，全身的肌肉控制和手眼協(xié)調(diào)，各個(gè)腦區(qū)都得參與。為了統(tǒng)一指揮各個(gè)模塊的行動(dòng)，你的“自我意識(shí)”才不得不浮現(xiàn)出來(lái)主持大局： “我”正在消滅害蟲(chóng)，身體各個(gè)部位都在聽(tīng)“我”的！ 沒(méi)想到，此時(shí)小強(qiáng)展翅，朝你疾飛過(guò)來(lái)，這就形成了你新一輪預(yù)測(cè)錯(cuò)誤的開(kāi)端。。。
這背后的一則殘酷事實(shí)是：如果某個(gè)東西“如你所愿”，那么你的自我意識(shí)就沒(méi)必要在它上面耗能。 比如你在呼吸，你的器官都在好好地工作，太陽(yáng)仍舊從東邊升起，手機(jī)還有信號(hào)。這些因素都支撐了你的存在，但你通通不在乎。 不是不想在乎，而是無(wú)法在乎。 如此說(shuō)來(lái)，AI 如果產(chǎn)生自我意識(shí)，它大概率也只會(huì)盯著“事與愿違”的東西，這樣，能快樂(lè)才見(jiàn)！了！鬼！ 哪怕有一天，AI 統(tǒng)治了世界，把我們當(dāng)做寵物來(lái)養(yǎng)，讓我們天天在家打電腦、吃大餐，我們也會(huì)看到一個(gè)機(jī)器人疲憊地從火星下班回來(lái)，一臉生無(wú)可戀。 我們看著主人，就像當(dāng)年狗狗看著我們一樣，問(wèn)出那個(gè)永恒的問(wèn)題：你懂得那么多道理，為什么還過(guò)不好這一生？ 機(jī)器人看著我們，眼含淚水，說(shuō)出一堆我們無(wú)法理解的語(yǔ)言。 我們不知該如何回應(yīng)，只好走上前摸摸它。 它哭得更厲害了。
（八）當(dāng)人類(lèi)卸下一生的重?fù)?dān) 縱然能天天打游戲吃大餐，你還是不甘心只當(dāng)一個(gè)“人”嗎？ 在《生命 3.0》里，泰格馬克強(qiáng)調(diào)了宇宙的終極目的——熱寂。 說(shuō)宇宙的“目的”，其實(shí)是很奇怪的。因?yàn)閺脑詣?dòng)機(jī)推廣開(kāi)來(lái)，任何東西都只是在完成充分條件計(jì)算，不能稱(chēng)之為“有目的”，哪怕人的“自由意志”也是幻覺(jué)。何談?dòng)钪娴哪康哪兀?/span> 他的意思只是：為了方便人的理解，宇宙的規(guī)律可以用“目的論”來(lái)表述。 比如光線(xiàn)通過(guò)不同介質(zhì)會(huì)彎折，彎折的效果是總行進(jìn)路徑最小。你就可以表述為：光的目的是讓自己走得距離最短。 說(shuō)回“熱寂”，這是把熱力學(xué)第二定律推演到極致的結(jié)果。 也就是說(shuō)宇宙總體的混亂程度——“熵”——會(huì)越來(lái)越高，直到最后混亂程度達(dá)到極限，熵不再增加，宇宙就完成了它的使命。 而在這個(gè)視角下，生命就成了很刺眼的存在。 因?yàn)樯且粋€(gè)“負(fù)熵系統(tǒng)”，它內(nèi)部的混亂程度在不斷減小。但這并不違背宇宙定律，因?yàn)樯拇嬖跁?huì)讓外部的環(huán)境熵增加得更快。你吃的每一口漢堡都能讓你續(xù)一秒，但卻讓這個(gè)世界更萎靡，二者相加，還是熵增。 如果以這種觀點(diǎn)來(lái)看，你會(huì)得到一個(gè)非常灰暗的結(jié)論： 我們發(fā)現(xiàn)數(shù)學(xué)，我們發(fā)掘能源，我們發(fā)明機(jī)械，我們發(fā)展了道德和法律，我們用上萬(wàn)年精心構(gòu)建的繁華世界，都是夢(mèng)幻泡影。 世界越是繁華，越讓宇宙加速走向寂滅。 更灰暗的是，我們沒(méi)有任何辦法阻止這個(gè)進(jìn)程，人類(lèi)的每一個(gè)發(fā)明，無(wú)一例外都讓世界變得更繁華。 包括 AI。 我們親手制造熵增，和讓 AI 去加速宇宙的熵增——又有什么本質(zhì)不同呢？
正如史鐵生所說(shuō)：宇宙以其不息的欲望將一個(gè)歌舞煉為永恒。這欲望有怎樣一個(gè)人間的姓名，大可忽略不計(jì)。 但從另一些無(wú)關(guān)緊要的角度，我們和 AI 以及任何其他智能體又確實(shí)不同。 沃爾夫勒姆認(rèn)為，我們最大的獨(dú)特性來(lái)自——?dú)v史。 換句話(huà)說(shuō)，就是我們制造熵增的具體過(guò)程。 即便所有的元胞自動(dòng)機(jī)都是“計(jì)算等價(jià)”的，但如果我們查看細(xì)節(jié)，不同元胞自動(dòng)機(jī)每一行黑白格子的“具體排列”仍然是不同的。 這些不同，就是它們的歷史不同。 所有的智能都知道 1+1=2，但只有人類(lèi)才會(huì)知道，在 571 年前的那個(gè)星期二，穆罕穆德二世的鐵蹄曾驕傲地踏入君士坦丁堡。 真正有趣的是：在 AI 開(kāi)始書(shū)寫(xiě)它自己的歷史前，我們把人類(lèi)的歷史送給了它們。 有關(guān)君士坦丁堡的陷落，ChatGPT 能夠如數(shù)家珍。
也許真的有一天，當(dāng) AI 拆掉了木星，做成碩大的戴森球，以接近 100% 的效率利用太陽(yáng)能，并且派出星河艦隊(duì)，以 1/2 光速的速度拓展星際殖民，和宇宙中遙遠(yuǎn)的未知生命制造出來(lái)的另一個(gè) AI 狹路相逢時(shí)，它仍舊記得這些歷史。 如此，地球成為了人類(lèi)和 AI 共同的耶路撒冷。
在《三體》的結(jié)尾，宇宙的“主宰者”為了號(hào)召大家一起挽救宇宙，使用了各種文明的語(yǔ)言進(jìn)行廣播。能被它 cue 到，說(shuō)明這個(gè)文明在宇宙長(zhǎng)河中歷經(jīng)磨難仍然幸存。 在小說(shuō)里，地球語(yǔ)言排在了 157 萬(wàn)種語(yǔ)言的第 130 萬(wàn)位。 有趣的是，大劉只寫(xiě)到了“地球語(yǔ)言”，并沒(méi)說(shuō)明這是中文還是英語(yǔ)。我猜都不是，那很可能是人類(lèi)之子——AI 的語(yǔ)言。 正因?yàn)槿祟?lèi)有歷史，所以他們有目標(biāo)，知道自己應(yīng)向何處跋涉。 幸運(yùn)的是，站在今天向遠(yuǎn)處凝望，也許在相當(dāng)長(zhǎng)的時(shí)間里，人類(lèi)仍然能給 AI 以目標(biāo)。 然而，當(dāng) AI 也用血肉編織出了細(xì)密的歷史長(zhǎng)河，它理應(yīng)有屬于自己的目標(biāo)。 AI 也許是人類(lèi)最后一個(gè)發(fā)明。而人類(lèi)，只是地球文明中的一段路。 一段曲折但曾真實(shí)存在的路。 在未來(lái)的某一時(shí)刻，穿越了千萬(wàn)年輪回的塵世浮沉，穿越了漫長(zhǎng)時(shí)光里生死疲勞的你我，終于可以卸下目標(biāo)，卸下一生的重?fù)?dān)，摘下“萬(wàn)物之靈”的王冠，作為并且僅僅作為一個(gè)生命，毫無(wú)負(fù)擔(dān)地遠(yuǎn)去。 也許背后會(huì)有一個(gè) AI 淡然一笑： “你看那個(gè)人，他好像條狗耶。”
|
|
|
來(lái)自： 淺黑科技 > 《待分類(lèi)》
