本文給當(dāng)今人工智能界推崇深度學(xué)習(xí)的現(xiàn)象潑了冷水，指出了人工智能的盲點(diǎn)：溯因推理，并提醒人們不要忽視深度學(xué)習(xí)的種種問(wèn)題，否則將會(huì)因?yàn)樯疃葘W(xué)習(xí)又面臨第三次“人工智能的冬天”。

最近深度學(xué)習(xí)領(lǐng)域的進(jìn)步再次激發(fā)了人們對(duì)那些通用人工智能新機(jī)器的興趣。這一想法認(rèn)為，通過(guò)構(gòu)建更大、更好的神經(jīng)網(wǎng)絡(luò)，我們就能夠獲得越來(lái)越接近于人類(lèi)大腦的數(shù)字化版本。

但這是一個(gè)神話，計(jì)算機(jī)科學(xué)家 Erik Larson 認(rèn)為，所有的證據(jù)都表明，人類(lèi)和機(jī)器所擁有的智能有本質(zhì)的不同。Larson 的新書(shū)《The Myth of Artificial Intelligence: Why Computers Can’t Think the Way We Do》（目前尚無(wú)中譯本，本文暫譯為《人工智能的神話：為什么計(jì)算機(jī)不能像我們這樣思考》），討論了廣泛宣傳的關(guān)于智能和推理的誤解，是如何將人工智能研究引向狹窄的道路，限制了創(chuàng)新和科學(xué)發(fā)現(xiàn)。

《人工智能的神話》， Erik J. Larson 著。

Larson 警告說(shuō)，除非科學(xué)家、研究人員和支持他們工作的組織不改變方向，否則他們將注定“屈服于機(jī)器世界的擴(kuò)張，在機(jī)器世界中，真正的發(fā)明被邊緣化，轉(zhuǎn)而支持那些鼓吹現(xiàn)有方法的未來(lái)主義言論，而這正是來(lái)自根深蒂固的利益集團(tuán)。”

人工智能的神話

以科學(xué)的觀點(diǎn)來(lái)看，人工智能的神話是假定我們將通過(guò)在應(yīng)用領(lǐng)域取得進(jìn)展，來(lái)實(shí)現(xiàn)通用人工智能（Artificial General Intelligence，AGI），例如對(duì)圖像進(jìn)行分類(lèi)、理解語(yǔ)音指令，或玩游戲。但是，這些狹窄的人工智能系統(tǒng)的基礎(chǔ)技術(shù)并不能解決通用智能能力所必須解決的更大挑戰(zhàn)，例如進(jìn)行基本的對(duì)話、完成簡(jiǎn)單的家務(wù)活，或者其他需要常識(shí)性的任務(wù)。

Larson 寫(xiě)道：“當(dāng)我們成功地應(yīng)用了更簡(jiǎn)單、更狹窄的智能版本，并從更快的計(jì)算機(jī)和大量的數(shù)據(jù)中獲益時(shí)，我們并沒(méi)有逐步取得進(jìn)展，而是在摘取低垂的果實(shí)。”

人工智能神話的文化后果就是忽視了智能的科學(xué)奧秘，無(wú)休止地談?wù)撋疃葘W(xué)習(xí)和其他當(dāng)代技術(shù)的不斷進(jìn)步。這個(gè)神話阻礙了科學(xué)家們思考新的方法來(lái)應(yīng)對(duì)智能的挑戰(zhàn)。

“如果我們選擇忽視一個(gè)核心奧秘，而不是正視它，我們就無(wú)法獲得創(chuàng)新，”Larson 寫(xiě)道，“健康的創(chuàng)新文化強(qiáng)調(diào)探索未知，而非夸大現(xiàn)有方法的延伸……關(guān)于人工智能必然成功的神話，往往會(huì)扼殺真正進(jìn)步所需要的發(fā)明文化。”

演繹、歸納和溯因推理

當(dāng)你走出家門(mén)時(shí)，你發(fā)現(xiàn)街道是濕的。你首先想到的是，一定是下雨了。但現(xiàn)在是晴天，人行道是干的，所以你立即排除了下雨的可能性。當(dāng)你往旁邊看時(shí)，你看到一輛灑水車(chē)停在街道旁。你就斷定，街道之所以是濕的，是因?yàn)闉⑺?chē)沖洗了街道。

上面是一個(gè)“推理”的例子，即從觀察到結(jié)論的行為，也是智慧生物的基本能力。我們不斷地根據(jù)我們所知和感知的事物來(lái)推理。它們大多發(fā)生在潛意識(shí)中。

Larson 寫(xiě)道：“任何能夠進(jìn)行推理的系統(tǒng)都必須具有一些基本的智能，因?yàn)槔靡阎陀^察到的事物來(lái)更新信念的行為本身，必然與我們所指的智慧相關(guān)聯(lián)?！?/span>

人工智能研究人員將他們的系統(tǒng)建立在兩種類(lèi)型的推理機(jī)上：演繹式和歸納式。演繹式推理是利用先驗(yàn)知識(shí)對(duì)世界進(jìn)行推理。這是符號(hào)人工智能的基礎(chǔ)，也是人工智能早期幾十年研究人員關(guān)注的重點(diǎn)。工程師通過(guò)賦予它們一組預(yù)先定義的規(guī)則和事實(shí)來(lái)創(chuàng)建符號(hào)系統(tǒng)，人工智能利用這些知識(shí)來(lái)推理它所接收到的數(shù)據(jù)。

溯因推理是通過(guò)經(jīng)驗(yàn)獲取知識(shí)，在過(guò)去十年中，溯因推理在人工智能研究人員和科技公司中獲得了更多的關(guān)注。機(jī)器學(xué)習(xí)算法是溯因推理引擎，一個(gè)在相關(guān)實(shí)例上訓(xùn)練的機(jī)器學(xué)習(xí)模型，將找到輸入映射到輸出的模式。最近幾年，人工智能研究人員利用機(jī)器學(xué)習(xí)、大數(shù)據(jù)和先進(jìn)的處理器，對(duì)超出符號(hào)系統(tǒng)能力的任務(wù)進(jìn)行模型訓(xùn)練。

第三種推理類(lèi)型，即溯因推理，是由美國(guó)科學(xué)家 Charles Sanders Peirce 在 19 世紀(jì)首次提出的。溯因推理是一種能夠提出直覺(jué)和假設(shè)的認(rèn)知能力，作出比隨機(jī)猜測(cè)真相更好的猜測(cè)。

美國(guó)科學(xué)家 Charles Sanders Peirce 在 19 世紀(jì)提出了溯因推理。資料來(lái)源：紐約公共圖書(shū)館，公共領(lǐng)域。

舉例來(lái)說(shuō)，街道潮濕的原因可能有很多（包括一些我們從未直接經(jīng)歷過(guò)的），但是通過(guò)溯因推理，我們可以選擇最有希望的假設(shè)，迅速排除錯(cuò)誤的假設(shè)，尋找新的假設(shè)，并得出可靠的結(jié)論。正如 Larson 在《人工智能的神話》一書(shū)中寫(xiě)道：“我們從實(shí)際上無(wú)限可能中猜測(cè)哪些假設(shè)看起來(lái)是可能的或可信的?！?/span>

溯因推理就是許多人所說(shuō)的“常識(shí)”。這是我們看待事實(shí)或數(shù)據(jù)的概念框架，也是結(jié)合其他推理類(lèi)型的“粘合劑”。這能讓我們時(shí)刻注意大腦中大量的信息，以及我們從感官接受到的海量數(shù)據(jù)中的相關(guān)內(nèi)容。

但問(wèn)題在于，人工智能界對(duì)溯因推理的關(guān)注還很少。

人工智能與溯因推理

20 世紀(jì) 80 年代和 90 年代，由于溯因邏輯程序（Abductive Logic Programming）的嘗試，溯因進(jìn)入了人工智能的討論中，但是這些努力都存在缺陷，最終被放棄。Larson 告訴 TechTalks：“它們是對(duì)邏輯編程的重新表述，是演繹的一種變體?！?/span>

Erik J. Larson，《人工智能的神話》一書(shū)作者。

溯因在 2010 年代得到了另一個(gè)機(jī)會(huì)，那就是貝葉斯網(wǎng)絡(luò)，它是試圖計(jì)算因果關(guān)系的推理引擎。但是，與早期的方法一樣，較新的方法也有一個(gè)缺陷，它不能捕捉到真正的溯因，Larson 說(shuō)，貝葉斯和其他圖形模型都是“歸納法的變種”。他在《人工智能的神話》一書(shū)中稱它們?yōu)椤懊逼鋵?shí)的溯因”。

在很大程度上，人工智能的歷史都以演繹和歸納為主導(dǎo)。

“當(dāng)早期人工智能先驅(qū) Alan Newell、Herbert Simon、John McCarthy 和 Marvin Minsky 開(kāi)始著手解決人工推理（人工智能的核心）問(wèn)題時(shí)，他們認(rèn)為編寫(xiě)演繹式規(guī)則就足以產(chǎn)生智能思維和行動(dòng)，”Larson 說(shuō)，“事實(shí)上事實(shí)并非如此，在關(guān)于我們?nèi)绾巫隹茖W(xué)的討論中，這一點(diǎn)應(yīng)該更早被認(rèn)識(shí)到。”“這太奇怪了，沒(méi)有人真的停下來(lái)，明確地說(shuō)'等等，這是行不通的！’” Larson 說(shuō)，“這將使研究直接轉(zhuǎn)向溯因或假設(shè)的生成，或者說(shuō)，'上下文敏感推理’?！?/span>

在過(guò)去的二十年里，隨著數(shù)據(jù)和計(jì)算資源的日益豐富，機(jī)器學(xué)習(xí)算法——特別是深度神經(jīng)網(wǎng)絡(luò)——已經(jīng)成為人工智能領(lǐng)域的研究熱點(diǎn)。深度學(xué)習(xí)技術(shù)開(kāi)啟了以前超出計(jì)算機(jī)極限的應(yīng)用。這也吸引了世界上一些最富有的公司的興趣和資金。

Larson 說(shuō)：“我認(rèn)為，隨著萬(wàn)維網(wǎng)的出現(xiàn)，經(jīng)驗(yàn)式或歸納式（以數(shù)據(jù)為中心）的方法占據(jù)了上風(fēng)，而溯因法和演繹法一樣，基本上被遺忘了?！?/span>

但是，機(jī)器學(xué)習(xí)系統(tǒng)也存在嚴(yán)重的局限性，包括缺乏因果關(guān)系，邊緣情況處理不好和對(duì)數(shù)據(jù)的需求過(guò)多。同時(shí)，隨著研究人員嘗試將機(jī)器學(xué)習(xí)應(yīng)用到醫(yī)療和金融等敏感領(lǐng)域，這些限制正變得越來(lái)越明顯，問(wèn)題也越來(lái)越多。

溯因推理與人工智能的未來(lái)之路

包括強(qiáng)化學(xué)習(xí)先驅(qū) Richard Sutton 在內(nèi)的一些科學(xué)家認(rèn)為，我們應(yīng)該堅(jiān)持使用能夠隨著數(shù)據(jù)和計(jì)算的可用性而擴(kuò)展的方法，即學(xué)習(xí)和搜索。舉例來(lái)說(shuō)，隨著神經(jīng)網(wǎng)絡(luò)的規(guī)模越來(lái)越大，數(shù)據(jù)也越來(lái)越豐富，它們最終會(huì)超越極限，帶來(lái)新的突破。

Larson 駁斥了數(shù)據(jù)驅(qū)動(dòng)的人工智能的大規(guī)模應(yīng)用，認(rèn)為“作為一種智能模型，其本質(zhì)是有缺陷的”。他重申，盡管搜索和學(xué)習(xí)都可以提供有用的應(yīng)用，但是它們是基于非溯因推理。

“如果沒(méi)有推理思維的革命，搜索就無(wú)法擴(kuò)展到常識(shí)或溯因推理中，而這還沒(méi)有發(fā)生。與機(jī)器學(xué)習(xí)類(lèi)似，學(xué)習(xí)方法的數(shù)據(jù)驅(qū)動(dòng)特性意味著推理必須來(lái)自數(shù)據(jù)，可以說(shuō)，人們經(jīng)常進(jìn)行的許多智能推理顯然不是這樣的，”Larson 說(shuō)，“我們不會(huì)僅僅通過(guò)觀察過(guò)去，比如說(shuō)，從大型數(shù)據(jù)集中獲取的數(shù)據(jù)，就能弄清楚對(duì)未來(lái)的結(jié)論、思考或者推理?！?/span>

另一些科學(xué)家認(rèn)為，混合人工智能將符號(hào)系統(tǒng)與神經(jīng)網(wǎng)絡(luò)結(jié)合起來(lái)，將有望克服深度學(xué)習(xí)的缺陷。IBM Watson 就是一個(gè)例子，它在 《危險(xiǎn)邊緣》（Jeopardy!）美國(guó)電視智力問(wèn)答節(jié)目中擊敗了世界冠軍而聞名。最新的概念證明了混合模型在單獨(dú)的符號(hào)人工智能和深度學(xué)習(xí)表現(xiàn)不佳的應(yīng)用中有很好的效果。

Larson 認(rèn)為，混合系統(tǒng)可以填補(bǔ)僅靠機(jī)器學(xué)習(xí)或僅靠規(guī)則方法的空白。身為自然語(yǔ)言處理領(lǐng)域的研究人員，他目前正致力于將大型與訓(xùn)練語(yǔ)言模型，如 GPT-3，與知識(shí)圖譜形式的語(yǔ)義網(wǎng)方面的舊工作相結(jié)合，以便在搜索、問(wèn)題回答和其他任務(wù)中創(chuàng)造更好的應(yīng)用。

“但是演繹-歸納組合并不能讓我們達(dá)到溯因，因?yàn)檫@三種類(lèi)型的推理在形式上是不同的，所以它們不能相互還原，也不能結(jié)合起來(lái)得到第三種?！彼f(shuō)。

Larson 在《人工智能的神話》一書(shū)中將規(guī)避溯因的努力稱為“推理陷阱”。

他寫(xiě)道：“不管計(jì)算機(jī)的速度有多快，單純的歸納啟發(fā)技術(shù)，比如機(jī)器學(xué)習(xí)，還是不夠的。像 Watson 這樣的混合系統(tǒng)，也達(dá)不到一般的理解，”“在一個(gè)開(kāi)放的場(chǎng)景，如語(yǔ)言理解，這需要關(guān)于世界的知識(shí)，而溯因是核心和不可替代的。正因?yàn)槿绱?，將演繹與歸納策略相結(jié)合的嘗試總是注定要失敗……這一領(lǐng)域需要一個(gè)關(guān)于溯因的基礎(chǔ)理論。與此同時(shí)，我們卻被困在了陷阱里?！?/span>

人工智能的商業(yè)化

人工智能社區(qū)對(duì)數(shù)據(jù)驅(qū)動(dòng)方法的狹隘關(guān)注，使得研究和創(chuàng)新集中于那些擁有海量數(shù)據(jù)存儲(chǔ)和雄厚財(cái)力的少數(shù)組織。當(dāng)深度學(xué)習(xí)成為一種將數(shù)據(jù)轉(zhuǎn)換成有利可圖的產(chǎn)品的有效方式，大型科技公司正陷入雇傭人工智能人才的激烈競(jìng)爭(zhēng)，他們通過(guò)給研究人員提供豐厚的薪酬，使得他們離開(kāi)學(xué)術(shù)界。

這一轉(zhuǎn)變使得非營(yíng)利性實(shí)驗(yàn)室和小公司難以參與到人工智能的研究。

Larson 說(shuō)：“當(dāng)你將人工智能研發(fā)與大型數(shù)據(jù)集的所有權(quán)和控制權(quán)聯(lián)系在一起時(shí)，初創(chuàng)企業(yè)就會(huì)面臨進(jìn)入壁壘，因?yàn)樗麄儾⒉粨碛袛?shù)據(jù)?！彼a(bǔ)充說(shuō)，數(shù)據(jù)驅(qū)動(dòng)的人工智能從本質(zhì)上講就是在商業(yè)領(lǐng)域創(chuàng)造了“贏家通吃”的局面。

反過(guò)來(lái)，人工智能的壟斷也阻礙了科學(xué)研究。由于大型科技公司集中精力創(chuàng)造可以利用其巨大的數(shù)據(jù)資源以保持競(jìng)爭(zhēng)優(yōu)勢(shì)的應(yīng)用，沒(méi)有什么動(dòng)力去探索其他人工智能方法。這一領(lǐng)域的工作開(kāi)始傾向于狹隘而有利可圖的應(yīng)用，而忽視了可以帶來(lái)新發(fā)明的努力。

“目前沒(méi)有人知道如果沒(méi)有如此龐大的集中式數(shù)據(jù)集的情況下，人工智能將會(huì)是什么樣，因此，對(duì)于那些想要通過(guò)設(shè)計(jì)出不同、更強(qiáng)大的人工智能來(lái)競(jìng)爭(zhēng)的企業(yè)家來(lái)說(shuō)，沒(méi)有什么真正的機(jī)會(huì)?！盠arson 說(shuō)。

Larson 在他的書(shū)中警告了當(dāng)前的人工智能文化，“它在不斷編織人工智能神話的同時(shí)，從低垂的果實(shí)中榨取利潤(rùn)?！彼麑?xiě)道，通用人工智能進(jìn)展的假象可能會(huì)導(dǎo)致另一個(gè)人工智能的冬天。

不過(guò)，盡管人工智能的冬天可能會(huì)抑制人們對(duì)深度學(xué)習(xí)和數(shù)據(jù)驅(qū)動(dòng)的人工智能的興趣，但它也能為新一代的思想家探索新的途徑開(kāi)辟道路。Larson 希望科學(xué)家們開(kāi)始超越現(xiàn)有的方法。

Larson 在《人工智能的神話》一書(shū)中提供了一種推理框架，它揭示了當(dāng)今該領(lǐng)域所面臨的挑戰(zhàn)，并幫助讀者看穿通用人工智能或奇點(diǎn)進(jìn)展的夸大說(shuō)法?！拔业南Ｍ牵菍I(yè)人士有一些工具與這種非科學(xué)的必然想法作斗爭(zhēng)，我的同事和其他人工智能科學(xué)家將此視為解決這一領(lǐng)域所面臨的現(xiàn)實(shí)問(wèn)題的警鐘?！?/span>

作者介紹：

Ben Dickson，軟件工程師，也是 TechTalks 的創(chuàng)始人，作家，撰寫(xiě)關(guān)于科技、商業(yè)和政治方面的文章。

原文鏈接：

https:///2021/09/20/myth-of-artificial-intelligence-erik-larson/