就在今天下午,最新一屆的諾貝爾物理學(xué)獎(jiǎng)公布,約翰 ·J· 霍普菲爾德 John J.Hopfield 、杰弗里 ·E· 辛頓 Geoffrey E.Hinton 獲獎(jiǎng),以表彰他們通過(guò) “ 人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明 ” 。 辛頓在接受電話采訪時(shí)表示: “ 完全沒(méi)想到 ” 。 實(shí)話實(shí)說(shuō),在結(jié)果出來(lái)前,大家也都沒(méi)想到。 因?yàn)樵谕饨珙A(yù)測(cè)里,今年的諾貝爾物理學(xué)獎(jiǎng)最大熱門(mén),還是傳統(tǒng)的凝聚態(tài)物理領(lǐng)域,結(jié)果最后頒給了 AI 圈的兩位大佬。 網(wǎng)友們也都不淡定了,有些人調(diào)侃地表示,物理學(xué)不存在了。 也有人表示,這次的頒獎(jiǎng)可能會(huì)引起一系列連鎖反應(yīng)。 一些人甚至有種感覺(jué),諾貝爾獎(jiǎng)有點(diǎn)蹭 AI 熱度的意思? 其實(shí)物理學(xué)界也不是沒(méi)什么新的研究成果,隔壁中科院物理所就猜了一堆足以拿諾獎(jiǎng)的研究,誰(shuí)知道直接“ 跨服 ”頒給了人工神經(jīng)網(wǎng)絡(luò)和機(jī)器學(xué)習(xí)領(lǐng)域。 而借著這個(gè)機(jī)會(huì),我們也去了解了下兩個(gè)大佬,發(fā)現(xiàn)人家的成就能拿獎(jiǎng)完全說(shuō)得過(guò)去。 首先是杰弗里 · 辛頓,這個(gè)大佬大家肯定不陌生了,再和大家強(qiáng)調(diào)一遍,他是公認(rèn)的 “ 深度學(xué)習(xí)之父 ” 。 我們今天也詳細(xì)去查了下辛頓老爺子,震驚我的反倒不是他自己的成就,而是他實(shí)在是家世顯赫。 就這么說(shuō)吧,千年以后,人類回顧豪門(mén)望族,辛頓家的族譜可能還是最閃耀的那一批,國(guó)內(nèi)的什么四世三公都得遜色一番。 在辛頓家族中,最頂?shù)木褪撬脑娓竼讨?nbsp;· 布爾,人稱邏輯學(xué)中的牛頓。 喬治和自己老婆也就是辛頓的曾曾祖母瑪麗 · 埃弗里斯 · 布爾,共同創(chuàng)作了布爾邏輯和代數(shù)學(xué),后來(lái)成為現(xiàn)代計(jì)算機(jī)的數(shù)學(xué)基礎(chǔ)。 而這個(gè)瑪麗的叔叔喬治 George Everest 是英國(guó)大地測(cè)量學(xué)家,珠穆朗瑪峰的英文名就是以他名字Everest 命名的。 辛頓的家族還特別和中國(guó)有緣。 他的曾姑媽艾捷爾 · 麗蓮 · 伏尼契,寫(xiě)了本書(shū)叫《 牛虻 》,曾激勵(lì)了一代國(guó)內(nèi)革命青年。 而他還有個(gè)姑媽名叫瓊 · 辛頓,中文名叫寒春( 咱們?cè)?jīng)寫(xiě)了一篇文章來(lái)介紹寒春,感興趣的差友可以點(diǎn)擊下方圖片閱讀原文 )。 這個(gè)姑媽曾經(jīng)參與過(guò)曼哈頓計(jì)劃。 后來(lái)因?yàn)槎喾皆?,毅然決然地棄美投中。 來(lái)到中國(guó)后的她放棄了自己擅長(zhǎng)的核物理研究,但寒春對(duì)新的奶牛事業(yè)樂(lè)在其中,甚至還為國(guó)內(nèi)巴氏殺菌奶設(shè)計(jì)了一條產(chǎn)線。
所以,咱們今天的主角辛頓在花了一輩子的時(shí)間,同時(shí)獲得了諾爾物理學(xué)家和圖靈獎(jiǎng),回家一看,也就只是能在族譜單開(kāi)一頁(yè)的水平? 而辛頓如今風(fēng)光的名號(hào),一路走來(lái)卻壓根并不輕松。 從小時(shí)候起,他的學(xué)習(xí)成績(jī)就談不上 “ 頂尖 ” 。 高中時(shí)上了一所他口中的 “ 二流公立學(xué)校 ” 克里夫頓學(xué)院,但實(shí)際上,該學(xué)院在辛頓之前出過(guò) 3 名得主諾獎(jiǎng),大家聽(tīng)聽(tīng)得了,別真信了。 8 歲的辛頓正在嘗試熟練地掌握 python ( 蟒蛇 ) 也就是在克里夫頓學(xué)院,辛頓從一個(gè)同學(xué)那兒聽(tīng)說(shuō)了 “ 大腦記憶并不固定存在某個(gè)部分,而是分散在是整個(gè)大腦,利用整個(gè)神經(jīng)網(wǎng)絡(luò)傳播,如果大腦使用全息圖,砍掉一半,還能獲得整個(gè)圖片…… ” 好好好,我高中同學(xué)咋天天只會(huì)跟我 “ 桀桀桀 ” 呢? 辛頓當(dāng)時(shí)估計(jì)也沒(méi)整明白,就把這個(gè)小故事深埋心底,隨后就開(kāi)始了自己的浪蕩前半生。 到了 18 歲,辛頓進(jìn)入劍橋大學(xué)國(guó)王學(xué)院學(xué)習(xí)物理、化學(xué)和數(shù)學(xué),但一個(gè)月后就退學(xué)了。 去倫敦 gap 了一年后改修建筑學(xué),結(jié)果就撐了一天,甚至后來(lái),辛頓也嘗試過(guò)轉(zhuǎn)向哲學(xué),不過(guò)也沒(méi)堅(jiān)持住。 再后面,辛頓就開(kāi)始雙修物理和生理學(xué),到最后,哥們拿了實(shí)驗(yàn)心理學(xué)畢業(yè)證。。。 畢業(yè)后的辛頓又跑去當(dāng)了一年木匠。 這種到處亂晃的水平,也讓辛頓總是被家里人 PUA ,他爸天天念叨 “ 你要好好努力,等你比我老一倍了,就能趕上我一半的成績(jī)了 ” 。 我估摸著,辛頓老爹如果在天有靈,這下總能感覺(jué)自己被打臉了。 總之,在嘗過(guò)了弱水三千后,辛頓找到了只屬于他的那一瓢:人工智能。 在當(dāng)時(shí),人工智能談不上什么大熱研究方向,他找了一個(gè)正在研究神經(jīng)網(wǎng)絡(luò)的導(dǎo)師希金斯教授,這一下就喚醒了辛頓年少時(shí)的記憶: “ 我要的就是讓機(jī)器實(shí)現(xiàn)大腦功能 ” 。 但在生成式大模型爆火之前, AI 界一直在爭(zhēng)論什么才是正確路線,神經(jīng)網(wǎng)絡(luò)、深度學(xué)習(xí)一度被符號(hào)主義( 簡(jiǎn)單說(shuō)就是所有事物、規(guī)則都能用一個(gè)個(gè)符號(hào)來(lái)代替, AI 通過(guò)記住這些符號(hào)和規(guī)則來(lái)理解世界 )等路線打得潰不成軍。 最夸張的時(shí)候,就連希金斯教授,都轉(zhuǎn)投符號(hào)主義門(mén)下,希金斯甚至還反過(guò)來(lái)勸辛頓也點(diǎn)了,重開(kāi)一把得了。 希金斯教授 一時(shí)間,神經(jīng)網(wǎng)絡(luò)被所有人放棄,世界上幾乎只剩下辛頓這一個(gè)獨(dú)苗了。 結(jié)果辛頓也就是頭鐵,愣是一個(gè)人守高地 30 多年,發(fā)育到六神裝,一把反推了其他 AI 路線的高地。 而辛頓這次獲獎(jiǎng)憑借的就是他在這幾十年里的成果之一:1985 年提出的 “ 玻爾茲曼機(jī) ” 。 玻爾茲曼機(jī)能夠像人一樣自主學(xué)習(xí)。 比如你給它看不停地看很多火鍋的帥照,就能生成一張新的,看起來(lái)很像火鍋的大金毛圖像。 這也就是后來(lái)的深度學(xué)習(xí)、人工神經(jīng)網(wǎng)絡(luò)的雛形。 隨著研究不斷深入,辛頓也逐漸開(kāi)創(chuàng)了一個(gè)新的學(xué)術(shù)分支:深度學(xué)習(xí)。 而今天你能看到活躍在生成式大模型頂端的辣些人,基本全是辛門(mén)成員,所以,你甚至可以說(shuō)辛頓是當(dāng)今所有大模型的唯一指定祖師爺。 后來(lái),辛頓還帶著前 OpenAI 首席科學(xué)家 Ilya 創(chuàng)辦了個(gè) DNNresearch 的公司,這家公司當(dāng)時(shí)沒(méi)有任何產(chǎn)品,而且也沒(méi)有任何計(jì)劃研究任何產(chǎn)品,說(shuō)白了他們公司的產(chǎn)品就是他們幾個(gè)人的腦子。 他們決定把 DNN 也就是他們自己,公開(kāi)向全世界拍賣,最終百度、谷歌、微軟和 DeepMind 四家公司競(jìng)爭(zhēng)。 當(dāng)競(jìng)價(jià)達(dá)到 4400 萬(wàn)美元時(shí),他們暫停了競(jìng)拍,然后直接把天賦帶到了谷歌。 在他們看來(lái),合適的平臺(tái)比更高的價(jià)格更重要。 但到了去年,辛頓主動(dòng)選擇從谷歌離職,就為了能夠自由談?wù)?AI 的風(fēng)險(xiǎn)。 在如今的他看來(lái), AI 已經(jīng)在朝一個(gè)人類無(wú)法掌控的地步進(jìn)化,他甚至在去年曾經(jīng)在接受采訪時(shí)表示,自己回顧一生的工作,感到非常后悔,以至于只能找一個(gè) “ 哪怕自己不做這些,也有其他人來(lái)做 ” 的借口來(lái)安慰自己。 可現(xiàn)如今,大家將他在后悔的工作捧上諾貝爾獎(jiǎng)臺(tái), 辛頓這次獲獎(jiǎng)也在學(xué)術(shù)圈引起了不少爭(zhēng)議,因?yàn)樾令D的工作成就雖然很出色,但它們顯然并不屬于傳統(tǒng)物理學(xué)的任何一個(gè)分支。 與之不同的是,和辛頓一同得獎(jiǎng)的霍普菲爾德,就顯得 “ 正統(tǒng) ” 了不少。 因?yàn)榛羝辗茽柕码m然以 AI 領(lǐng)域的工作內(nèi)容獲獎(jiǎng),但他其實(shí)是個(gè)地地道道的生物物理學(xué)家,曾經(jīng)拿到過(guò)玻爾茲曼獎(jiǎng)( 統(tǒng)計(jì)物理領(lǐng)域最高獎(jiǎng) )和狄拉克獎(jiǎng)( 理論物理學(xué)的重要獎(jiǎng)項(xiàng) ),比起辛頓來(lái)說(shuō)完全就是純血物理人。 霍普菲爾德的家族雖然不比辛頓,但也是頂尖書(shū)香門(mén)第,父母親都是知名物理學(xué)家。 學(xué)習(xí)生涯比起辛頓的放蕩不羈來(lái)說(shuō),就更顯得純血物理人了。 1933 年出生于芝加哥,從物理學(xué)士,到物理博士,一步步按部就班。 畢業(yè)后先后在貝爾實(shí)驗(yàn)室任職,在大學(xué)任教,在 NASA 做研究。。。 而他獲獎(jiǎng)的成果是 1982 年提出了霍普菲爾德網(wǎng)絡(luò),讓 AI 能夠像人類聯(lián)想記憶那樣,存儲(chǔ)和重建信息模式。 打個(gè)比方,你在試圖回憶一個(gè)不常用的成語(yǔ),可能會(huì)先想他的近義詞啥的,最終想起了這個(gè)成語(yǔ)。 霍普菲爾德網(wǎng)絡(luò)的工作方式就與此類似,當(dāng)給 AI 一個(gè)不完整的信息時(shí),它能夠找到最相似的存儲(chǔ)信息。 這么一來(lái),霍普菲爾德網(wǎng)絡(luò)就能修復(fù)損壞的數(shù)據(jù),比如去除圖片中的噪點(diǎn)。 乍一聽(tīng),這個(gè)玩意兒根本不物理,反而很 AI 是吧。 其實(shí)并不是,霍普菲爾德網(wǎng)絡(luò)的存儲(chǔ)和檢索方式,利用了材料的物理特性。 材料內(nèi)的原子會(huì)因?yàn)樽孕a(chǎn)生的特性,這個(gè)特性使得每個(gè)原子都成為了 mini 磁鐵,大家互相有著不同的引力。 數(shù)據(jù)的存儲(chǔ)在不同引力下,就好比一個(gè)層巒疊嶂的景觀中,當(dāng)網(wǎng)絡(luò)接收到新的輸入時(shí),就像在這個(gè)景觀中滾動(dòng)一個(gè)球,最終球會(huì)根據(jù)不同的溝壑( 即引力 )停在最接近的山谷中,也就是找到了最相似的存儲(chǔ)模式。 更重要的是,霍普菲爾德將神經(jīng)網(wǎng)絡(luò)的動(dòng)力學(xué),與物理學(xué)中的系統(tǒng) ( 特別是統(tǒng)計(jì)力學(xué) ) 進(jìn)行了比較和融合。 這種跨學(xué)科方法是革命性的,為后來(lái)的研究者們打開(kāi)了新思路。 總之,霍普菲爾德的獲獎(jiǎng)也是相當(dāng)實(shí)至名歸的。 但無(wú)論怎么說(shuō), AI 的風(fēng)已經(jīng)吹到了諾貝爾獎(jiǎng)了,在諾貝爾物理學(xué)委員會(huì)看來(lái),如今的人工神經(jīng)網(wǎng)絡(luò)已經(jīng)為物理學(xué)帶來(lái)了新的使用場(chǎng)景,比如開(kāi)發(fā)具有特定屬性的新材料等等。 而這些成就,顯然足以抹去什么學(xué)科之見(jiàn)。 很難想象,在 AI 發(fā)展如此迅猛的未來(lái),人們竟然還在爭(zhēng)論它到底配不配得物理學(xué)獎(jiǎng),而差評(píng)君想說(shuō)的是: 既見(jiàn)未來(lái),為何不拜? 撰文:八戒
Wikipedia:Geoffrey HintonBritannica:Geoffrey HintonBritannica:Sir George EverestAIM:Geoffrey Hinton: When genius runs in the familyAshleevance:Oral History: Geoff Hinton On How AI Came To Be And What We're Supposed To Do With It
|