伊利亞·蘇茨克弗（Ilya Sutskever）低著頭，陷入了沉思。他的雙臂張開(kāi)，手指張開(kāi)放在桌面上，就像一個(gè)即將彈奏第一個(gè)音符的鋼琴家。就這樣，我們靜靜地坐著。

我見(jiàn)到了 OpenAI 的聯(lián)合創(chuàng)始人兼首席科學(xué)家蘇茨克弗，在舊金山一條不起眼的街道上，一棟沒(méi)有標(biāo)記的辦公樓里，我想聽(tīng)聽(tīng)他為改變世界的技術(shù)所安排的下一步是什么。我還想知道他接下來(lái)想做什么，尤其是為什么構(gòu)建 OpenAI 的下一代旗艦生成式模型不再是他的工作重點(diǎn)了。

蘇茨克弗告訴我，他不打算構(gòu)建下一個(gè) GPT 或圖像生成模型 DALL-E，而是打算弄清楚如何阻止超級(jí)人工智能變得不受控制。作為未來(lái)主義的信徒，他認(rèn)為這種仍處于假設(shè)的未來(lái)技術(shù)終會(huì)出現(xiàn)。

蘇茨克弗還跟我分享了很多其他想法。他認(rèn)為 ChatGPT 可能是有意識(shí)的。他還認(rèn)為，世界需要意識(shí)到他的公司和其他公司正在競(jìng)相創(chuàng)造的技術(shù)的真正力量。他相信，有些人有一天會(huì)選擇與機(jī)器融合。

（來(lái)源：STEPHANIE ARNETT/MITTR | OPENAI (ILYA)）

蘇茨克弗說(shuō)的很多話(huà)都是看似瘋狂的。但現(xiàn)在聽(tīng)到他說(shuō)的，并不像一兩年前聽(tīng)起來(lái)那么遙不可及。正如他自己告訴我的那樣，ChatGPT 已經(jīng)改變了很多人對(duì)即將發(fā)生的事情的期望，從“永遠(yuǎn)不會(huì)發(fā)生”變成了“將比你想象的更快發(fā)生”。

在預(yù)測(cè)通用人工智能的發(fā)展之前（指的是像人類(lèi)一樣聰明的機(jī)器），他說(shuō)：“重要的是要談?wù)撍陌l(fā)展方向。在某個(gè)時(shí)候，我們真的會(huì)看到通用人工智能。也許 OpenAI 會(huì)構(gòu)建它，也許是其他公司。” 他說(shuō)話(huà)的態(tài)度就像是通用人工智能的誕生和下一部 iPhone 的誕生一樣理所當(dāng)然。

自 2022 年 11 月 ChatGPT 突然發(fā)布以來(lái)，圍繞 OpenAI 的討論一直層出不窮，即使在一個(gè)以炒作而聞名的行業(yè)中也是如此。沒(méi)有人對(duì)這家估值 800 億美元?jiǎng)?chuàng)業(yè)公司感到厭倦，它的產(chǎn)品名字活躍于人們茶余飯后的閑聊中。

OpenAI 的首席執(zhí)行官山姆·奧特曼（Sam Altman）在 2023 年夏天進(jìn)行了許多為期數(shù)周的宣傳之旅，興高采烈地與政客們握手，并在世界各地?fù)頂D的禮堂里發(fā)表演講。但蘇茨克弗不是一個(gè)公眾人物，他沒(méi)有接受很多采訪(fǎng)。

他說(shuō)話(huà)深思熟慮，有條不紊。當(dāng)他思考自己想說(shuō)什么以及如何說(shuō)時(shí)，會(huì)有很長(zhǎng)的停頓，把問(wèn)題像他需要解決的難題一樣翻來(lái)覆去地思考。他似乎對(duì)談?wù)撟约翰桓信d趣。“我過(guò)著非常簡(jiǎn)單的生活，”他說(shuō)，“我去上班，然后回家，幾乎不做什么別的事情。一個(gè)人能參加的社交活動(dòng)有很多，但我不去?！?/span>

但是，當(dāng)我們談?wù)撊斯ぶ悄?，以及他看到的劃時(shí)代的風(fēng)險(xiǎn)和回報(bào)時(shí)，對(duì)話(huà)就此展開(kāi)：“這將是無(wú)法忽視的、驚天動(dòng)地的、劃分時(shí)代的（東西）?！?/span>

越來(lái)越好

就算在一個(gè)沒(méi)有 OpenAI 的世界里，蘇茨克弗仍然會(huì)在人工智能的歷史上占有一席之地。他是以色列裔加拿大人，出生在前蘇聯(lián)，但從五歲起就在耶路撒冷長(zhǎng)大。他仍然會(huì)說(shuō)俄語(yǔ)、希伯來(lái)語(yǔ)和英語(yǔ)。他長(zhǎng)大后移居加拿大，在多倫多大學(xué)與人工智能先驅(qū)杰弗里·辛頓（Geoffrey Hinton）共事，后者曾在 2023 年公開(kāi)表達(dá)了他對(duì)這項(xiàng)技術(shù)的擔(dān)憂(yōu)。蘇茨克弗不想評(píng)論辛頓的聲明，但他對(duì)超級(jí)智能惡意使用的新關(guān)注表明他們有相似的看法。

辛頓后來(lái)與楊立昆（Yann LeCun）和約書(shū)亞·本吉奧（Yoshua Bengio）共同獲得了圖靈獎(jiǎng)，以表彰他們?cè)谏窠?jīng)網(wǎng)絡(luò)方面的工作。但是當(dāng)蘇茨克弗在 2000 年代初加入他時(shí)，大多數(shù)人工智能研究人員認(rèn)為神經(jīng)網(wǎng)絡(luò)是一條死胡同。辛頓是個(gè)例外。蘇茨克弗說(shuō)，他當(dāng)時(shí)已經(jīng)在訓(xùn)練很小的模型，一次可以生成一個(gè)字符的短文本字符串：“這是生成式人工智能的開(kāi)始。這真的很酷，只是當(dāng)時(shí)表現(xiàn)不好。”

蘇茨克弗對(duì)大腦著迷，尤其是大腦是如何學(xué)習(xí)的，以及如何在機(jī)器中創(chuàng)造或模仿該學(xué)習(xí)過(guò)程。像辛頓一樣，他看到了神經(jīng)網(wǎng)絡(luò)的潛力，以及辛頓用來(lái)訓(xùn)練它們的試錯(cuò)技術(shù)，又被稱(chēng)為深度學(xué)習(xí)?！八恢痹谧兊迷絹?lái)越好，越來(lái)越好，”蘇茨克弗說(shuō)。

2012 年，蘇茨克弗、辛頓和辛頓的另一位研究生亞歷克斯·克里熱夫斯基（ Alex Krizhevsky）建立了一個(gè)名為 AlexNet 的神經(jīng)網(wǎng)絡(luò)，他們訓(xùn)練該神經(jīng)網(wǎng)絡(luò)識(shí)別照片中的物體，表現(xiàn)比當(dāng)時(shí)的任何其他軟件都要好得多。這是深度學(xué)習(xí)的大爆炸時(shí)刻。

經(jīng)過(guò)多年的嘗試，他們已經(jīng)證明神經(jīng)網(wǎng)絡(luò)在識(shí)別規(guī)律方面非常有效。你需要的是比大多數(shù)研究人員所見(jiàn)過(guò)的數(shù)據(jù)集更大的數(shù)據(jù)集，在這種情況下，他們用到了普林斯頓大學(xué)研究員李飛飛自 2006 年以來(lái)一直在構(gòu)建的 ImageNet 數(shù)據(jù)集中的一百萬(wàn)張圖像，以及令人瞠目結(jié)舌的計(jì)算能力。

算力的飛躍來(lái)自于英偉達(dá)制造的圖形處理單元（GPU，顯卡）。顯卡本來(lái)是用在電子游戲領(lǐng)域的，但它們所擅長(zhǎng)的運(yùn)算方式，恰好看起來(lái)很像訓(xùn)練神經(jīng)網(wǎng)絡(luò)所需的計(jì)算。

英偉達(dá)現(xiàn)在是一家價(jià)值萬(wàn)億美元的公司。但在當(dāng)時(shí)，它迫切希望為其小眾的新硬件尋找用武之地?！爱?dāng)你發(fā)明一項(xiàng)新技術(shù)時(shí)，你必須接受瘋狂的想法，”英偉達(dá) CEO 黃仁勛說(shuō)，“我的心態(tài)一直是不斷尋找一些古怪的東西，而神經(jīng)網(wǎng)絡(luò)將改變計(jì)算機(jī)科學(xué)的想法，（在當(dāng)時(shí)）的確是一個(gè)非常古怪的想法?！?/span>

黃仁勛說(shuō)，在多倫多大學(xué)的團(tuán)隊(duì)開(kāi)發(fā) AlexNet 時(shí)，英偉達(dá)送了他們幾個(gè) GPU 進(jìn)行嘗試。但他們想要最新版本的顯卡，那時(shí)候是 GTX 580，不過(guò)它們供不應(yīng)求。黃仁勛講了一個(gè)故事，是蘇茨克弗從多倫多開(kāi)車(chē)越過(guò)美加邊境，跑到紐約買(mǎi)了一些。

“人們?cè)谏痰晖饷媾胖L(zhǎng)隊(duì)，”黃說(shuō)，“我不知道他是怎么做到的，但我很確定當(dāng)時(shí)的規(guī)定是每人只能買(mǎi)一個(gè)。我們有非常嚴(yán)格的政策，每個(gè)游戲玩家一個(gè)，但他顯然用了一些辦法，買(mǎi)了一整個(gè)后備箱的顯卡。那個(gè)裝滿(mǎn) GTX 580 的后備箱改變了世界?！?/span>

這是一個(gè)頗具傳奇色彩的故事，但可能不是真的。蘇茨克弗堅(jiān)稱(chēng)他在網(wǎng)上購(gòu)買(mǎi)了第一批顯卡。但這種故事在這個(gè)喧囂的行業(yè)中司空見(jiàn)慣。蘇茨克弗本人則更為謙虛：“我想，如果我能取得哪怕一丁點(diǎn)真正的進(jìn)步，我都會(huì)認(rèn)為這是成功的，”他說(shuō)。研究對(duì)現(xiàn)實(shí)世界產(chǎn)生的影響似乎無(wú)比遙遠(yuǎn)，因?yàn)楫?dāng)時(shí)的計(jì)算機(jī)性能過(guò)于羸弱。

在 AlexNet 成功之后，谷歌找上門(mén)來(lái)。它收購(gòu)了辛頓手里的衍生公司 DNNresearch 并聘請(qǐng)了蘇茨克弗。在谷歌，蘇茨克弗展示了深度學(xué)習(xí)的規(guī)律識(shí)別能力可以應(yīng)用于數(shù)據(jù)序列，如單詞、句子、以及圖像。“伊利亞一直對(duì)語(yǔ)言感興趣，”蘇茨克弗的前同事、現(xiàn)任谷歌首席科學(xué)家的杰夫·迪恩（Jeff Dean）說(shuō)：“多年來(lái)，我們都保持著很好的交流。伊利亞對(duì)事情的發(fā)展方向有很強(qiáng)的直覺(jué)?！?/span>

但蘇茨克弗并沒(méi)有在谷歌呆太久。2014 年，他被招募成為 OpenAI 的聯(lián)合創(chuàng)始人。在 10 億美元（來(lái)自?shī)W特曼、馬斯克、蒂爾、微軟和 Y Combinator 等）的支持下，再加上硅谷的“噱頭”，這家新公司從一開(kāi)始就將目光投向了開(kāi)發(fā)通用人工智能，當(dāng)時(shí)很少有人認(rèn)真對(duì)待這一前景。

有蘇茨克弗在，大張旗鼓是可以理解的。在那之前，他一直在積累自己的聲譽(yù)，越來(lái)越多地從神經(jīng)網(wǎng)絡(luò)中得到好處。他的聲譽(yù)使他成為一個(gè)主要的吸睛目標(biāo)，Y Combinator 投資總經(jīng)理道爾頓·考德威爾（Dalton Caldwell）說(shuō)。

“我記得山姆（奧特曼）提到伊利亞是世界上最受尊敬的研究人員之一，”考德威爾說(shuō)，“他認(rèn)為伊利亞能夠吸引很多頂尖的人工智能人才。他甚至提到，世界頂級(jí)人工智能專(zhuān)家之一約書(shū)亞·本吉奧認(rèn)為，不太可能找到比伊利亞更好的候選人來(lái)?yè)?dān)任 OpenAI 的首席科學(xué)家。

然而，OpenAI 一開(kāi)始就陷入了困境?！坝幸欢螘r(shí)間，當(dāng)我們剛創(chuàng)立 OpenAI 時(shí)，我不確定該如何繼續(xù)下去，”蘇茨克弗說(shuō)，“但我有一個(gè)非常明確的信念，那就是：人們不會(huì)反對(duì)深度學(xué)習(xí)。不知何故，每次你遇到障礙時(shí)，研究人員都會(huì)在六個(gè)月或一年內(nèi)找到解決方法。”

他的信心得到了回報(bào)。OpenAI 的第一個(gè) GPT 大型語(yǔ)言模型（GPT 的意思是“生成式預(yù)訓(xùn)練轉(zhuǎn)換器”）出現(xiàn)在 2016 年。接著是 GPT-2 和 GPT-3，然后是 DALL-E，引人注目的文本到圖像模型。從來(lái)沒(méi)有人創(chuàng)造出這么強(qiáng)大的東西。隨著每個(gè)版本的發(fā)布，OpenAI 都提高了人們心目中“可能”的標(biāo)準(zhǔn)。

管理期望

2022 年 11 月，OpenAI 發(fā)布了一個(gè)可以免費(fèi)使用的聊天機(jī)器人 ChatGPT，重新包裝了一些現(xiàn)有的技術(shù)。結(jié)果，它重置了整個(gè)行業(yè)的進(jìn)程。

當(dāng)時(shí)，OpenAI 還不知道它發(fā)布的東西能帶來(lái)什么。蘇茨克弗說(shuō)，公司內(nèi)部對(duì)此的期望再低不過(guò)了：“我不得不承認(rèn)這點(diǎn)，雖然有些尷尬，但這是真的。當(dāng)我們創(chuàng)造 ChatGPT 時(shí)，我不知道它是否能帶來(lái)任何好處。當(dāng)你問(wèn)它一個(gè)事實(shí)性問(wèn)題時(shí)，它會(huì)甩給你一個(gè)錯(cuò)誤的答案。我覺(jué)得它是如此地平淡無(wú)奇，以至于人們會(huì)說(shuō)，'你做這個(gè)東西干什么？這太無(wú)聊了！”

人們關(guān)注的重點(diǎn)是便捷性，蘇茨克弗說(shuō)。ChatGPT 背后的大型語(yǔ)言模型已經(jīng)存在了幾個(gè)月。但是，將其包裝在一個(gè)易用的網(wǎng)頁(yè)上并免費(fèi)開(kāi)放，這讓數(shù)十億人第一次意識(shí)和接觸到 OpenAI 和其他公司正在構(gòu)建的東西。

“這種第一次的使用體驗(yàn)吸引了人們，”蘇茨克弗說(shuō)，“第一次使用它時(shí)，我認(rèn)為這幾乎是一種精神之旅。你會(huì)覺(jué)得，'我的天啊，這臺(tái)電腦明白我在說(shuō)什么?！?/span>

OpenAI 在不到兩個(gè)月的時(shí)間里積累了 1 億用戶(hù)，其中許多人被這個(gè)令人驚嘆的新玩具弄得眼花繚亂。存儲(chǔ)公司 Box 的 CEO 亞倫·萊維（Aaron Levie）總結(jié)了這種狀態(tài)，他在 X（原推特）上寫(xiě)道：“ChatGPT 的發(fā)布是技術(shù)領(lǐng)域罕見(jiàn)的時(shí)刻之一，你得以窺見(jiàn)未來(lái)的一切都會(huì)發(fā)生改變?！?/span>

盡管一旦 ChatGPT 給出愚蠢的回應(yīng)，這個(gè)人們眼中的奇跡就會(huì)崩塌，但到那時(shí)就無(wú)所謂了。人們看到了它的可能性，這就足夠了，蘇茨克弗說(shuō)。ChatGPT 改變了人們的視野。

“通用人工智能不再是機(jī)器學(xué)習(xí)領(lǐng)域人人避之不及的一個(gè)詞，”他說(shuō)，“這是一個(gè)很大的變化。人們之前采取的態(tài)度是：人工智能行不通，每一步都非常困難，你必須為一點(diǎn)點(diǎn)的進(jìn)步而戰(zhàn)。當(dāng)人們宣布關(guān)于通用人工智能的大發(fā)現(xiàn)時(shí)，研究人員會(huì)說(shuō)，'你在說(shuō)什么？這行不通，那行不通，問(wèn)題太多了。但有了 ChatGPT，感覺(jué)開(kāi)始變得不一樣了?！?/span>

而這種轉(zhuǎn)變?cè)谝荒昵安砰_(kāi)始發(fā)生?！斑@就是因?yàn)?ChatGPT 的誕生，”他說(shuō)，“ChatGPT 讓機(jī)器學(xué)習(xí)研究人員開(kāi)始有資格做夢(mèng)?！?/span>

OpenAI 的科學(xué)家從一開(kāi)始就是布道者，他們一直在通過(guò)博客文章和演講來(lái)激發(fā)這些夢(mèng)想。它正在發(fā)揮作用：“我們現(xiàn)在看到，有人在談?wù)撊斯ぶ悄軙?huì)走多遠(yuǎn)。人們開(kāi)始談?wù)撏ㄓ萌斯ぶ悄埽蛘叱?jí)智能。而且不僅僅是研究人員，政府也在談?wù)撍?，”蘇茨克弗說(shuō)，“這太瘋狂了?！?/span>

不可思議的事情

蘇茨克弗堅(jiān)持認(rèn)為，所有這些關(guān)于尚未（也可能永遠(yuǎn)不會(huì)）出現(xiàn)的技術(shù)的討論都是一件好事，因?yàn)樗尭嗟娜丝吹搅艘粋€(gè)未來(lái)的樣子，而他們本就認(rèn)為這個(gè)未來(lái)會(huì)出現(xiàn)。

“你可以用通用人工智能做很多令人驚奇的、不可思議的事情，比如自動(dòng)化醫(yī)療保健，讓它便宜一千倍，好一千倍，治愈更多的疾病，真正解決全球變暖，”他說(shuō)。但也有許多人擔(dān)心，人工智能公司會(huì)管理好這項(xiàng)影響深遠(yuǎn)的技術(shù)嗎？

這樣聽(tīng)起來(lái)，通用人工智能更像是一個(gè)愿望實(shí)現(xiàn)的精靈，而不是現(xiàn)實(shí)世界的前景。很少有人會(huì)對(duì)拯救生命和解決氣候變化說(shuō)不。但是它是一個(gè)還不存在的技術(shù)，所以你可以隨心所欲地說(shuō)。

當(dāng)蘇茨克弗談?wù)撏ㄓ萌斯ぶ悄軙r(shí)，他真正想表達(dá)的是什么？“通用人工智能并不是一個(gè)科學(xué)術(shù)語(yǔ)，”他說(shuō)，“它代表了一個(gè)有用的門(mén)檻（閾值），一個(gè)參考點(diǎn)。

他繼續(xù)說(shuō)：“這是一個(gè)時(shí)間點(diǎn)，人工智能會(huì)變得非常聰明，聰明到如果一個(gè)人可以完成一些任務(wù)，那么人工智能也可以做到。在這時(shí)候，你可以說(shuō)你有了通用人工智能?！?/span>

人們可能會(huì)一直談?wù)撍?，但通用人工智能仍然是該領(lǐng)域最具爭(zhēng)議的想法之一。很少有人認(rèn)為它的發(fā)展是理所當(dāng)然的。許多研究人員認(rèn)為，在我們看到蘇茨克弗所提到的任何美妙的東西之前，需要出現(xiàn)重大的概念突破。有些人則認(rèn)為我們永遠(yuǎn)不會(huì)看到這個(gè)時(shí)刻。

然而，這一愿景從一開(kāi)始就驅(qū)使著他?！拔乙恢笔艿竭@個(gè)想法的啟發(fā)和激勵(lì)，”蘇茨克弗說(shuō)，“當(dāng)時(shí)它還不叫通用人工智能，就是想讓神經(jīng)網(wǎng)絡(luò)做任何事情。我并不總是相信它們可以做到，但這是要攀登的山。”

他將神經(jīng)網(wǎng)絡(luò)和大腦的運(yùn)作方式相提并論。兩者都接受數(shù)據(jù)，從這些數(shù)據(jù)中聚合信號(hào)，然后基于一些簡(jiǎn)單的過(guò)程（神經(jīng)網(wǎng)絡(luò)中的數(shù)學(xué)，大腦中的化學(xué)物質(zhì)和生物電）來(lái)傳播或不傳播它們。這是這個(gè)過(guò)程的極度精簡(jiǎn)版本，但本質(zhì)上就是這樣。

“如果你相信這一點(diǎn)，如果你允許自己相信這一點(diǎn)，那么就會(huì)有很多有趣的引申冒出來(lái)，”蘇茨克弗說(shuō)，“主要一個(gè)引申思路是，如果你有一個(gè)非常大的人工神經(jīng)網(wǎng)絡(luò)，它應(yīng)該能做很多事情。特別是，如果人類(lèi)大腦可以做某事，那么大型人工神經(jīng)網(wǎng)絡(luò)也可以做類(lèi)似的事情?！?/span>

“如果你足夠認(rèn)真地對(duì)待這個(gè)認(rèn)識(shí)，一切都會(huì)隨之而來(lái)，”他說(shuō)，“我工作的很大一部分可以用這個(gè)來(lái)解釋?！?/span>

當(dāng)我們談?wù)摯竽X時(shí)，我問(wèn)了蘇茨克弗在 X 上發(fā)表的一篇文章。蘇茨克弗的推文流讀起來(lái)就像格言和雞湯，比如“如果你把智力看得高于所有其他人類(lèi)品質(zhì)，你就會(huì)過(guò)得很糟糕”，“生活和商業(yè)中的同理心（的價(jià)值）被低估了”，“完美已經(jīng)摧毀了許多本就完美的東西?！?/span>

2022 年 2 月，他發(fā)帖稱(chēng)，“或許如今的大型神經(jīng)網(wǎng)絡(luò)萌生了意識(shí)”。對(duì)此，谷歌 DeepMind 首席科學(xué)家、倫敦帝國(guó)理工學(xué)院教授、電影《機(jī)械姬》的科學(xué)顧問(wèn)默里·沙納漢（Murray Shanahan）回復(fù)說(shuō)：“......從同樣意義上講，一大片小麥可能顯得有點(diǎn)像意大利面?！?/span>

當(dāng)我提起這個(gè)故事時(shí)，蘇茨克弗笑了。他在故意搞笑嗎？他沒(méi)有?！澳闶煜げ柶澛竽X的概念嗎？”他問(wèn)。

他指的是以 19 世紀(jì)物理學(xué)家路德維?！げ柶澛↙udwig Boltzmann）命名的量子力學(xué)思想實(shí)驗(yàn)，其中宇宙中的隨機(jī)熱力學(xué)波動(dòng)被想象成大腦突然出現(xiàn)和消失的原因。

“我覺(jué)得現(xiàn)在這些語(yǔ)言模型有點(diǎn)像玻爾茲曼大腦，”蘇茨克弗說(shuō)，“你開(kāi)始和它說(shuō)話(huà)，聊了一會(huì)兒，然后你說(shuō)完了，大腦就噗的一下消失了?！?他同時(shí)用手做了一個(gè)消失的動(dòng)作。再見(jiàn)，大腦。

我繼續(xù)問(wèn)：“你是說(shuō)，當(dāng)神經(jīng)網(wǎng)絡(luò)處于活動(dòng)狀態(tài)時(shí)，或者它正在激發(fā)時(shí)，那里出現(xiàn)了一些東西？”

“我想可能是，”他說(shuō)?！拔也淮_定，但這是一種很難反駁的可能性。誰(shuí)知道發(fā)生了什么，對(duì)吧？”

超級(jí)人工智能和超級(jí)對(duì)齊

當(dāng)其他人為可以匹配人類(lèi)智慧的機(jī)器的想法而苦苦掙扎時(shí)，蘇茨克弗正在為能夠超越我們的機(jī)器做準(zhǔn)備。他稱(chēng)之為超級(jí)人工智能：“它們會(huì)更深入地看待事物，會(huì)看到我們看不到的東西?！?/span>

同樣，我很難理解這到底意味著什么。人類(lèi)智能是我們衡量智能的基準(zhǔn)。蘇茨克弗所說(shuō)的比人類(lèi)更聰明的智能是什么意思？

“我們已經(jīng)在 AlphaGo 中看到了一個(gè)非常狹隘的超級(jí)智能的例子，”他說(shuō)。2016 年，DeepMind 的圍棋人工智能以 4 比 1 擊敗了世界上最好的圍棋選手之一李世石?！八氤隽巳绾我圆煌谌祟?lèi)數(shù)千年來(lái)集體發(fā)展的方式下圍棋，”蘇茨克弗說(shuō)，“它想出了新的想法?！?/span>

蘇茨克弗指出了 AlphaGo 走出的第 37 步。在對(duì)陣?yán)钍朗牡诙?chǎng)比賽中，人工智能做出了一個(gè)讓評(píng)論員感到困惑的舉動(dòng)。他們認(rèn)為 AlphaGo 搞砸了。事實(shí)上，它下出了圍棋史上從未見(jiàn)過(guò)的關(guān)鍵一手。“想象一下這種洞察力，可以用到各種地方，”蘇茨克弗說(shuō)。

正是這種思維導(dǎo)致蘇茨克弗做出了他職業(yè)生涯中最大的轉(zhuǎn)變。他與 OpenAI 的科學(xué)家簡(jiǎn)·雷克（Jan Leike）一起成立了一個(gè)團(tuán)隊(duì)，專(zhuān)注于他們所謂的“超級(jí)對(duì)齊（superalignment）”。對(duì)齊（alignment）是人工智能領(lǐng)域的術(shù)語(yǔ)，意味著讓人工智能模型只做你想讓它做的事，僅此而已。超級(jí)對(duì)齊，是 OpenAI 應(yīng)用于超級(jí)智能的對(duì)齊術(shù)語(yǔ)。

它的目標(biāo)是，提出一套故障安全程序來(lái)構(gòu)建和控制這項(xiàng)未來(lái)技術(shù)。OpenAI 表示，它將把五分之一的龐大計(jì)算資源分配給這個(gè)問(wèn)題，并在四年內(nèi)解決這個(gè)問(wèn)題。

“現(xiàn)有的對(duì)齊方法不適用于比人類(lèi)更聰明的模型，因?yàn)樗鼈儚母旧霞僭O(shè)人類(lèi)可以可靠地評(píng)估人工智能系統(tǒng)正在做什么，” 雷克說(shuō)，“隨著人工智能系統(tǒng)變得越來(lái)越強(qiáng)大，它們將承擔(dān)更艱巨的任務(wù)。因此，這將使人類(lèi)更難評(píng)估它們。“與伊利亞組建超級(jí)對(duì)齊團(tuán)隊(duì)，意味著我們已經(jīng)開(kāi)始著手解決這些未來(lái)的對(duì)齊挑戰(zhàn)，”他說(shuō)。

“不僅要關(guān)注大型語(yǔ)言模型的潛在機(jī)會(huì)，還要關(guān)注風(fēng)險(xiǎn)和缺點(diǎn)，這一點(diǎn)非常重要，”谷歌首席科學(xué)家迪恩說(shuō)。

該公司在 7 月大張旗鼓地宣布了該項(xiàng)目。但對(duì)一些人來(lái)說(shuō)，這更像是幻想。OpenAI 在 X 上發(fā)的帖子引起了大型科技公司著名批評(píng)者的蔑視：在 Mozilla 從事人工智能責(zé)任工作的阿維夫·布爾漢（Abeba Birhane）寫(xiě)道：“一篇博客文章中就有這么多聽(tīng)起來(lái)很宏偉但空洞的詞”；分布式人工智能研究所（Distributed Artificial Intelligence Research Institute）聯(lián)合創(chuàng)始人蒂姆尼特·格布魯（Timnit Gebru）表示：“想象一下，ChatGPT 與 OpenAI 更加'超級(jí)一致'，就讓人不寒而栗”；以及人工智能公司 Hugging Face 的首席倫理科學(xué)家瑪格麗特·米切爾（Margaret Mitchell）說(shuō)到：“我的對(duì)齊比你的更大”。

的確，這些都是熟悉的質(zhì)疑聲音。但這也提醒我們，有些人看到 OpenAI 遙遙領(lǐng)先，也有人看到了它在向某個(gè)方向傾斜。

但是，對(duì)于蘇茨克弗來(lái)說(shuō)，超級(jí)對(duì)齊是不可避免的下一步。“這是一個(gè)未解決的問(wèn)題，”他說(shuō)。他認(rèn)為，這個(gè)問(wèn)題沒(méi)有足夠多的、像他這樣的核心機(jī)器學(xué)習(xí)研究人員在探索。“我這樣做是我自己的興趣驅(qū)使，”他說(shuō)，“非常重要的是，任何人建立的任何超級(jí)智能都不會(huì)變成壞蛋。這很顯而易見(jiàn)吧?！?/span>

超級(jí)對(duì)齊的工作才剛剛開(kāi)始。這將需要研究機(jī)構(gòu)的廣泛改變，蘇茨克弗說(shuō)。但他心中有一個(gè)他想要設(shè)計(jì)的保護(hù)措施的典范：一臺(tái)像父母看待孩子一樣看待人的機(jī)器。“在我看來(lái)，這是黃金標(biāo)準(zhǔn)，”他說(shuō)，“人們真的很關(guān)心孩子，這句話(huà)在大部分情況下是對(duì)的?！?蘇茨克弗沒(méi)有孩子，但他想有。

我和蘇茨克弗約定的采訪(fǎng)時(shí)間就要結(jié)束了，我一度認(rèn)為已經(jīng)結(jié)束了。但他還在說(shuō)，還有一個(gè)想法要分享，一個(gè)我沒(méi)想到的想法。

“一旦你克服了超級(jí)人工智能的挑戰(zhàn)，那又如何呢？在一個(gè)擁有更智能的人工智能的世界里，人類(lèi)還有空間嗎？“他說(shuō)。

“有一種可能性，按照今天的標(biāo)準(zhǔn)可能很瘋狂，但按照未來(lái)的標(biāo)準(zhǔn)不會(huì)那么瘋狂，那就是許多人會(huì)選擇成為人工智能的一部分，”蘇茨克弗說(shuō)，這可能是人類(lèi)試圖跟上人工智能的方式，“起初，只有最大膽、最冒險(xiǎn)的人才會(huì)嘗試這樣做。也許其他人會(huì)效仿，也許不會(huì)?！?/span>

話(huà)音剛落，他就要起身離開(kāi)了。

“你會(huì)這樣做嗎？”我急忙追問(wèn)，“你會(huì)是第一個(gè)嗎？”

“第一個(gè)？我不知道，“他說(shuō)，“但這是我在考慮的事情。真正的答案是：也許吧?！?/span>

緊接著，他站起來(lái)走出了房間?！昂芨吲d再次見(jiàn)到你，”他邊走邊說(shuō)。

支持：Ren