知領(lǐng)

01

探索 AI 所帶來的機(jī)遇和風(fēng)險(xiǎn)

Nadav Cohen:

大家好。今天我們與大學(xué)的支持者、管理學(xué)院的教職員工和學(xué)生一起。我們還有來自微軟和以色列高科技生態(tài)系統(tǒng)其他領(lǐng)域的來賓。我是計(jì)算機(jī)科學(xué)學(xué)院的Nadav Cohen。我非常榮幸地邀請Sam Altman和Elia Sutskever上臺，他們是OpenAI 的 CEO 和首席科學(xué)家。請到舞臺上來，坐下。謝謝大家的到來，非常感謝。

Sam Altman:

謝謝邀請。

Nadav Cohen:

我想我們先簡單介紹一下自己。Ilya，請重點(diǎn)強(qiáng)調(diào)一下你的以色列背景。

Ilya Sutskever:

嗯，好的。大家好。實(shí)際上，我從5歲到16歲一直住在耶路撒冷。

我在2000年到2002年期間在開放大學(xué)學(xué)習(xí)。之后我去了多倫多大學(xué)，待了10年，獲得了學(xué)士、碩士和博士學(xué)位。在攻讀博士期間，我有幸為深度學(xué)習(xí)的重要進(jìn)展做出了貢獻(xiàn)。然后我和幾個(gè)人一起創(chuàng)辦了一家被谷歌收購的公司，并在那里工作了一段時(shí)間。然后有一天，我收到了 Sam的一封冷郵件，說：“嘿，我們一起和一些厲害的人聚聚?！蔽曳浅：闷?，就去了。那是我和 Elon Musk 以及 Greg Brockman 的第一次晚餐，我們決定創(chuàng)辦 OpenAI 。然后我們一直在做這個(gè)項(xiàng)目，已經(jīng)過了好幾年了。所以現(xiàn)在我們就在這里。

Sam Altman:

我從小就對 AI 非常興奮，就像一個(gè)小科幻迷。我從來沒有想過自己會有機(jī)會在這方面工作，但后來進(jìn)入了大學(xué)，學(xué)了一段時(shí)間。那時(shí)候并沒有什么成果。大約是在2004年。我退學(xué)了，創(chuàng)辦了一些公司，成為了一名初創(chuàng)公司投資者。在聽到Ilia提到的那些進(jìn)展后，我對 AI 發(fā)生的事情非常激動。我給他發(fā)了那封郵件，然后我們就在這里了。

Nadav Cohen:

我想問一下，你認(rèn)為 OpenAI 在生成式 AI 方面成為領(lǐng)導(dǎo)者的關(guān)鍵優(yōu)勢是什么，尤其是在競爭對手通常更大、資源更多的情況下？

Sam Altman:

專注和堅(jiān)定。我們相信，我認(rèn)為我們總是比那些更大的公司更早地看到未來的發(fā)展方向。我們更專注于做自己的事情。我們擁有很多優(yōu)秀的人才，這個(gè)人才密度非常重要，但經(jīng)常被誤解。我們有一種嚴(yán)謹(jǐn)和可重復(fù)創(chuàng)新的文化。在一個(gè)文化中同時(shí)擁有這兩者是困難且罕見的。

Ilya Sutskever:

我只能補(bǔ)充一點(diǎn)點(diǎn)。就是進(jìn)展中的 AI 是一場信仰的游戲。你對這個(gè)信仰越多，你就能取得越大的進(jìn)展。聽起來像是在開玩笑，但我并不是。你必須相信。你必須相信這個(gè)想法并為之努力。你相信得越多，你就能付出更大的努力。這就是進(jìn)展的源泉。當(dāng)然，重要的是你所相信的東西是正確的，但在這個(gè)前提下，一切都取決于信仰。

02

學(xué)術(shù)界對于塑造 AI 的作用

Nadav Cohen:

非常感謝。接下來，我們談?wù)勂渌掝}。近年來， AI 的進(jìn)展主要是由工業(yè)推動的。我想知道隨著 AI 的發(fā)展，你認(rèn)為學(xué)術(shù)研究在這個(gè)領(lǐng)域應(yīng)該扮演什么角色？

Ilya Sutskever:

是的，情況確實(shí)是如此。事情發(fā)生了很大的變化。學(xué)術(shù)界曾經(jīng)是最前沿的 AI 研究發(fā)生的地方，但現(xiàn)在情況不太一樣了，原因有兩個(gè)：計(jì)算能力和工程能力。學(xué)術(shù)界的計(jì)算能力較弱，通常沒有工程文化。然而，學(xué)術(shù)界仍然可以對 AI 做出非常重要的貢獻(xiàn)，只是不能在最前沿的能力上做出貢獻(xiàn)。學(xué)術(shù)界可以為一些問題做出貢獻(xiàn)。

我們正在訓(xùn)練的神經(jīng)網(wǎng)絡(luò)有很多謎團(tuán)。我們正在創(chuàng)造這些神奇而難以想象的復(fù)雜對象。深度學(xué)習(xí)就像煉金術(shù)一樣。我們利用數(shù)據(jù)作為原材料，利用計(jì)算作為能量源，獲得智能。但它是什么？它是如何工作的？它的屬性是什么？我們?nèi)绾慰刂扑?？如何理解它？如何衡量它？這些都是未知的。甚至簡單的衡量任務(wù)，我們的 AI 有多好？我們無法衡量。以前這不是一個(gè)問題，因?yàn)?AI 并不重要。但現(xiàn)在 AI 變得重要起來，我們意識到我們無法衡量它。這只是我舉的一些問題的例子，這些問題無需大規(guī)模計(jì)算群集，也無需龐大的工程團(tuán)隊(duì)就可以提出并取得進(jìn)展。如果你能取得進(jìn)展，那將是一個(gè)重大而顯著的貢獻(xiàn)，所有人都會立即注意到。

Nadav Cohen:

謝謝。從你們的話中聽起來，實(shí)際上似乎產(chǎn)業(yè)界和學(xué)術(shù)界之間的進(jìn)展并沒有達(dá)到平衡。我們希望看到更多這方面的貢獻(xiàn)。所以我想知道，是否有什么可以做來改善這種情況，特別是從你們的角度來支持？

Ilya Sutskever:

好的，我有兩點(diǎn)建議。首先，我認(rèn)為最重要的是轉(zhuǎn)變思維方式。我最近離學(xué)術(shù)界有點(diǎn)遠(yuǎn)了，但我認(rèn)為存在一種危機(jī)，我們不知道我們在做什么。有一件事導(dǎo)致了很多混亂，我認(rèn)為，大量的論文正在被寫作。但重要的是思考最重要的問題。專注于這些問題。我們要轉(zhuǎn)變思維方式，專注于最重要的問題，我們能做些什么？我們不知道什么？我們無法衡量這些系統(tǒng)，無法理解它們，我們要認(rèn)識到這個(gè)問題。一旦你理解了問題，你就開始朝著解決它的方向前進(jìn)。這就是我們可以提供幫助的地方。我們有一個(gè)學(xué)術(shù)接入計(jì)劃，學(xué)術(shù)機(jī)構(gòu)申請獲取我們最先進(jìn)模型的使用權(quán)限。他們研究這些模型，寫論文。我們甚至在推出 GPT3 之前就已經(jīng)這樣做了。許多大學(xué)已經(jīng)發(fā)表了關(guān)于他們研究的論文，探討了模型的性質(zhì)和偏見。如果你有更多的想法，我會很樂意聽取。

Nadav Cohen:

那我們肯定應(yīng)該在私下討論這些事情。進(jìn)一步深入。我需要控制時(shí)間。你提到了發(fā)表論文。作為這個(gè)領(lǐng)域的從業(yè)者，我覺得有人認(rèn)為，或者至少有一個(gè)合理的觀點(diǎn)認(rèn)為，關(guān)于工業(yè)界的研究，科學(xué)透明度的水平在某種程度上正在下降。雖然有些公司確實(shí)推廣開源，公開他們的模型和代碼，但其他公司則較少這樣做。有人說 OpenAI 也是如此。所以我想知道你對此有何看法，首先，你是否同意這個(gè)觀點(diǎn)，如果是，為什么？你認(rèn)為什么是正確的策略？為什么 OpenAI 的策略是這樣的？

Sam Altman:

我們確實(shí)對一些模型進(jìn)行了開源，并將來會開源更多的模型。但我認(rèn)為開源并不是將所有東西都開源的正確策略。如果今天的模型有趣，它們有一些用處，但相對于我們將創(chuàng)建的模型來說，它們還很原始。我想大多數(shù)人會同意，如果我們創(chuàng)造出一個(gè)超強(qiáng)的通用 AI ，它具有驚人的優(yōu)勢，但也存在存在性的風(fēng)險(xiǎn)，開源可能不是最好的選擇。因此，我們正在努力尋找平衡。我們會開源一些東西。隨著我們對模型的理解越來越深入，我們會逐漸開源更多。我們已經(jīng)發(fā)表了很多論文，我認(rèn)為很多其他人現(xiàn)在用來構(gòu)建模型的關(guān)鍵思想都是由 OpenAI 發(fā)表的。從早期的 GPT論文、規(guī)模定律、一些強(qiáng)化學(xué)習(xí)的工作，我們已經(jīng)發(fā)表了很多。但這是一個(gè)我們在前進(jìn)過程中必須找到平衡的問題。我們面臨著很多不同的壓力，需要成功地管理。

Nadav Cohen:

那你是否考慮過向特定人群公開一些模型的情況，也許不向全世界開源，而是向科學(xué)家公開？你考慮過這個(gè)嗎？

Sam Altman:

當(dāng)我們完成對 GPT 4的訓(xùn)練后，我們花了很長時(shí)間，幾乎8個(gè)月的時(shí)間來了解它，確保安全性，弄清楚如何使其與外界保持一致。我們有外部審計(jì)員、紅隊(duì)和科學(xué)界的參與。所以我們確實(shí)做了這些，而且我們會繼續(xù)這樣做。

Nadav Cohen:

所以我想談一點(diǎn)風(fēng)險(xiǎn)的問題。我知道這是一個(gè)經(jīng)常被討論的話題。在我們討論機(jī)會之前，只是簡要談一下，因?yàn)槲矣X得這很重要。我們可以想象至少有三類風(fēng)險(xiǎn)。一種是經(jīng)濟(jì)失衡，工作崗位變得多余，等等。另一種可能是強(qiáng)大的武器落入某個(gè)人的手中，例如黑客，他們可能能夠利用這些工具做出相當(dāng)于以前成千上萬個(gè)黑客所能做到的事情。最后可能是最令人擔(dān)憂的，即一個(gè)系統(tǒng)失控，即使觸發(fā)它的人也無法停止它。我想知道你對每種情況的可能性如何看待。

Ilya Sutskever:

好的，對于每種風(fēng)險(xiǎn)，我們來分別看。首先是經(jīng)濟(jì)失衡。讓我們從這個(gè)開始。你提到了三個(gè)風(fēng)險(xiǎn)，經(jīng)濟(jì)失衡、黑客、超級智能失控。確實(shí)，經(jīng)濟(jì)失衡，我們已經(jīng)知道有些工作崗位受到了影響。換句話說，一些工作的某些部分可以被替代。如果你是程序員，你不再編寫函數(shù)，因?yàn)镃oPilot會為你編寫。但對于藝術(shù)家來說，情況有些不同，因?yàn)橐徊糠炙囆g(shù)家的經(jīng)濟(jì)活動已經(jīng)被圖像生成器取代。我認(rèn)為確實(shí)，在就業(yè)崗位方面，未來的情況并不簡單。雖然會創(chuàng)造新的工作，但會有一個(gè)漫長的經(jīng)濟(jì)不確定期。

有人認(rèn)為，即使當(dāng)我們擁有全面人類水平的AI、通用 AI 時(shí)，人們?nèi)詫⒂薪?jīng)濟(jì)活動可做。我不知道是否屬實(shí)。但無論如何，我們都需要一些東西來減輕沖擊，以實(shí)現(xiàn)平穩(wěn)過渡，無論是轉(zhuǎn)向全新的職業(yè)，還是政府和社會體系需要保持進(jìn)步。

黑客問題比較棘手。的確， AI 將具有強(qiáng)大的能力，惡意使用可能會產(chǎn)生危險(xiǎn)。我們需要采取類似的框架，類似于我們對待其他非常強(qiáng)大和危險(xiǎn)的工具的方式。

現(xiàn)在要注意的是，我們不是在討論當(dāng)今的 AI ，我們討論的是隨著時(shí)間的推移，能力的不斷增強(qiáng)，最終達(dá)到這個(gè)狀態(tài)?，F(xiàn)在我們處于今天這個(gè)狀態(tài)。我們會到達(dá)那個(gè)狀態(tài)。當(dāng)你達(dá)到這一點(diǎn)時(shí)，那將是一項(xiàng)非常強(qiáng)大的技術(shù)。它可以用于驚人的應(yīng)用。你可以說治愈所有疾病，但另一方面，你也可以制造比以前任何疾病都要嚴(yán)重的疾病。那將是糟糕的。所以我們需要建立一些結(jié)構(gòu)來控制技術(shù)的使用。Sam已經(jīng)提出了一個(gè)文件，我們提議像IAEA（國際原子能機(jī)構(gòu)）那樣成立一個(gè)類似的組織，來控制非常強(qiáng)大的技術(shù)，專門用于控制AI。對于最后一個(gè)問題，超級智能AI失控，那將非常糟糕。所以，建造一個(gè)我們不知道如何控制的超級智能AI將是一個(gè)大錯(cuò)誤。

Nadav Cohen:

我可以補(bǔ)充一些嗎？當(dāng)然可以。

Sam Altman:

那部分是你的拿手好戲。對于最后一句，我沒有什么可補(bǔ)充的。我完全同意。我非常贊同在經(jīng)濟(jì)方面的觀點(diǎn)，我發(fā)現(xiàn)很難去推測未來的發(fā)展。我認(rèn)為目前世界上有很多剩余需求，這些系統(tǒng)在幫助解決任務(wù)方面非常出色。但就目前而言，它們并不能取代現(xiàn)有的工作，而是幫助提高了現(xiàn)有工作的效率。我認(rèn)為短期內(nèi)，情況實(shí)際上看起來還不錯(cuò)。我們將會有很多戲劇性的生產(chǎn)率增長。我們會發(fā)現(xiàn)，如果你能使程序員的效率提高兩倍，世界上需要的代碼量也會超過兩倍。所以一切都好。

長期來看，我認(rèn)為這些系統(tǒng)會在更復(fù)雜的任務(wù)和工作領(lǐng)域發(fā)揮作用。其中一些工作可能會消失，但有些工作會被證明確實(shí)需要人類和人類的角色，以一種不太明顯的方式。

舉個(gè)例子，世界上第一次接觸 AI 的時(shí)候，是當(dāng) Deep Blue 戰(zhàn)勝卡斯帕羅夫的時(shí)候。每個(gè)人都認(rèn)為國際象棋已經(jīng)完全結(jié)束了。沒有人會再玩國際象棋，因?yàn)樗辉儆腥?。但這只是大家的共識。事實(shí)上，國際象棋從未像現(xiàn)在這樣受歡迎。人們在國際象棋方面變得更好了。預(yù)期也提高了。我們可以借助這些工具學(xué)得更好。但人們似乎仍然真的想要與其他人交流。Dolly可以創(chuàng)作出出色的藝術(shù)品，但人們?nèi)匀魂P(guān)心藝術(shù)品背后的人，他們希望購買的是與人相關(guān)的藝術(shù)。這種人與人之間的聯(lián)系是我們認(rèn)為特別珍貴和有價(jià)值的。

就國際象棋的例子而言，人們比以往任何時(shí)候更多地觀看人類下棋，而不是觀看兩個(gè)AI互相對弈。所以我認(rèn)為會有很多難以預(yù)測的事情發(fā)生。人類渴望個(gè)性化、創(chuàng)造新事物、獲得地位的愿望不會消失。但它們會以一種非常不同的方式呈現(xiàn)。我愿意打賭，100年后的工作幾乎與今天的工作沒有任何相似之處。其中一些工作可能會出現(xiàn)奇怪的相似之處，但我確實(shí)同意Ilya的觀點(diǎn)，無論發(fā)生什么，當(dāng)自動化達(dá)到我們從未想象過的高度時(shí)，我們都需要一種不同的社會經(jīng)濟(jì)契約。

Nadav Cohen:

謝謝。所以還有一個(gè)關(guān)于這個(gè)話題的問題。Sam，你最近簽署了一份請?jiān)笗粲鯇Υ?AI 帶來的潛在威脅要非常認(rèn)真。我不確定我是否也簽署了，還有其他人也簽署了。所以我想知道，根據(jù)這個(gè)呼吁，你認(rèn)為我們?nèi)祟悾约跋?OpenAI 這樣的公司，應(yīng)該采取哪些步驟來解決這個(gè)問題。

Sam Altman:

我想強(qiáng)調(diào)一下，我們所討論的不是當(dāng)前的系統(tǒng)，不是小型初創(chuàng)公司正在訓(xùn)練的模型，也不是開源社區(qū)。我認(rèn)為現(xiàn)在對該領(lǐng)域進(jìn)行嚴(yán)格的監(jiān)管或試圖減緩令人難以置信的創(chuàng)新是錯(cuò)誤的。我希望我們能夠討論一下正在發(fā)生的好處。但是，如果我們正在走向伊利亞所說的情況，你絕對不希望制造一個(gè)不太能對齊的超級智能。我認(rèn)為世界應(yīng)該將其視為不是永遠(yuǎn)不會發(fā)生的科幻風(fēng)險(xiǎn)，而是可能在未來十年內(nèi)需要應(yīng)對的問題，這對于世界的機(jī)構(gòu)來說時(shí)間并不長。

所以我們提出了一個(gè)想法，希望能有一個(gè)全球性的組織，在最高級別、在計(jì)算能力和技術(shù)的前沿，能夠制定一個(gè)許可模型的框架，對其進(jìn)行安全審核，并提出必須通過的測試。這將有所幫助。我們在核能領(lǐng)域也是這樣做的。

03

借助 AI 推動科研技術(shù)突破

Nadav Cohen:

好的，那么我們確實(shí)可以繼續(xù)談一下好處。我們現(xiàn)在處于一個(gè)科學(xué)的環(huán)境中，所以我想知道在科學(xué)發(fā)現(xiàn)中 AI 的作用，你是否有任何預(yù)測或想法，我們在未來幾年甚至更遠(yuǎn)的未來會處于什么位置。

Sam Altman:

這是我個(gè)人對 AI 最感興趣的方面。我認(rèn)為會發(fā)生許多令人驚嘆的事情，無論是在各個(gè)領(lǐng)域的巨大經(jīng)濟(jì)效益，還是在醫(yī)療保健方面。但是，AI 能夠幫助我們進(jìn)行科學(xué)發(fā)現(xiàn)，而這是我們目前無法做到的。我們將能夠了解宇宙的奧秘。更重要的是，我真的相信科學(xué)和技術(shù)進(jìn)步是改善生活、改善世界的唯一可持續(xù)的方式。如果我們能夠開啟大量新的科學(xué)、新的技術(shù)進(jìn)步，我認(rèn)為我們已經(jīng)開始看到人們使用這些工具提高效率的起點(diǎn)。但是，如果你想象一個(gè)世界，你可以說：“幫助我治愈所有疾病”，并且它能夠幫助我做到，這將是一個(gè)戲劇性的改變。我認(rèn)為我們離這一點(diǎn)并不遙遠(yuǎn)。

Nadav Cohen:

好的，除了疾病之外，還有一個(gè)主要問題是氣候變化。所以我想知道你對此的看法以及 AI 在其中的潛在作用。因?yàn)槲掖_實(shí)看到，Sam，你提到它作為一個(gè)可能的貢獻(xiàn)領(lǐng)域。

Sam Altman:

我很討厭說這個(gè)，因?yàn)闅夂蜃兓侨绱藝?yán)重和艱難的問題。但是我認(rèn)為，一旦我們擁有了一個(gè)真正強(qiáng)大的超級智能，解決氣候變化對于這樣的系統(tǒng)來說并不困難。

Ilya Sutskever:

我們可以解釋一下。這就是解決氣候變化所需的方法。要解決氣候變化，你需要大量高效的碳捕獲。你需要能源來進(jìn)行碳捕獲。你需要建設(shè)技術(shù)，并且需要大量建設(shè)。如果你可以加快科學(xué)進(jìn)步，這是一個(gè)強(qiáng)大的 AI 可以做到的事情，我們可以更快地實(shí)現(xiàn)先進(jìn)的碳捕獲。它可以更快地實(shí)現(xiàn)廉價(jià)的能源。它可以更快地實(shí)現(xiàn)廉價(jià)的制造?，F(xiàn)在，將這三者結(jié)合起來，廉價(jià)能源、廉價(jià)制造、先進(jìn)的碳捕獲。現(xiàn)在我們建設(shè)大量這樣的設(shè)施，然后你就能夠從大氣中吸收掉所有多余的二氧化碳。而如今，這個(gè)計(jì)劃有點(diǎn)困難。如果你擁有一個(gè)能夠極大加速科學(xué)和工程的 AI ，這個(gè)問題就變得非常簡單了。

Sam Altman:

我認(rèn)為這個(gè)例子說明了我們應(yīng)該有多大的夢想。如果你想象一個(gè)世界，你可以說：“告訴我如何以低成本獲得大量清潔能源。”，“告訴我如何高效地捕獲碳”，然后再告訴我如何建造一個(gè)具有地球規(guī)模的工廠。如果你能做到這一點(diǎn)，你也能做很多其他的事情。

Ilya Sutskever:

有一個(gè)補(bǔ)充，你不僅僅是要求它告訴你，你還要求它去做。

Nadav Cohen:

好的，我想問幾個(gè)關(guān)于 OpenAI 產(chǎn)品的問題。首先是關(guān)于 ChatGPT ，我想知道，你們發(fā)布了它，我聽你說過你沒有預(yù)料到它會像現(xiàn)在這樣傳播。我想知道，是否有其他人使用 ChatGPT 進(jìn)行了讓你感到驚訝的應(yīng)用，無論是它產(chǎn)生的價(jià)值還是展示的能力。

Ilya Sutskever:

我先來回答。對我個(gè)人來說，給我?guī)砹藷o盡的喜悅的事情之一是當(dāng)我的父母告訴我，他們的朋友在日常生活中使用 ChatGPT 。所以我肯定會說，這絕對是非常令人驚訝和令人愉快的。

Sam Altman:

很難選擇幾個(gè)最喜歡的故事，因?yàn)檫@真的很了不起，世界上的創(chuàng)造力和人們使用強(qiáng)大工具時(shí)所做的事情。對我們來說，教育方面的應(yīng)用非常令人驚嘆?？吹侥敲炊嗳藢懶艁碚f，這改變了我的生活，因?yàn)楝F(xiàn)在我可以學(xué)習(xí)任何東西，或者我學(xué)到了具體的東西，或者我之前不知道怎么做，現(xiàn)在我知道了。對于人們以一種新而更好的方式學(xué)習(xí)，我個(gè)人發(fā)現(xiàn)這非常令人滿足和美妙，也想象著幾年后會是什么樣子。但是，如果我們能以這樣的速度釋放人類潛力，我們并沒有完全預(yù)料到會發(fā)生這種情況。這真是太神奇了。而且，昨天我聽到一個(gè)有趣的故事，之前也聽說過類似的故事，有一個(gè)人每天晚上花兩個(gè)小時(shí)和他的孩子一起編寫床邊太空故事，那是孩子最喜歡的事情，已經(jīng)成為每晚的特殊時(shí)刻。

Nadav Cohen:

好的，謝謝。在我們繼續(xù)回答聽眾的問題之前，還有一個(gè)小問題，可以說是關(guān)于 OpenAI 正在開發(fā)的最具未來感的產(chǎn)品是什么。

Ilya Sutskever:

最具未來感的產(chǎn)品。

我們不以產(chǎn)品的方式來思考，我們以改進(jìn)AI為思考方式，以生產(chǎn)下一代的AI模型、神經(jīng)網(wǎng)絡(luò)為目標(biāo)，使其更可靠、更擅長推理、更可控、更全面的改進(jìn)。當(dāng)你做到這一點(diǎn)時(shí)，你將進(jìn)入一個(gè)全新的應(yīng)用世界，這有點(diǎn)難以預(yù)測，但我們期待一切都變得更好，且具有重大意義。

Sam Altman:

我希望世界不再對我們感到驚奇。我希望，你知道，人們已經(jīng)對 ChatGPT 有所了解，但從現(xiàn)在開始，它將是一個(gè)持續(xù)平穩(wěn)的進(jìn)步曲線。在每個(gè)階段，我們都能成功應(yīng)對風(fēng)險(xiǎn)。它總是做你想要的事情，并且使用起來是安全的。但是，你對每年的期望越來越高，我們會實(shí)現(xiàn)這些期望。它感覺像是一種逐漸加速的技術(shù)，但是它非常符合你的需求，是一個(gè)為你服務(wù)的工具。

Nadav Cohen:

好的，謝謝?，F(xiàn)在讓我們繼續(xù)回答聽眾的問題?，F(xiàn)在會有一個(gè)麥克風(fēng)。

Sam Altman:

回答的夠快的。

觀眾:

我的問題是，沒有額外的技術(shù)進(jìn)步，開源的 LLM 模型能否與 GPT4的能力相媲美？或者 GPT4中是否有世界不知道的秘密，使其與其他模型不同？或者說，我在安裝穩(wěn)定的 Viconea 13億以上的向?qū)鲜欠窭速M(fèi)了時(shí)間？。

Ilya Sutskever:

好的，關(guān)于開源和非開源模型的問題。你不應(yīng)該以二元的、非黑即白的方式來思考，認(rèn)為有一個(gè)永遠(yuǎn)不會被重新發(fā)現(xiàn)的秘密。我要說的是，或許有一天會有人重現(xiàn) GPT4的效果，但那時(shí)候公司中可能已經(jīng)出現(xiàn)了更強(qiáng)大的模型，所以開源模型與私有模型之間始終會存在差距，而且這個(gè)差距可能會越來越大。制造這樣一個(gè)神經(jīng)網(wǎng)絡(luò)所需的工程和研究工作量不斷增加，即使存在開源模型，它們也不會由少數(shù)研究員和工程師組成的小團(tuán)隊(duì)生產(chǎn)，而只會成為大公司的專利。

觀眾:

嗨，你們能告訴我們更多關(guān)于剖析和對齊之前的基本模型嗎？關(guān)于 GPT4的基礎(chǔ)模型怎么樣？在剖析之前是什么樣的？

Sam Altman:

對，我們確實(shí)意識到在對模型進(jìn)行剖析、對齊的過程中，它會喪失重要的能力。我們正在研究如何盡可能保留這些能力?；A(chǔ)模型不是那么容易使用。但我們希望能夠?qū)崿F(xiàn)遵循指令、給用戶盡可能多的控制和能力的目標(biāo)。并且不會引發(fā)法律糾紛，雖然我們已經(jīng)發(fā)現(xiàn)了一些有助于解決這個(gè)問題的方法。所以我們完全理解對更靈活的模型的要求，我們正努力找到如何實(shí)現(xiàn)這一目標(biāo)并給用戶更多的自定義選項(xiàng)。

04

AI 有效監(jiān)管的必要性

觀眾:

首先，非常感謝你們的演講。如果你們真的相信 AI 對人類構(gòu)成危險(xiǎn)，為什么還要繼續(xù)開發(fā)它？你們是不是太擔(dān)心自己的親人和家人了？其次，如果你們面臨監(jiān)管，比如 OpenAI 和其他 AI 公司受到監(jiān)管的限制，你們會服從還是像馬克·扎克伯格一樣試圖規(guī)避每一個(gè)限制？

Sam Altman:

謝謝。這是一個(gè)非常公正而且很好的問題。我們工作中最困擾的部分就是要平衡這項(xiàng)技術(shù)的巨大潛力，我認(rèn)為人類確實(shí)需要它，以及面對這些嚴(yán)重的風(fēng)險(xiǎn)。為什么要構(gòu)建它？

首先，我認(rèn)為當(dāng)我們回顧人們的生活水平和今天的標(biāo)準(zhǔn)時(shí)，它將會比回顧 500 或 1000 年前的人們生活看起來更糟糕。我們會說，天哪，你能想象人們生活在貧困中嗎？你能想象人們患有疾病嗎？你能想象每個(gè)人沒有出色的教育，無法按照自己的意愿生活嗎？這將會看起來非常野蠻。我認(rèn)為未來的每個(gè)人的生活都會比今天最優(yōu)秀的人過得更好。再次強(qiáng)調(diào)，這其中的好處是巨大的。所以我認(rèn)為有一種道義上的責(zé)任去解決這個(gè)問題。

我還認(rèn)為這是不可阻擋的，這是技術(shù)進(jìn)步的必然。阻止它是行不通的，所以我們必須找到如何管理風(fēng)險(xiǎn)的方法。我們公司的成立在很大程度上就是因?yàn)檫@個(gè)風(fēng)險(xiǎn)和解決這個(gè)風(fēng)險(xiǎn)的需要。我們的結(jié)構(gòu)是獨(dú)特的，我們的利潤是有上限的。我相信激勵是超能力，如果你正確設(shè)計(jì)了激勵，通常就能獲得你想要的行為。

所以我們會過得很好。如果我們讓數(shù)字繼續(xù)向右上角前進(jìn)，我們不會賺更多或更少的錢。我們沒有 Facebook 那樣的激勵結(jié)構(gòu)，我認(rèn)為 Facebook 上有很多有良好意圖的人，只是處在一個(gè)有一些挑戰(zhàn)的激勵結(jié)構(gòu)中。所以當(dāng)我們最初設(shè)立公司時(shí)，我們就思考過人工通用智能的問題，我們設(shè)立了利潤上限的結(jié)構(gòu)。因此，我們要如何平衡對計(jì)算能力和使命的需求是我們考慮的問題。在考慮我們關(guān)注的使命時(shí)，我們討論的一個(gè)問題是，如何制定一個(gè)能讓我們熱切接受對我們傷害最大的監(jiān)管的結(jié)構(gòu)?，F(xiàn)在，正是實(shí)施這種結(jié)構(gòu)的時(shí)候，我們正在全球各地為對我們影響最大的監(jiān)管進(jìn)行倡導(dǎo)。所以，當(dāng)然，我們會遵守它。

我認(rèn)為，當(dāng)人們面臨存在性風(fēng)險(xiǎn)時(shí)，更容易獲得他們的好行為。因此，我認(rèn)為在這個(gè)領(lǐng)域的所有領(lǐng)先人物都會感受到這一點(diǎn)，你將會看到與社交媒體公司不同的回應(yīng)。我認(rèn)為所有的懷疑和擔(dān)憂都是合理的。我們每天都在努力應(yīng)對這個(gè)問題，這并沒有簡單和立竿見影的答案。

觀眾:

嗨，我是一家小企業(yè)的 CEO 。我必須提到我們在很多方面都使用了 GPT，它對我們幫助很大。最后，我和微軟的副總裁交談過，她告訴我他們決定聽從AI的建議，因?yàn)樵谒麄兊臏y試中，AI總是正確的。我想知道你們使用的AI和我們使用的AI之間有什么差距？我們在使用token和其他方面有很多限制，而你們沒有。但你們擁有的能力和我們可以使用的能力之間有什么差距？

Ilya Sutskever:

你說的是我們使用的模型和你們使用的模型之間的差距?，F(xiàn)在，你們可以訪問 GPT-4，我們也是，事實(shí)上，我們正在開發(fā)下一代模型。也許我可以描述這個(gè)差距，隨著我們不斷構(gòu)建功能越來越強(qiáng)大的AI，這個(gè)差距會變得更大，測試周期更長，我們將進(jìn)行更長時(shí)間的紅隊(duì)測試，了解模型的限制，了解所有可能不可接受的使用方式，并逐漸擴(kuò)展。例如，目前， GPT-4具有視覺識別能力，而你們尚未推出，因?yàn)檫€有一些最后的調(diào)整工作要做，但很快我們可能會推出。所以我想這可能是對你的問題的回答。也許在不久的將來，我不確定。

觀眾:

嗨，我想知道你們對于最近泄露的“沒有更多文件”文件有何看法。

Sam Altman:

最近的泄露文件，我認(rèn)為 OpenAI 特別與眾不同的地方，而且我認(rèn)為文件對此有誤解，除了我們有大量用戶和與我們的產(chǎn)品建立某種關(guān)系的人之外， OpenAI 特別擅長的是找出接下來要做什么。一旦你知道某件事是可行的，復(fù)制它就很容易。從這個(gè)意義上說，找出下一步要做什么是非常困難的。需要有大膽的想法、中等規(guī)模的想法、小而精致的執(zhí)行，以實(shí)現(xiàn)從現(xiàn)在到超級智能的過程。這是我們的模式。因此，當(dāng)我們走向下一個(gè)模式時(shí)，其他人也會開始復(fù)制，但我們已經(jīng)開始著手下一個(gè)模式。

觀眾:

嗨， Sam ，我們在這里。你好，我們在這里。我是一名 YouTuber，也是一家新創(chuàng)企業(yè)的 CEO 。我有一個(gè)關(guān)于超級智能的問題。你能詳細(xì)說明一下 GPT 和 OpenAI 在這個(gè)困境上的立場嗎？

Ilya Sutskever:

我們確實(shí)非常關(guān)注超級智能。為了讓大家了解背景，可能不是每個(gè)人都明白我們所說的超級智能是什么。當(dāng)我們說有一天將能夠建立一個(gè)比任何人都聰明、在科學(xué)和工程方面能夠比一個(gè)經(jīng)驗(yàn)豐富的科學(xué)家和工程師團(tuán)隊(duì)更快地做出貢獻(xiàn)的 GPU 集群時(shí)，我們在說什么。這是瘋狂的，這將產(chǎn)生難以置信、極其重大的影響。它可以設(shè)計(jì)下一代 AI 系統(tǒng)，構(gòu)建 AI 系統(tǒng)。這簡直太瘋狂了。

我們的立場是超級智能具有深遠(yuǎn)的影響。它可能會帶來難以置信的、極其積極的影響，但也非常危險(xiǎn)。這個(gè)引擎需要謹(jǐn)慎對待。這是為什么我們提出了對未來的先進(jìn)前沿系統(tǒng)采用國際原子能機(jī)構(gòu)方法的建議。此外，我們需要進(jìn)行大量研究，以控制超級智能的力量，使其能夠?yàn)槿祟惖睦娣?wù)。這是我們對超級智能的立場。這是人類面臨的最終挑戰(zhàn)。

超級智能，如果你思考一下人類的進(jìn)化歷史，40億年前，有一個(gè)單細(xì)胞生物，某種形式的復(fù)制體，大約數(shù)十億年來，你有各種不同的單細(xì)胞生物。大約10億年前，出現(xiàn)了多細(xì)胞生物。幾億年前，可能有爬行動物。6000萬年前，出現(xiàn)了哺乳動物。1000萬年前，出現(xiàn)了靈長類動物。然后是1萬年前，我們有了文字。接著是農(nóng)業(yè)革命、工業(yè)革命、技術(shù)革命，現(xiàn)在最終是超級智能。這是最終的、最終的挑戰(zhàn)。它可以創(chuàng)造出難以想象的繁榮，正如 Sam 所提到的，但也是一個(gè)巨大的挑戰(zhàn)。這是我們需要面對和克服的挑戰(zhàn)。

Sam Altman:

嗨，時(shí)間不多了。

觀眾:

嗨，這是一個(gè)關(guān)于AI背景下數(shù)據(jù)的問題。

Sam Altman:

我們認(rèn)為對于那些為這些系統(tǒng)提供數(shù)據(jù)或以其他方式幫助這些系統(tǒng)的人來說，他們應(yīng)該得到回報(bào)，從這些系統(tǒng)中獲益。我認(rèn)為這些系統(tǒng)真正想成為的是推理引擎，但它們將能夠訪問不同的數(shù)據(jù)。它們還需要人們幫助它們正確推理的方法。我們正在探索很多關(guān)于如何讓這些人與模型的成功相對應(yīng)的獎勵方式的想法。如果你是一位藝術(shù)家，人們會以你的風(fēng)格生成藝術(shù)作品或受到你的靈感，你將從中獲得經(jīng)濟(jì)利益。所以我認(rèn)為找出正確的方法非常重要，既考慮到內(nèi)容創(chuàng)作者和內(nèi)容所有者的需求，也考慮到技術(shù)的發(fā)展方向。

05

就業(yè)市場的價(jià)值指導(dǎo)

Nadav Cohen:

實(shí)際上，我有一個(gè)來自以色列機(jī)器學(xué)習(xí)和深度學(xué)習(xí)社區(qū)的問題。一家媒體機(jī)構(gòu)提出了這個(gè)問題——如何看待以色列在AI發(fā)展和應(yīng)用方面的機(jī)遇，特別是在以色列是否有獨(dú)特的東西，如果有的話？

Ilya Sutskever:

我認(rèn)為在近期內(nèi)有很多機(jī)會。機(jī)會很多。我可以說，近期是AI的黃金時(shí)代。你擁有一個(gè)未知的領(lǐng)域，有很多積極的機(jī)會。所以我只想說，去抓住機(jī)會。

Sam Altman:

我觀察到以色列的兩個(gè)特別之處。第一是人才密度。我們非常關(guān)注人才密度，不僅是人才的絕對數(shù)量。這個(gè)國家人口相對較小，但有很多有才華的人，你可以將他們聚集在一起。第二是以色列創(chuàng)業(yè)者的無止境的動力和雄心。我們在與以色列初創(chuàng)企業(yè)合作中取得了驚人的成功，這兩個(gè)因素加在一起，我認(rèn)為將帶來令人難以置信的繁榮，無論是在AI研究還是應(yīng)用方面。謝謝。

在我的悲劇性人生中，它基本上取代了維基百科。我曾經(jīng)花了很多時(shí)間在維基百科上學(xué)習(xí)東西，如果你看一下我的搜索歷史，你會發(fā)現(xiàn)它在學(xué)習(xí)新知識上的效果非常好。所以我不會像有些人那樣深入學(xué)習(xí)物理學(xué)的每一個(gè)細(xì)節(jié)，但如果我聽說某個(gè)東西并且想盡快了解它，它是一個(gè)令人驚訝的有效工具。

觀眾:

我是一名志愿者，我今年18歲。我想問你們，你們希望歷史如何記住你們？

Ilya Sutskever:

我的意思是，以最好的方式記?。?/span>

觀眾:

Sam ，我是一家創(chuàng)業(yè)公司的 CEO ，我們是以色列過去40年來數(shù)學(xué)教材和內(nèi)容的主要提供商。

Nadav Cohen:

用于數(shù)學(xué)教學(xué)。

觀眾:

我們是數(shù)學(xué)教材的主要提供商，過去40年一直在以色列。首先，我想知道你們計(jì)劃如何提高聊天 GPT在希伯來語方面的技能？其次，與教育和AI相關(guān)的實(shí)際應(yīng)用，特別是在學(xué)校中，我們?nèi)绾胃倪M(jìn)和激勵學(xué)生？謝謝。

Ilya Sutskever:

你想問的是數(shù)學(xué)教育。顯然，教材將會升級。你讀教材，但教材無法回答你的問題。因此，借助我們和其他人正在構(gòu)建的AI，你將能夠就學(xué)科進(jìn)行對話。這將帶來更高效的學(xué)習(xí)體驗(yàn)。它將適用于數(shù)學(xué)，也將適用于其他學(xué)科。最終，我們將邁向每個(gè)學(xué)生都擁有專屬私人導(dǎo)師的世界。現(xiàn)在還不夠好，但它將變得更好。

Sam Altman:

實(shí)際上，我不確定它是否會成為就業(yè)的黑天鵝事件。我認(rèn)為它可能是一種更漸進(jìn)、更可預(yù)測的變化。我們現(xiàn)在有這些擅長做任務(wù)但不是整個(gè)工作的系統(tǒng)，它們會變得更強(qiáng)大，完成一些工作，但很難預(yù)測。政府的角色，我認(rèn)為將是提供一種新的緩沖措施。這將采取什么形式，我認(rèn)為不同的政府將嘗試不同的實(shí)驗(yàn)，我們將看到哪種方式效果更好，其他政府會效仿。

在我最近的旅行中，幾乎在每次對話中，每個(gè)政府都對此非常認(rèn)真。他們對如何解決這個(gè)問題有不同的想法，但這可能是當(dāng)今任何世界領(lǐng)導(dǎo)人思考的頭等大事，至少是前三大問題之一。所以我認(rèn)為人們正在關(guān)注這個(gè)問題。

觀眾:

我是以色列大學(xué)的一名數(shù)據(jù)科學(xué)家。我的問題是關(guān)于你們的未來計(jì)劃和World Coin項(xiàng)目，ORB系統(tǒng)。

Sam Altman:

我是一名投資者，我在公司的組建方面提供了一些幫助，但我不參與日常運(yùn)營。我認(rèn)為這非常令人興奮。我認(rèn)為在隱私保護(hù)的前提下嘗試新的區(qū)分人性、思考全球UBI（全球基本收入）等方式，并思考公平民主化的訪問方式，是一個(gè)非常好的領(lǐng)域進(jìn)行探索。但我與該公司的聯(lián)系不夠緊密，無法對計(jì)劃發(fā)表有意義的評論。

Nadav Cohen:

好的，謝謝Sam Altman和Ilya Sutskever， OpenAI 的 CEO 和首席科學(xué)家。非常感謝你們的參與。