2022年12月，人工智能聊天機(jī)器人ChatGPT刷爆網(wǎng)絡(luò)，網(wǎng)友們爭先恐后去領(lǐng)略它的超高情商和巨大威力。參加高考、修改代碼、構(gòu)思小說......它在廣大網(wǎng)友的“鞭策”下不斷突破自我，甚至可以用一整段程序，為你拼接出一只小狗。那么，ChatGPT是如何煉成的？是否意味著AI已具有人類智能呢？

一個(gè)超神級別的自然語言生成式AI。

ChatGPT是人工智能公司OpenAI的GPT自然語言生成式模型的最新衍生品，可以進(jìn)行“你來我往”的多輪聊天。

ChatGPT被業(yè)內(nèi)認(rèn)為是繼2020年NLP（自然語言處理）預(yù)訓(xùn)練模型——GPT-3之后的“GPT-3.5”。盡管不是傳聞中下一代自然語言生成模型GPT-4，但同樣對NLP以及人工智能領(lǐng)域有重要意義。

ChatGPT是GPT（或生成式預(yù)訓(xùn)練轉(zhuǎn)換器）文本生成AI系列的最新發(fā)展，根據(jù)從互聯(lián)網(wǎng)上獲取的大量文本樣本來進(jìn)行訓(xùn)練。

一經(jīng)發(fā)布，ChatGPT便在網(wǎng)友的瘋狂“檢測”和“調(diào)戲”中表現(xiàn)出各種驚人的能力。OpenAI首席執(zhí)行官山姆·奧特曼（Sam Altman）表示，自11月30日至12月5日，ChatGPT的用戶數(shù)量已突破100萬，需求大于預(yù)期。

在廣大網(wǎng)友的不懈努力下，ChatGPT短短幾天之內(nèi)——

參加了美國高校的入學(xué)資格考試（SAT），成績?yōu)橹械葘W(xué)生水平；

用《坎特伯雷故事集》風(fēng)格改寫了90年代熱門歌曲《Baby Got Back》；

用《老友記》主角口吻創(chuàng)作了劇本對白；

構(gòu)思了簡短的偵探小說；

簡要闡釋了經(jīng)濟(jì)學(xué)理論；

給出了消除經(jīng)濟(jì)不平等的六點(diǎn)計(jì)劃；

與人類進(jìn)行“心理戰(zhàn)”，猜想人類實(shí)際上想讓計(jì)算機(jī)做什么；

規(guī)劃了如何毀滅世界；

生成關(guān)鍵詞指導(dǎo)AI作畫；

扮演OpenAI，在系統(tǒng)內(nèi)構(gòu)建了ChatGPT套娃，相當(dāng)于“我”生了一個(gè)“我”......

要想了解ChatGPT，我們首先了解一下GPT。

Generative Pre-trained Transformer是一種基于互聯(lián)網(wǎng)可用數(shù)據(jù)訓(xùn)練的文本生成深度學(xué)習(xí)模型。它用于問答、文本摘要生成、機(jī)器翻譯、分類、代碼生成和對話AI。

2018年GPT-1誕生，這一年也是 NLP的預(yù)訓(xùn)練模型元年。

它可以：

·自然語言推理：判斷兩個(gè)句子的關(guān)系；

·問答與常識(shí)推理：輸入文章及若干答案，輸出答案的準(zhǔn)確率；

·語義相似度識(shí)別：判斷兩個(gè)句子語義是否相關(guān)；

·分類：判斷輸入文本是指定的哪個(gè)類別。

發(fā)展到GPT-3，系統(tǒng)的聊天能力已經(jīng)無限接近于人類，甚至有超越之勢。

而相對于GPT3通過海量學(xué)習(xí)數(shù)據(jù)進(jìn)行訓(xùn)練，ChatGPT又有進(jìn)步。

它被加入道德原則。

按照預(yù)先設(shè)計(jì)的道德準(zhǔn)則，ChatGPT會(huì)對不合理或無法回答的提問和請求“說不”。敢于質(zhì)疑、主動(dòng)承認(rèn)錯(cuò)誤，這樣的“性格”可以不斷提升AI本身對用戶意圖的理解以及結(jié)果的準(zhǔn)確性。當(dāng)然，盡管OpenAI非常小心，這種準(zhǔn)則也可能被聰明的提問方式繞開。

它學(xué)會(huì)了從“人類反饋中強(qiáng)化學(xué)習(xí)”，即Reinforcement Learning from Human Feedback（RLHF）。

ChatGPT 使用“預(yù)訓(xùn)練-微調(diào)”的工作范式訓(xùn)練了一個(gè)初始模型：人類AI訓(xùn)練員提供對話，他們在對話中扮演雙方——用戶和AI助手，AI訓(xùn)練員可以訪問模型編寫的對話回復(fù)，并幫助AI調(diào)整回復(fù)內(nèi)容。

被“調(diào)教”后的ChatGPT能夠識(shí)別惡意信息，識(shí)別后拒絕給出有效回答，或記住用戶之前所向它提問的內(nèi)容，以各種方式組合語境想法，變成一個(gè)靈感生成器。

對于AI發(fā)展來說，創(chuàng)建一個(gè)迭代反饋的閉環(huán)至關(guān)重要。

除了RLHF，還使用了近端策略優(yōu)化算法（PPO）微調(diào)模型，對整個(gè)學(xué)習(xí)過程進(jìn)行了數(shù)次迭代。上線后，ChatGPT將大量客戶的反饋互動(dòng)用于AI 的學(xué)習(xí)，將其變成推動(dòng)AI進(jìn)步的關(guān)鍵一環(huán)。

討論AI是否已具有真正的“智能”是人類的游戲。

圖靈測試（The Turing test）如今已然成為人工智能領(lǐng)域研究的核心目標(biāo)之一。它由艾倫·麥席森·圖靈提出，被公認(rèn)為是人工智能學(xué)科興起的標(biāo)志。圖靈測試將“思想能力”人為定義在功能和實(shí)用的范疇，為“智能”設(shè)定了條件。

圖靈測試究竟是什么意思？簡單來說，就是把機(jī)器關(guān)到小黑屋中，讓它和人類聊天對話，然后分辨小黑屋里回答問題的究竟是機(jī)器還是人類。如果無法辨別，就說明了機(jī)器具有和人一樣等級的智能，通過測試。

而迄今為止，還沒有AI模型能真正通過圖靈測試。

提及GPT-4會(huì)有怎樣的優(yōu)化，ChatGPT給出了以下答案：

ChatGPT：

GPT-4是一個(gè)大型語言模型，是目前人工智能領(lǐng)域最先進(jìn)的技術(shù)之一。它能夠在大量訓(xùn)練數(shù)據(jù)的基礎(chǔ)上，模擬人類的語言表達(dá)能力，并以相似的語言來回答問題。目前，GPT-4還在不斷優(yōu)化，可能會(huì)有以下一些方面的改進(jìn)：

GPT-4可能會(huì)增加更多的訓(xùn)練數(shù)據(jù)，以提高它的知識(shí)面和準(zhǔn)確度。

GPT-4可能會(huì)增加更復(fù)雜的算法，以提高它的性能和處理能力。

GPT-4可能會(huì)增加更多的功能，例如語音合成、圖像識(shí)別等，以提高它的應(yīng)用能力。

GPT-4可能會(huì)增加更多的輸入輸出接口，例如聊天機(jī)器人、問答系統(tǒng)等，以提高它的使用方便性。

江湖傳言：GPT-4已通過了圖靈測試。

未來，AI是否可以真正具有人類智能？眾說紛紜。也許奇點(diǎn)已然臨近，也許依舊僅為空中樓閣。但不可否認(rèn)的是，ChatGPT必將引領(lǐng)一場人工智能領(lǐng)域的先鋒革命。