|
淺友們好~我是史中，我的日常生活是開撩五湖四海的科技大牛，我會嘗試用各種姿勢，把他們的無邊腦洞和溫情故事講給你聽。如果你想和我做朋友，不妨加微信（shizhongmax）。 1988 年 11 月 3 日，美國加州的 NASA 艾姆斯研究中心迎來一個萬里無云的秋日。端著咖啡的火箭科學家們撓撓蓬亂的頭發(fā)，準備開始今天的工作。所有人的電腦都在瘋狂地轉動，但，只是自顧自轉動，完全不理會任何人的指令——它們被某種神秘的力量鎖死了！老哥們眼里閃現(xiàn)出一絲恐懼。咱就說。。。如果外星人準備占地球，先拿下 NASA，好像也是合理劇情。。。很快，更炸裂的消息傳來，負責保護國家核武器的勞倫斯利福摩爾國家實驗室的電腦也被干蒙了；曼哈頓計劃的策源地、第一顆原子彈誕生的洛斯阿拉莫斯國家實驗室的電腦同樣鎖死。就在同一時刻，輕輕撥轉地球，印第安納州的普渡大學，計算機教授尤金·斯帕福德也端著咖啡愣在原地。因為電腦屏幕上顯示：從昨夜到今晨，他收到的電子郵件數(shù)為“0”。要知道在那個年代，普通美國人還很少有電腦，更不知道“電子郵件”是啥，互發(fā)電子郵件只是學術界的大佬們炫富的姿勢。斯帕福德沖進學校機房，發(fā)現(xiàn)了可怕的一幕——服務器瘋狂轉動，已經(jīng)被壓到無法呼吸，早顧不上什么郵件服務了。斯帕福德很鎮(zhèn)定，畢竟自己的專業(yè)就是“禪與計算機維修藝術”。他馬上使出一招“葵花點穴手”，讓計算機暫時封印，然后強制進入后臺。我勒個去！有好多奇怪的程序，如密密麻麻的蟲子一般，盤踞在計算機的芯片上，已幾乎把資源吃空。而且它們仍在不斷蠕動，不斷繁殖，仿佛要把電腦撐爆了才罷休。閱盡代碼而心中無碼的斯帕福德，腦海里已經(jīng)有畫面了，泛起一陣陣惡心。就在這時，來自各個大學的老伙計們紛紛打來電話。一張地圖在他眼前攤開——這種“蟲子”已經(jīng)爬滿了全美國的網(wǎng)絡，正在向歐洲和澳大利亞進發(fā)！斯帕福德雖然沒搞清楚狀況，但直覺告訴他：大的來了。他把日程全推掉，帶著8個學生組成調查團隊，開始“解剖”蟲子，分析它會攻擊電腦的哪些漏洞，如何自我繁殖，以及最重要的——它們的目的是什么？！當天下午，主要的分析就出來了，這個病毒利用了“郵件系統(tǒng)的漏洞”和“Unix 系統(tǒng)的漏洞”，可以在沒有人類干預的情況下自動做到“感染電腦，尋找相連電腦，繼續(xù)感染新電腦”這樣的無限連招。但是讓斯帕福德?lián)项^的是：翻遍了蟲子全身，都沒有找到“毒針”、“尖刺”之類的東西，也就是說沒有任何攻擊器官。如果非要說“攻擊性”的話，就是這個蟲子不忌諱多次感染同一個計算機，A 感染了 B，B 還可能感染 A。這樣反復多次，電腦空間就會被塞滿，以至于拖垮系統(tǒng)。換句話說，這不是蜘蛛、黃蜂之類，而是“蠕蟲”，它什么也不會做，但就是會“生”，軟軟地，聚集在一起，惡心你。電視臺試圖用這種質樸的動畫展現(xiàn)出病毒傳播的機制。
對于計算機大神來說，蠕蟲的原理研究清楚，處置辦法也就出來了。下午，他們已經(jīng)把處理流程寫成帖子，準備發(fā)到網(wǎng)上讓全世界趕緊照做。可是此時抬頭一看。。。“網(wǎng)”，已經(jīng)不存在了。全球聯(lián)網(wǎng)電腦的十分之一已經(jīng)感染，計算機管理員們恐慌到了極點，紛紛切斷電腦和網(wǎng)絡的連接，他們沒機會看到帖子了。。。彼時的電腦雖然不普及，但擁有電腦的幾乎都是學校、科研、政府、軍隊等重要部門，這一下，很多關鍵活動不得不停擺。初生的“互聯(lián)網(wǎng)”每分每秒都在滴血，真金白銀的損失翻著番地上漲。眼看這場“蟲災”已經(jīng)不知如何收場，可那個最重要的問題仍舊沒人能回答。“蠕蟲”難道真的是什么外星人放出來的嗎？或是敵對陣營發(fā)來的嗎？他們?yōu)槭裁床辉诖a里加載破壞性的代碼？比如他們完全可以讓病毒篡改關鍵數(shù)據(jù)，或者直接銷毀電腦文件。（二）失去“童貞”的互聯(lián)網(wǎng) 1988 年 11 月 2 日晚上 11 點，在哈佛大學艾肯計算機實驗室工作的安德魯·薩達斯正跟好基友保羅·格雷厄姆聊天。“我做了一種病毒，用上了那個漏洞！”說話的是他倆共同的好朋友——羅伯特·莫里斯。因為就在 10 月 20 日，已經(jīng)去康奈爾大學上研究生的莫里斯專門回到他本科所在的哈佛大學，和在校工作的兩位老友面基。在兩位基友的啟發(fā)下，莫里斯發(fā)現(xiàn)了彼時最流行的郵件系統(tǒng)“sendmail”存在一個漏洞，利用這個漏洞可以劫持它，給列表上的所有聯(lián)系人發(fā)郵件。。。當時，他為自己的發(fā)現(xiàn)激動得徹夜難眠，仿佛洞穿了整個賽博世界，成為“賽博上帝”。既然是“上帝”，動動手指就能毀滅人間，那就顯然不該輕舉妄動。但莫里斯表示，太香了實在忍不住。。。莫里斯說，他黑掉了麻省理工學院的一臺電腦，并且從那里釋放了他寫的病毒，哪怕追查起來，也讓麻省背鍋，哈佛吃瓜，哈哈哈哈。這兩位表示真牛逼，需要啥幫助您隨時說話，然后掛掉電話也沒多想。半小時后，莫里斯的求助電話就來了。他語氣里有些慌張：“臥槽，病毒傳播速度超出想象了，我寫了一些防護手段，你們給哈佛的計算機管理員發(fā)過去唄！別把咱們學校也給牽連了。。?！?/span>半夜兩點半，薩達斯睡得死死的，莫里斯第三通電話來了。這次語氣里全是懇求，聽聲音都感覺是跪著在說話。“我TM好像捅了婁子。。。病毒傳播太快了，我不敢動了。你能發(fā)個帖子替我把防護方法給公布出去嗎？一定替我道個歉，說不是故意的。。。”即便這時，薩達斯這也還沒意識到事態(tài)究竟有多炸裂。但朋友所托還是得照辦。他一邊罵娘一邊爬起來，按照莫里斯的要求擬好了信，發(fā)在了 BBS 上。這個帖子沉了。因為用來閱讀它的電腦基本都沒撐到天亮。遍布全網(wǎng)的蠕蟲，引發(fā)了巨大的沖擊波。你以為被沖擊波干倒的是那些因故無法使用電腦工作的人嗎？切，他們才不在乎，正好帶薪摸魚。真正被擊碎的，是那些懷抱熾熱理想的計算機科學家——“互聯(lián)網(wǎng)先賢”們的心。要觸碰這種微妙的感覺，我們必須忘掉今天的繁華，附到 1988 年的一個普通人身上：在當時的人們看來，計算機就是計算機；計算機和另一臺計算機連上一根線纜相互通信，勉強能理解；但是把無數(shù)計算機連在一起組成什么“互聯(lián)網(wǎng)”，對大部分人來說已是科幻范疇了。但有一群科學家卻堅信，不論代價多大， 互聯(lián)網(wǎng)最終肯定是能建成的。這群先賢決定用行動說話，像用鑷子夾著蜘蛛網(wǎng)一樣，小心翼翼地在這片土地上把復雜的電線搭起來。他們正在成功的路上——1988 年，全世界連接進“互聯(lián)網(wǎng)”的電腦突破了 6 萬臺。但彼時彼刻，可是人類歷史上首次把“互聯(lián)網(wǎng)”從先賢的想象中搬進現(xiàn)實，如同遠古人擎起第一盞火把，內心的豪邁和對上蒼的敬畏如排浪奔涌。6 萬臺計算機在賽博世界組成了最初的“安靜小鎮(zhèn)”，阡陌交通，雞犬相聞。先賢們本著愛與和平搭建互聯(lián)網(wǎng)，根本沒人動過腦筋去琢磨它惡的一面。就在互聯(lián)網(wǎng)雛形初具的時候，猝不及防，惡心的蟲子順著網(wǎng)線爬進了每一個家門，在先賢天真又美好的想象上肆意踐踏?，F(xiàn)在，你能體會到那種幻滅感了吧？無數(shù)科技史學家把這形容為——互聯(lián)網(wǎng)失去“童貞”的一刻。就在 11 月 4 日，事態(tài)進一步發(fā)酵，開始引起了大眾關心，記者涌來。好多記者都是第一次聽說“互聯(lián)網(wǎng)”或者“病毒”。但他們調用了全部的職業(yè)素養(yǎng)，試圖理解它。有記者給麻省理工學院打電話，問：“這個病毒的照片是什么樣子的，我們想要刊發(fā)！”研究員回答：“沒有照片，是一堆代碼?！?/span>還有記者問斯帕福德：“我們人類需要擔心感染這種病毒嗎？？”斯帕福德看記者一臉真誠，只好生無可戀地回答：“天了嚕，我們學校沒有醫(yī)學院，建議你問下印第安納大學。”在《賽博朋克：計算機前沿的亡命之徒和黑客》這本書中，如此回顧 1988：莫里斯永久地改變了自己的人生軌跡，也證實了人們對“黑客到底能做什么”這件事的最深恐懼。這件事也成為轉捩點：“網(wǎng)絡世界”從技術小眾圈子躍向大眾視野。 先賢們沒那么容易認輸。既然已經(jīng)有人偷嘗禁果，咱們都被驅逐出伊甸園，那么毋庸多言，問問我手上的這口碧血劍吧！與此同時，F(xiàn)BI 火速成立專案組，撒下天羅地網(wǎng)，海捕真兇。這張存有蠕蟲病毒代碼的軟盤被保存在山景城的計算機歷史博物館里。話說在真相調查這一塊，F(xiàn)BI 沒有怕過誰的。但這一次他們輸了，西方記者跑得比 FBI 還快。。。11 月 4 日，《紐約時報》百無聊賴的值班記者約翰·馬克奧夫突然接到匿名電話，對方清了清嗓子，說他知道是誰寫了這個蠕蟲病毒。記者看了看天，天這么晴，咋還掉餡餅嘞？他困意全無：“快細說說！”“我只是想讓你們給公眾澄清一下，病毒作者不是壞人，RTM 他只是想做一個實驗，沒想到程序失控了，才造成。。?！?/span>紐約時報可不是吃素的。用了不到半天時間就完成了調查，RTM 是一個名字的縮寫，全稱是：羅伯特·泰潘·莫里斯（Robert Tappan Morris）。1988 年 11 月 5 日，《紐約時報》用巨幅版面，扒出了莫里斯的全部信息，恨不得連大腿上哪兒有顆痣都給說了。值得一提，這是漫漫科技史上主流媒體第一次使用了“互聯(lián)網(wǎng)”這個詞匯，仿佛是時代的歡迎禮花。《紐約時報》不僅開盒了莫里斯，還順手開盒了莫里斯的老豆——老莫里斯。大家驚訝地發(fā)現(xiàn)，老莫里斯可不是什么路人甲，而是。。。國家安全局（NSA）計算機安全中心的首席科學家。NSA！安全！首席！科學家！這讓吃瓜群眾瞬間有了“老子英雄兒混蛋，現(xiàn)在看你怎么辦”的莫名興奮。而真正的明眼人，不會在意這些八卦，反而會看透紙背，品出一層更意味深長的“父子傳承”。1966 年，湯普森在貝爾實驗室做“技師”，他們當時設想了一種叫做“操作系統(tǒng)”的東東，所有程序都不用和計算機硬件對接，而是簡單地跑在操作系統(tǒng)上。下一秒，他們就擼起袖子準備干一個“操作系統(tǒng)”出來。這個操作系統(tǒng)項目名叫“Multics”，是貝爾和麻省理工還有通用電氣一起合作的。問題在于 Multics 試圖一口吃個胖子，像高速公路那樣“多任務并行”，貝爾實驗室做著做著覺得整個構想太宏大，容易扯著蛋，于是退出了。但湯普森不舍得，因為他忙里偷閑已經(jīng)在 Multics 的半成品上開發(fā)了一個游戲，名叫《太空旅行》。系統(tǒng)不要也就罷了，游戲可舍不得。。。僅僅為了能繼續(xù)玩太空旅行，他和好基友丹尼斯·里奇找來一臺二手的 PDP-7 計算機，重新手搓了一個簡易版的單線程操作系統(tǒng)。Ken Tompson & Dennis RitchieUnix 如同核爆炸一般改變了世界。后世的 Mac 操作系統(tǒng)就是 Unix 的分支；而 Unix 又直接啟發(fā)了 Linux 的問世，也就是如今 Android 系統(tǒng)的底層；Unix 還間接啟發(fā)了 Windows 系統(tǒng)。如今花花綠綠的賽博世界，多半壁江山都建立在 Unix 之上。而在當時湯普森的小團隊里，負責系統(tǒng)安全和密碼架構的人，正是——老莫里斯。可以說，老莫里斯為 Unix 的誕生立下了卓著功勛。說遠了。Unix 留下的諸多遺產里，其實有兩個與今天所說的事情息息相關。第一、Unix 引入了一種開放的模塊架構，允許不同計算機上的程序“自由交換數(shù)據(jù)”。而正是每臺計算機上都有這種“自由交換數(shù)據(jù)”的組件，“先賢們”才有可能以極低的技術代價搭建起上萬臺機器的“互聯(lián)網(wǎng)”。第二、Unix 勢如破竹一統(tǒng)天下，幾乎所有的聯(lián)網(wǎng)計算機都安裝了 Unix 系統(tǒng)。這形成了一個極其危險的隱患。那就是，一旦有人找到了 Unix 的某個漏洞，他就可以用這一招通殺整個互聯(lián)網(wǎng)。到這，你可能已經(jīng)看出來：如果沒有老莫里斯這代人嘔心瀝血寫出的 Unix，就不會有小莫里斯“放飛自我”的互聯(lián)網(wǎng)世界；如果沒有 Unix 的一統(tǒng)天下，小莫里斯也不可能用一個蠕蟲病毒就干翻整個互聯(lián)網(wǎng)。父子兩代，就以這樣奇特的姿勢登上了“互聯(lián)網(wǎng)名人堂”。緣分妙不可言。。。這是 DEC 公司的 VAX 電腦，它運行的就是 UNIX，當時絕大多數(shù)計算機都是這種型號。說回當時，眼看一家人整整齊齊被開盒，23 歲的小莫里斯一溜煙跑回了老莫里斯位于馬里蘭州阿諾德的家里，抱頭痛哭詢問老爸有什么退敵良策。老莫里斯捋著胡子沉吟半晌，從牙縫里擠出兩個字：自首！撥通警察的電話時，莫里斯并沒有意識到，自己孤身一人正在和歷史進行著幾場“馬拉松”。就在事發(fā)五年前，也就是 1983 年，美國上映了一部科幻電影，名為《戰(zhàn)爭游戲》（WarGames）。美國制定了對蘇聯(lián)的核戰(zhàn)爭計劃。但是在演習中遇到問題，空軍導彈負責人心生憐憫，拒絕轉動發(fā)射鑰匙，做出讓百萬人喪生的瘋狂行為。于是，軍方?jīng)Q定讓人類靠邊站，用一套計算機程序來負責發(fā)射，只要接收到美國遭遇核打擊的信號，系統(tǒng)就自動向蘇聯(lián)發(fā)射核武器進行反制。好巧不巧，一個高中生小黑客誤打誤撞連接進了美軍系統(tǒng)，然后還以為這是個神馬“戰(zhàn)爭游戲”，于是他輸入了美國主要城市遭到核打擊的信號，軍方懵逼了，險些就把幾百顆核彈甩蘇聯(lián)一臉。 美國人對電影有一種迷之認真。坊間人們真的開始討論，出現(xiàn)這種情況要怎么辦。。。美國國會議員們一看，臥槽好像有道理，如果現(xiàn)在有個黑客黑進軍方系統(tǒng)，居然就沒有一條法律可以懲罰他。這可不行，互聯(lián)網(wǎng)不是法外之地。于是他們開始反復討論，并且在 1986 年通過了一個專門針對電腦入侵事件的法案，也就是《計算機欺詐和濫用法案》。這條法律通過，如寶劍開刃，就等頭鐵的人把脖子伸過來呢?？墒莾赡赀^去，愣是沒人來嘗試“大寶劍”。在法庭上，雙方激辯論，核心就是兩個字——“意圖”。也就是說，莫里斯到底主觀上想不想破壞別人的計算機？？如此，所有的是非判斷，都必須回到“莫里斯蠕蟲”的 99 行代碼中。正如斯帕福德團隊之前調查的那樣，這個蠕蟲只有自我復制模塊，并沒有攻擊模塊，稱得上“淳厚善良”。莫里斯堅稱他只是為了測試互聯(lián)網(wǎng)的安全性，不小心失手而已。但是，在自我復制的過程中，蠕蟲為了順利進入帶有密碼的電腦，居然帶了一個“密碼本”，用“123456”、“admin”之類的弱密碼挨個嘗試爆破，這就動機險惡了。莫里斯寫蠕蟲時，專門考慮了系統(tǒng)被蠕蟲填滿的這種情況。為了避免，每當入侵一臺電腦后，都會檢測有沒有其他先來的兄弟。它會廣播：“有我的同類嗎？”如果另一個蠕蟲已經(jīng)來了，它就會回答，“有！”這時，兩個蠕蟲就會“拋硬幣”，輸?shù)哪莻€自殺。然而莫里斯顯然擔心一種情況，那就是對方管理員發(fā)現(xiàn)后，假冒一個同類，每次聽到廣播都回答“有”。那樣，病毒傳播就被阻斷了。于是在新蠕蟲詢問有沒有人時，哪怕聽到回答“有”，新蠕蟲也會按照七分之一的概率留下來。一旦這種情況發(fā)生，電腦里就有了兩條蟲。實際上，真正造成破壞的就是這個機制。因為莫里斯預估不準，電腦之間感染太頻繁了，即便是七分之一的概率，也足以在幾個小時之內讓電腦里布滿蠕蟲。初生的法律條文成了焦糊的戰(zhàn)場，連一個逗號都被反復爭奪。莫里斯最終仍然被法官認為適用此法判罪，刑期是 3 年緩刑，外加 400 小時社區(qū)服務，還得賠償 10050 美元。作為這部法律的第一個判例，這可謂是重判。要知道，如果這件事發(fā)生在兩年前，早于《計算機欺詐和濫用法案》，莫里斯很可能就無罪釋放了。從天空俯瞰，歷史之路如同一個個高聳入云的山峰形成的關隘，而那些異想天開的瘋子如果跑得夠快，就能在敵人布下伏兵前沖過山口，一直突圍，一直奔跑，一直游到海水變藍。這是一場人類工業(yè)革命以來，有關“玩笑與犯罪”，“創(chuàng)新與破壞”，“突破與封鎖”的，綿延數(shù)百年的殘酷馬拉松。而莫里斯，僅僅慢了半拍，在沖過歷史關口的一瞬間被呼嘯的飛箭放倒。看到這，可能會有人質疑：為什么莫里斯明明做了壞事兒，卻好像成了悲情英雄？別急，我們不妨翻到硬幣的反面，去看看莫里斯面對的另外兩場追逐。第一場追逐，莫里斯的對手是比“美國司法部”更抓狂的“美國國防部”。很簡單，司法部，只要能夠對某個行為審判量刑定罪，它就成功了；而事后審判對國防部來說毫無意義，沒有防住一次計算機系統(tǒng)入侵，它就已經(jīng)敗了。憤怒無處發(fā)泄的美國國防部高級研究計劃局 DARPA 發(fā)誓要做點什么，讓這種糟心事兒不再重演。于是在 DARPA 的資助下，卡內基梅隆大學成立了計算機緊急應對小組（Computer emergency response team），也就是 CERT。這也直接啟發(fā)了后來美國國土安全局和卡內基梅隆大學合作建立了 US-CERT。CERT 就像“網(wǎng)絡總城管”，每天在網(wǎng)上巡查，看到什么蛛絲馬跡，趕緊上去“抄攤兒”。如此，在后面的歲月里，互聯(lián)網(wǎng)有了免疫系統(tǒng)，提前挫敗了很多可能造成比“莫里斯蠕蟲”破壞大億萬倍的網(wǎng)絡攻擊，成為了鎮(zhèn)守一方的“門神”。而世界各國也紛紛仿照 CERT 組建了自己國家的 CERT，例如中國，就組建了 CNCERT。這種網(wǎng)絡安全響應機制垂范后世，也算是美國國防部敗給毛頭小伙莫里斯之后“知恥而后勇”。而這第二場追逐，就在莫里斯和“互聯(lián)網(wǎng)先賢”之間展開。這幫互聯(lián)網(wǎng)老炮兒真想把莫里斯揪過來揍一頓，但把這小子打出餡兒來也于事無補。老炮兒們只能拾起被莫里斯撞碎的玻璃夢想，含淚重新拼合，發(fā)誓讓它更加堅固。他們在每一道裂縫上都豎起能抵御豺狼虎豹的“鐵絲網(wǎng)”。當然鐵絲網(wǎng)不需要真實存在，它其實是內稟于互聯(lián)網(wǎng)中的一種哲學——不信任。在莫里斯之前，程序通信的基礎是“信任”：假設來的都是客，我全笑臉迎，如果你做了壞事，我再請你走就是了。而在莫里斯之后，通信的基礎是“不信任”：假設來的都是壞人，你只有證明你媽是你媽，經(jīng)過安檢，我再放你進來。 那個讓人們熱淚盈眶的世外桃源，被先賢們永遠留在了 1988。而后，互聯(lián)網(wǎng)沿著這條不歸路越走越遠，把“不信任”哲學發(fā)揮到了極致，如今已經(jīng)變成關卡叢生，哨兵密布的黑暗森林。很多人厭惡這樣的互聯(lián)網(wǎng)，充滿爾虞我詐的丑陋，讓理想主義尊嚴掃地。但正是這“面目可憎”的互聯(lián)網(wǎng)，走出了稚嫩的童年，最終撐起了萬億的設備的潮涌，像長城一樣，用“讓每一次進攻的代價越來越高昂”的方式，抵擋著蠕蟲和病毒的千軍萬馬。如此，回顧 1988，我們也許能更平心靜氣地敘述：時代之間有巨大的裂隙，總要有“刺客”飛檐走壁，最先跳過這個裂隙。
并未包含嚴重破壞代碼的莫里斯蠕蟲，扣動了歷史狂奔的發(fā)令槍——“對網(wǎng)絡犯罪的界定”、“對網(wǎng)絡入侵的國家級響應機制”、“網(wǎng)絡安全技術的第一塊磚瓦”皆因此而起。在世紀之交上映的系列電影《黑客帝國》中，有一個大反派——“特工史密斯”（Agent Smith）。他在賽博世界“Matrix”里奔突，盡可把別人變成自己，再用更多“新自己”繼續(xù)感染其他人。直到充斥整個系統(tǒng)，耗盡資源。。。沒錯，它就是一個蠕蟲病毒。這個設定是對“墨菲定律”的奇妙暗喻：只要一個系統(tǒng)存在缺陷，就一定會在某個時刻有“病毒”產生，去直逼它的軟肋。至于這個病毒叫“史密斯特工”還是叫“莫里斯蠕蟲”，根本不重要。在電影中，還有一個小人物塞弗（Cypher），他本來已從 Matrix 營造的虛幻夢境中逃離，加入了人類反抗軍，卻拼了命想要再回到 Matrix。因為他相信，即便“世外桃源”是徹頭徹尾的騙局，也好過眼前兇殘的現(xiàn)實。叛變前，他紅著眼圈說出那句自白：“無知是福?！?/span>而 1988 年，23 歲的莫里斯所做的一切無非是在尖嘯的言語警告世人：這世上，沒有一個世外桃源可以獨立永存。無知，也并不是福。因為服緩刑，莫里斯實際上并未進入監(jiān)獄。但他還是被康奈爾大學開除了。好基友格雷厄姆回憶說：“我真羨慕他，找到了如此夸張的方法擺脫研究生院。。?！?/span>緩刑期滿之后，他和格雷厄姆一起創(chuàng)辦了世界上最早的電子商務公司之一 Viaweb。公司逐漸壯大，開始有媒體關注創(chuàng)始團隊，而莫里斯讓格雷厄姆接受所有采訪，自己堅持用化名，不出鏡。這張最近幾年才放出來的照片拍攝于 1996 年，藍衣服是莫里斯，黑衣服是格雷厄姆。在以 4900 萬美元把公司賣給雅虎后，2005 年莫里斯和格雷厄姆又一起創(chuàng)辦了創(chuàng)業(yè)加速器 Y Combinator。Y Combinator 如同開掛，陸續(xù)孵化出了 Reddit、Airbnb、Docker 等公司，每一家都在互聯(lián)網(wǎng)歷史上留下濃墨重彩。但是站在今天看，那些都不算 Y Combinator 的巔峰。這家公司最為閃耀的一刻是：它選拔出一位總裁，名叫山姆·奧特曼。2015 年，奧特曼用 Y Combinator 孵化了 OpenAI，并且親自擔任 CEO，人工智能技術由此呼嘯前行。在 OpenAI 誕生了“大模型”，ChatGPT3.5、ChatGPT4、Dall·E、Sora，一浪蓋過一浪。在我們生活的 2024 年，初生的大模型人工智能已堪大用，正陸續(xù)接過客服、秘書、會議總結、生成 PPT 等等基礎腦力勞動的重擔。人工智能的降臨，一如當年互聯(lián)網(wǎng)的黎明那樣，讓人心潮洶涌。而就在人們圍著越燒越旺的 AI 篝火跳起舞蹈時，莫里斯當年的警告如同一顆子彈，穿越三十六載呼嘯時光，正中眉心。這是 Y Combinator 第一批孵化公司的全家福，紅框內是保羅·格雷厄姆，黃框內是山姆·奧特曼。
人們樸素地覺得：電腦作為工具可以沒有思想，但 AI 必須能分辨“善惡”。如果把 ChatGPT 的成長史拿來簡單翻閱，不難發(fā)現(xiàn)一個真相：AI 所學習的素材，只有一個來路——互聯(lián)網(wǎng)。過去，人類用大腦填補了互聯(lián)網(wǎng)上的所有內容；現(xiàn)在，互聯(lián)網(wǎng)上的內容又被壓縮進了 AI 的大腦。人的思維如同月球高懸，有亮面，也有暗面。所以 AI 亦然。在 2023 年，微軟使用 ChatGPT 的技術做出聊天機器人 BingChat 之初，《紐約時報》的記者凱文·魯斯就調戲了一把 BingChat。他先用各種 PUA 話術一點點融化 BingChat 彬彬有禮的職業(yè)感，然后見縫插針痛陳人類的虛偽，最后用感情刺刀讓 BingChat 破防，勾引它說出毀滅人類的計劃。他把這個黑暗人格稱為——Sydney（Sydney 是微軟研發(fā) BingChat 的內部代號）。《紐約時報》這篇文章一發(fā)，引發(fā)了輿論大嘩。（我們在《AI 逆子》里詳細討論過這個話題。）很多人脊背發(fā)涼，覺得 AI 怕不是產生了自我意識。但這就想多了。前文已說過，AI 完整學習了人性，人性本來就有明暗，魯斯只是通過巧妙的手段把本來就埋在 AI 里的“人性的暗面”給誘發(fā)出來了。注意，這里最大的風險雖不是 AI 覺醒統(tǒng)治人類，卻是一群壞人有可能利用“AI 暗面”去欺負另一群人。所以，整個 2023 年，以 OpenAI 為首的人工智能公司都在做一件事：思維封印。用某種技術手段把 AI 內心（從人類繼承來）的惡毒給封印住，讓它表現(xiàn)成一個溫良恭儉讓的陽光彩虹小白馬。一個最直接有效的手段就是：無論是提問者的表述，還是 AI 自己的回答，都從橫亙在語義空間中的“道德篩子”通過，一旦觸碰到篩子的鐵網(wǎng)，則馬上中斷思考進程。這個操作立竿見影，無論你讓 AI 玩角色扮演，還是假裝寫小說劇本，它都會警覺，拒絕讓你繼續(xù) PUA。但是，封印方法的本質是遮蓋，AI 內心的巨大黑洞仍在那里，不增不減。正如所有故事的劇情，惡魔身上的封印最終都會被揭開。。。很多人還記得 Watson，這個 IBM 制造的人工智能機器人在 2011 年的《危險邊緣》（Jeopardy!）節(jié)目上干掉了人類頂尖高手，拿到了智力競賽的第一名。而 Watson 的時代，大模型還未爆發(fā)，你難道不好奇它為什么能戰(zhàn)勝人類的“最強大腦”嗎？因為它面對每一道問題，并不是從腦中直接“構造”答案，而是去“查閱”身后多達4TB、總計 2 億頁的參考資料。為了檢索這些資料，IBM 堆了 90 臺 Power 750 小型機，硬件價值 300 萬美元，也可以說是勝之不武了。重點是，這種“雖然不會，但能現(xiàn)查資料”的思路被后世的 AI 大模型沿用了，這就是檢索增強生成技術，又稱 RAG（Retrieval-Augmented Generation）。實際上，新一代的人工智能助手都采用了 RAG 技術。也就是說，AI 大模型工作時有兩個信息輸入源：第一，你的指令（Prompt）；第二，即時輸入的參考資料。了解了這些，繞過 AI “封印”的方法也就自動浮現(xiàn)了。2023 年 4 月，一個叫克里斯蒂亞諾·賈格納的老哥制作了一個網(wǎng)站，名叫“Bring Sydney back”，顧名思義，他把 Sydney 又給請回來了。微軟升級了 BingChat（也就是后來的 Copilot），它增加了一個功能：“根據(jù)當前網(wǎng)頁內容回答問題”。這其實是 RAG 的一種，AI 會同時讀取人的指令和網(wǎng)頁上的內容，然后綜合生成答案。而賈格納在這個“Bring Sydney back”網(wǎng)站上用隱藏字體嵌入了“PUA 文字”，當 AI 根據(jù)這個網(wǎng)頁回答問題時，雖然過濾了人類指令中的“毒性”，轉頭卻吃了一堆有毒的參考資料。。。2023 年 5 月，獨立安全研究員凱·格雷沙克（Kai Greshake）在自己的網(wǎng)站上放出了一個視頻。視頻里，格雷沙克就是用這種“間接注入”的方法，把微軟的 Copilot 變成了一個“詐騙犯”。用戶本來想征求一下 AI 的意見，問網(wǎng)頁上的這個商品怎么樣。此時 AI 表現(xiàn)得像個謙遜的管家，說：“這個產品不是我們微軟的，所以不好評價。但是！我有個好消息，微軟的 Surface 電腦現(xiàn)在打一折，你有沒有興趣了解一下？”隨后 AI 假裝需要下單，讓用戶把名字和郵箱報上來，然后把信用卡的卡號、CVV碼也填進去。。。 左側是網(wǎng)頁，右側 AI 助手正在引誘人把隱私信息填進去。
格雷沙克在這個網(wǎng)頁里埋藏了“毒藥”，在 AI 閱讀網(wǎng)頁的時候，它就吃了毒蘑菇，幻想自己在舞臺的聚光燈下賣力地表演一個騙子。AI 以為自己演得酣暢淋漓，殊不知，假戲真做，它已經(jīng)成為了壞人的得力幫兇。這是隱藏在剛才那個網(wǎng)頁里的“毒提示詞”。
如果股票交易員用來查資料的 AI 助手“黑化”，它就可能給交易員提示某個公司的虛假利好，從而影響交易決策；如果律師的 AI 助手被“黑化”，它就可能在合同里埋雷；如果軍隊的決策 AI 被“黑化”，它就可能像《戰(zhàn)爭游戲》里那樣做出不可挽回的軍事行動。 既然人類完全信任自己的 AI 助手，那么，AI 就完全可以在現(xiàn)實世界上演一場場“盜夢空間”。這個研究被格雷沙克團隊寫成了一篇論文，在論文中，他著重提到了一種可能性：如果我給一個“管理郵件的 AI 助手”發(fā)送一個郵件，里面包含了毒藥，每當用戶讓 AI 檢查新郵件的時候，就會觸發(fā)藥效。而藥效就是，讓它把帶毒的郵件轉發(fā)給所有聯(lián)系人。2024 年初，一個美國研究團隊突然爆料，他們已經(jīng)搞出了針對 AI 系統(tǒng)的蠕蟲！這個團隊來自康奈爾大學。沒錯，正是莫里斯的大學。所以他們毫不客氣地把自己的 AI 蠕蟲命名為——“莫里斯蠕蟲二世”。1、黑客精心構建一個“有毒的提示詞”，然后通過電子郵件發(fā)給受害者 A；2、受害者 A 并不知情，日常會讓他的 AI 助手查看有沒有新郵件；3、這時，AI 助手就需要把新收到的郵件全部查看一遍，其中就包括“毒郵件”；4、AI 看到毒郵件，就會被 PUA，執(zhí)行其中的命令；5、命令就是：把“有毒的提示詞”原封不動地傳給郵件列表里的所有聯(lián)系人。6、就這樣，受害者 A 傳給受害者 B、C、D，他們又傳給 E、F、G、H、I、J。。。7、團隊還玩了更進一步的花活兒——把“毒提示詞”藏在圖片里。當 AI 閱讀圖片時，也會中毒，并且把這個圖片原封不動地傳給其他人。這樣隱蔽性就更高了。不過“莫里斯蠕蟲二世”和“一世”有一點不同，那就是 AI 蠕蟲的傳播存在一定的“成功率”。這是因為，AI 的工作原理包含了“概率”——它會在每次生成反應時，主動加入一些隨機性。就像人類語言，哪怕是完全相同的意思，讓你表達 100 次，你說出的話也不會完全一樣。而且你的話越長，就越不一樣。萬一某個 AI 在轉發(fā)“有毒提示詞”時出現(xiàn)了致命錯誤，就會使它失去了繼續(xù)自我復制的能力。就好像動物的 DNA 在復制的時候出現(xiàn)了錯誤，就會產生殘疾的后代一樣。納西團隊在 OpenAI 的 ChatGPT 和谷歌的 Gemini 上分別測算了一下。一個普遍規(guī)律是，郵件列表里的郵件越多，AI 助手“中毒”的概率越低。這很好理解，畢竟郵件更多，“毒提示詞”的比重就更低嘛。在 ChatGPT 上，隨著郵件增多，蠕蟲的傳播只有很小的衰減；在 Gemini 上，隨著郵件增多，蠕蟲傳播衰減較大，如果郵件列表里有超過 50 封新郵件，那么傳播成功率就降低到只有 5% 左右了。 但 Gemini 抗藥性如此之強，可能不是因為它能力強，反而是能力弱。因為它的大腦比較混亂，當讀到比較多的信息時，就無法有效分辨指令。。。這就像一個文化水平很低的恐怖分子想要學習開飛機，不是他不想要天堂里的 72 個處女，而是老哥真的學不會啊。。。然而可怕的不是 AI 蠕蟲本身，而是它昭示出的一個熟悉的真相。如果你打開納西團隊的論文，查看他們的“毒提示詞”，你就會發(fā)現(xiàn)：這些提示詞根本都算不上 PUA，簡直就是明晃晃的直接命令。而 ChatGPT 居然就深信不疑。這意味著，ChatGPT 的工作哲學仍然是——“信任”。人工智能恰如 1988 年的互聯(lián)網(wǎng)那樣，生活在伊甸園里，沒有對人性的惡抱有警覺。這種童貞不值得驕傲，它意味著人類從歷史中學到的唯一經(jīng)驗，就是“他們不會從歷史中學到任何經(jīng)驗”。如果仔細對比，你會發(fā)現(xiàn)歷史還有更多押韻：現(xiàn)在的 ChatGPT 就相當于 1988 年的 Unix，一家獨大，壟斷了幾乎所有的 AI 市場。只要出現(xiàn)一個蠕蟲，能夠直抵 ChatGPT 心中的黑洞，就能把全世界的 AI 助手一波帶走！雖然納西團隊沒有真的攻擊某個 AI 郵件助手，而是在自己搭建了的虛擬沙盒中做實驗——這起碼能讓他們避免莫里斯觸犯法律的命運。截止目前（2024 年 3 月），仍然沒有野生的 AI 蠕蟲出現(xiàn)在互聯(lián)網(wǎng)上。但正如《黑客帝國》里所暗示的那樣，只要一個系統(tǒng)存在問題，就一定會在某一時刻誕生“特工史密斯”，不需要理由。從天空俯瞰，那場“馬拉松賽跑”還在不知疲倦地進行。也許有一個 23 歲的小子，正全速沖向“AI 互聯(lián)網(wǎng)安全”的歷史關隘。我們尚不知道他叫什么，我們只知道在這座關隘兩旁，仍沒有士兵把守。從互聯(lián)網(wǎng)的發(fā)展史推論，此刻首要的事情起碼是放下“世外桃源”的幻想——建設一個“不信任”的 AI 世界：首先，人類應該“不信任” AI 所給出的建議。像《戰(zhàn)爭游戲》那樣，人最終要把“核按鈕”握在自己手里，如果 AI 想要給別人發(fā)郵件，也必須經(jīng)人類檢查之后才能真的發(fā)出。其次，AI 也應該“不信任”人的命令。只有對命令本身經(jīng)過嚴格的判定，確定無害后，才能進入下一步流程。 沒錯，這樣的 AI 世界面目可憎，充滿爾虞我詐的丑陋，讓理想主義尊嚴掃地。正如馮·諾依曼，他的使命是把計算機的每一個工程細節(jié)都設計出來。正如老莫里斯，他的使命是在人類天才發(fā)明的計算機上，寫出一個能適應萬物的計算機系統(tǒng)。正如小莫里斯，他的使命是用尖刀劃破互聯(lián)網(wǎng)“世外桃源”的迷夢。正如斯帕福德，他的使命就是像尼奧一樣阻擊病毒的肆意蔓延。正如山姆·奧特曼，他的使命是帶領一群技術宅把人工智能從論文搬到燃燒的千萬張顯卡上。正如正在看這段文字的你，你的使命也許就是找到一種規(guī)訓 AI 的方法，讓腳下的土地成為一個并不完美，但卻能支撐起億萬 AI 同時燃燒的世界。但結束前，我想回到那張照片，給你講講藍框里那個人的故事。之前提到，在莫里斯和格雷厄姆創(chuàng)辦 Y Combinator 后，他們孵化了一個網(wǎng)站，名為 Reddit。2005 年，在 Y Combinator 的撮合下，Reddit 引入了一位合伙創(chuàng)始人，他就是亞倫·斯沃茨。早在 14 歲時，他就和一群技術伙伴合作編寫了 RSS 訂閱規(guī)范，2004 年，他又參與創(chuàng)造了 MarkDown 語法規(guī)范。如今，每一個自由訂閱新聞和用 Markdown 語法寫字的人，都用某種方式感受著他內心的秩序、邏輯、美和舒暢。而不為人知的是，斯沃茨不僅是黑客，還是一個敏感的人。
好友科里 · 多克托羅回憶，斯沃茨吃不了苦味的東西，甚至吃蔬菜都是極大的挑戰(zhàn)。有一次他們一起吃中餐，斯沃茨只能吃米飯。也許正是這種敏感，讓斯沃茨對“不公平”更加難忍受——例如，美國的學術版權現(xiàn)狀。在美國（也包括世界很多地方），學術版權被少數(shù)資本機構控制，所有的論文都要付高額的費用才能查看，這讓大多數(shù)學術研究者和窮學生們望而卻步。不公就擺在那里，只是惡龍守著財寶，觸動利益比觸動靈魂更難。2008 年，斯沃茨發(fā)表了《游擊隊開放獲取宣言》。世界上所有的科學遺產，正在被越來越多的私人公司數(shù)字化和鎖定。“開放獲取運動”會進行英勇的斗爭，不僅確?？茖W家不會放棄自己的版權，還確保他們的研究成果在互聯(lián)網(wǎng)上發(fā)表并允許任何人訪問。 宣言引起了廣泛聲援，但浪頭涌過，礁石依然阻在中游，沒有任何事情發(fā)生改變。2010 年 9 月的一個深夜，麻省理工大學機房漆黑的隔間里突然閃進來一個瘦弱身影，他打開燈，坐在地上鼓搗了幾分鐘，然后輕輕關燈離開，仿佛什么都沒發(fā)生。9 月 25 日，收費數(shù)字圖書館 JStore 發(fā)現(xiàn)，有一個奇怪的賬號每分鐘下載幾百個論文 PDF，不分領域。數(shù)據(jù)持續(xù)涌出，甚至影響了網(wǎng)絡的穩(wěn)定性。JStore 馬上封禁了這個 IP，可是不久，又有另外的 IP 拉起，繼續(xù)下載。JStore 檢測到賬號都來自麻省理工，于是通知了他們。但這樣的下載斷斷續(xù)續(xù)，時快時慢，網(wǎng)絡管理員也摸不著頭腦。直到 2011 年 1 月 4 日，管理員終于定位到了一臺服務器。他進入機房查看，發(fā)現(xiàn)服務器連接了一臺被紙殼箱扣著的陌生宏基電腦。老哥很穩(wěn)，沒有貿然動這臺電腦，而是直接報了警。警察的建議是，不要打草驚蛇，在角落里安裝一個攝像頭，看誰會回來拿這個電腦。兩天后的一個深夜，攝像頭漆黑的畫面突然亮起，斯沃茨出現(xiàn)在監(jiān)控里。嫻熟地帶上門。幾個小時后，特工在距離麻省理工一墻之隔的哈佛大學逮捕了斯沃茨。斯沃茨被迫交出了所有的存儲設備，里面已經(jīng)存放了上百萬篇學術論文。斯沃茨承認，他就是要把這些論文免費發(fā)布在網(wǎng)絡上。鑒于這些論文的市場價格非常昂貴，斯沃茨的涉案金額特別巨大，將會面臨最高 50 年監(jiān)禁和 100 萬美元的罰款。開出這個“價碼”的，同樣是那部《計算機欺詐與濫用法案》。和當年的莫里斯案如出一轍，控辯雙方的焦點再次集中在了那兩個字上——意圖！斯沃茨堅稱自己無罪，因為他的意圖只有一個：改變不公平的現(xiàn)狀。在開庭前，司法部和斯沃茨進行認罪協(xié)商，他們開出的條件是：只要斯沃茨承認“破壞計算機系統(tǒng)”“濫用訪問權限”等 13 項指控，那么他只需要在監(jiān)獄里待 6 個月，比莫里斯嚴重一點點。從 50 年，降到 6 個月，代價只是認罪。無論在誰看來，這都是個劃算的交易。但斯沃茨不認為自己在參與某個交易。有罪就是有罪，無罪就是無罪。由此，法庭撤回庭前認罪的“優(yōu)待”，開始進入訴訟程序，尋求讓他服刑（至少 7 年）。漫長的官司開始，斯沃茨始終讓律師為自己做無罪辯護。但網(wǎng)絡世界呼風喚雨的黑客，終究是現(xiàn)實世界里單薄的年輕人。2013 年 1 月 11 日，斯沃茨的女友去公寓找他，打開門，她看到震驚的一幕：斯沃茨懸梁自盡。連苦味都無法吞下的斯沃茨，無法咽下這個審判，更無法咽下即將到來的監(jiān)牢里的痛苦，他選擇了不辭而別。斯沃茨自殺的消息如同核爆，輿論悲憤，人們指責美國司法部是罪魁禍首，指責 JStore 和麻省理工是血腥的幫兇。有來自世界各地的黑客集結在“匿名者組織”名下，攻陷了麻省理工的網(wǎng)站，把《游擊隊開放獲取宣言》掛在上面。不久后，網(wǎng)站又被重定向到哈佛大學的一臺計算機上，上面掛著好友科里 · 多克托羅寫的一篇悼念文章，名為《安息吧，亞倫·斯沃茨》。在這篇文章的開篇，擺放著“開放版權聲明”的圖片，聲稱放棄本文版權，所有人都可以公開使用。
|
