專題·人工智能安全 | AI能力邊界不斷擴(kuò)展，將對(duì)國(guó)家安全產(chǎn)生深遠(yuǎn)影響

清都山水郎wa1z 2023-07-15 發(fā)布于遼寧

展開全文

文 | 中國(guó)信息安全測(cè)評(píng)中心王欣

隨著 ChatGPT 的發(fā)布及相關(guān)應(yīng)用的落地，人工智能技術(shù)給全球各個(gè)行業(yè)帶來了一波又一波沖擊。GPT-4 多模態(tài)大型語言模型更是將人工智能的能力提升到新的高度，無論從技術(shù)先進(jìn)性還是應(yīng)用實(shí)踐能力來看，此模型均可被稱為當(dāng)前人工智能發(fā)展的集大成者，人工智能正以一種肉眼可見卻難以預(yù)料的速度迅速擴(kuò)展其能力邊界。在人工智能的加持下，網(wǎng)絡(luò)攻防、開源情報(bào)、軍事對(duì)抗等國(guó)家安全相關(guān)領(lǐng)域均出現(xiàn)前所未有的科技創(chuàng)新和突破，或?qū)?duì)國(guó)家安全產(chǎn)生較大影響。

一、人工智能應(yīng)用于軍事斗爭(zhēng)，傳統(tǒng)武器如虎添翼

當(dāng)代軍事領(lǐng)域既是戰(zhàn)略前沿技術(shù)發(fā)展匯集的核心地帶，也是最富創(chuàng)新性、超越性、顛覆性的科學(xué)技術(shù)發(fā)展前沿，人工智能作為當(dāng)前最火爆的關(guān)鍵新興技術(shù)之一，在軍事領(lǐng)域的武器裝備賦能、戰(zhàn)場(chǎng)情報(bào)分析、戰(zhàn)略決策指揮、戰(zhàn)時(shí)輿論引導(dǎo)等方面發(fā)揮著越來越重要的作用。

俄烏沖突戰(zhàn)事持續(xù)焦灼，以人工智能為代表的現(xiàn)代關(guān)鍵新興技術(shù)在其中發(fā)揮了至關(guān)重要甚至主導(dǎo)性的作用。2022 年 12 月，華盛頓郵報(bào)專欄作家大衛(wèi)·伊格內(nèi)修斯發(fā)表題為《算法如何在烏克蘭打破平衡》的文章指出，美國(guó)人工智能公司 Palantir 為烏克蘭軍隊(duì)提供了功能強(qiáng)大的軟件系統(tǒng)，利用人工智能實(shí)現(xiàn)了精準(zhǔn)的圖像識(shí)別，通過將來自衛(wèi)星、無人機(jī)以及社交媒體等渠道的圖片進(jìn)行關(guān)聯(lián)分析，為烏克蘭軍方進(jìn)行目標(biāo)識(shí)別、瞄準(zhǔn)打擊、戰(zhàn)事預(yù)警、戰(zhàn)略決策提供了極大支撐。Palantir 首席執(zhí)行官表示，“依托先進(jìn)算法的戰(zhàn)爭(zhēng)系統(tǒng)能力之強(qiáng)大，等同于利用戰(zhàn)術(shù)核武器來對(duì)抗常規(guī)武器。”3 月 24 日，前美國(guó)陸軍網(wǎng)絡(luò)司令部作戰(zhàn)副司令羅賓·豐特斯與人工智能公司 RAIN 部門主管約里特·卡明加聯(lián)合發(fā)表題為《烏克蘭是人工智能戰(zhàn)爭(zhēng)活生生的試驗(yàn)場(chǎng)》的文章指出，俄烏沖突為人工智能技術(shù)提供了“活生生的試驗(yàn)場(chǎng)”，使真正的網(wǎng)絡(luò)化戰(zhàn)場(chǎng)愿景更接近現(xiàn)實(shí)。在作戰(zhàn)武器方面，人工智能為大量使用的無人機(jī)和巡航導(dǎo)彈，在飛行、瞄準(zhǔn)和射擊方面提供了增強(qiáng)的自主能力；在戰(zhàn)場(chǎng)情報(bào)方面，美國(guó)企業(yè)發(fā)揮主導(dǎo)作用的人工智能廣泛應(yīng)用于地理空間情報(bào)分析，結(jié)合了地面照片、無人機(jī)視頻片段和衛(wèi)星圖像，產(chǎn)生了戰(zhàn)略和戰(zhàn)術(shù)情報(bào)優(yōu)勢(shì)；在電子對(duì)抗方面，美國(guó) Primer 公司為烏克蘭部署人工智能工具用于分析俄羅斯無線電通信，以獲取戰(zhàn)場(chǎng)實(shí)時(shí)情報(bào)；在輿論認(rèn)知方面，俄烏雙方利用人工智能生成大量虛假信息或錯(cuò)誤信息，進(jìn)行輿論引導(dǎo)，定向擾動(dòng)民意，產(chǎn)生認(rèn)知迷霧。人工智能在俄烏沖突各個(gè)領(lǐng)域的應(yīng)用充分說明，此場(chǎng)沖突已經(jīng)成為人工智能技術(shù)的試驗(yàn)場(chǎng)，并發(fā)揮了重要作用，真實(shí)戰(zhàn)場(chǎng)數(shù)據(jù)反哺人工智能進(jìn)行訓(xùn)練、調(diào)整和進(jìn)化，未來將出現(xiàn)新型的“AI”戰(zhàn)爭(zhēng)。關(guān)于 AI 增強(qiáng)武器系統(tǒng)的公開報(bào)道只是冰山一角，人工智能技術(shù)已經(jīng)開始部署在遠(yuǎn)離戰(zhàn)場(chǎng)的系統(tǒng)中，如與規(guī)劃、后勤保障和預(yù)防性維護(hù)等領(lǐng)域相關(guān)的云計(jì)算和數(shù)據(jù)分析系統(tǒng)，這場(chǎng)革命現(xiàn)在已經(jīng)開始，而且不會(huì)停止。2 月，烏克蘭數(shù)字轉(zhuǎn)型部長(zhǎng)米哈伊洛·費(fèi)多羅夫在采訪中表示，完全自主的殺手級(jí)無人機(jī)是武器開發(fā)中“合乎邏輯且不可避免的一步”，烏克蘭一直在“朝這個(gè)方向進(jìn)行大量研發(fā)”。5 月 9 日，美國(guó)防部發(fā)布《2023國(guó)防科技戰(zhàn)略》，明確將可信人工智能與自治系統(tǒng)作為支撐國(guó)防創(chuàng)新的關(guān)鍵技術(shù)領(lǐng)域。

無論是在真實(shí)戰(zhàn)場(chǎng)中的現(xiàn)實(shí)作用，還是在國(guó)家戰(zhàn)略規(guī)劃中的重要地位，種種跡象均表明，“人工智能+軍事”的武器裝備技術(shù)進(jìn)一步成熟完善，一場(chǎng)人工智能引領(lǐng)的軍事變革浪潮即將在不久的未來漸漸顯現(xiàn)。

二、人工智能應(yīng)用于情報(bào)領(lǐng)域，情報(bào)生產(chǎn)方式變革在即

人工智能技術(shù)憑借強(qiáng)大的數(shù)據(jù)整合分析能力，廣泛應(yīng)用于情報(bào)領(lǐng)域，將情報(bào)分析的自動(dòng)化水平提高到新的高度。傳統(tǒng)分析員借助人工智能更好地理解數(shù)據(jù)，提升情報(bào)研判與預(yù)測(cè)能力，情報(bào)機(jī)構(gòu)利用人工智能技術(shù)高效的分析海量數(shù)據(jù)，做出更精準(zhǔn)的戰(zhàn)略決策。

各國(guó)情報(bào)機(jī)構(gòu)高度重視人工智能的賦能作用，2022 年 12 月，美國(guó)發(fā)布的《2023 財(cái)年情報(bào)授權(quán)法案》中明確指出，人工智能是美國(guó)情報(bào)界重點(diǎn)關(guān)注的新興技術(shù)之一，法案指出“為提高情報(bào)競(jìng)爭(zhēng)力，情報(bào)界必須加速采用人工智能技術(shù)并將其納入工作流程。調(diào)研情報(bào)界在開發(fā)、獲取、采用、維護(hù)人工智能技術(shù)，改進(jìn)情報(bào)搜集、處理和分析全流程方面所取得的成效和不足，確保商業(yè)尖端技術(shù)能夠快速在情報(bào)界應(yīng)用”。隨著 ChatGPT 的發(fā)布，更是掀起了該項(xiàng)技術(shù)在情報(bào)分析方面的應(yīng)用熱潮。2 月，美國(guó)中央情報(bào)局（CIA）人工智能主管拉克希米·拉曼表示，該機(jī)構(gòu)正在通過聯(lián)邦政府資助的研發(fā)中心以及學(xué)術(shù)界和工業(yè)界的合作伙伴尋求該領(lǐng)域的幫助，探索使用聊天機(jī)器人和生成式人工智能功能協(xié)助其完成日常工作和總體情報(bào)任務(wù)；將 AI 整合到 CIA 行動(dòng)和系統(tǒng)的很多工作正在進(jìn)行，以確保 CIA 成為一個(gè)成熟的、人工智能驅(qū)動(dòng)的組織，并擴(kuò)大對(duì)對(duì)手使用人工智能和機(jī)器學(xué)習(xí)能力的理解。3 月 29 日，英國(guó)安全事務(wù)國(guó)務(wù)大臣湯姆·圖根哈特撰文稱，希望英國(guó)能設(shè)立一個(gè)專注于“開源情報(bào)”（OSINT）的全新情報(bào)機(jī)構(gòu)，通過人工智能技術(shù)收集分析公開來源信息，用以協(xié)助傳統(tǒng)情報(bào)工作，一方面幫助情報(bào)人員識(shí)別對(duì)手所造成的威脅，另一方面用于打擊“虛假信息”的傳播。

在當(dāng)前數(shù)字經(jīng)濟(jì)時(shí)代，開源信息、網(wǎng)絡(luò)數(shù)據(jù)已經(jīng)成為情報(bào)生產(chǎn)的重要來源，傳統(tǒng)人力已經(jīng)不能應(yīng)對(duì)巨量的情報(bào)分析任務(wù)，人工智能技術(shù)既能助力突破情報(bào)數(shù)據(jù)處理速度和規(guī)模上的瓶頸，還在情報(bào)挖掘、決策輔助等方面發(fā)揮更大作用，極大提升情報(bào)信息的可用性和洞察力。

三、人工智能應(yīng)用于網(wǎng)絡(luò)攻防，產(chǎn)生鋒“矛”固“盾”之效

人工智能之于網(wǎng)絡(luò)攻防的賦能作用相當(dāng)明顯，攻防兩端均可利用人工智能技術(shù)開展更加高效、精準(zhǔn)以及定制化的行動(dòng)，網(wǎng)絡(luò)空間的對(duì)抗形勢(shì)將更加嚴(yán)峻。

以 ChatGPT 為例，其對(duì)網(wǎng)絡(luò)攻防已經(jīng)產(chǎn)生了意想不到的增強(qiáng)作用。在攻擊層面，ChatGPT 憑借其強(qiáng)大的代碼編寫能力、文本生成能力受到多方贊譽(yù)，但是這也降低了網(wǎng)絡(luò)攻擊的門檻，攻擊者能夠利用人工智能模型建立完整攻擊鏈條，自動(dòng)化生成攻擊代碼甚至具有實(shí)戰(zhàn)功能的攻擊工具。自 ChatGPT 發(fā)布以來，暗網(wǎng)論壇中充斥著大量使用 ChatGPT 生成惡意代碼的教程和相關(guān)惡意軟件，網(wǎng)絡(luò)安全公司 CheckPoint 曾在 2022 年 12 月展示了利用 ChatGPT 實(shí)施完整網(wǎng)絡(luò)釣魚攻擊的過程，并依據(jù)其監(jiān)測(cè)數(shù)據(jù)發(fā)出了“網(wǎng)絡(luò)犯罪開始使用 ChatGPT”的警告。近日，F(xiàn)orcepoint 公司的研究人員成功繞過 ChatGPT“反惡意使用”保護(hù)機(jī)制，僅花費(fèi) 4 小時(shí)就生成一款具備文件竊取及隱寫傳輸功能惡意軟件，并能夠逃避近 70 款檢查引擎的查殺。英國(guó)安全公司 DarkTrace 發(fā)布警告稱，“ChatGPT 助長(zhǎng)了網(wǎng)絡(luò)勒索和更高級(jí)的網(wǎng)絡(luò)欺騙”。人工智能技術(shù)憑借其強(qiáng)大的模型能力，使網(wǎng)絡(luò)攻擊的自動(dòng)化程度、攻擊隱蔽性、攻擊滲透能力等均得到了不同程度的提升，隨著模型的不斷改進(jìn)，它將成為惡意行為者越來越強(qiáng)大的工具和幫手。在防御層面，人工智能與威脅情報(bào)、大數(shù)據(jù)、云計(jì)算有效融合，形成算力、算法和數(shù)據(jù)疊加優(yōu)勢(shì)，有效提升網(wǎng)絡(luò)威脅的響應(yīng)和處置能力。俄烏沖突中，微軟聯(lián)合人工智能公司 RiskIQ 協(xié)防烏克蘭，從外而內(nèi)識(shí)別烏信息系統(tǒng)中的攻擊面，幫助烏克蘭及時(shí)發(fā)現(xiàn)和阻止大量網(wǎng)絡(luò)攻擊。3 月 28 日，美國(guó)微軟公司宣布將 GPT-4 引入網(wǎng)絡(luò)安全，發(fā)布了全球首款真正意義上的網(wǎng)絡(luò)安全 AI 產(chǎn)品“微軟安全助手”（Microsoft Security Copilot，以下簡(jiǎn)稱Copilot）。Copilot 憑借人工智能的高效數(shù)據(jù)處理能力進(jìn)行網(wǎng)絡(luò)安全事件響應(yīng)、評(píng)估和防御，實(shí)現(xiàn)對(duì)威脅事件的秒級(jí)響應(yīng)和規(guī)?；幹谩Ｎ④泴⒆钋把氐木W(wǎng)絡(luò)安全技術(shù)與人工智能相結(jié)合，是 AI 能力邊界的再一次有效擴(kuò)展，是在 ChatGPT 熱潮之后的又一項(xiàng)具有里程碑意義的人工智能落地應(yīng)用。面對(duì)網(wǎng)絡(luò)威脅，Copilot 是一個(gè)名副其實(shí)的“安全大腦”，它具備了網(wǎng)絡(luò)安全專家甚至專家團(tuán)隊(duì)的能力，既能夠讓初級(jí)安全人員快速上手解決安全問題，又能夠?yàn)楦呒?jí)安全人員面對(duì)高級(jí)威脅提供及時(shí)有效的支持。從技術(shù)角度看，微軟憑借多年的積累和布局，在算力、算法和數(shù)據(jù)等人工智能核心領(lǐng)域占據(jù)得天獨(dú)厚的優(yōu)勢(shì)。在算力方面，微軟 Azure 云基礎(chǔ)設(shè)施平臺(tái)為 Copilot 提供了充足的計(jì)算能力；在算法方面，Copilot 將全球最先進(jìn)的生成式大語言模型與其領(lǐng)先的網(wǎng)絡(luò)安全專用模型相結(jié)合；在數(shù)據(jù)方面，微軟積累了龐大且優(yōu)質(zhì)的威脅情報(bào)和安全大數(shù)據(jù)，成為 Copilot 不斷進(jìn)化能夠憑借的巨大數(shù)據(jù)金礦。除此之外，生成式人工智能也成為 2023 年 RSA 大會(huì)最熱門的賽道，谷歌、埃森哲等廠商均推出了以人工智能作為核心技術(shù)的網(wǎng)絡(luò)安全產(chǎn)品，Veracode、記錄未來等企業(yè)也宣布要將生成式人工智能引入自身產(chǎn)品。人工智能無論作為一種解決方案提供方，還是一種能夠重構(gòu)現(xiàn)有解決方案的技術(shù)，都將在未來的網(wǎng)絡(luò)安全領(lǐng)域發(fā)揮重要作用。

人工智能對(duì)網(wǎng)絡(luò)安全帶來了巨大而深刻的影響，它既被用來改進(jìn)和加強(qiáng)網(wǎng)絡(luò)安全解決方案，幫助分析人員更高效地分類威脅和修復(fù)漏洞，也被黑客用來發(fā)動(dòng)更大規(guī)模、更復(fù)雜的網(wǎng)絡(luò)攻擊。人工智能將改變當(dāng)前網(wǎng)絡(luò)攻防態(tài)勢(shì)，以 AI 對(duì)抗 AI 的場(chǎng)景將愈發(fā)普遍。

四、對(duì)策建議

ChatGPT 加速了人工智能時(shí)代的到來，隨著其能力邊界不斷拓展，憑借在軍事對(duì)抗、情報(bào)分析及網(wǎng)絡(luò)攻防領(lǐng)域的應(yīng)用優(yōu)勢(shì)，將成為大國(guó)博弈的另一戰(zhàn)略武器，將對(duì)國(guó)家安全產(chǎn)生持續(xù)深遠(yuǎn)的影響。我國(guó)應(yīng)密切關(guān)注全球人工智能技術(shù)發(fā)展及應(yīng)用的最新動(dòng)向，提早布局，增強(qiáng)人工智能的技術(shù)競(jìng)爭(zhēng)能力。

一是加強(qiáng)人工智能核心技術(shù)研發(fā)保障關(guān)鍵領(lǐng)域應(yīng)用安全。受益于數(shù)字經(jīng)濟(jì)發(fā)展的熱潮，人工智能在我國(guó)呈現(xiàn)了蓬勃發(fā)展態(tài)勢(shì)，在已形成的產(chǎn)業(yè)規(guī)模、人才投入、論文專利等方面，均處在全球領(lǐng)先水平，但我國(guó)在人工智能領(lǐng)域更加聚焦于技術(shù)應(yīng)用，在基礎(chǔ)理論、核心算法、模型框架、芯片等方面的核心關(guān)鍵技術(shù)與國(guó)外仍存在較大差距。我國(guó)應(yīng)進(jìn)一步加強(qiáng)人工智能核心軟硬件技術(shù)的研發(fā)，實(shí)現(xiàn)從算法、模型框架、元器件、基礎(chǔ)設(shè)施到系統(tǒng)結(jié)構(gòu)的自主創(chuàng)新和全產(chǎn)業(yè)鏈的整體技術(shù)突破，保障在我國(guó)關(guān)鍵領(lǐng)域人工智能應(yīng)用的安全可靠。

二是發(fā)展符合我國(guó)內(nèi)業(yè)務(wù)場(chǎng)景的專用模型提升應(yīng)用能力。通用人工智能大模型在內(nèi)容生成、邏輯推理等方面展現(xiàn)出不凡能力，但專用模型更具備特定場(chǎng)景下解決現(xiàn)實(shí)問題的能力。我國(guó)在人工智能應(yīng)用場(chǎng)景多樣性方面擁有先天的優(yōu)勢(shì)，細(xì)分場(chǎng)景廣泛而豐富，用戶基礎(chǔ)龐大，數(shù)據(jù)匯集效應(yīng)較易形成，我國(guó)應(yīng)充分利用此優(yōu)勢(shì)，以應(yīng)用為牽引，加快發(fā)展不同行業(yè)領(lǐng)域的人工智能專用模型，匯聚國(guó)內(nèi)科研和產(chǎn)業(yè)界的人工智能算法、算力優(yōu)勢(shì)，行業(yè)領(lǐng)域的數(shù)據(jù)資源優(yōu)勢(shì)，探索適合我國(guó)內(nèi)現(xiàn)實(shí)情況的人工智能發(fā)展技術(shù)路線。

三是做好準(zhǔn)備應(yīng)對(duì)人工智能帶來的網(wǎng)絡(luò)攻防對(duì)抗嚴(yán)峻形勢(shì)。在人工智能的助力下，全球網(wǎng)絡(luò)空間將面臨前所未有的嚴(yán)峻攻擊態(tài)勢(shì)，攻擊戰(zhàn)術(shù)、戰(zhàn)法都將發(fā)生“范式”性的變化，攻擊烈度、規(guī)模、逃逸性、抗溯源能力等將得到較大提升。我國(guó)應(yīng)做好充分準(zhǔn)備應(yīng)對(duì)人工智能給網(wǎng)絡(luò)空間攻防對(duì)抗帶來的挑戰(zhàn)，加強(qiáng)網(wǎng)絡(luò)威脅情報(bào)數(shù)據(jù)的統(tǒng)一和共享，促進(jìn)人工智能技術(shù)在網(wǎng)絡(luò)威脅監(jiān)測(cè)、攻擊溯源檢測(cè)、自動(dòng)化協(xié)同防御、漏洞檢測(cè)與識(shí)別等方面的應(yīng)用，提升網(wǎng)絡(luò)威脅防護(hù)能力。

（本文刊登于《中國(guó)信息安全》雜志2023年第5期）

本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間，所有內(nèi)容均由用戶發(fā)布，不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買等信息，謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)點(diǎn)擊一鍵舉報(bào)。

轉(zhuǎn)藏 分享

QQ空間 QQ好友新浪微博微信

獻(xiàn)花（0） +1

來自：清都山水郎wa1z > 《人工智能》

舉報(bào)/認(rèn)領(lǐng)