專題·人工智能安全 | AI能力邊界不斷擴展，將對國家安全產(chǎn)生深遠(yuǎn)影響

清都山水郎wa1z 2023-07-15 發(fā)布于遼寧

展開全文

文 | 中國信息安全測評中心王欣

隨著 ChatGPT 的發(fā)布及相關(guān)應(yīng)用的落地，人工智能技術(shù)給全球各個行業(yè)帶來了一波又一波沖擊。GPT-4 多模態(tài)大型語言模型更是將人工智能的能力提升到新的高度，無論從技術(shù)先進性還是應(yīng)用實踐能力來看，此模型均可被稱為當(dāng)前人工智能發(fā)展的集大成者，人工智能正以一種肉眼可見卻難以預(yù)料的速度迅速擴展其能力邊界。在人工智能的加持下，網(wǎng)絡(luò)攻防、開源情報、軍事對抗等國家安全相關(guān)領(lǐng)域均出現(xiàn)前所未有的科技創(chuàng)新和突破，或?qū)野踩a(chǎn)生較大影響。

一、人工智能應(yīng)用于軍事斗爭，傳統(tǒng)武器如虎添翼

當(dāng)代軍事領(lǐng)域既是戰(zhàn)略前沿技術(shù)發(fā)展匯集的核心地帶，也是最富創(chuàng)新性、超越性、顛覆性的科學(xué)技術(shù)發(fā)展前沿，人工智能作為當(dāng)前最火爆的關(guān)鍵新興技術(shù)之一，在軍事領(lǐng)域的武器裝備賦能、戰(zhàn)場情報分析、戰(zhàn)略決策指揮、戰(zhàn)時輿論引導(dǎo)等方面發(fā)揮著越來越重要的作用。

俄烏沖突戰(zhàn)事持續(xù)焦灼，以人工智能為代表的現(xiàn)代關(guān)鍵新興技術(shù)在其中發(fā)揮了至關(guān)重要甚至主導(dǎo)性的作用。2022 年 12 月，華盛頓郵報專欄作家大衛(wèi)·伊格內(nèi)修斯發(fā)表題為《算法如何在烏克蘭打破平衡》的文章指出，美國人工智能公司 Palantir 為烏克蘭軍隊提供了功能強大的軟件系統(tǒng)，利用人工智能實現(xiàn)了精準(zhǔn)的圖像識別，通過將來自衛(wèi)星、無人機以及社交媒體等渠道的圖片進行關(guān)聯(lián)分析，為烏克蘭軍方進行目標(biāo)識別、瞄準(zhǔn)打擊、戰(zhàn)事預(yù)警、戰(zhàn)略決策提供了極大支撐。Palantir 首席執(zhí)行官表示，“依托先進算法的戰(zhàn)爭系統(tǒng)能力之強大，等同于利用戰(zhàn)術(shù)核武器來對抗常規(guī)武器?！? 月 24 日，前美國陸軍網(wǎng)絡(luò)司令部作戰(zhàn)副司令羅賓·豐特斯與人工智能公司 RAIN 部門主管約里特·卡明加聯(lián)合發(fā)表題為《烏克蘭是人工智能戰(zhàn)爭活生生的試驗場》的文章指出，俄烏沖突為人工智能技術(shù)提供了“活生生的試驗場”，使真正的網(wǎng)絡(luò)化戰(zhàn)場愿景更接近現(xiàn)實。在作戰(zhàn)武器方面，人工智能為大量使用的無人機和巡航導(dǎo)彈，在飛行、瞄準(zhǔn)和射擊方面提供了增強的自主能力；在戰(zhàn)場情報方面，美國企業(yè)發(fā)揮主導(dǎo)作用的人工智能廣泛應(yīng)用于地理空間情報分析，結(jié)合了地面照片、無人機視頻片段和衛(wèi)星圖像，產(chǎn)生了戰(zhàn)略和戰(zhàn)術(shù)情報優(yōu)勢；在電子對抗方面，美國 Primer 公司為烏克蘭部署人工智能工具用于分析俄羅斯無線電通信，以獲取戰(zhàn)場實時情報；在輿論認(rèn)知方面，俄烏雙方利用人工智能生成大量虛假信息或錯誤信息，進行輿論引導(dǎo)，定向擾動民意，產(chǎn)生認(rèn)知迷霧。人工智能在俄烏沖突各個領(lǐng)域的應(yīng)用充分說明，此場沖突已經(jīng)成為人工智能技術(shù)的試驗場，并發(fā)揮了重要作用，真實戰(zhàn)場數(shù)據(jù)反哺人工智能進行訓(xùn)練、調(diào)整和進化，未來將出現(xiàn)新型的“AI”戰(zhàn)爭。關(guān)于 AI 增強武器系統(tǒng)的公開報道只是冰山一角，人工智能技術(shù)已經(jīng)開始部署在遠(yuǎn)離戰(zhàn)場的系統(tǒng)中，如與規(guī)劃、后勤保障和預(yù)防性維護等領(lǐng)域相關(guān)的云計算和數(shù)據(jù)分析系統(tǒng)，這場革命現(xiàn)在已經(jīng)開始，而且不會停止。2 月，烏克蘭數(shù)字轉(zhuǎn)型部長米哈伊洛·費多羅夫在采訪中表示，完全自主的殺手級無人機是武器開發(fā)中“合乎邏輯且不可避免的一步”，烏克蘭一直在“朝這個方向進行大量研發(fā)”。5 月 9 日，美國防部發(fā)布《2023國防科技戰(zhàn)略》，明確將可信人工智能與自治系統(tǒng)作為支撐國防創(chuàng)新的關(guān)鍵技術(shù)領(lǐng)域。

無論是在真實戰(zhàn)場中的現(xiàn)實作用，還是在國家戰(zhàn)略規(guī)劃中的重要地位，種種跡象均表明，“人工智能+軍事”的武器裝備技術(shù)進一步成熟完善，一場人工智能引領(lǐng)的軍事變革浪潮即將在不久的未來漸漸顯現(xiàn)。

二、人工智能應(yīng)用于情報領(lǐng)域，情報生產(chǎn)方式變革在即

人工智能技術(shù)憑借強大的數(shù)據(jù)整合分析能力，廣泛應(yīng)用于情報領(lǐng)域，將情報分析的自動化水平提高到新的高度。傳統(tǒng)分析員借助人工智能更好地理解數(shù)據(jù)，提升情報研判與預(yù)測能力，情報機構(gòu)利用人工智能技術(shù)高效的分析海量數(shù)據(jù)，做出更精準(zhǔn)的戰(zhàn)略決策。

各國情報機構(gòu)高度重視人工智能的賦能作用，2022 年 12 月，美國發(fā)布的《2023 財年情報授權(quán)法案》中明確指出，人工智能是美國情報界重點關(guān)注的新興技術(shù)之一，法案指出“為提高情報競爭力，情報界必須加速采用人工智能技術(shù)并將其納入工作流程。調(diào)研情報界在開發(fā)、獲取、采用、維護人工智能技術(shù)，改進情報搜集、處理和分析全流程方面所取得的成效和不足，確保商業(yè)尖端技術(shù)能夠快速在情報界應(yīng)用”。隨著 ChatGPT 的發(fā)布，更是掀起了該項技術(shù)在情報分析方面的應(yīng)用熱潮。2 月，美國中央情報局（CIA）人工智能主管拉克希米·拉曼表示，該機構(gòu)正在通過聯(lián)邦政府資助的研發(fā)中心以及學(xué)術(shù)界和工業(yè)界的合作伙伴尋求該領(lǐng)域的幫助，探索使用聊天機器人和生成式人工智能功能協(xié)助其完成日常工作和總體情報任務(wù)；將 AI 整合到 CIA 行動和系統(tǒng)的很多工作正在進行，以確保 CIA 成為一個成熟的、人工智能驅(qū)動的組織，并擴大對對手使用人工智能和機器學(xué)習(xí)能力的理解。3 月 29 日，英國安全事務(wù)國務(wù)大臣湯姆·圖根哈特撰文稱，希望英國能設(shè)立一個專注于“開源情報”（OSINT）的全新情報機構(gòu)，通過人工智能技術(shù)收集分析公開來源信息，用以協(xié)助傳統(tǒng)情報工作，一方面幫助情報人員識別對手所造成的威脅，另一方面用于打擊“虛假信息”的傳播。

在當(dāng)前數(shù)字經(jīng)濟時代，開源信息、網(wǎng)絡(luò)數(shù)據(jù)已經(jīng)成為情報生產(chǎn)的重要來源，傳統(tǒng)人力已經(jīng)不能應(yīng)對巨量的情報分析任務(wù)，人工智能技術(shù)既能助力突破情報數(shù)據(jù)處理速度和規(guī)模上的瓶頸，還在情報挖掘、決策輔助等方面發(fā)揮更大作用，極大提升情報信息的可用性和洞察力。

三、人工智能應(yīng)用于網(wǎng)絡(luò)攻防，產(chǎn)生鋒“矛”固“盾”之效

人工智能之于網(wǎng)絡(luò)攻防的賦能作用相當(dāng)明顯，攻防兩端均可利用人工智能技術(shù)開展更加高效、精準(zhǔn)以及定制化的行動，網(wǎng)絡(luò)空間的對抗形勢將更加嚴(yán)峻。

以 ChatGPT 為例，其對網(wǎng)絡(luò)攻防已經(jīng)產(chǎn)生了意想不到的增強作用。在攻擊層面，ChatGPT 憑借其強大的代碼編寫能力、文本生成能力受到多方贊譽，但是這也降低了網(wǎng)絡(luò)攻擊的門檻，攻擊者能夠利用人工智能模型建立完整攻擊鏈條，自動化生成攻擊代碼甚至具有實戰(zhàn)功能的攻擊工具。自 ChatGPT 發(fā)布以來，暗網(wǎng)論壇中充斥著大量使用 ChatGPT 生成惡意代碼的教程和相關(guān)惡意軟件，網(wǎng)絡(luò)安全公司 CheckPoint 曾在 2022 年 12 月展示了利用 ChatGPT 實施完整網(wǎng)絡(luò)釣魚攻擊的過程，并依據(jù)其監(jiān)測數(shù)據(jù)發(fā)出了“網(wǎng)絡(luò)犯罪開始使用 ChatGPT”的警告。近日，F(xiàn)orcepoint 公司的研究人員成功繞過 ChatGPT“反惡意使用”保護機制，僅花費 4 小時就生成一款具備文件竊取及隱寫傳輸功能惡意軟件，并能夠逃避近 70 款檢查引擎的查殺。英國安全公司 DarkTrace 發(fā)布警告稱，“ChatGPT 助長了網(wǎng)絡(luò)勒索和更高級的網(wǎng)絡(luò)欺騙”。人工智能技術(shù)憑借其強大的模型能力，使網(wǎng)絡(luò)攻擊的自動化程度、攻擊隱蔽性、攻擊滲透能力等均得到了不同程度的提升，隨著模型的不斷改進，它將成為惡意行為者越來越強大的工具和幫手。在防御層面，人工智能與威脅情報、大數(shù)據(jù)、云計算有效融合，形成算力、算法和數(shù)據(jù)疊加優(yōu)勢，有效提升網(wǎng)絡(luò)威脅的響應(yīng)和處置能力。俄烏沖突中，微軟聯(lián)合人工智能公司 RiskIQ 協(xié)防烏克蘭，從外而內(nèi)識別烏信息系統(tǒng)中的攻擊面，幫助烏克蘭及時發(fā)現(xiàn)和阻止大量網(wǎng)絡(luò)攻擊。3 月 28 日，美國微軟公司宣布將 GPT-4 引入網(wǎng)絡(luò)安全，發(fā)布了全球首款真正意義上的網(wǎng)絡(luò)安全 AI 產(chǎn)品“微軟安全助手”（Microsoft Security Copilot，以下簡稱Copilot）。Copilot 憑借人工智能的高效數(shù)據(jù)處理能力進行網(wǎng)絡(luò)安全事件響應(yīng)、評估和防御，實現(xiàn)對威脅事件的秒級響應(yīng)和規(guī)?；幹?。微軟將最前沿的網(wǎng)絡(luò)安全技術(shù)與人工智能相結(jié)合，是 AI 能力邊界的再一次有效擴展，是在 ChatGPT 熱潮之后的又一項具有里程碑意義的人工智能落地應(yīng)用。面對網(wǎng)絡(luò)威脅，Copilot 是一個名副其實的“安全大腦”，它具備了網(wǎng)絡(luò)安全專家甚至專家團隊的能力，既能夠讓初級安全人員快速上手解決安全問題，又能夠為高級安全人員面對高級威脅提供及時有效的支持。從技術(shù)角度看，微軟憑借多年的積累和布局，在算力、算法和數(shù)據(jù)等人工智能核心領(lǐng)域占據(jù)得天獨厚的優(yōu)勢。在算力方面，微軟 Azure 云基礎(chǔ)設(shè)施平臺為 Copilot 提供了充足的計算能力；在算法方面，Copilot 將全球最先進的生成式大語言模型與其領(lǐng)先的網(wǎng)絡(luò)安全專用模型相結(jié)合；在數(shù)據(jù)方面，微軟積累了龐大且優(yōu)質(zhì)的威脅情報和安全大數(shù)據(jù)，成為 Copilot 不斷進化能夠憑借的巨大數(shù)據(jù)金礦。除此之外，生成式人工智能也成為 2023 年 RSA 大會最熱門的賽道，谷歌、埃森哲等廠商均推出了以人工智能作為核心技術(shù)的網(wǎng)絡(luò)安全產(chǎn)品，Veracode、記錄未來等企業(yè)也宣布要將生成式人工智能引入自身產(chǎn)品。人工智能無論作為一種解決方案提供方，還是一種能夠重構(gòu)現(xiàn)有解決方案的技術(shù)，都將在未來的網(wǎng)絡(luò)安全領(lǐng)域發(fā)揮重要作用。

人工智能對網(wǎng)絡(luò)安全帶來了巨大而深刻的影響，它既被用來改進和加強網(wǎng)絡(luò)安全解決方案，幫助分析人員更高效地分類威脅和修復(fù)漏洞，也被黑客用來發(fā)動更大規(guī)模、更復(fù)雜的網(wǎng)絡(luò)攻擊。人工智能將改變當(dāng)前網(wǎng)絡(luò)攻防態(tài)勢，以 AI 對抗 AI 的場景將愈發(fā)普遍。

四、對策建議

ChatGPT 加速了人工智能時代的到來，隨著其能力邊界不斷拓展，憑借在軍事對抗、情報分析及網(wǎng)絡(luò)攻防領(lǐng)域的應(yīng)用優(yōu)勢，將成為大國博弈的另一戰(zhàn)略武器，將對國家安全產(chǎn)生持續(xù)深遠(yuǎn)的影響。我國應(yīng)密切關(guān)注全球人工智能技術(shù)發(fā)展及應(yīng)用的最新動向，提早布局，增強人工智能的技術(shù)競爭能力。

一是加強人工智能核心技術(shù)研發(fā)保障關(guān)鍵領(lǐng)域應(yīng)用安全。受益于數(shù)字經(jīng)濟發(fā)展的熱潮，人工智能在我國呈現(xiàn)了蓬勃發(fā)展態(tài)勢，在已形成的產(chǎn)業(yè)規(guī)模、人才投入、論文專利等方面，均處在全球領(lǐng)先水平，但我國在人工智能領(lǐng)域更加聚焦于技術(shù)應(yīng)用，在基礎(chǔ)理論、核心算法、模型框架、芯片等方面的核心關(guān)鍵技術(shù)與國外仍存在較大差距。我國應(yīng)進一步加強人工智能核心軟硬件技術(shù)的研發(fā)，實現(xiàn)從算法、模型框架、元器件、基礎(chǔ)設(shè)施到系統(tǒng)結(jié)構(gòu)的自主創(chuàng)新和全產(chǎn)業(yè)鏈的整體技術(shù)突破，保障在我國關(guān)鍵領(lǐng)域人工智能應(yīng)用的安全可靠。

二是發(fā)展符合我國內(nèi)業(yè)務(wù)場景的專用模型提升應(yīng)用能力。通用人工智能大模型在內(nèi)容生成、邏輯推理等方面展現(xiàn)出不凡能力，但專用模型更具備特定場景下解決現(xiàn)實問題的能力。我國在人工智能應(yīng)用場景多樣性方面擁有先天的優(yōu)勢，細(xì)分場景廣泛而豐富，用戶基礎(chǔ)龐大，數(shù)據(jù)匯集效應(yīng)較易形成，我國應(yīng)充分利用此優(yōu)勢，以應(yīng)用為牽引，加快發(fā)展不同行業(yè)領(lǐng)域的人工智能專用模型，匯聚國內(nèi)科研和產(chǎn)業(yè)界的人工智能算法、算力優(yōu)勢，行業(yè)領(lǐng)域的數(shù)據(jù)資源優(yōu)勢，探索適合我國內(nèi)現(xiàn)實情況的人工智能發(fā)展技術(shù)路線。

三是做好準(zhǔn)備應(yīng)對人工智能帶來的網(wǎng)絡(luò)攻防對抗嚴(yán)峻形勢。在人工智能的助力下，全球網(wǎng)絡(luò)空間將面臨前所未有的嚴(yán)峻攻擊態(tài)勢，攻擊戰(zhàn)術(shù)、戰(zhàn)法都將發(fā)生“范式”性的變化，攻擊烈度、規(guī)模、逃逸性、抗溯源能力等將得到較大提升。我國應(yīng)做好充分準(zhǔn)備應(yīng)對人工智能給網(wǎng)絡(luò)空間攻防對抗帶來的挑戰(zhàn)，加強網(wǎng)絡(luò)威脅情報數(shù)據(jù)的統(tǒng)一和共享，促進人工智能技術(shù)在網(wǎng)絡(luò)威脅監(jiān)測、攻擊溯源檢測、自動化協(xié)同防御、漏洞檢測與識別等方面的應(yīng)用，提升網(wǎng)絡(luò)威脅防護能力。

（本文刊登于《中國信息安全》雜志2023年第5期）