前沿研究｜李艷 新興技術(shù)與國(guó)家安全：發(fā)展規(guī)律、治理邏輯與實(shí)踐路徑。該書(shū)作者團(tuán)隊(duì)作為國(guó)際社會(huì)較早關(guān)注新興技術(shù)發(fā)展及影響的研究團(tuán)體，雖然主要從管理科學(xué)角度，即從產(chǎn)業(yè)發(fā)展與公司運(yùn)營(yíng)的視角去探索如何有效規(guī)避新興技術(shù)帶來(lái)的風(fēng)險(xiǎn)，并發(fā)掘互聯(lián)網(wǎng)和生物技術(shù)等新興技術(shù)可能蘊(yùn)含的創(chuàng)造新行業(yè)和改變現(xiàn)有行業(yè)的潛力，但其中關(guān)于“新技術(shù)的識(shí)別與評(píng)估”部分的論述，對(duì)于界定新興技術(shù)有重要借鑒價(jià)值。二、新興技術(shù)治理邏輯：

前沿研究｜李艷 新興技術(shù)與國(guó)家安全：發(fā)展規(guī)律、治理邏輯與實(shí)踐路徑。該書(shū)作者團(tuán)隊(duì)作為國(guó)際社會(huì)較早關(guān)注新興技術(shù)發(fā)展及影響的研究團(tuán)體，雖然主要從管理科學(xué)角度，即從產(chǎn)業(yè)發(fā)展與公司運(yùn)營(yíng)的視角去探索如何有效規(guī)避新興技術(shù)帶來(lái)的風(fēng)險(xiǎn)，并發(fā)掘互聯(lián)網(wǎng)和生物技術(shù)等新興技術(shù)可能蘊(yùn)含的創(chuàng)造新行業(yè)和改變現(xiàn)有行業(yè)的潛力，但其中關(guān)于“新技術(shù)的識(shí)別與評(píng)估”部分的論述，對(duì)于界定新興技術(shù)有重要借鑒價(jià)值。二、新興技術(shù)治理邏輯：

科技部已正式啟動(dòng)6個(gè)國(guó)家科技重大專(zhuān)項(xiàng)、82個(gè)國(guó)家重點(diǎn)研發(fā)計(jì)劃。2024年共啟動(dòng)6個(gè)國(guó)家科技重大專(zhuān)項(xiàng)，包括“空間飛行器在軌服務(wù)與維護(hù)系統(tǒng)”國(guó)家科技重大專(zhuān)項(xiàng)、京津冀環(huán)境綜合治理國(guó)家科技重大專(zhuān)項(xiàng)、“癌癥、心腦血管、呼吸和代謝性疾病防治研究”國(guó)家科技重大專(zhuān)項(xiàng)、“量子通信與量子計(jì)算機(jī)”國(guó)家科技重大專(zhuān)項(xiàng)、深地國(guó)家科技重大專(zhuān)項(xiàng)、智能電網(wǎng)國(guó)家科技重大專(zhuān)項(xiàng)。

研究方法不只是關(guān)于使用的具體方法，還是一個(gè)更廣泛的框架，概述了研究是如何進(jìn)行的，一般包括的關(guān)鍵組成部分如下：1. 研究設(shè)計(jì)： 定義如何回答研究問(wèn)題的總體策略（例如實(shí)驗(yàn)、觀察或描述性設(shè)計(jì)）。一般來(lái)說(shuō)，研究方法主要分為兩大類(lèi)：定量方法，專(zhuān)注于數(shù)字?jǐn)?shù)據(jù)、模式和統(tǒng)計(jì)分析，非常適合研究模式、測(cè)試假設(shè)和發(fā)現(xiàn)變量之間的關(guān)系。定量研究方法主要包括八個(gè)具體研究方法，分別是：1. 實(shí)驗(yàn)研究：操縱變量以確定因果關(guān)系。

AI 大模型網(wǎng)絡(luò)安全問(wèn)題風(fēng)險(xiǎn)樣態(tài)如圖 2 所示。可信、可控的 AI 大模型數(shù)據(jù)資源是降低網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的基底，創(chuàng)新的AI 大模型技術(shù)手段是解決網(wǎng)絡(luò)安全問(wèn)題的本質(zhì)方法，完善的安全監(jiān)管和治理體系是大模型健康長(zhǎng)遠(yuǎn)發(fā)展的保障。大模型的數(shù)據(jù)責(zé)任主體不僅包括開(kāi)發(fā)人員和監(jiān)管人員，還應(yīng)擴(kuò)展至部署人員、使用人員甚至社會(huì)大眾，將大模型全生命周期的接觸者和使用者都納入數(shù)據(jù)責(zé)任主體，建立大模型數(shù)據(jù)主體責(zé)任矩陣，明晰各自的數(shù)據(jù)保障義務(wù)。

具身智能：推動(dòng)下一場(chǎng)智能革命。英國(guó)劍橋大學(xué)和瑞士洛桑聯(lián)邦理工學(xué)院的研究員合作發(fā)表了《具身智能：推動(dòng)下一場(chǎng)智能革命》論文，該論文強(qiáng)調(diào)具身智能運(yùn)用了跨學(xué)科的方法和技術(shù)，討論了在仿生學(xué)和軟體機(jī)器人技術(shù)、人工生命和生物混合系統(tǒng)、神經(jīng)科學(xué)與認(rèn)知、高層次智能、具身智能的應(yīng)用部署等方面的發(fā)展趨勢(shì)，并從統(tǒng)一具身智能概念、豐富設(shè)計(jì)創(chuàng)意、理解與傳統(tǒng)人工智能的關(guān)系及人才培養(yǎng)等方面討論了面臨的挑戰(zhàn)機(jī)遇。

從世界科學(xué)中心演進(jìn)看科研范式變革。到了20世紀(jì)，美國(guó)一方面繼承了實(shí)驗(yàn)科學(xué)、理論科學(xué)的方法，一方面在信息技術(shù)的推動(dòng)下，開(kāi)創(chuàng)了計(jì)算科學(xué)研究范式，在計(jì)算機(jī)模型和數(shù)據(jù)分析的幫助下，模擬仿真的研究方法被廣泛運(yùn)用，實(shí)現(xiàn)了人類(lèi)科研史上的又一次突破，而且也成為下一代研究范式即人工智能驅(qū)動(dòng)的科學(xué)研究的基礎(chǔ)。新一輪科研范式變革趨勢(shì)研判當(dāng)前，人類(lèi)又進(jìn)入新一輪的科研范式變革期，諸多跡象已經(jīng)浮出水面。

重磅整理 | 天津大學(xué)王鑫教授：知識(shí)圖譜構(gòu)建與管理關(guān)鍵技術(shù)（PPT分享）2020年6月18日。CCF數(shù)據(jù)庫(kù)專(zhuān)委走進(jìn)高校。知識(shí)圖譜構(gòu)建與管理關(guān)鍵技術(shù)。天津大學(xué)。智能與計(jì)算機(jī)學(xué)部 人工智能學(xué)院。王鑫 教授。在本公眾號(hào)后臺(tái)回復(fù) 知識(shí)圖譜。獲得報(bào)告ppt.本文作者：王鑫。

例如生成式AI和其他類(lèi)型的AI雖然帶來(lái)了新的機(jī)遇并推動(dòng)了若干趨勢(shì)的發(fā)展，但要想通過(guò)長(zhǎng)期使用AI獲得業(yè)務(wù)價(jià)值，還需要采取嚴(yán)謹(jǐn)?shù)姆椒◤V泛采用AI并注意風(fēng)險(xiǎn)?！盇I TRiSM提供用于模型運(yùn)維（ModelOps）、主動(dòng)數(shù)據(jù)保護(hù)、AI特定安全、模型監(jiān)控（包括對(duì)數(shù)據(jù)漂移、模型漂移和/或意外結(jié)果的監(jiān)控）以及第三方模型和應(yīng)用輸入與輸出風(fēng)險(xiǎn)控制的工具。AI增強(qiáng)開(kāi)發(fā)指使用生成式AI、機(jī)器學(xué)習(xí)等AI技術(shù)協(xié)助軟件工程師進(jìn)行應(yīng)用設(shè)計(jì)、編碼和測(cè)試。

什么是知識(shí)圖譜？知識(shí)圖譜概念包括組織原則、關(guān)系和數(shù)據(jù)。可以把組織原則看作是覆蓋在知識(shí)圖譜數(shù)據(jù)和關(guān)系上的一層概念地圖或元數(shù)據(jù)層。這個(gè)模型使用與知識(shí)圖譜其他部分相同的節(jié)點(diǎn)和關(guān)系結(jié)構(gòu)來(lái)描述組織原則，這意味著你可以用查詢從實(shí)例數(shù)據(jù)中提取信息，也可以從組織原則中獲取數(shù)據(jù)。在金融領(lǐng)域，知識(shí)圖譜將交易、參與者和相關(guān)信息組織成一個(gè)網(wǎng)絡(luò)，幫助公司快速識(shí)別可疑活動(dòng)、調(diào)查潛在欺詐，并隨著欺詐模式的變化不斷更新知識(shí)圖譜。

知識(shí)圖譜與大模型的互補(bǔ)性：知識(shí)圖譜對(duì)大模型的增強(qiáng)：知識(shí)圖譜可以為大模型提供真實(shí)可靠的知識(shí)，減輕大模型產(chǎn)生幻覺(jué)的問(wèn)題，提供解釋和推理知識(shí)的手段，探究大模型內(nèi)部復(fù)雜的工作步驟和推理過(guò)程，還可以作為外部檢索工具，幫助大模型解決公平、隱私和安全等問(wèn)題。增強(qiáng)知識(shí)圖譜推理：大模型的到來(lái)使得通識(shí)知識(shí)和知識(shí)圖譜聯(lián)合推理成為可能，大模型能夠理解自然語(yǔ)言文本，結(jié)合知識(shí)圖譜的知識(shí)，輔助挖掘知識(shí)圖譜推理的規(guī)則及評(píng)估方案。

中美兩國(guó)人工智能頭部企業(yè)研發(fā)和創(chuàng)新的比較分析與啟示。為了比較中美兩國(guó)人工智能產(chǎn)業(yè)的差異，基于過(guò)去5年在中國(guó)和美國(guó)提交的124026項(xiàng)人工智能授權(quán)發(fā)明專(zhuān)利數(shù)據(jù)，筆者構(gòu)建了一個(gè)綜合考慮專(zhuān)利數(shù)量和其他特征的多維度指標(biāo)，并據(jù)此定義了中美兩國(guó)人工智能領(lǐng)域的前十大企業(yè)。從人工智能產(chǎn)業(yè)發(fā)展的角度，人工智能技術(shù)可以分為3個(gè)層面：基礎(chǔ)層（底層）是人工智能產(chǎn)業(yè)的基礎(chǔ)，主要為人工智能產(chǎn)業(yè)發(fā)展提供數(shù)據(jù)與算力支持；

《2024年國(guó)際先進(jìn)人工智能安全科學(xué)報(bào)告》是一份國(guó)際科學(xué)家團(tuán)隊(duì)對(duì)高級(jí)人工智能（AI）安全問(wèn)題進(jìn)行全面分析的中期報(bào)告，旨在構(gòu)建全球?qū)τ贏I安全問(wèn)題的科學(xué)共識(shí)。報(bào)告將AI的風(fēng)險(xiǎn)分為三大類(lèi)：惡意使用風(fēng)險(xiǎn)、系統(tǒng)故障風(fēng)險(xiǎn)、系統(tǒng)性風(fēng)險(xiǎn)。系統(tǒng)性風(fēng)險(xiǎn)：報(bào)告還分析了通用AI對(duì)全球經(jīng)濟(jì)和社會(huì)的系統(tǒng)性風(fēng)險(xiǎn)。此外，AI的發(fā)展也可能加劇全球的不平等問(wèn)題，因?yàn)橄冗M(jìn)的AI技術(shù)主要集中在少數(shù)幾個(gè)國(guó)家和公司，低收入國(guó)家則可能被進(jìn)一步邊緣化。

如果基本的AI資源、驗(yàn)證數(shù)據(jù)以及科學(xué)工具和培訓(xùn)能夠廣泛獲取，AI技術(shù)有潛力民主化科學(xué)知識(shí)，將相互關(guān)聯(lián)的技術(shù)概念帶給更多的人，并使不同背景的研究人員能夠?qū)⑺麄兊膶?zhuān)業(yè)知識(shí)和視角帶到社會(huì)和全球挑戰(zhàn)中。五個(gè)具體的發(fā)現(xiàn)和行動(dòng)建議的摘要如下：1.擴(kuò)大基礎(chǔ)AI資源的共享：為了確保AI技術(shù)能夠更廣泛地服務(wù)于國(guó)家利益，需要加大對(duì)共享模型、數(shù)據(jù)集、基準(zhǔn)測(cè)試和計(jì)算資源的支持。

美國(guó)國(guó)家科學(xué)基金會(huì)發(fā)布：《美國(guó)專(zhuān)利活動(dòng)趨勢(shì)與國(guó)際對(duì)比分析》美國(guó)專(zhuān)利及商標(biāo)局（USPTO）的專(zhuān)利記錄提供了在美國(guó)注冊(cè)的所有專(zhuān)利的行業(yè)、技術(shù)領(lǐng)域和地域發(fā)明人信息，包括授予個(gè)人和外國(guó)實(shí)體的專(zhuān)利。美國(guó)專(zhuān)利及商標(biāo)局在2022年授予的半導(dǎo)體實(shí)用專(zhuān)利占總專(zhuān)利的5%。與本報(bào)告前面提供的以美國(guó)專(zhuān)利及商標(biāo)局為主的美國(guó)數(shù)據(jù)不同，本節(jié)使用一個(gè)更全面的全球數(shù)據(jù)集來(lái)呈現(xiàn)全球趨勢(shì)，該數(shù)據(jù)集基于專(zhuān)利申請(qǐng)信息，而不是授予的專(zhuān)利。

2021年全球12個(gè)最大的數(shù)據(jù)中心。Yotta NM1 是位于綜合 Yotta 數(shù)據(jù)中心園區(qū)的五座數(shù)據(jù)中心大樓中的第一座。Seattle 是 Sabey 數(shù)據(jù)中心的旗艦設(shè)施。Apple 稱該設(shè)施為全球數(shù)據(jù)指揮中心，該中心擁有 150 名員工，每 10 小時(shí)輪班工作，負(fù)責(zé)監(jiān)督其運(yùn)營(yíng)數(shù)據(jù)。該數(shù)據(jù)中心按照 Tier III 標(biāo)準(zhǔn)構(gòu)建，以具有競(jìng)爭(zhēng)力的價(jià)格提供云托管、私有數(shù)據(jù)大廳和托管解決方案。中國(guó)電信擁有全球最大的互聯(lián)網(wǎng)數(shù)據(jù)中心，在中國(guó)數(shù)據(jù)中心市場(chǎng)占有率超過(guò)50%。

《新興技術(shù)和風(fēng)險(xiǎn)分析：人工智能和關(guān)鍵基礎(chǔ)設(shè)施》人工智能分為狹義人工智能（Artificial Narrow Intelligence，ANI）、通用人工智能（Artificial General Intelligence，AGI）、超級(jí)人工智能(Artificial Super lntelligence，ASI)。人工智能在智慧城市或電網(wǎng)等關(guān)鍵基礎(chǔ)設(shè)施中的應(yīng)用可能會(huì)被用于攻擊計(jì)劃，而針對(duì)美國(guó)選舉系統(tǒng)的人工智能使用，或人工智能在開(kāi)發(fā)生物和化學(xué)武器方面的潛在用途，都引起了廣泛的關(guān)注。

德國(guó)科研機(jī)構(gòu)協(xié)同創(chuàng)新組織模式研究。2005年，德國(guó)聯(lián)邦政府和州政府締結(jié)《研究與創(chuàng)新公約》，其中，德國(guó)聯(lián)邦政府和州政府通過(guò)持續(xù)增加包括德國(guó)四大科研機(jī)構(gòu)在內(nèi)的非高?？蒲袡C(jī)構(gòu)的預(yù)算，保障對(duì)非高?？蒲袡C(jī)構(gòu)的經(jīng)費(fèi)投入，加強(qiáng)其在德國(guó)科研體系中的地位。2006年起，德國(guó)聯(lián)邦政府與州政府締結(jié)《研究與創(chuàng)新公約》，承諾對(duì)德國(guó)四大科研機(jī)構(gòu)的資助金額每年至少增加3%，同時(shí)也對(duì)德國(guó)四大科研機(jī)構(gòu)提出了加強(qiáng)協(xié)同合作的要求。

埃森哲《技術(shù)展望2024》：AI拐點(diǎn)。埃森哲《技術(shù)展望2024》揭示了四大趨勢(shì)，幫助企業(yè)把握技術(shù)“人性化”的重大轉(zhuǎn)變：同時(shí)，埃森哲宣布，作為人工智能領(lǐng)域30億美元投資的重要組成部分，將在包括中國(guó)在內(nèi)的多個(gè)市場(chǎng)設(shè)立生成式人工智能工作室，進(jìn)一步拓展業(yè)務(wù)能力，幫助客戶與埃森哲數(shù)據(jù)和人工智能專(zhuān)家、生態(tài)系統(tǒng)伙伴、風(fēng)險(xiǎn)投資機(jī)構(gòu)和其他戰(zhàn)略投資者建立聯(lián)系與合作，共同開(kāi)發(fā)、快速迭代并擴(kuò)大應(yīng)用生成式人工智能解決方案。

中國(guó)工業(yè)技術(shù)創(chuàng)新的基本經(jīng)驗(yàn)：四個(gè)堅(jiān)持 縱觀中國(guó)工業(yè)技術(shù)創(chuàng)新70年，中國(guó)工業(yè)的“本土創(chuàng)新能力”得到了持續(xù)提升，對(duì)中國(guó)工業(yè)發(fā)展起到了重要支撐作用。1999年，中共中央國(guó)務(wù)院發(fā)布《關(guān)于加強(qiáng)技術(shù)創(chuàng)新、發(fā)展高科技、實(shí)現(xiàn)產(chǎn)業(yè)化的決定》，國(guó)家進(jìn)一步加強(qiáng)市場(chǎng)配置技術(shù)創(chuàng)新資源導(dǎo)向，開(kāi)始強(qiáng)制推進(jìn)科研機(jī)構(gòu)轉(zhuǎn)制改革，驅(qū)動(dòng)科技資源更多地流向創(chuàng)新能力強(qiáng)的科技企業(yè)，從而提升了企業(yè)內(nèi)部創(chuàng)新能力，大幅降低了新技術(shù)轉(zhuǎn)移和產(chǎn)品化的成本。