趙精武

今年9月9日至15日，是2024年國家網(wǎng)絡(luò)安全宣傳周。連日來，各地相關(guān)部門舉辦了一系列網(wǎng)絡(luò)安全宣傳普及活動，推動網(wǎng)絡(luò)安全觀念不斷深入人心。

在數(shù)字時代，數(shù)字經(jīng)濟的發(fā)展離不開信息技術(shù)創(chuàng)新的驅(qū)動，也離不開網(wǎng)絡(luò)安全的保障。事實上，網(wǎng)絡(luò)安全不單純是技術(shù)維度的安全可靠，而是國家安全的重要組成部分。當(dāng)前，網(wǎng)絡(luò)安全已逐漸成為全球各國政治博弈、經(jīng)濟競爭的“新戰(zhàn)場”。網(wǎng)絡(luò)安全的有效保障需要技術(shù)、法律、市場等多個治理工具共同發(fā)揮作用，進而形成貫穿各個環(huán)節(jié)的網(wǎng)絡(luò)安全治理體系。

我國一直高度重視以法治護航網(wǎng)絡(luò)安全。截至目前，我國已經(jīng)頒布了網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法等法律法規(guī)，出臺了《網(wǎng)絡(luò)安全審查辦法》《云計算服務(wù)安全評估辦法》等一系列政策文件，網(wǎng)絡(luò)安全政策法規(guī)體系已基本建立。同時，我國還針對網(wǎng)絡(luò)勒索攻擊、網(wǎng)絡(luò)安全漏洞等各類安全風(fēng)險設(shè)置了專門的配套治理機制，如數(shù)據(jù)分級分類治理、網(wǎng)絡(luò)安全風(fēng)險評估機制等。然而，隨著人工智能技術(shù)的不斷發(fā)展，新型的網(wǎng)絡(luò)安全風(fēng)險也在持續(xù)產(chǎn)生，為此我國立法機構(gòu)和監(jiān)管部門開始重視并著手應(yīng)對相關(guān)安全風(fēng)險。如制定《生成式人工智能服務(wù)管理暫行辦法》，針對研發(fā)者、服務(wù)提供者設(shè)置了數(shù)據(jù)標(biāo)注管理義務(wù)、安全評估與算法備案義務(wù)、生成內(nèi)容審核義務(wù)等安全主體責(zé)任。

我們不能簡單地將人工智能安全劃歸為應(yīng)用程序安全或其他具體的技術(shù)性安全問題，而應(yīng)以整體性視角理解這類安全在網(wǎng)絡(luò)安全治理中的功能定位。因為隨著人工智能技術(shù)應(yīng)用的普及，人工智能將逐漸成為支撐政治、經(jīng)濟、科技等各個領(lǐng)域的重要基礎(chǔ)技術(shù)，其安全性也將與國家安全、經(jīng)濟穩(wěn)定以及公民人身財產(chǎn)安全密切相關(guān)。

縱覽產(chǎn)業(yè)發(fā)展現(xiàn)狀，人工智能安全風(fēng)險主要表現(xiàn)為三類：一是犯罪工具風(fēng)險，即將人工智能技術(shù)作為傳統(tǒng)犯罪升級的技術(shù)工具，目前實踐中已經(jīng)出現(xiàn)了利用人工智能技術(shù)實施電信網(wǎng)絡(luò)詐騙的案件。特別是深度偽造技術(shù)一旦被濫用，會產(chǎn)生“合成淫穢圖片”“生成網(wǎng)絡(luò)謠言信息”等風(fēng)險。二是信息系統(tǒng)安全風(fēng)險，即人工智能信息系統(tǒng)受外部網(wǎng)絡(luò)攻擊、內(nèi)部員工違規(guī)操作等因素影響，進而產(chǎn)生用戶個人信息泄露、信息系統(tǒng)宕機、自動駕駛汽車操作失靈等安全風(fēng)險。三是倫理風(fēng)險，即人工智能產(chǎn)品或服務(wù)在研發(fā)、設(shè)計、應(yīng)用等階段未能進行必要的科技倫理評估，導(dǎo)致其產(chǎn)生基于性別、年齡、疾病等敏感因素的社會歧視問題。面對人工智能安全風(fēng)險的新特點、新問題，研發(fā)者、服務(wù)提供者、監(jiān)管部門、用戶等各類主體應(yīng)當(dāng)積極參與到人工智能安全治理活動中來。9月9日，全國網(wǎng)絡(luò)安全標(biāo)準化技術(shù)委員會正式發(fā)布《人工智能安全治理框架》1.0版，旨在推動各方就人工智能安全治理達成共識，促進人工智能安全有序發(fā)展。

整體而言，人工智能安全治理是一項長期性、綜合性的社會治理活動，除了需要多元主體協(xié)同共治外，還需要充分利用各類治理機制全方位預(yù)防和控制相關(guān)安全風(fēng)險。在法律層面，研發(fā)者、服務(wù)提供者應(yīng)當(dāng)自覺履行法定的安全保障義務(wù)，采取必要的技術(shù)措施和內(nèi)部管理制度確保信息系統(tǒng)安全和信息服務(wù)的穩(wěn)定持續(xù)提供。在技術(shù)層面，研發(fā)者、服務(wù)提供者應(yīng)當(dāng)在研發(fā)環(huán)節(jié)全面評估潛在的安全風(fēng)險并設(shè)置相應(yīng)的應(yīng)對方案，同時根據(jù)網(wǎng)絡(luò)安全態(tài)勢的變化，及時升級安全技術(shù)措施。在市場層面，保險機構(gòu)可與研發(fā)者、服務(wù)提供者共同推出專門面向人工智能安全的保險產(chǎn)品，以此分散不可預(yù)見、不可控制的人工智能安全風(fēng)險。

網(wǎng)絡(luò)安全無小事。人工智能安全等新型風(fēng)險與網(wǎng)絡(luò)社會高度關(guān)聯(lián)，更應(yīng)當(dāng)采取綜合性的防護措施。無論是監(jiān)管機構(gòu)，還是企業(yè)、公民，都應(yīng)當(dāng)樹立正確的網(wǎng)絡(luò)安全觀，用辯證發(fā)展的眼光看待網(wǎng)絡(luò)安全。因為網(wǎng)絡(luò)安全治理從來都不是社會發(fā)展的“額外負擔(dān)”，只有確保網(wǎng)絡(luò)安全，才能夠有效保障經(jīng)濟社會持續(xù)穩(wěn)定發(fā)展。

（作者系北京航空航天大學(xué)法學(xué)院副教授，北京航空航天大學(xué)網(wǎng)絡(luò)空間國際治理研究基地副主任）