本刊記者 徐明皎

“AI會傷害人類嗎?”“AI時代，我們的生活會更好還是更壞?”隨著人工智能的快速迭代，類似疑問一直盤桓不去。

2022年底，生成式人工智能驚艷問世，如何把握人工智能的應(yīng)用邊界和適用場景，顯得更為迫切，因而也備受各界關(guān)注和熱議。通過法律約束，在促進產(chǎn)業(yè)發(fā)展的同時守住安全邊界，逐漸成為共識。

目前，“人工智能健康發(fā)展”方面的立法已列入全國人大常委會今年的預(yù)備審議項目。不少學(xué)者也開始關(guān)注立法技術(shù)問題。

人工智能迭代帶來挑戰(zhàn)

AI助手、自動駕駛、虛擬戀人……人工智能在為社會經(jīng)濟發(fā)展賦能、豐富人們精神世界的同時, 也對現(xiàn)有的法律秩序提出了挑戰(zhàn)。

“人工智能的發(fā)展促進了當今世界科技進步的同時，也帶來了很多安全風(fēng)險，要從技術(shù)與法規(guī)兩方面加以應(yīng)對。”今年4月，中國工程院院士，中國科學(xué)院計算技術(shù)研究所研究員、學(xué)術(shù)委員會主任孫凝暉在十四屆全國人大常委會專題講座上表示。

“互聯(lián)網(wǎng)虛假信息泛濫、偽造視頻、偽造新聞、生成不雅圖片等。”孫凝暉在講座上列舉了多項人工智能帶來的安全風(fēng)險。

人工智能帶來的風(fēng)險，遠非以往的技術(shù)革命所能比擬?！斑^去的技術(shù)都是工具，而人工智能不再是簡單的工具，而且滲透到社會生產(chǎn)和生活的方方面面?！敝袊茖W(xué)技術(shù)大學(xué)計算機科學(xué)與技術(shù)學(xué)院教授陳小平曾向本刊記者表示。

有關(guān)人工智能的算法歧視、信息泄露等風(fēng)險問題，學(xué)界已早有關(guān)注。生成式人工智能的出現(xiàn)，將風(fēng)險問題推到了一個新階段。伴隨著技術(shù)的加速迭代，圖生文不再稀奇，文生圖、圖生視頻已成為現(xiàn)實，對人工智能可能帶來負面效應(yīng)的恐慌情緒也在加劇。

“處理好風(fēng)險最有效的辦法，就是對于人工智能的開發(fā)、實驗、部署提前做好制度安排，進行有目標、可信任的控制?！痹诒本┖娇蘸教齑髮W(xué)法學(xué)院院長龍衛(wèi)球教授看來，人工智能發(fā)展到ChatGPT階段，與歷史上其他技術(shù)迭代比較，其可能帶來的技術(shù)風(fēng)險、社會風(fēng)險和倫理風(fēng)險等負效應(yīng)前所未有，應(yīng)對也相當困難?！胺墒亲钣辛α亢托实霓k法?！饼埿l(wèi)球表示。

亟需完善人工智能法律體系

2023年7月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合國家發(fā)展和改革委員會等部門發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，成為我國現(xiàn)階段促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用的主要規(guī)范。

此前，國家互聯(lián)網(wǎng)信息辦公室等部門于2022年發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對人工智能的應(yīng)用進行規(guī)范。

另外，民法典、網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法等也在信息和數(shù)據(jù)處理安全方面作出了規(guī)定。

不過，在不少業(yè)內(nèi)人士看來，我國人工智能立法存在非體系化、碎片化問題，需要從頂層設(shè)計的維度進一步完善人工智能法律體系。“亟需就人工智能活動制定一部能夠規(guī)制其風(fēng)險的人工智能法?！饼埿l(wèi)球表示。

清華大學(xué)法學(xué)院教授申衛(wèi)星在2024中國數(shù)字經(jīng)濟發(fā)展與法治建設(shè)論壇的主旨演講上，曾就人工智能立法問題表示，網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個人信息保護法以及三個部門規(guī)章構(gòu)成了未來我國人工智能法出臺的前提和基礎(chǔ)。

2023年6月，國務(wù)院辦公廳印發(fā)《國務(wù)院2023年度立法工作計劃》，明確提出“預(yù)備提請全國人大常委會審議人工智能法草案”。今年5月，國務(wù)院辦公廳印發(fā)《國務(wù)院2024年度立法工作計劃》，“人工智能法草案”再次列入預(yù)備提請全國人大常委會審議項目。

去年年底通過的《全國人大常委會2024年度立法工作計劃》在預(yù)備審議項目中列明，“網(wǎng)絡(luò)治理和人工智能健康發(fā)展等方面的立法項目”由有關(guān)方面抓緊開展調(diào)研和起草工作，視情安排審議。

立法須兼顧產(chǎn)業(yè)發(fā)展與安全需求

“立法不易，人工智能技術(shù)龐雜、系統(tǒng)復(fù)雜、風(fēng)險類型多樣?！痹邶埿l(wèi)球看來，人工智能不同階段特點不同，立法需面對不同產(chǎn)品服務(wù)或場景應(yīng)用的巨大差異，“需認真研究規(guī)律，合理判斷風(fēng)險點和治理路徑，形成可控規(guī)制體系和策略”。

2023年8月，中國社會科學(xué)院發(fā)布《人工智能法示范法1.0(專家建議稿)》(以下簡稱《專家建議稿》)。今年3月，在“AI善治論壇人工智能法律治理前瞻”專題研討會上，公布由7家研究機構(gòu)攜手起草的《中華人民共和國人工智能法(學(xué)者建議稿)》(以下簡稱《學(xué)者建議稿》)。

《專家建議稿》《學(xué)者建議稿》都在總則中規(guī)定了安全、公平等原則，用一個章節(jié)聚焦在人工智能的發(fā)展與促進上，同時還用較大篇幅規(guī)定了人工智能開發(fā)者、提供者的義務(wù)。

《學(xué)者建議稿》起草組專家、中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒撰文表示，我國身為人工智能產(chǎn)業(yè)中“領(lǐng)先的追趕者”，始終將兼顧發(fā)展與安全作為國內(nèi)技術(shù)監(jiān)管的核心訴求?！拔覈斯ぶ悄芰⒎ǖ幕具壿嬍且环矫娲罅χС之a(chǎn)業(yè)發(fā)展，另一方面又要兼顧切實的安全需求。”她在文中表示。

“將來是法律、倫理、政策以及技術(shù)標準形成一個多元共治的局面，才能夠綜合治理人工智能的發(fā)展，使它既能保證安全的情況下，為人類福利服務(wù)?！鄙晷l(wèi)星表示。