本刊記者 白楚玄

從1956年達特茅斯會議上人工智能概念的首次提出，到當下深度學習技術的蓬勃興起，人工智能領域經歷了從理論構想到技術實踐的數(shù)次歷史性飛躍。然而，隨著技術的快速迭代，技術焦慮也在各領域被頻頻提及。具體到法律和監(jiān)管層面，AI在知識產權、數(shù)據(jù)安全、倫理道德等方面帶來的潛在風險日益凸顯。

受訪專家普遍認為，隨著人工智能技術的快速發(fā)展，技術治理需要與法律實踐緊密結合，既要促進技術創(chuàng)新，又要防范潛在風險。未來需要進一步完善相關法律法規(guī)，明確責任主體，加強技術監(jiān)管。

政策驅動與技術突破形成共振效應

今年春節(jié)期間，DeepSeek-R1大模型火爆出圈，成為史上最快突破3000萬日活的App，其海外版更登頂蘋果美國應用商店榜首。這僅是AI中國方案國際化的一個注腳——數(shù)據(jù)顯示，截至2024年底，全國已有302款生成式AI服務完成網信辦備案，2024年新增備案238款。這些數(shù)據(jù)表明，中國在AI領域的創(chuàng)新能力正持續(xù)迸發(fā)。

《中國發(fā)展報告2024》顯示，中國人工智能發(fā)展處于全球第一方陣，中國在需求潛力、供給能力和智能基礎設施等方面具備獨特優(yōu)勢和強大潛能。

井噴式增長背后，是持續(xù)多年的制度筑基工程。自2017年“人工智能”首次被寫入《政府工作報告》，國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》實施以來，《生成式人工智能服務管理暫行辦法》《國家人工智能產業(yè)綜合標準化體系建設指南(2024版)》等專項規(guī)章持續(xù)釋放制度紅利，為我國人工智能產業(yè)發(fā)展注入強心劑。

《人工智能治理藍皮書(2024年)》顯示，我國已構建起“1+N”治理體系，以我國網絡安全法、數(shù)據(jù)安全法、個人信息保護法為基礎，配套出臺算法推薦、深度合成、生成式AI等專項規(guī)章，形成覆蓋研發(fā)、訓練、應用全鏈條的規(guī)制網絡。

“我國依托海量數(shù)據(jù)、豐富場景和體制優(yōu)勢，在理論創(chuàng)新與制度建設層面已躋身全球前列?！敝袊嗣翊髮W法學院院長楊東說，類似現(xiàn)象級產品的成功，既推動全球范圍內人工智能協(xié)調融合發(fā)展，也帶來更多人工智能的法律挑戰(zhàn)。

回歸到治理機制，中國社會科學院法學研究所研究員、博士生導師姚佳指出，人工智能治理也存在“科林格里奇困境”，即如何平衡發(fā)展和風險防范的問題。當前已出現(xiàn)個人信息保護、知識產權保護與人工智能數(shù)據(jù)利用之間的矛盾,“法律需要不斷調適優(yōu)化以破解這些矛盾”。

法治探索破解AI時代新命題

伴隨著勢頭強勁的AI技術發(fā)展，法律問題也日益復雜，尤其是在知識產權領域。在AI時代背景下，糾紛的核心議題除“獨創(chuàng)性認定”外，還包括所生成內容的“版權歸屬界定”和機器學習海量數(shù)據(jù)來源的合法性問題。

2023年，北京互聯(lián)網法院審理的“國內首例‘AI文生圖’著作權侵權案”引發(fā)廣泛關注。此后，廣州、江蘇、湖北等地區(qū)的法院已有多個相關人工智能生成內容的著作權判例。AI生成作品爭議在國外也屢見不鮮，如美國多名藝術家集體起訴AI圖像生成軟件侵權;AI創(chuàng)作藝術品的拍賣會被逾6000人以“侵害人類藝術家利益”為由呼吁取消。

此外，AI大模型的訓練和應用涉及大量用戶數(shù)據(jù)，如何確保數(shù)據(jù)來源和使用合法，已成為企業(yè)和監(jiān)管機構共同面臨的難題。

“數(shù)據(jù)質量優(yōu)于數(shù)量，高質量的數(shù)據(jù)是人工智能發(fā)展的基礎?！蔽髂险ù髮W人工智能法學院院長陳亮強調，當大模型訓練涉及數(shù)億用戶數(shù)據(jù)時，傳統(tǒng)的知情同意機制已顯乏力，亟須構建數(shù)據(jù)全生命周期治理體系。

陳亮認為，未來人工智能立法需要考慮數(shù)據(jù)碎片化、數(shù)據(jù)傳輸過程中數(shù)據(jù)丟失、數(shù)據(jù)隱私與數(shù)據(jù)質量的平衡、數(shù)據(jù)質量管理的系統(tǒng)化和體系化等事宜。

風險規(guī)制構建治理新范式

技術優(yōu)勢的終極轉化，在于構建具有范式意義的治理體系。我國司法的創(chuàng)新實踐為制度完善提供了樣本。

各地法院積極探索適應AI時代的裁判規(guī)則。據(jù)悉，上海浦東法院在2024年某案中引入“貢獻度測試法”，根據(jù)人類在提示詞設計、結果篩選中的參與程度判定是否構成作品;北京互聯(lián)網法院嘗試將AI生成內容納入鄰接權保護范疇，還在全國首例“AI聲音侵權案”中明確認定在具備可識別性前提下，自然人聲音權益的保護范圍可及于AI生成聲音……

近日，備受關注的杭州互聯(lián)網法院審理的“奧特曼案”落下帷幕?！斑@是中國法院首次認定生成式模型的數(shù)據(jù)訓練符合著作權法合理使用的要求?？梢钥闯觯覈谀Ｐ蛿?shù)據(jù)訓練方面采取了相對寬松的認定標準，支持開源和技術創(chuàng)新。”中國人民大學法學院講師王雪喬指出。

在技術應用方面，上海于2017年初啟動了司法審判人工智能輔助系統(tǒng)的開發(fā)。2024年，北京高院大力推進面向司法審判和監(jiān)督的檢索推理生成大模型技術研究及示范應用，建成“1平臺3應用”智能輔助辦案的階段性成果?！皵?shù)字法院改革是一種全局性的數(shù)字司法改革，其框架體系、技術平臺建設路徑和操作規(guī)程已初步形成。”華東政法大學中國法治戰(zhàn)略研究院副研究員張迪說。

“面向人工智能法治3.0時代，中國需以更開放的姿態(tài)引領規(guī)則制定，將技術優(yōu)勢轉化為治理優(yōu)勢，共同應對挑戰(zhàn)和機遇?！睏顤|說。