□ 本報記者 邢東偉 翟小功

當(dāng)前，全球人工智能技術(shù)快速迭代并應(yīng)用到各行各業(yè)，進(jìn)入爆發(fā)式發(fā)展階段。在創(chuàng)造更多發(fā)展機(jī)遇的同時，以AI為代表的新興技術(shù)也帶來風(fēng)險挑戰(zhàn)。

3月25日，博鰲亞洲論壇2025年年會在海南博鰲舉行，AI成為四大議題之一。從現(xiàn)場令人驚嘆的科技展示，到各分論壇上唇槍舌劍的思想交鋒，AI熱度持續(xù)飆升。

與會中外嘉賓形成共識，要多方協(xié)作、動態(tài)治理、倫理優(yōu)先、法治保障、技術(shù)透明，平衡推進(jìn)人工智能的應(yīng)用與治理。既不扼殺創(chuàng)新動力，又能有效防范可能出現(xiàn)的風(fēng)險，建立安全、可靠和值得信賴的人工智能系統(tǒng)，讓科技成果惠及全人類。

AI平權(quán)化發(fā)展

“今年全球最熱的一件事就是人工智能的飛躍發(fā)展，AI的每一個進(jìn)展都如此激動人心”“中國在人工智能等多個領(lǐng)域的發(fā)展令人印象深刻”……

在“在AI應(yīng)用中塑造核心競爭力”“AI：如何做到應(yīng)用與治理的平衡推進(jìn)”“加強(qiáng)數(shù)字能力建設(shè)，跨越數(shù)字鴻溝”等分論壇上，《法治日報》記者聽到多位嘉賓如此感慨。

“在全球人工智能產(chǎn)業(yè)的飛速發(fā)展中，DeepSeek帶來的影響力尤為突出?！敝袊こ淘涸菏?、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長張亞勤表示，DeepSeek是近兩年人工智能領(lǐng)域最大的、系統(tǒng)性、規(guī)模性的創(chuàng)新，也是中國對全球的重要貢獻(xiàn)。

中國社會科學(xué)院大學(xué)教授、國務(wù)院原副秘書長江小涓從經(jīng)濟(jì)學(xué)角度分析稱，DeepSeek打破了寡頭壟斷的局面，推動AI產(chǎn)業(yè)進(jìn)入充分競爭階段，實(shí)現(xiàn)從技術(shù)能力向產(chǎn)業(yè)能力的轉(zhuǎn)變，構(gòu)建起傳統(tǒng)市場經(jīng)濟(jì)的競爭格局。

“今年春節(jié)期間，眾多企業(yè)CEO都在研究如何將DeepSeek應(yīng)用到企業(yè)運(yùn)營中。”畢馬威中國副主席劉建剛表示，DeepSeek作為低價、開源的推理大模型，提供了可快速部署的技術(shù)架構(gòu)，有力推動了AI平權(quán)化發(fā)展。他提出，未來AI就像水和電一樣，會成為一種基本資源，人人都能使用。

據(jù)香港特區(qū)政府創(chuàng)新科技及工業(yè)局局長孫東介紹，當(dāng)前，人工智能技術(shù)正重塑全球經(jīng)濟(jì)格局。香港已經(jīng)將人工智能列為關(guān)鍵產(chǎn)業(yè)，持續(xù)推進(jìn)“人工智能+”行動，積極推動人工智能創(chuàng)新并賦能各行各業(yè)發(fā)展。

乘著數(shù)字化轉(zhuǎn)型浪潮，人工智能正以超乎想象的速度重塑企業(yè)運(yùn)營模式。飛書產(chǎn)品副總裁施凱文提出，AI第一次讓“三流人才”能夠做出“一流人才”的工作成果，為企業(yè)發(fā)展帶來全新契機(jī)。

新加坡貿(mào)工部前首席經(jīng)濟(jì)學(xué)家、南洋理工大學(xué)經(jīng)濟(jì)學(xué)教授陳光炎表示，中國在人工智能領(lǐng)域取得了顯著成就，全球競爭力不斷增強(qiáng)，中國有望成為下一個全球生產(chǎn)力革命的推動者。

構(gòu)建AI安全護(hù)欄

隨著AI技術(shù)“狂飆式”發(fā)展，一個令人不安的場景或從科幻電影走向現(xiàn)實(shí)：本應(yīng)協(xié)助人類的AI，可能因為算法偏差或外部操縱，作出違背倫理、違反法律、危及人類利益的決策。

“與蒸汽機(jī)、電力等增強(qiáng)人類體力的技術(shù)不同，AI直接賦能人類大腦，涉及計算與認(rèn)知的深度融合?！鄙虾？茖W(xué)智能研究院首席戰(zhàn)略官、復(fù)旦大學(xué)經(jīng)濟(jì)學(xué)教授楊燕青將AI特性描述為“類人”，這使得AI既能帶來生產(chǎn)力提升，也可能引發(fā)威脅人類生存的風(fēng)險。

在中國科學(xué)院自動化研究所研究員、聯(lián)合國人工智能高層顧問機(jī)構(gòu)專家曾毅看來，人工智能的發(fā)展應(yīng)用和安全之間不是相互掣肘的關(guān)系。

“AI技術(shù)發(fā)展的同時，可以同步構(gòu)建有效的‘安全護(hù)欄’?！痹憬ㄗh，將倫理安全融入AI開發(fā)的底層設(shè)計，并視為“第一性原則”，不可刪除、不可違背。AI的倫理安全應(yīng)成為技術(shù)發(fā)展的基因，確保其與人類價值觀保持一致。

張亞勤進(jìn)一步將AI風(fēng)險分解為可信度與可控性兩個層面。他指出，可信度要求AI在執(zhí)行任務(wù)時遵循人類期望、倫理規(guī)范和國家法律，不產(chǎn)生誤導(dǎo)性、有害或不公平的結(jié)果；可控性則確保人類能有效監(jiān)控、干預(yù)和糾正AI行為，避免失控或不可預(yù)測的后果。

張亞勤表示，就可能存在的風(fēng)險而言，設(shè)定技術(shù)紅線與邊界是關(guān)鍵。如限制智能體自我復(fù)制，以降低失控風(fēng)險。

針對通過制定標(biāo)準(zhǔn)能否解決人工智能的安全性問題，vivo首席安全官魯京輝指出，安全性問題不能簡單地通過制定法律或規(guī)則解決，需要形成共識，但技術(shù)共識無法消弭政治分歧，需正視地緣現(xiàn)實(shí)。

歐盟《人工智能法案》于2024年實(shí)施，對高風(fēng)險AI系統(tǒng)設(shè)定了嚴(yán)格的透明度和問責(zé)要求。今年3月，我國出臺《人工智能生成合成內(nèi)容標(biāo)識辦法》，在全球率先提出保障人工智能安全可信的“中國方案”。

掀起AI新浪潮

AI將把人類帶向何方？如何推進(jìn)人工智能全球治理？論壇期間，一系列問題成為中外嘉賓熱議的焦點(diǎn)，引發(fā)人們對人工智能未來走向的無限遐想。

記者注意到，很多嘉賓通過類比電的發(fā)現(xiàn)、蒸汽機(jī)的發(fā)明，指出人工智能對人類社會的變革才剛剛開始。如今的人工智能，雖已在部分領(lǐng)域落地，但未來很可能催生全新的業(yè)務(wù)模式，重塑社會形態(tài)。

“當(dāng)前，國內(nèi)人工智能行業(yè)的發(fā)展，正在從生成式AI走向Agent智能，從預(yù)訓(xùn)練走向推理，從信息智能走向物理智能、具身智能。”張亞勤表示，其中，相較人形機(jī)器人，無人駕駛作為具身智能最具潛力且最易落地的應(yīng)用，有望率先實(shí)現(xiàn)大規(guī)模商用。

曾毅提出，自然演化規(guī)律正逐步融入人工智能的計算體系，未來人工智能需在計算機(jī)制上借鑒自然機(jī)制，包括人類學(xué)習(xí)、發(fā)育和演化機(jī)制，有望推動人工智能邁向新高度。

香港科技大學(xué)首席副校長郭毅可表示，人工智能的發(fā)展方向與工業(yè)革命單純追求效率不同，更注重個性化。以浙江一家成衣制造公司為例，借助AI實(shí)現(xiàn)成衣個性化定制，最大程度滿足了個人需求。

施凱文認(rèn)為，AI的發(fā)展如同移動互聯(lián)網(wǎng)的崛起，正處于蓄力階段。未來幾年，AI將從硬件到軟件實(shí)現(xiàn)全面更新?lián)Q代，為經(jīng)濟(jì)增長創(chuàng)造新的需求和發(fā)展思路。

清華大學(xué)公共管理學(xué)院院長朱旭峰提出，未來，機(jī)器人文明可能全面取代人類文明?；蛘呷祟愅ㄟ^技術(shù)改造自身，突破生命倫理限制，應(yīng)對人工智能的挑戰(zhàn)。

當(dāng)全球眾多國家與機(jī)構(gòu)積極探討人工智能合作契機(jī)時，美國卻反其道而行之?！懊绹拗萍夹g(shù)流動、設(shè)置關(guān)稅等行為，嚴(yán)重阻礙了全球技術(shù)的整體進(jìn)步?！迸餐虒W(xué)院戰(zhàn)略學(xué)教授、前諾丁漢大學(xué)商學(xué)院（中國）院長卡爾·費(fèi)說。

英國勵訊集團(tuán)公共事務(wù)總裁、愛思唯爾董事長池永碩認(rèn)為，全球AI發(fā)展不應(yīng)被單一國家主導(dǎo)，應(yīng)摒棄狹隘的民族主義和企業(yè)競爭思維，重視全球合作的重要性。