中國政法大學(xué)民商經(jīng)濟(jì)法學(xué)院孫躍元在《河北法學(xué)》2023年第4期上發(fā)表題為《算法決策應(yīng)用的外部風(fēng)險及其公共治理路徑研究》的文章中指出：

算法決策是利用個人信息對個人的行為習(xí)慣、興趣愛好或者經(jīng)濟(jì)、健康、信用狀況等，通過計算機(jī)程序自動分析、評估并進(jìn)行決策的活動。算法決策由三個基本因素組成：訓(xùn)練系統(tǒng)的基礎(chǔ)數(shù)據(jù)、運(yùn)算邏輯以及人類與之交互的方式。根據(jù)應(yīng)用風(fēng)險的形成條件、危害后果和歸責(zé)機(jī)制的不同，突破傳統(tǒng)部門法的界限，算法決策應(yīng)用的風(fēng)險可分為內(nèi)部風(fēng)險和外部風(fēng)險。算法決策應(yīng)用的外部風(fēng)險是指側(cè)重算法行為端的，在技術(shù)運(yùn)用過程中向多數(shù)不特定群體擴(kuò)散的，無法適用傳統(tǒng)歸責(zé)原則的具有聚合性和累積性的風(fēng)險，將其類型化后包括社會公共利益和實質(zhì)正義受損、人的主體性地位和合法權(quán)益受挑戰(zhàn)兩個方面。

為了有效促進(jìn)算法技術(shù)和監(jiān)管的良性互動，以公共治理路徑為視角，將算法決策嵌入網(wǎng)絡(luò)社會架構(gòu)中分析當(dāng)下治理的局限性，并提出較完善的治理方案。在思路上，需要遵循分類分級的精準(zhǔn)化治理方法，選擇“軟”“硬”法為協(xié)同治理工具，堅持安全和發(fā)展并重的治理理念。以分級分類為規(guī)制方向可以精細(xì)衡量算法監(jiān)管的經(jīng)濟(jì)后果，有效平衡安全與發(fā)展的問題。單獨(dú)依靠以國家為中心、強(qiáng)調(diào)命令和控制的“硬法”模式無法有效地應(yīng)對算法嵌入式風(fēng)險。并且當(dāng)立法決策缺乏可參考點(diǎn)，立法活動帶來的預(yù)期法律成本過高時，應(yīng)當(dāng)以標(biāo)準(zhǔn)作為更有效率的規(guī)制方式。以算法技術(shù)標(biāo)準(zhǔn)為代表的“軟法”治理有助于在技術(shù)開發(fā)階段、事后追責(zé)階段建立完整的可通約性路徑規(guī)劃。隨著我國移動互聯(lián)基礎(chǔ)設(shè)施的大力建設(shè)，算法決策技術(shù)的應(yīng)用場景和頻次不斷拓寬加深。算法決策是加速海量的用戶數(shù)據(jù)開發(fā)利用的技術(shù)保障，給數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展注入強(qiáng)大動能。是故，在外部風(fēng)險的治理過程中，始終應(yīng)堅持利益平衡原則，平衡安全與發(fā)展的辯證關(guān)系。在路徑上，應(yīng)著眼于算法決策應(yīng)用的生命全周期，用算法解釋機(jī)制解決算法備案制失靈的問題，以風(fēng)險比例確立算法決策系統(tǒng)的分類與規(guī)制方向，并以平臺為主體多途徑構(gòu)建算法綜合性問責(zé)體系，形成治理合力。

算法決策的外部風(fēng)險治理是一項復(fù)雜而長期的工程，需要在算法安全與技術(shù)創(chuàng)新、部門監(jiān)管與行業(yè)自律等多重利益衡量之下，逐步建立監(jiān)管治理機(jī)制健全、算法生態(tài)規(guī)范的算法綜合治理格局。我國應(yīng)在挖掘域外先進(jìn)經(jīng)驗基礎(chǔ)上，構(gòu)建符合中國特色的算法治理體系，在世界數(shù)字化轉(zhuǎn)型進(jìn)程中貢獻(xiàn)中國智慧。