□ 本報(bào)記者 單士磊

       隨著人工智能（AI）的推廣應(yīng)用，“深度偽造”技術(shù)成為違法犯罪的“幫兇”。近期，利用“深偽”換臉技術(shù)偽造的大量淫穢影像在韓國社交媒體上肆意蔓延，一時間引起韓國社會的恐慌。因當(dāng)前針對利用AI進(jìn)行犯罪的行為缺乏相應(yīng)的管制舉措，韓國政府在疲于應(yīng)急處理此類案件的同時，開始從多維度制定對策，嚴(yán)厲打擊“深偽”犯罪行為。

       案件頻發(fā)引恐慌

       隨著AI技術(shù)的不斷發(fā)展，使用“深偽”技術(shù)制作虛假視頻更加方便。在韓國，使用此類技術(shù)制作淫穢影像的犯罪行為日趨猖獗，年輕女性成為主要受害者。

       韓國警察廳統(tǒng)計(jì)資料顯示，2021年至2023年，共有527名“深偽”技術(shù)制作的淫穢視頻受害者報(bào)案，但今年1至7月，警方受理的“深偽”犯罪案件已達(dá)297件，犯罪勢頭猛增。從案件受害者類型來看，多為年輕女性，主要包括大學(xué)生、教師、女兵等，甚至有中學(xué)生等未成年人。韓國許多大學(xué)、中小學(xué)教師、學(xué)生成為案件受害者。

       據(jù)韓國教育部通過全國17個市道教育廳進(jìn)行調(diào)查結(jié)果顯示，今年1月至9月6日，共接到434起學(xué)生和教師的報(bào)案。隨著韓國政府相關(guān)部門對該類案件的深入調(diào)查，被犯罪嫌疑人利用“深偽”技術(shù)無故牽涉進(jìn)非法影像內(nèi)容中的受害者人數(shù)更是無法估量。曾曝光“N號房”事件的前共同民主黨緊急對策委員會共同委員長樸智賢表示，目前全韓涉及“深偽”犯罪的人數(shù)可能達(dá)22萬，眾多女性因此陷入不安和恐慌之中。

       另據(jù)美國網(wǎng)絡(luò)安全企業(yè)Securityhero統(tǒng)計(jì)，在利用“深偽”技術(shù)制作的色情影像作品中，出現(xiàn)的人物有一半左右是韓國人，韓國女藝人更是成為“受害重災(zāi)區(qū)”。

       措施滯后難追責(zé)

       隨著媒體輿論的持續(xù)關(guān)注，“深偽”犯罪案件不斷被曝光。對于此類不法行為，韓國民眾呼吁政府采取緊急措施，制止不法視頻在社交媒體的肆意傳播，并要求政府協(xié)助盡快刪除這些違法視頻，以減少對受害者特別是青少年的持續(xù)傷害。但考慮到此類新型犯罪案件所涉及的內(nèi)容制作技術(shù)、傳播媒介以及涉案人員類型等因素與傳統(tǒng)犯罪案件相比展現(xiàn)出新特點(diǎn)，韓國政府相關(guān)部門即使受理此類案件，也缺乏有效處罰依據(jù)，處理起來有些力不從心。

       首先，此次“深偽”犯罪內(nèi)容多數(shù)在以“電報(bào)（Telegram）”為主的社交媒體平臺上傳播蔓延，即使政府部門接到舉報(bào)，想立即阻止有害影像視頻的繼續(xù)擴(kuò)散，但礙于“電報(bào)”社交軟件的服務(wù)器位于海外，且韓國相關(guān)部門未與“電報(bào)”運(yùn)營方建立合作關(guān)系，難以通過法律加以管控。境內(nèi)網(wǎng)站上的非法視頻較容易刪除，但若想刪除境外社交平臺上的有害視頻，必須先征得運(yùn)營方同意，因此國際合作面臨挑戰(zhàn)。

       其次，根據(jù)韓國現(xiàn)行《性暴力處罰法》相關(guān)規(guī)定，只有犯罪嫌疑人發(fā)生直接對受害者的身體部位進(jìn)行拍攝并編輯、加工視頻的情況，或者在違背受害者意愿的情況下進(jìn)行發(fā)布傳播的行為，才會被處以5年以下有期徒刑或5000萬韓元以下罰款；如果以營利為目的在網(wǎng)絡(luò)上傳播，則處以7年以下有期徒刑的加重處罰。然而，“深偽”視頻只是在制作時使用了受害者的頭像而并非直接拍攝，因此依據(jù)現(xiàn)行法律無法量刑。同時對于單純持有、觀看視頻的情況，也無處罰依據(jù)。

       據(jù)韓國共同民主黨議員金南熙提供的韓國大法院自2020年以來的審理結(jié)果顯示，大法院共受理87件相關(guān)犯罪案件，其中34人被判緩刑（占40%）、24人被判有期徒刑、14人被處以罰金，還有人被判無罪。由此可見，法院對此類案件量刑過輕，難以對“深偽”犯罪起到震懾作用。

       此外，此類案件的另一顯著特點(diǎn)是：以特定人臉合成淫穢照片或視頻的制作和傳播者大部分是十幾歲的青少年。韓國警方提供的資料顯示，在涉嫌制作虛假影像被立案的嫌疑人中，10至19歲的青少年所占比重從2021年的65.4%增加到2023年的75.8%。另外，韓國警方從上月28日開始實(shí)施的“深偽技術(shù)特別集中管制”行動中發(fā)現(xiàn)，被警方逮捕的33名確認(rèn)身份的嫌疑人中，約75%為10至19歲青少年，若加上20至29歲年齡層人員，占比則高達(dá)95%。

       相較于中老年人，年輕一代更熱衷于使用數(shù)字技術(shù)，這是青少年頻繁涉案的主要原因。根據(jù)韓國現(xiàn)行《少年法》規(guī)定，年齡在10至14歲之間的兒童不對自己的行為承擔(dān)刑事責(zé)任，不會被送往監(jiān)獄，而是被送至少年拘留所，或被判處從事社區(qū)服務(wù)。與成年人相比，青少年犯罪成本較低，現(xiàn)行處罰措施較難讓青少年充分認(rèn)識到利用“深偽”技術(shù)實(shí)施犯罪的嚴(yán)重性，很可能使他們再次以身試法。

       多維度制定對策

       鑒于當(dāng)前韓國青少年進(jìn)行“深偽”犯罪的嚴(yán)峻形勢，韓國總統(tǒng)尹錫悅在上月27日舉行的政府內(nèi)閣會議上敦促執(zhí)法機(jī)關(guān)加大對數(shù)字性犯罪的打擊力度，嚴(yán)懲利用AI技術(shù)進(jìn)行“深偽”犯罪的行為。為此，韓國政府各職能部門立即行動起來，針對相關(guān)犯罪案件所展現(xiàn)出的新特點(diǎn)，計(jì)劃從多維度向“深偽”犯罪宣戰(zhàn)。

       據(jù)韓國媒體報(bào)道，韓國警方針對當(dāng)前利用“深偽”技術(shù)制作并傳播虛假影像的行為以及由此衍生的網(wǎng)絡(luò)性犯罪日趨猖獗問題，宣布開展集中打擊相關(guān)犯罪專項(xiàng)行動。專項(xiàng)行動期間，將重點(diǎn)清查整治利用“深偽”技術(shù)制作并傳播虛假內(nèi)容的行為，同時將通過識別軟件對有關(guān)內(nèi)容進(jìn)行分析，并計(jì)劃開展國際合作，積極開展偵查活動。另外，鑒于青少年多數(shù)在毫無負(fù)罪感的情況下犯案，警方將通過專職校警進(jìn)行防范教育。

       在韓國警方開展專項(xiàng)行動的同時，韓國各政黨也圍繞如何通過修訂法案來阻止“深偽”犯罪行為展開積極討論。各政黨對通過盡快制定懲治措施以填補(bǔ)懲處“深偽”犯罪的立法空白達(dá)成一致意見，不僅要嚴(yán)格追究非法視頻制作者的責(zé)任，也要對持有、購買、保存、觀看非法視頻者采取嚴(yán)厲處罰措施。

       近日，金南熙向國會提交《性暴力處罰法》修正案，呼吁無論制作者是否出于散布、傳播目的，只要制作就要給予嚴(yán)厲處罰，同時對于持有、購買、保存及觀看非法視頻者均處以兩年以下有期徒刑或2000萬韓元罰金的懲處。國民力量黨議員韓智雅提交了另一版本的《性暴力處罰法》修正案，擬對利用“深偽”影像視頻恐嚇威脅受害者的不法行為加重處罰力度。祖國革新黨議員樸恩正向國會提交修正案時，重點(diǎn)強(qiáng)調(diào)將違背受害者意愿制作散布非法視頻等犯罪行為的最高刑罰從5年提高到7年，如果是以營利為目的的犯罪行為，則加重至10年以下有期徒刑。

       另據(jù)了解，韓國曾以“N號房”事件為契機(jī)，在《兒童和青少年性保護(hù)相關(guān)特例法》中引入“偽裝調(diào)查”條款。目前，為有效打擊社交平臺上的“深偽”犯罪行為，在一定程度上應(yīng)允許進(jìn)行“偽裝調(diào)查”的呼聲在韓國社會高漲。