上傳一張照片，就可以把歌手換成自己；一鍵制作，就可以變成視頻中的經(jīng)典角色……一段時(shí)間以來(lái)，“AI（人工智能）換臉”技術(shù)被廣泛應(yīng)用于短視頻的二次創(chuàng)作，給社會(huì)公眾帶來(lái)了新鮮體驗(yàn)。不少網(wǎng)友感嘆，“AI換臉”生成的視頻，惟妙惟肖，很有意思。但也有網(wǎng)友認(rèn)為“AI換臉”技術(shù)存在不小的安全隱患，應(yīng)當(dāng)加強(qiáng)監(jiān)管。
近日，河北石家莊一位律師在來(lái)信中反映，有的地方企業(yè)注冊(cè)需要人臉識(shí)別，易被人利用“AI換臉”技術(shù)冒名注冊(cè)，一旦發(fā)生這樣的情況，需要花費(fèi)大量的時(shí)間精力去維權(quán)，“建議提升人臉識(shí)別準(zhǔn)確性的同時(shí)，增加多種驗(yàn)證方式，同時(shí)仔細(xì)審查身份證等信息。”
近年來(lái)，有不法分子為了牟利，利用“AI換臉”技術(shù)冒充熟人實(shí)施詐騙或者盜取個(gè)人信息等，侵害群眾權(quán)益。據(jù)內(nèi)蒙古包頭警方通報(bào)，某公司法人代表郭先生10分鐘內(nèi)被騙430萬(wàn)元，犯罪分子的詐騙手法就是通過(guò)“AI換臉”和擬聲技術(shù)佯裝熟人，盡管郭先生通過(guò)視頻聊天“核實(shí)”身份，但其“好友”卻是犯罪分子用“AI換臉”技術(shù)假冒的。
此外，“AI換臉”技術(shù)還可能侵害公民的個(gè)人信息安全甚至公共信息安全。浙江杭州蕭山區(qū)檢察院曾對(duì)一起利用“AI換臉”技術(shù)侵害公民個(gè)人信息案向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟。虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術(shù)非法處理、制作視頻后，在社交軟件上傳播并獲利，甚至還提供換臉視頻定制服務(wù)，使不特定群體成為潛在的被侵害對(duì)象。最終，杭州互聯(lián)網(wǎng)法院認(rèn)定虞某某侵害公共信息安全，還應(yīng)承擔(dān)相應(yīng)的民事侵權(quán)責(zé)任。
“AI換臉”技術(shù)是把雙刃劍。“在為群眾生活提供便利的同時(shí)，也將人們從真實(shí)場(chǎng)景中抽離出來(lái)，打破了‘人臉即真實(shí)’的傳統(tǒng)認(rèn)知和社會(huì)共識(shí)，造成視覺(jué)效果失真，生物識(shí)別信息的真實(shí)性被一定程度消解，存在信息安全和人身權(quán)利被侵害的風(fēng)險(xiǎn)。”中國(guó)社會(huì)科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室副主任、中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)常務(wù)副秘書(shū)長(zhǎng)周輝說(shuō)。
“從司法實(shí)踐來(lái)看，目前已有不少因‘AI換臉’生成短視頻侵犯知識(shí)產(chǎn)權(quán)或是人格權(quán)的案件進(jìn)入到訴訟程序。”北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長(zhǎng)朱閣介紹，例如相聲、影視劇等都屬于著作權(quán)法保護(hù)的作品，短視頻平臺(tái)用戶用“AI換臉”技術(shù)將相聲、影視劇等換臉上傳，可能面臨侵犯著作權(quán)的法律風(fēng)險(xiǎn)。
我國(guó)民法典將人格權(quán)獨(dú)立成編，規(guī)定任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。“短視頻平臺(tái)未征得當(dāng)事人同意，提供他人形象模板讓用戶使用‘AI換臉’技術(shù)制作圖片或視頻并發(fā)布，平臺(tái)和用戶都面臨侵犯他人肖像權(quán)的法律風(fēng)險(xiǎn)。”朱閣提示，即使用戶基于對(duì)平臺(tái)的信賴或者已經(jīng)付費(fèi)，也可能構(gòu)成侵權(quán)。
根據(jù)相關(guān)規(guī)定，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。“‘AI換臉’等新技術(shù)本身是中性的，但應(yīng)規(guī)范使用。”周輝表示，短視頻平臺(tái)等深度合成服務(wù)提供者在投入使用相關(guān)應(yīng)用時(shí)，應(yīng)充分考慮法律風(fēng)險(xiǎn)和市場(chǎng)風(fēng)險(xiǎn)，履行法律規(guī)定的顯著標(biāo)識(shí)義務(wù)，向公眾提示深度合成后果，促使技術(shù)健康合規(guī)發(fā)展。
“社會(huì)公眾既要增強(qiáng)個(gè)人信息特別是人臉等生物特征等信息的保護(hù)意識(shí)，同時(shí)使用新技術(shù)也要尊重他人的知識(shí)產(chǎn)權(quán)和人格權(quán)，盡到審慎的注意義務(wù)，避免陷入不必要的訴訟糾紛。”朱閣提醒。
《 人民日?qǐng)?bào) 》（ 2023年12月04日 07 版）
