上傳一張照片，就可以把歌手換成自己；一鍵制作，就可以變成視頻中的經(jīng)典角色……一段時間以來，“AI（人工智能）換臉”技術被廣泛應用于短視頻的二次創(chuàng)作，給社會公眾帶來了新鮮體驗。不少網(wǎng)友感嘆，“AI換臉”生成的視頻，惟妙惟肖，很有意思。但也有網(wǎng)友認為“AI換臉”技術存在不小的安全隱患，應當加強監(jiān)管。
近日，河北石家莊一位律師在來信中反映，有的地方企業(yè)注冊需要人臉識別，易被人利用“AI換臉”技術冒名注冊，一旦發(fā)生這樣的情況，需要花費大量的時間精力去維權，“建議提升人臉識別準確性的同時，增加多種驗證方式，同時仔細審查身份證等信息。”
近年來，有不法分子為了牟利，利用“AI換臉”技術冒充熟人實施詐騙或者盜取個人信息等，侵害群眾權益。據(jù)內蒙古包頭警方通報，某公司法人代表郭先生10分鐘內被騙430萬元，犯罪分子的詐騙手法就是通過“AI換臉”和擬聲技術佯裝熟人，盡管郭先生通過視頻聊天“核實”身份，但其“好友”卻是犯罪分子用“AI換臉”技術假冒的。
此外，“AI換臉”技術還可能侵害公民的個人信息安全甚至公共信息安全。浙江杭州蕭山區(qū)檢察院曾對一起利用“AI換臉”技術侵害公民個人信息案向杭州互聯(lián)網(wǎng)法院提起民事公益訴訟。虞某某從互聯(lián)網(wǎng)公共空間非法獲取眾多人臉信息，利用“AI換臉”等深度合成技術非法處理、制作視頻后，在社交軟件上傳播并獲利，甚至還提供換臉視頻定制服務，使不特定群體成為潛在的被侵害對象。最終，杭州互聯(lián)網(wǎng)法院認定虞某某侵害公共信息安全，還應承擔相應的民事侵權責任。
“AI換臉”技術是把雙刃劍。“在為群眾生活提供便利的同時，也將人們從真實場景中抽離出來，打破了‘人臉即真實’的傳統(tǒng)認知和社會共識，造成視覺效果失真，生物識別信息的真實性被一定程度消解，存在信息安全和人身權利被侵害的風險。”中國社會科學院法學研究所網(wǎng)絡與信息法研究室副主任、中國法學會網(wǎng)絡與信息法學研究會常務副秘書長周輝說。
“從司法實踐來看，目前已有不少因‘AI換臉’生成短視頻侵犯知識產(chǎn)權或是人格權的案件進入到訴訟程序。”北京互聯(lián)網(wǎng)法院綜合審判一庭副庭長朱閣介紹，例如相聲、影視劇等都屬于著作權法保護的作品，短視頻平臺用戶用“AI換臉”技術將相聲、影視劇等換臉上傳，可能面臨侵犯著作權的法律風險。
我國民法典將人格權獨立成編，規(guī)定任何組織或者個人不得以丑化、污損，或者利用信息技術手段偽造等方式侵害他人的肖像權。“短視頻平臺未征得當事人同意，提供他人形象模板讓用戶使用‘AI換臉’技術制作圖片或視頻并發(fā)布，平臺和用戶都面臨侵犯他人肖像權的法律風險。”朱閣提示，即使用戶基于對平臺的信賴或者已經(jīng)付費，也可能構成侵權。
根據(jù)相關規(guī)定，提供和使用生成式人工智能服務，應當尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。“‘AI換臉’等新技術本身是中性的，但應規(guī)范使用。”周輝表示，短視頻平臺等深度合成服務提供者在投入使用相關應用時，應充分考慮法律風險和市場風險，履行法律規(guī)定的顯著標識義務，向公眾提示深度合成后果，促使技術健康合規(guī)發(fā)展。
“社會公眾既要增強個人信息特別是人臉等生物特征等信息的保護意識，同時使用新技術也要尊重他人的知識產(chǎn)權和人格權，盡到審慎的注意義務，避免陷入不必要的訴訟糾紛。”朱閣提醒。
《 人民日報 》（ 2023年12月04日 07 版）
