(相關資料圖)

□李佳藝（鄭州大學）

近日，網友發現一些普通的主播通過“AI換臉”技術，搖身一變成為楊冪、迪麗熱巴等女星進行直播賣貨。網站客服稱，他們提供的AI實時換臉全套模型價格為3.5萬。但有律師稱該行為或涉嫌侵權?！癆I換臉成明星進行賣貨或涉嫌侵權”的詞條很快沖上熱搜。

事實上，這不是“AI換臉”技術第一次引發爭議。今年3月某短視頻平臺上的特效師把影視劇中男主角的臉換成自己的臉，合成與女明星親吻的影像，并在網絡上出售“AI換臉教程”，也引發了網友的爭議。“AI換臉”涉嫌侵犯了什么樣的權利？“AI換臉”的底線在何處？“AI換臉”的亂象又該如何破？

以此次事件為例，這類主播貿然使用“明星臉”，只為冒充藝人增加賣點，吸引流量助力賣貨，但這背后涉嫌侵犯相關明星藝人的肖像權、名譽權。有律師向媒體表示，主播通過“AI換臉”技術變成“明星臉”帶貨，是把他人的肖像據為己用，涉嫌侵犯肖像權；如果同時使用了女星的姓名，還會涉嫌侵犯姓名權。如果帶貨過程中有故意丑化或者損毀的情形，導致被換臉明星的社會評價降低，則涉嫌侵犯明星的名譽權。此外，如果利用AI換臉技術制作明星的色情視頻，還可能涉嫌刑事犯罪。

而當“AI換臉”被不法分子用于實施電信詐騙時，則會危害到公眾的諸多權益，產生惡劣的社會影響。據報道，近日有不法分子掌握了他人的真實姓名和照片，通過“AI換臉”和擬聲技術冒充成他人和受害人打視頻，博得受害人的信任，再進行詐騙，10分鐘內騙走受害人430萬元?？梢姡癆I換臉”使用的人的肖像，相比于其他個人信息更具敏感性、特殊性。如果放任“AI換臉”技術的濫用，會導致人臉這一“身份識別信息”的混淆與模糊化，繼而導致傳播秩序混亂，甚至導致電信詐騙防不勝防。因此對“AI換臉”技術進行限制十分有必要。

事實上，我國法律法規已明確規定了“AI換臉”行為應當遵守的邊界。我國互聯網信息辦公室在2022年發布《互聯網信息服務深度合成管理規定》，其中明確了：任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，并要求深度合成服務提供者應當建立健全辟謠機制。這為“AI換臉”技術應用劃定了“底線”和“紅線”。但我國目前仍然缺乏對人工智能的總體立法，以及人工智能倫理的行業規范。因此，想要使“AI換臉”等人工智能技術規范發展，還需完善相關法律體系和實施細則。

筆者認為，想要破解“AI換臉”亂象，還需從技術開發者、網絡平臺、用戶等方面著手。首先，要控制“AI換臉”的技術源頭，對“AI換臉”技術開發者建立完善備案手續。因為換臉技術的逼真性，普通人難以分辨，筆者提議，可以要求技術開發者在程序中預留“技術水印”，使用該技術制作而成的視頻會被留下該水印。此舉便于網絡平臺識別并標注通過“AI換臉”技術制作而成的視頻內容。第二，網絡平臺需審核用戶身份，這樣才能把握AI合成視頻發布者的身份，以便于落實主體責任。此外，網絡平臺還需要盡到預先審查義務，通過視頻、音頻、關鍵詞、圖形結構等方式進行事先的過濾、刪除，避免“AI換臉”侵權行為的發生。第三，鼓勵用戶在使用網絡平臺的過程中對“AI換臉”的侵權行為進行舉報。當上述環節形成合力，多管齊下，就能建設起有效的監管體系，對“AI換臉”亂象進行限制。

雖然“AI換臉”在影視制作、廣告等場景下具有積極意義，但其引發的亂象和存在的風險需被重視。通過“技術水印”把握技術源頭，落實平臺責任，提高網民意識，建立完善人工智能的相關規范體系，相信“AI換臉”技術能夠在法律法規的軌道內平穩運行。

關鍵詞：