近期，人工智能（AI）技術的迅猛進步為社會各層面帶來了前所未有的便捷，但其潛在的安全威脅同樣不容忽視。特別是深度偽造技術，憑借其制造高度仿真卻非真實的視頻或圖像的能力，已逐漸浮現出多方面的社會問題。
據央視相關報道，今年已發生多起利用AI深度偽造技術假冒名人的案例。例如，有不法分子通過AI技術，復制了著名醫生張文宏的面部特征與聲音，并借此進行直播帶貨，成功售出了1200多件蛋白棒產品。
不僅如此，劉德華和雷軍等知名人物同樣成為了AI偽造技術的受害者。劉德華的聲音被惡意用于短視頻制作，以此吸引流量，其所屬電影公司也不得不多次發布聲明，提醒公眾提高警惕。
專業人士指出，當前的AI技術已經能夠利用深度學習，輕松復制他人的面部和聲音特征，僅需一張照片和一段語音樣本即可完成這一過程。然而，這種技術并非完美無缺。偽造的視頻往往無法進行實時直播，且在面部輪廓、背景融合度等細節方面存在瑕疵。細心觀察不難發現，尤其是在口型與語音匹配度上，偽造視頻常露出破綻。
根據相關法律專家介紹，未經授權使用他人的形象或聲音，屬于侵權行為。根據《民法典》和《網絡安全法》的相關規定，發布者可能面臨包括賠償損失和承擔刑事責任在內的法律后果。如果消費者因AI假冒名人帶貨而上當受騙，可依據消費者權益保護法要求三倍賠償。
面對這一問題，專家呼吁短視頻平臺積極履行主體責任，及時下架違規內容，并對發布者采取信用管理和相應的處罰措施，以保障公眾權益和平臺生態的健康有序發展。
