光明網(wǎng)評(píng)論員：“國(guó)慶上網(wǎng)，被雷軍整整罵了7天?！边B日來(lái)，短視頻平臺(tái)上出現(xiàn)了大量“雷軍”的發(fā)言視頻，涉及堵車(chē)、調(diào)休、游戲等熱門(mén)話題，不僅言辭犀利還常爆粗口。有網(wǎng)友跑去雷軍社交媒體賬號(hào)下就此提出疑問(wèn)，雷軍回復(fù)以三個(gè)表示憤怒的表情。眼下，各種AI克隆雷軍的配音模仿、惡搞視頻仍層出不窮。

從相關(guān)視頻來(lái)看，“雷軍”本人出鏡，口音似乎也是本人。有的網(wǎng)友不以為意，認(rèn)為這不過(guò)是最常見(jiàn)的“惡搞”“玩?！保€有的網(wǎng)友則半信半疑，更有“數(shù)字化生存”經(jīng)驗(yàn)欠缺者對(duì)此深信不疑?！袄总夾I配音”乍看是一場(chǎng)娛樂(lè)狂歡，但潛藏的危險(xiǎn)不能不引起我們的警惕。

從彼雷軍到此雷軍，使用“AI配音”就可以實(shí)現(xiàn)一鍵直達(dá)。近年來(lái)，通過(guò)AI實(shí)現(xiàn)的聲音和畫(huà)面深度偽造的技術(shù)門(mén)檻不斷降低，為這種“一鍵變聲”“一鍵變臉”大肆泛濫提供了可能。目前，市面上已有大量的AI配音小程序，用戶只需在程序內(nèi)選擇相應(yīng)的人物聲音并輸入文字，便可借用他人的聲音發(fā)表言論。有的軟件免費(fèi)向用戶開(kāi)放部分使用權(quán)限，收費(fèi)版也價(jià)格較低。

深度偽造作為一種技術(shù)，是中性的。但是，在深度偽造技術(shù)之下，我們可能無(wú)法區(qū)別真假，過(guò)去崇尚的“眼見(jiàn)為實(shí)”受到?jīng)_擊，只能信以為真。而真?zhèn)坞y辨的混沌地帶，也將成為滋生各種亂象的溫床。在AI詐騙中，犯罪分子憑借一段原始語(yǔ)音、照片等就可以編造謠言甚至陷阱，早已是屢見(jiàn)不鮮的套路。

《2024人工智能安全報(bào)告》顯示，2023年基于AI的深度偽造欺詐增長(zhǎng)了3000%，僅今年上半年，AI詐騙案案值已超過(guò)1.85億元。就目前而言，面對(duì)深度偽造技術(shù)，我們普通人僅有的生存經(jīng)驗(yàn)完全無(wú)法招架，每個(gè)人都很有可能成為“受害者”。

當(dāng)制作者還沉浸在自己制作的AI配音視頻大獲流量的時(shí)候，殊不知已涉嫌侵權(quán)。沒(méi)錯(cuò)，聲音作為個(gè)人特征的一部分，受到法律明確保護(hù)。民法典規(guī)定，任何組織或個(gè)人未經(jīng)聲音權(quán)人同意，不得擅自使用、公開(kāi)或侵害其聲音權(quán)益。在一些AI配音小程序中，一些內(nèi)置的名人聲音，多用“你懂的”式昵稱來(lái)命名而非真名，可能也是處于規(guī)避侵權(quán)糾紛的考慮。不過(guò)，這也暴露出，這種侵權(quán)式“AI配音”屬明知故犯。

當(dāng)深度偽造嵌入我們的數(shù)字生活，該怎么辦？這并非無(wú)病呻吟強(qiáng)說(shuō)愁。一方面，要用魔法打敗魔法，推動(dòng)反深偽檢測(cè)技術(shù)持續(xù)更新迭代，以應(yīng)對(duì)層出不窮的深度偽造騙局；另一方面，要加強(qiáng)技術(shù)監(jiān)管，明確生成式人工智能服務(wù)合法與非法的邊界，對(duì)相關(guān)違法行為進(jìn)行嚴(yán)肅懲處，以“前車(chē)之鑒”構(gòu)筑其參照坐標(biāo)。各個(gè)社交平臺(tái)也應(yīng)負(fù)起相應(yīng)的治理責(zé)任，增強(qiáng)對(duì)疑似AI生成內(nèi)容的甄別，通過(guò)加水印或增加提示等手段，提醒觀看者引起注意。