近期，天壇“網(wǎng)紅”徐大爺因被AI造謠而苦不堪言。有人盜用此前博主拍攝徐大爺鍛煉的視頻，經AI處理后，將其編排成90歲的患癌老人，還附帶虛假廣告。面對親朋好友“這條狗血廣告掙多少錢”的詢問，徐大爺一遍遍解釋得十分惱火。

說起來，過去AI造謠的目標主要都是明星藝人、專家大咖，而徐大爺?shù)脑庥稣f明，每一個普通人也都有被AI造謠的風險。這不，最近“上海退休教授靠陽臺核電池供電”的謠言傳得沸沸揚揚，頻頻出現(xiàn)的“真人演繹”，不知又侵犯了哪位大爺?shù)男は駲唷?/p>

隨著AI技術飛速迭代，其生成的謠言以近乎工業(yè)化生產的模式泛濫，涉足的領域越來越廣。今年年初，達沃斯世界經濟論壇發(fā)布的《2025年全球風險報告》，將“錯誤和虛假信息”列為全球面臨的五大風險之一，而AI作為制造和放大錯誤及虛假信息的重要一環(huán)，正在成為擺在所有國家面前的嚴峻挑戰(zhàn)。更值得注意的是，由于AI本身具有“幻覺”缺陷——面對缺失信息，模型會自動編造看上去“合理”的細節(jié)填補，這進一步拉高了治理的難度系數(shù)。

從法律上看，盜用真人視頻并利用AI技術合成廣告的行為，侵犯了公民的肖像權和名譽權。揪住典型案例，亮明嚴肅態(tài)度非常重要。但名人明星被侵權想追責尚且困難，又何況素人？避免“一鍵造謠，累死辟謠”的尷尬，關鍵是將治理關口前移。2024年9月，國家網(wǎng)信辦發(fā)布《人工智能生成合成內容標識辦法（征求意見稿）》，明確提出，無論文本、音頻、視頻還是虛擬場景，都必須“在適當位置添加顯著的提示標識”。這一規(guī)定切中時弊，但問題在于，AI生成的內容究竟能不能被第一時間識別出來？

就現(xiàn)階段技術水平而論，AI視頻在口型等細節(jié)上還有不自然之處，但隨著技術進步，這些能被肉眼發(fā)現(xiàn)的部分也可能很快被改變。識別AI生成內容，最終還是需要技術把關。目前，已有多個平臺上線AI檢測工具，嘗試精準識別AI生成的文本與圖像內容。但對于海量的用戶生成內容（UGC）而言，AI測假的能力還沒跟上需求，某些平臺“先發(fā)后審”的滯后審核機制，更給AI造假留下很大空間。平臺的技術堤壩，很有必要進一步加固。

沒有人能阻礙技術狂飆的浪潮，也不可能退回沒有AI的時代。從政策法律，到技術方法，再到社會公眾認知等多方面，做好抵御技術負面效應的準備，為算法裝上價值觀，為每個人的安全感構筑“防御工事”，社會方能最大限度免受其害。