我們每天上網(wǎng)看到的海量圖文、視頻，有多少是人工智能生成合成的？如何準確分辨AI文章、AI圖片、AI視頻？近日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》（以下簡稱《意見稿》），擬規(guī)定服務(wù)提供者提供的生成合成服務(wù)，包括文本、音頻、圖片、視頻、虛擬場景等，均應(yīng)在適當位置添加顯著的提示標識；服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等方式時，應(yīng)當確保文件中含有滿足要求的顯式標識。

隨著人工智能技術(shù)的迅猛發(fā)展，AI合成成本低、制作容易、出品太快，使得這類合成內(nèi)容逐漸滲透到生活的方方面面，從文字、圖片到音頻、視頻，無時不在、無處不在。隨之而來的是一系列倫理和社會問題，AI合成被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益，危害國家安全和社會穩(wěn)定。

或許有人說，用人工智能技術(shù)合成，是“弄著玩”或“開玩笑”，給網(wǎng)絡(luò)生活加點“調(diào)料”，沒有惡意。可即便如此，也會造成公眾對信息的誤會或誤判，極易導(dǎo)致不良社會后果。因此，顯著標識AI合成內(nèi)容變得至關(guān)重要，而《意見稿》劃定了人工智能技術(shù)合成服務(wù)的底線和紅線。如此明確設(shè)定，具有很強的針對性，將減少由此導(dǎo)致的信任危機，對于防范化解網(wǎng)絡(luò)安全風(fēng)險具有建設(shè)性作用。

眾所周知，網(wǎng)絡(luò)上每天產(chǎn)生的圖文、視頻等海量信息，傳播的路徑非常廣闊，傳播的速度異常快捷。但是，隨著深度學(xué)習(xí)和生成對抗網(wǎng)絡(luò)等先進技術(shù)的介入，使得AI合成內(nèi)容越來越逼真，這種技術(shù)進步存在被濫用的風(fēng)險。這可能導(dǎo)致公眾對媒體和信息的普遍不信任，進而引發(fā)社會信任危機并擾亂社會秩序。而目前許多國家尚未有完善的法律框架來規(guī)范AI合成內(nèi)容的使用，導(dǎo)致出現(xiàn)對這一網(wǎng)絡(luò)空間的監(jiān)管盲區(qū)。亟待有關(guān)部門出臺過渡性監(jiān)管措施，為法制監(jiān)管相關(guān)領(lǐng)域打下堅實基礎(chǔ)，催生新的立法和監(jiān)管措施。

為此，規(guī)定設(shè)置顯式標識，體現(xiàn)了對透明性和真實性的尊重，這是維護社會誠信和公共安全的基本要求。這一規(guī)定，非常具有現(xiàn)實針對性、必要性。保障了用戶的知情權(quán)和選擇權(quán)，使用戶能夠自主決定是否接觸和信任這些由AI合成的特定內(nèi)容。這樣做，增加了一定成本，但對于提高透明度和建立信任至關(guān)重要；幫助公眾區(qū)分真實與合成內(nèi)容，減少信息混亂；有助于防止這種潛在的大規(guī)模操控行為；明確內(nèi)容的來源和制作者，有助于在發(fā)生侵權(quán)或欺詐行為時追究相關(guān)責(zé)任。

隨著AI技術(shù)不斷進步，AI合成內(nèi)容將更加難以分辨，這必將會給顯式標識帶來新的挑戰(zhàn)。未來可能需要更復(fù)雜的技術(shù)手段和國際合作來實現(xiàn)跨平臺、跨媒介的顯式標識。同時，如何平衡技術(shù)發(fā)展與社會倫理，制定全球統(tǒng)一的標準和法規(guī)也是未來需要面對的重要問題。我們應(yīng)當推動相關(guān)政策、技術(shù)和倫理規(guī)范的完善，以確保AI技術(shù)的健康發(fā)展和應(yīng)用。