9月1日起，人工智能生成合成內(nèi)容要依規(guī)添加標(biāo)識(shí)了。近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》），辦法聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過(guò)標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容操作、傳播各環(huán)節(jié)標(biāo)識(shí)行為。

用一句話總結(jié)《標(biāo)識(shí)辦法》，就是要求給所有AI生成合成內(nèi)容打上“水印”、刻上“身份標(biāo)識(shí)”。放在現(xiàn)實(shí)語(yǔ)境中，這一規(guī)定的推出無(wú)疑正當(dāng)其時(shí)。

近些年，生成式AI、深度合成等新技術(shù)迅猛發(fā)展。用戶只用動(dòng)動(dòng)手指、輸入幾個(gè)關(guān)鍵詞，就能利用AI工具，在分秒間收獲生成合成的文本、圖片、音視頻等內(nèi)容。這在為人們?nèi)粘９ぷ魃钐峁┲T多便利的同時(shí)，也容易帶來(lái)虛假信息傳播、深度偽造等風(fēng)險(xiǎn)。

比如，AI工具讓造謠成本大大降低。造謠者簡(jiǎn)單給出幾句指令，就能批量制造要素齊全、迷惑性極強(qiáng)的內(nèi)容。就在上周末，一則“頂流男星在澳門輸?shù)?0億”的信息在互聯(lián)網(wǎng)平臺(tái)廣泛傳播，頻頻登上社交媒體熱搜熱榜。公安網(wǎng)安部門查明，這其實(shí)是造謠者為博取流量、謀取非法利益，使用軟件中AI智慧生成功能編造的謠言。此外，AI換聲、換臉式詐騙橫行，也讓人防不勝防，

對(duì)于這些問(wèn)題，事發(fā)后再去辟謠追責(zé)難度較大，已經(jīng)造成的損失也往往難以追回。只有規(guī)范AI工具的使用，明確“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等關(guān)鍵問(wèn)題，才能更好地落實(shí)主體責(zé)任，引導(dǎo)科技向上向善發(fā)展。

此次《標(biāo)識(shí)辦法》明確了顯式標(biāo)識(shí)和隱式標(biāo)識(shí)兩種形式。顯式標(biāo)識(shí)是指在生成式合成內(nèi)容或交互場(chǎng)景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可被用戶明顯感知到的標(biāo)識(shí)。對(duì)用戶而言，這種給AI產(chǎn)品“打水印”的方式，可以讓他們更清楚明了地看到產(chǎn)品來(lái)源，作出理性判斷，不至于模糊真實(shí)和虛擬的邊界，被虛假內(nèi)容誤導(dǎo)。如果真的出現(xiàn)被誤導(dǎo)和詐騙的情況，也可以通過(guò)標(biāo)識(shí)水印追溯到實(shí)際的侵權(quán)人、犯罪者。長(zhǎng)遠(yuǎn)來(lái)看，這對(duì)于提升公眾科技素養(yǎng)和媒介素養(yǎng)也有所裨益。

隱式標(biāo)識(shí)是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標(biāo)識(shí)。這主要是涉及網(wǎng)絡(luò)平臺(tái)和AIGC服務(wù)提供者的一種標(biāo)識(shí)方式。隱性標(biāo)識(shí)是用一種通用技術(shù)手段，能夠以較低的技術(shù)難度和合規(guī)成本，明確AI服務(wù)提供商的標(biāo)識(shí)義務(wù)，并方便網(wǎng)絡(luò)平臺(tái)履行監(jiān)管責(zé)任。

正如有專家指出的，當(dāng)前人工智能的治理，尤其是內(nèi)容治理，所遵循的思路是“小步快走”，而非追求大而全?！皵?shù)字標(biāo)識(shí)+顯性記號(hào)”雙軌并行，明確了每個(gè)環(huán)節(jié)中內(nèi)容制作者、發(fā)布平臺(tái)、技術(shù)提供者的多方責(zé)任，其執(zhí)行成本較低、可行性較高，使相關(guān)治理更加科學(xué)有效。

當(dāng)然，未來(lái)新規(guī)落地效果，以及如何有效壓實(shí)各方責(zé)任，還需要后續(xù)持續(xù)觀察。隨著AI生成技術(shù)的不斷迭代，相關(guān)規(guī)范也可能進(jìn)一步調(diào)整細(xì)化。但無(wú)論技術(shù)如何發(fā)展，有關(guān)AI標(biāo)識(shí)的治理思路都是從一而終的，那就是厘清真實(shí)和虛擬的邊界，消除謠言和虛假信息混淆視聽的空間，切實(shí)保障每一位用戶的知情權(quán)。（任冠青）