亚洲av无码乱码中文_日韩激情一级无码毛片_国产91资源午夜福利_玖玖资源站最新地址2

直通屏山|福建|時(shí)評(píng)|大學(xué)城|臺(tái)海|娛樂|體育|國內(nèi)|國際|專題|網(wǎng)事|福州|廈門|莆田|泉州|漳州|龍巖|寧德|南平|三明
您所在的位置:東南網(wǎng) > 西岸時(shí)評(píng) > 時(shí)政觀察 > 正文

警惕“AI污染”亂象

2024-10-22 10:03:08?作者:?來源:新華每日電訊  責(zé)任編輯:蔡秀明   我來說兩句

有MCN機(jī)構(gòu)利用人工智能程序日產(chǎn)上千篇虛假新聞,導(dǎo)致大量不實(shí)信息在網(wǎng)上病毒式傳播;某小說平臺(tái)賬號(hào)依靠AI“創(chuàng)作”,每日更新十幾本電子書,行文卻邏輯不通、辭藻空洞;醫(yī)學(xué)論文因使用AI生成的虛假配圖而被撤稿……當(dāng)前,AI生成、偽造或篡改文本、圖片、音頻和視頻的現(xiàn)象越來越普遍,大量粗制濫造、真假難辨的“信息垃圾”,引發(fā)了關(guān)于“AI污染”的討論。

去年以來,生成式人工智能在世界范圍內(nèi)掀起一波接一波的熱潮,其顛覆性應(yīng)用讓許多行業(yè)和網(wǎng)民受益。然而,一塊硬幣有兩面,伴隨生成式人工智能而來的也有一些負(fù)面問題,由“信息垃圾”導(dǎo)致的“AI污染”越來越突出。

清華大學(xué)新聞與傳播學(xué)院新媒體研究中心今年4月發(fā)布的一份研究報(bào)告顯示,近一年來,經(jīng)濟(jì)與企業(yè)類AI謠言量增速達(dá)99.91%。美國調(diào)查機(jī)構(gòu)“新聞守衛(wèi)”稱,生成虛假文章的網(wǎng)站數(shù)量自2023年5月以來激增1000%以上,涉及15種語言。一些專家認(rèn)為,AI制造的“信息垃圾”產(chǎn)量龐大,且辨別難度較大、篩選成本較高。

“AI污染”帶來的危害顯而易見?!癆I污染”會(huì)讓網(wǎng)民陷入認(rèn)知幻覺。在某知識(shí)分享平臺(tái)上,看似“上知天文,下曉地理”的AI,生成的內(nèi)容卻空洞生硬。在缺乏批判性思考的情況下,AI快速編織的“知識(shí)體系”,一方面可能使人們的思辨能力產(chǎn)生退化,另一方面也可能讓人陷入認(rèn)知幻覺,引發(fā)公眾認(rèn)知困惑,進(jìn)而扭曲公眾對(duì)現(xiàn)實(shí)和科學(xué)共識(shí)的集體理解,最終讓人被AI“牽著走”。尤其對(duì)于伴隨互聯(lián)網(wǎng)成長起來的年輕一代,一旦他們的認(rèn)知被“信息垃圾”所塑造,其后果不堪設(shè)想。

“AI污染”會(huì)反噬AI產(chǎn)業(yè)的發(fā)展。眾所周知,AI模型的準(zhǔn)確性很大程度上取決于訓(xùn)練數(shù)據(jù)的質(zhì)量。若AI生成的虛假、垃圾內(nèi)容“回流”互聯(lián)網(wǎng),成為訓(xùn)練AI模型的新數(shù)據(jù),這種“垃圾進(jìn)、垃圾出”的循環(huán)模式,或使AI的輸出質(zhì)量斷崖式下降,不利于整個(gè)AI產(chǎn)業(yè)的發(fā)展。比如,某互聯(lián)網(wǎng)企業(yè)通過搜索引擎優(yōu)化,將AI生成的文章優(yōu)先呈現(xiàn)于搜索結(jié)果中,導(dǎo)致用戶難以檢索到高質(zhì)量信息,引發(fā)用戶廣泛批評(píng)。

此外,“AI污染”還涉及法律、倫理甚至社會(huì)穩(wěn)定等諸多問題。AI制造的虛假內(nèi)容,或侵犯知識(shí)產(chǎn)權(quán)、動(dòng)搖版權(quán)規(guī)則,也涉嫌侵犯?jìng)€(gè)人隱私、泄露身份信息,且有濫用風(fēng)險(xiǎn),恐?jǐn)_亂、操控社會(huì)輿論,AI制造的違法行為還會(huì)加大社會(huì)治理難度。

由此可見,整治互聯(lián)網(wǎng)“AI污染”勢(shì)在必行。據(jù)中國互聯(lián)網(wǎng)信息中心發(fā)布的第54次《中國互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》,截至今年6月,我國網(wǎng)民規(guī)模近11億人?;ヂ?lián)網(wǎng)構(gòu)筑著人類生存的新家園,年輕一代已成為網(wǎng)絡(luò)“原住民”,可以說,整治“AI污染”是打造清朗的網(wǎng)絡(luò)空間、保障每個(gè)網(wǎng)民美好生活的必要行動(dòng)。

首先,應(yīng)加大對(duì)AI學(xué)習(xí)和生成機(jī)制的源頭治理。明確AI平臺(tái)對(duì)源頭素材的把控責(zé)任和對(duì)生成內(nèi)容的監(jiān)管責(zé)任,完善AI內(nèi)容生成規(guī)則,強(qiáng)制對(duì)AI生成內(nèi)容打上顯著標(biāo)識(shí),提升AI技術(shù)的透明度和可解釋性。

其二,加強(qiáng)對(duì)AI生成內(nèi)容的篩查監(jiān)管。有關(guān)部門及企業(yè)需將監(jiān)管重點(diǎn)放在對(duì)AI生成內(nèi)容的篩查及審核上,可開發(fā)相關(guān)的審查算法,規(guī)范生成內(nèi)容向輿論場(chǎng)的流入及傳播途徑,及時(shí)發(fā)現(xiàn)并刪除低質(zhì)量或虛假內(nèi)容。

其三,提高用戶對(duì)AI生成內(nèi)容的辨別能力。網(wǎng)民應(yīng)理性對(duì)待互聯(lián)網(wǎng)信息,增強(qiáng)防范意識(shí)和識(shí)別能力,可使用反向搜索工具,檢查內(nèi)容來源和作者信息,分析內(nèi)容的語言和結(jié)構(gòu)特征,從而鑒“偽”鑒“劣”。

網(wǎng)絡(luò)空間不是亂扔亂堆的“垃圾場(chǎng)”。整治“AI污染”、打造清朗安全的網(wǎng)絡(luò)家園,需要各部門同抓共管和全社會(huì)共同參與。(宋瑞 柳媛)

相關(guān)閱讀:

打印 | 收藏 | 發(fā)給好友 【字號(hào)
今日熱詞
更多>>福建今日重點(diǎn)
更多>>國際國內(nèi)熱點(diǎn)
關(guān)于我們 | 廣告服務(wù) | 網(wǎng)站地圖 | 網(wǎng)站公告 |
國新辦發(fā)函[2001]232號(hào) 閩ICP備案號(hào)(閩ICP備05022042號(hào)) 互聯(lián)網(wǎng)新聞信息服務(wù)許可證 編號(hào):35120170001 網(wǎng)絡(luò)文化經(jīng)營許可證 閩網(wǎng)文〔2019〕3630-217號(hào)
信息網(wǎng)絡(luò)傳播視聽節(jié)目許可(互聯(lián)網(wǎng)視聽節(jié)目服務(wù)/移動(dòng)互聯(lián)網(wǎng)視聽節(jié)目服務(wù))證號(hào):1310572 廣播電視節(jié)目制作經(jīng)營許可證(閩)字第085號(hào)
網(wǎng)絡(luò)出版服務(wù)許可證 (署)網(wǎng)出證(閩)字第018號(hào) 增值電信業(yè)務(wù)經(jīng)營許可證 閩B2-20100029 互聯(lián)網(wǎng)藥品信息服務(wù)(閩)-經(jīng)營性-2015-0001
福建日?qǐng)?bào)報(bào)業(yè)集團(tuán)擁有東南網(wǎng)采編人員所創(chuàng)作作品之版權(quán),未經(jīng)報(bào)業(yè)集團(tuán)書面授權(quán),不得轉(zhuǎn)載、摘編或以其他方式使用和傳播
職業(yè)道德監(jiān)督、違法和不良信息舉報(bào)電話:0591-87095403(工作日9:00-12:00、15:00-18:00) 舉報(bào)郵箱:jubao@fjsen.com 福建省新聞道德委舉報(bào)電話:0591-87275327