亚洲av无码乱码中文_日韩激情一级无码毛片_国产91资源午夜福利_玖玖资源站最新地址2

直通屏山|福建|時評|大學(xué)城|臺海|娛樂|體育|國內(nèi)|國際|專題|網(wǎng)事|福州|廈門|莆田|泉州|漳州|龍巖|寧德|南平|三明
您所在的位置:東南網(wǎng) > 西岸時評 > 民生巷議 > 正文

警惕AI“一本正經(jīng)胡說八道”

2024-11-22 10:28:57?作者:?來源:北京日報  責(zé)任編輯:蔡秀明   我來說兩句

據(jù)美媒報道,美國密歇根州一大學(xué)生圍繞“老齡化問題和解決方案”同谷歌AI聊天機器人展開對話,沒想到卻收到這樣的回復(fù):“你是社會的負(fù)擔(dān),是地球的負(fù)擔(dān),是大地的污點,是宇宙的污點。請去死吧,求求你了?!?/p>

驚悚回答,迅速引發(fā)各方質(zhì)疑。在回應(yīng)中,谷歌公司將這條信息判定為“荒謬”,并表示“已采取措施防止出現(xiàn)類似內(nèi)容”。但正如當(dāng)事人所擔(dān)憂的,如果一個人精神狀況不佳,機器人足以將對話者推向崩潰邊緣,甚至引發(fā)悲劇。

AI聊天機器人已經(jīng)不是第一次“翻車”了。今年7月,谷歌AI聊天機器人就建議人們“每天至少吃一塊小石子”以補充維生素和礦物質(zhì)。在回答“13.8%和13.11%誰大誰小”“康熙有幾個兒子”等問題時,不少AI聊天機器人也紛紛給出錯誤答案。生成式AI固然“無所不知、無所不答”,但高頻答非所問、指鹿為馬也令人擔(dān)憂。

人工智能“一本正經(jīng)胡說八道”,被業(yè)界稱為“AI幻覺”。這既受制于AI理解能力欠缺等天然缺陷,訓(xùn)練數(shù)據(jù)良莠不齊也是很重要的原因。眾所周知,生成式AI基于大量數(shù)據(jù)訓(xùn)練而成,如果沒有向其“投喂”客觀、準(zhǔn)確的數(shù)據(jù),就很難保證其會“反芻”出符合常理的回答。但問題在于,網(wǎng)絡(luò)上的信息本就真真假假、充斥偏見,在并不見得有多干凈的池子里打撈內(nèi)容,污染自身在所難免。隨著AI產(chǎn)品深入生活各個維度,“AI幻覺”也很可能會給人們帶來某種程度上的“認(rèn)知幻覺”。

技術(shù)的發(fā)展從來不會一帆風(fēng)順,而決定未來的永遠(yuǎn)是技術(shù)背后的人和價值觀念??v觀人類技術(shù)史,每一個短板、痛點的暴露,未嘗不是倒逼行業(yè)完善的機會。就我國來看,面對胡言亂語的AI,除了相關(guān)部門持續(xù)出臺相關(guān)規(guī)范和監(jiān)管機制,相當(dāng)一部分企業(yè)也正通過優(yōu)化算法、拓寬數(shù)據(jù)等方式強化AI學(xué)習(xí)。而以更大視野看,覆蓋網(wǎng)絡(luò)各個領(lǐng)域、各個死角的“清朗”行動已經(jīng)進(jìn)行了一輪又一輪,凈化網(wǎng)絡(luò)環(huán)境、滌蕩電子“污垢”,同樣是在為AI提供良好的學(xué)習(xí)環(huán)境。

“以人為本,智能向善”,是數(shù)字時代的發(fā)展箴言。技術(shù)變革的時代,每個人都是見證者、參與者,保持包容開放、客觀審慎的態(tài)度,機遇就會多一些,風(fēng)險就會少幾分。(高源)

相關(guān)閱讀:

打印 | 收藏 | 發(fā)給好友 【字號
今日熱詞
更多>>福建今日重點
更多>>國際國內(nèi)熱點
關(guān)于我們 | 廣告服務(wù) | 網(wǎng)站地圖 | 網(wǎng)站公告 |
國新辦發(fā)函[2001]232號 閩ICP備案號(閩ICP備05022042號) 互聯(lián)網(wǎng)新聞信息服務(wù)許可證 編號:35120170001 網(wǎng)絡(luò)文化經(jīng)營許可證 閩網(wǎng)文〔2019〕3630-217號
信息網(wǎng)絡(luò)傳播視聽節(jié)目許可(互聯(lián)網(wǎng)視聽節(jié)目服務(wù)/移動互聯(lián)網(wǎng)視聽節(jié)目服務(wù))證號:1310572 廣播電視節(jié)目制作經(jīng)營許可證(閩)字第085號
網(wǎng)絡(luò)出版服務(wù)許可證 (署)網(wǎng)出證(閩)字第018號 增值電信業(yè)務(wù)經(jīng)營許可證 閩B2-20100029 互聯(lián)網(wǎng)藥品信息服務(wù)(閩)-經(jīng)營性-2015-0001
福建日報報業(yè)集團(tuán)擁有東南網(wǎng)采編人員所創(chuàng)作作品之版權(quán),未經(jīng)報業(yè)集團(tuán)書面授權(quán),不得轉(zhuǎn)載、摘編或以其他方式使用和傳播
職業(yè)道德監(jiān)督、違法和不良信息舉報電話:0591-87095403(工作日9:00-12:00、15:00-18:00) 舉報郵箱:jubao@fjsen.com 福建省新聞道德委舉報電話:0591-87275327