確保生成式人工智能向善而行（新知）

——在新的起點上不斷推進創(chuàng)新⑤

緊隨科技進步和行業(yè)發(fā)展的步伐，全面提升治理水平，促進生成式人工智能健康發(fā)展

【現(xiàn)象】從一個靈感起步，設(shè)置主題、類型、人物、情節(jié)等各種參數(shù)，引導(dǎo)編劇填入自己的想法，大模型可以在極短時間內(nèi)生成類型片劇本初稿。不久前，西部電影集團有限公司發(fā)布國內(nèi)首個擁有自主知識產(chǎn)權(quán)的電影創(chuàng)作類生成式人工智能系統(tǒng)。近年來，生成式人工智能技術(shù)取得突破性進展，開始完成繪畫、譜曲、咨詢互動等原本被認為只能由人來完成的工作，正在并將繼續(xù)對生產(chǎn)生活產(chǎn)生深遠影響。

【點評】

人工智能是引領(lǐng)未來的戰(zhàn)略性技術(shù)，是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，是必須搶占的科技制高點。生成式人工智能可以依托事先訓(xùn)練好的多模態(tài)基礎(chǔ)大模型等，利用用戶輸入的相關(guān)資料，生成具有一定邏輯性和連貫性的內(nèi)容，是目前最具革命性、引領(lǐng)性的科學(xué)技術(shù)之一。

從進行數(shù)據(jù)處理，到學(xué)習(xí)和模擬事物內(nèi)在規(guī)律，這一跳躍讓人工智能更加接近人類的創(chuàng)造力，可以完成更多復(fù)雜場景任務(wù)。與此同時，解決相關(guān)安全風(fēng)險和倫理問題也變得更加緊迫。

黨的二十屆三中全會《決定》提出：“完善生成式人工智能發(fā)展和管理機制。”緊隨科技進步和行業(yè)發(fā)展的步伐，全面提升治理水平，促進生成式人工智能健康發(fā)展，是形勢所需，也是更好保障公眾利益的內(nèi)在要求。

盡管技術(shù)路徑已經(jīng)明確，但生成式人工智能產(chǎn)品和服務(wù)的商業(yè)化、大眾化、普及化，仍處于起步階段。2023年，我國生成式人工智能的企業(yè)采用率已達15%，市場規(guī)模約為14.4萬億元。目前，我國現(xiàn)有完成備案并上線為公眾提供服務(wù)的生成式人工智能服務(wù)大模型近200個，注冊用戶超6億。我們已占據(jù)有利身位，且有豐富的數(shù)據(jù)資源、廣闊的市場需求、穩(wěn)定的技術(shù)基礎(chǔ)和多樣化的應(yīng)用場景，要充分發(fā)揮這些優(yōu)勢，力爭在新一代人工智能技術(shù)的發(fā)展上搶占先機，為更多行業(yè)向價值鏈中高端攀升提供更強推動力。

著力推動技術(shù)進步、產(chǎn)業(yè)發(fā)展的同時，也要看到，生成式人工智能會帶來一些治理難題。比如，利用他人作品生成新的“作品”，可能涉嫌侵權(quán)；利用人工智能生成虛假信息進行詐騙，增加防范難度；隨著技術(shù)應(yīng)用的拓展，一些就業(yè)崗位可能會受到較大沖擊；等等。

針對各種可能發(fā)生的風(fēng)險，相關(guān)部門和地方已經(jīng)出臺了一些技術(shù)應(yīng)對、綜合防治措施及安全開發(fā)應(yīng)用指引，促進人工智能向善而行。比如，北京市編制大模型分級分類管理和安全評測標(biāo)準(zhǔn)，圍繞真實場景開展應(yīng)用質(zhì)量評估、倫理對齊等方面評測；上海交通大學(xué)發(fā)布“生成式人工智能教師使用指南”，對版權(quán)與學(xué)術(shù)誠信、倫理與公平等問題作出規(guī)定……堅持未雨綢繆，堅持倫理先行，進一步加強人工智能規(guī)則治理，完善相關(guān)法律體系建設(shè)，才能做到趨利避害、安全使用。

發(fā)展人工智能，根本目的是造福人類、增進人民福祉、促進人的全面發(fā)展。在技術(shù)加速演進的關(guān)鍵階段，堅持發(fā)展與治理、創(chuàng)新與安全并重，著力培育安全、可靠、公平、透明的技術(shù)研發(fā)和應(yīng)用生態(tài)，定能不斷促進人工智能健康發(fā)展，更好抓住新一輪技術(shù)變革帶來的新機遇。