自ChatGPT發(fā)布以來，大模型技術(shù)驅(qū)動(dòng)生成式人工智能突飛猛進(jìn)，形成應(yīng)用層生態(tài)“百花齊放”的局面，為人類生活和工作帶來重大變革的同時(shí)，其基于大數(shù)據(jù)訓(xùn)練實(shí)現(xiàn)的自動(dòng)化內(nèi)容生成也引發(fā)了新的風(fēng)險(xiǎn)挑戰(zhàn)，生成有害內(nèi)容、數(shù)據(jù)泄露等問題日益突出，嚴(yán)重威脅我國意識(shí)形態(tài)安全。

一是智能算法推薦加劇隱性價(jià)值觀輸出。生成式人工智能大模型是基于海量數(shù)據(jù)和文本基礎(chǔ)進(jìn)行訓(xùn)練而來，其數(shù)據(jù)來源本身存在的偏見與不公，直接影響到使用者對(duì)客觀現(xiàn)實(shí)的認(rèn)知。譬如，訓(xùn)練ChatGPT收集的數(shù)據(jù)其中大部分為英文材料，而英文世界是歐美主流國家的價(jià)值導(dǎo)向，產(chǎn)生的是契合資本主義意識(shí)形態(tài)的內(nèi)容。同時(shí)，數(shù)據(jù)訓(xùn)練規(guī)則和訓(xùn)練內(nèi)容、形式都是由算法開發(fā)者或數(shù)據(jù)寫入者制定，攜帶其原有的價(jià)值觀念。智能算法推薦在對(duì)信息資源進(jìn)行個(gè)性化適配的同時(shí)就是在行使社會(huì)權(quán)力，“算法的社會(huì)本質(zhì)就是一種權(quán)力”，這種權(quán)力更多地是隱性表達(dá)。作為意識(shí)形態(tài)的媒介渠道，一旦錯(cuò)誤的政治觀念、價(jià)值偏好等有害導(dǎo)向被嵌入其中，就可被作為政治宣傳和輿論操縱的工具，加劇我意識(shí)形態(tài)被操縱利用的風(fēng)險(xiǎn)。

二是技術(shù)更新運(yùn)用導(dǎo)致輿論矛盾沖突。生成式人工智能大模型利用技術(shù)優(yōu)勢對(duì)信息進(jìn)行抓取和綜合，按照技術(shù)化標(biāo)準(zhǔn)批量生產(chǎn)新聞報(bào)道，大幅提高新聞報(bào)道的生產(chǎn)效率。而信息傳播環(huán)節(jié)，生成式人工智能極大縮短信息傳播的層級(jí)，傳播網(wǎng)絡(luò)將從層層擴(kuò)散的“洋蔥式”結(jié)構(gòu)轉(zhuǎn)變?yōu)榻^大多數(shù)節(jié)點(diǎn)直接與樞紐相連的“海星式”結(jié)構(gòu)，大幅縮短輿情發(fā)酵鏈條的時(shí)間長度。生成式人工智能大模型加深用戶對(duì)于輿情事件的參與程度，使其能夠隨時(shí)參與到對(duì)網(wǎng)絡(luò)事件的意見建構(gòu)之中，這些意見被大模型學(xué)習(xí)后形成新的“輿情事實(shí)”，導(dǎo)致客觀性的事實(shí)被夾雜、糅合在主觀性的網(wǎng)絡(luò)表達(dá)中，而某些帶有鮮明觀點(diǎn)和極端偏好的信息，更容易被大模型抓取識(shí)別和傳播，加大意見混同增加輿論極性“偏差”，公眾在人工智能塑造的“信息繭房”影響下，特定價(jià)值觀容易引發(fā)“群體極化”現(xiàn)象，導(dǎo)致輿論場意見偏差增大。

三是信息真?zhèn)坞y辨誘發(fā)意識(shí)形態(tài)撕裂風(fēng)險(xiǎn)。生成式人工智能大模型的內(nèi)容生成，已經(jīng)涵蓋圖像、聲音、視頻等各種元素，網(wǎng)絡(luò)虛假信息生成路徑更加真假難辨。一旦大面積推廣，其高度自主化特性使得制造虛假新聞、網(wǎng)絡(luò)謠言等惡意信息的門檻變得更低，普通人只需要使用簡單的文字描述就可以生產(chǎn)一段逼真短視頻，有可能令網(wǎng)上假消息錯(cuò)資訊泛濫更為嚴(yán)重，進(jìn)而產(chǎn)生虛假“泡沫”輿情事件，成為滋生詐騙等違法犯罪行為的“溫床”，甚至成為顏色革命的工具。尤其是對(duì)敏感事件進(jìn)行虛假解讀，煽動(dòng)網(wǎng)民非理性情緒，擾亂輿論生態(tài)，分化公眾價(jià)值，達(dá)到維護(hù)特定政治和經(jīng)濟(jì)利益的目的，加劇意識(shí)形態(tài)領(lǐng)域的撕裂風(fēng)險(xiǎn)。未來具備高度自動(dòng)化和仿生形態(tài)的機(jī)器人水軍，可以更加高效低成本地生產(chǎn)大量逼真視頻內(nèi)容，誘發(fā)輿論風(fēng)險(xiǎn)。

四是大模型“工具化”解構(gòu)主流意識(shí)形態(tài)。人工智能的“工具化”作用凸顯，因技術(shù)依賴而導(dǎo)致思維固化和行為異化，削弱了自主創(chuàng)造性，人們逐漸成為“數(shù)據(jù)囚徒”，意識(shí)形態(tài)面臨解構(gòu)風(fēng)險(xiǎn)。一方面，在資本和權(quán)力的裹挾下，生成式人工智能大模型呈現(xiàn)“去規(guī)則性”的趨勢，用戶可以通過惡意編寫代碼、創(chuàng)建勒索軟件和釣魚郵件破除技術(shù)壁壘等，致使計(jì)算機(jī)系統(tǒng)受損、數(shù)據(jù)泄露和網(wǎng)絡(luò)癱瘓。再加上網(wǎng)絡(luò)空間的開放性、自由性，其所帶來的系列負(fù)面言論、非理性聲音都會(huì)影響主流意識(shí)形態(tài)的控制力量，威脅網(wǎng)絡(luò)意識(shí)形態(tài)安全。另一方面，在利益驅(qū)使下，用戶通過避開敏感詞匯的方式向大模型輸入各種指令，使其按照他的思路生成方案，從而誘發(fā)各種違法犯罪問題滋生。在這種生態(tài)環(huán)境下，境內(nèi)外敵對(duì)勢力極有可能借機(jī)利用互聯(lián)網(wǎng)上一些敏感輿情事件，攻擊抹黑我政治體制，消解我主流意識(shí)形態(tài)，威脅國家總體安全。

面對(duì)生成式人工智能大模型給人類社會(huì)帶來的巨大挑戰(zhàn)，我們須重點(diǎn)關(guān)注境外新興技術(shù)在國內(nèi)落地的安全隱患，防范有害信息在境內(nèi)傳播引發(fā)意識(shí)形態(tài)安全問題，對(duì)相關(guān)行業(yè)產(chǎn)業(yè)依法加強(qiáng)管理，完善防范措施，有效化解風(fēng)險(xiǎn)隱患。

一是堅(jiān)持馬克思主義在意識(shí)形態(tài)領(lǐng)域指導(dǎo)地位。堅(jiān)持以主流價(jià)值導(dǎo)向來駕馭智能應(yīng)用的發(fā)展，強(qiáng)化社會(huì)主義核心價(jià)值觀在智能技術(shù)發(fā)展和市場傳導(dǎo)中的導(dǎo)向作用，加大對(duì)生成式人工智能大模型的自主研發(fā)和創(chuàng)新，構(gòu)筑社會(huì)主義意識(shí)形態(tài)傳播的新場域，嚴(yán)防生成式人工智能在話語構(gòu)建和話語傳播過程中制造意識(shí)形態(tài)風(fēng)險(xiǎn)。堅(jiān)持用社會(huì)主義意識(shí)形態(tài)的科技倫理規(guī)制算法推薦，在程序研發(fā)、設(shè)計(jì)、運(yùn)行中嵌入社會(huì)主義意識(shí)形態(tài)大數(shù)據(jù)，構(gòu)建符合社會(huì)主義主流意識(shí)形態(tài)價(jià)值觀的算法推薦，通過引導(dǎo)正向信息傳播和對(duì)話反饋，有效消解算法中的意識(shí)形態(tài)偏見，謹(jǐn)防利益競逐的“資本至上”邏輯對(duì)主流意識(shí)形態(tài)的蠶食，促進(jìn)主流意識(shí)形態(tài)在人機(jī)交互中的主導(dǎo)地位。

二是堅(jiān)持講好中國故事提升中國話語權(quán)。內(nèi)置于ChatGPT的西方話語權(quán)邏輯在國際意識(shí)形態(tài)交鋒日趨顯現(xiàn)，并逐漸擠壓著中國的話語空間。若失去生成式人工智能賽道的話語權(quán)，我國就會(huì)被削弱意識(shí)形態(tài)話語影響力。因此，要進(jìn)一步講好中國故事，破解當(dāng)前生成式人工智能領(lǐng)域的西方霸權(quán)。探尋能被國際社會(huì)普遍理解的世界性中國話語，是掌握意識(shí)形態(tài)話語主動(dòng)的關(guān)鍵所在。一方面要深入認(rèn)識(shí)并結(jié)合生成式AI背景下話語受眾的心理特征，將中國故事以兼具中華特色又接軌國際的方式予以呈現(xiàn)推動(dòng)中國故事在國際話語交鋒中掌握主動(dòng)權(quán)。另一方面，要立足技術(shù)思維，掌握生成式人工智能信息傳播規(guī)律，打通智能信息處理的技術(shù)關(guān)隘，推動(dòng)生成式AI結(jié)合5G、區(qū)塊鏈等新興技術(shù)，探索中國話語在智能傳播時(shí)代的多元平臺(tái)，傳播好中國故事。

三是強(qiáng)化生成式人工智能大模型應(yīng)用監(jiān)管。加強(qiáng)對(duì)提供人工智能技術(shù)的企業(yè)、傳播平臺(tái)等監(jiān)管，形成嚴(yán)格的行業(yè)管理制度。強(qiáng)化技術(shù)平臺(tái)主體責(zé)任，在杜絕虛假信息的產(chǎn)出、流傳與擴(kuò)散方面賦予其更明確、比重更大的義務(wù)。推動(dòng)平臺(tái)建立、完善和迭代人工智能生成內(nèi)容鑒別處置機(jī)制，不斷提升人工智能技術(shù)參與內(nèi)容安全監(jiān)測的能力和效果。嚴(yán)格把控模型意識(shí)形態(tài)表達(dá)的限度，運(yùn)用智能算法技術(shù)規(guī)制虛假內(nèi)容的生產(chǎn)與傳播并處置有害信息。整合國家、社會(huì)、個(gè)人層面的力量，共同應(yīng)對(duì)意識(shí)形態(tài)安全問題。建立多元協(xié)同的責(zé)任矩陣應(yīng)對(duì)生成式人工智能大模型的滲透和沖擊，依托外部監(jiān)督與內(nèi)部規(guī)約的雙向邏輯，推動(dòng)行業(yè)自律。研發(fā)應(yīng)對(duì)意識(shí)形態(tài)風(fēng)險(xiǎn)的人工智能防控技術(shù)，有效應(yīng)對(duì)意識(shí)形態(tài)領(lǐng)域的沖突。同時(shí)，還需加強(qiáng)對(duì)全社會(huì)的人工智能素養(yǎng)教育，提升用戶的信息素養(yǎng)和技術(shù)認(rèn)知，增強(qiáng)對(duì)虛假信息的風(fēng)險(xiǎn)識(shí)別與抵制能力。

四是建立健全人工智能領(lǐng)域法律制度。加快推進(jìn)人工智能法的制定和出臺(tái)，以人工智能法及配套的監(jiān)管工具為核心，形成完整的人工智能技術(shù)法律體系，在兼顧科技發(fā)展和規(guī)范使用界限的同時(shí)，為生成式人工智能的意識(shí)形態(tài)風(fēng)險(xiǎn)規(guī)制提供法律支撐。及時(shí)出臺(tái)行業(yè)性規(guī)范，明晰諸如隱私權(quán)保護(hù)、電信詐騙等違法行為的責(zé)任界定等，制定保障通用大模型安全的標(biāo)準(zhǔn)體系及其風(fēng)險(xiǎn)等級(jí)測試評(píng)估體系，推動(dòng)通用大模型開展安全評(píng)測、接入安全服務(wù)，降低通用大模型安全風(fēng)險(xiǎn)。積極探索“監(jiān)管沙盒”等創(chuàng)新治理手段，建構(gòu)“事前—事中—事后”的自治體系，提供全程監(jiān)管，確保技術(shù)運(yùn)行在法治軌道上。

五是加強(qiáng)國際合作，倡導(dǎo)全球治理。無論是ChatGPT等生成式人工智能抑或其他人工智能技術(shù)，都是世界性的、時(shí)代性的，因而無論是科技互惠共享還是風(fēng)險(xiǎn)治理，必須具有全球視野。通過對(duì)話與合作凝聚共識(shí)，積極彌合智能鴻溝，實(shí)現(xiàn)公平普惠；加強(qiáng)共享共建，推動(dòng)務(wù)實(shí)合作；尋求價(jià)值對(duì)齊，改進(jìn)全球治理。堅(jiān)持以人為本，推動(dòng)智能向善，致力于構(gòu)建基于共同價(jià)值的人工智能倫理準(zhǔn)則，使人工智能朝著有利于構(gòu)建人類命運(yùn)共同體的方向發(fā)展。借助“文化+科技”的雙向賦能，提高不同文明在國際傳播中的話語權(quán)和影響力，打造國際社會(huì)的“網(wǎng)絡(luò)大外交”平臺(tái)，深化文明交流互鑒，消除隔閡誤解，促進(jìn)民心相知相通，推動(dòng)構(gòu)建人工智能時(shí)代的人類命運(yùn)共同體。

（作者系四川省委網(wǎng)信辦網(wǎng)絡(luò)新聞信息傳播處副處長）

內(nèi)容來源：學(xué)習(xí)強(qiáng)國