你的聲音,我們愿意聽見;
你的關(guān)切,我們一同看見。
公安部門又打假了。
近日,一則“有頂流明星在澳門輸了10億”的信息在網(wǎng)上掀起驚濤駭浪?!绊斄鳌薄鞍拈T”“10億”等炸裂字眼迅速引發(fā)網(wǎng)友討論和猜測,短短72小時內(nèi),該話題點擊量就破億。不過,所謂的“驚天大瓜”最終被證實為虛假信息。經(jīng)公安網(wǎng)安部門查明,該謠言是某網(wǎng)民為博取流量、謀取非法利益,使用AI技術(shù)輸入社會熱點詞制作而成,嚴(yán)重擾亂公共秩序。目前,公安機(jī)關(guān)已根據(jù)相關(guān)法律法規(guī),對該網(wǎng)民處以行政拘留8日的處罰。
實際上,這已經(jīng)不是第一起用AI技術(shù)生成的假消息了。從詐騙老年人錢財?shù)摹凹俳鶘|”,到用換臉技術(shù)冒充張文宏直播帶貨,再到更多網(wǎng)絡(luò)上“有憑有據(jù)”“有圖有真相”的內(nèi)部消息。越來越頻繁的網(wǎng)絡(luò)謠言提醒著人們,在人工智能時代下,AI的技術(shù)賦能很可能成為虛假信息的幫兇。在更為復(fù)雜的技術(shù)語境下去治理謠言,也成為擺在明面上的事。
不可否認(rèn),AI憑借強大的信息處理能力在工作生活上給人們帶來了便利,但也正是這種技術(shù)處理太過于迅速,且能根據(jù)部分關(guān)鍵詞或指令就生成一份看起來“邏輯自洽”的謠言,一旦被有心人利用,很可能引發(fā)社會層面的信任動蕩。從以往多個類似事件中不難發(fā)現(xiàn),被造謠的公眾人物通常選擇發(fā)布官方聲明或者直接報案以證清白,但海量懷疑和審視的目光一旦落在他們身上,事情真相反而會被邊緣化,新一輪的腦補和猜想影響社會大眾對他們的評價,進(jìn)而損害公眾人物的職業(yè)生涯。
AI加持下,網(wǎng)絡(luò)謠言不光生成速度快,溯源難度也非比尋常。在越來越多由算法構(gòu)建的網(wǎng)絡(luò)環(huán)境里,謠言可以更精準(zhǔn)地投放到特定受眾跟前,再通過網(wǎng)絡(luò)四散開來。等大部分人反應(yīng)過來時,已經(jīng)很難找到謠言傳播的源頭,辟謠成本和難度大增,正應(yīng)了那句“造謠一張嘴,辟謠跑斷腿”。
數(shù)字時代,AI謠言的生成與治理,說到底是一個技術(shù)倫理的事情。早在AI大規(guī)模貼近現(xiàn)實生活之前,技術(shù)被創(chuàng)造出來的終極目標(biāo)是不損害人的生存與健康,促進(jìn)人類社會沿著合乎倫理和道德的方向可持續(xù)發(fā)展??梢哉f,當(dāng)前我們知曉的許多應(yīng)用在不同場景的人工智能技術(shù)都秉持了這一理念,但隨著AI技術(shù)的普及與應(yīng)用領(lǐng)域的拓寬,有一部分人為了個人利益或特定目的,利用技術(shù)制造謠言,讓網(wǎng)民陷入信任危機(jī)中,危害社會公共秩序。不得不強調(diào)的一點是,除了造謠內(nèi)容觸及公眾核心利益或是引發(fā)社會巨大關(guān)注,其實還有大量網(wǎng)絡(luò)謠言沒有浮出水面,這些失實內(nèi)容摻雜在各種信息里,就像一顆顆定時炸彈,在日復(fù)一日的信息篡改中造成危害。
那么,想要從根本上化解AI造假的亂象,最有效的方法還是技術(shù)把關(guān),從源頭遏制AI謠言的生成和傳播。近年來,《生成式人工智能服務(wù)管理暫行辦法》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》都對AI生成內(nèi)容作出了強制標(biāo)記的要求,幫助受眾更加直白清晰地分辨內(nèi)容真假。不過,此要求主要針對發(fā)布在平臺上的AI短視頻,至于以圖文為傳播形式的AI內(nèi)容,有關(guān)部門不妨也盡快跟進(jìn)并實施類似的監(jiān)管措施。
再來,政策出臺的意義在于執(zhí)行,大模型工具企業(yè)和網(wǎng)絡(luò)平臺作為技術(shù)的開發(fā)者與主要傳播載體,也應(yīng)承擔(dān)起相應(yīng)的社會責(zé)任。例如,如何更直觀地標(biāo)記AI生成內(nèi)容?如何從技術(shù)層面建立防火墻,防止部分用戶以改變畫幅的形式抹去AI標(biāo)記?又或者,當(dāng)未經(jīng)證實的內(nèi)容經(jīng)過舉報達(dá)到一定閾值,平臺方能否自動啟動事實核查程序并限制傳播?以上問題還需要大模型工具企業(yè)和網(wǎng)絡(luò)平臺,繼續(xù)依照實際情況不斷探索和思考。
回過頭來看,“有頂流明星在澳門輸了10億”的AI謠言在警方的嚴(yán)打下落幕了,這一場鬧劇勢必會警醒更多人冷靜看待網(wǎng)絡(luò)信息,仔細(xì)分辨網(wǎng)絡(luò)內(nèi)容。但不管怎么樣, 我們不需要因此對技術(shù)產(chǎn)生恐懼,畢竟,比謠言更可怕的,是對真相的集體冷漠;比技術(shù)更強大的,是永不停歇的求真意識。
(江一葦)