你的聲音，我們愿意聽見；
你的關(guān)切，我們一同看見。
公安部門又打假了。
近日，一則“有頂流明星在澳門輸了10億”的信息在網(wǎng)上掀起驚濤駭浪?！绊斄鳌薄鞍拈T”“10億”等炸裂字眼迅速引發(fā)網(wǎng)友討論和猜測，短短72小時內(nèi)，該話題點擊量就破億。不過，所謂的“驚天大瓜”最終被證實為虛假信息。經(jīng)公安網(wǎng)安部門查明，該謠言是某網(wǎng)民為博取流量、謀取非法利益，使用AI技術(shù)輸入社會熱點詞制作而成，嚴(yán)重擾亂公共秩序。目前，公安機關(guān)已根據(jù)相關(guān)法律法規(guī)，對該網(wǎng)民處以行政拘留8日的處罰。
實際上，這已經(jīng)不是第一起用AI技術(shù)生成的假消息了。從詐騙老年人錢財?shù)摹凹俳鶘|”，到用換臉技術(shù)冒充張文宏直播帶貨，再到更多網(wǎng)絡(luò)上“有憑有據(jù)”“有圖有真相”的內(nèi)部消息。越來越頻繁的網(wǎng)絡(luò)謠言提醒著人們，在人工智能時代下，AI的技術(shù)賦能很可能成為虛假信息的幫兇。在更為復(fù)雜的技術(shù)語境下去治理謠言，也成為擺在明面上的事。
不可否認(rèn)，AI憑借強大的信息處理能力在工作生活上給人們帶來了便利，但也正是這種技術(shù)處理太過于迅速，且能根據(jù)部分關(guān)鍵詞或指令就生成一份看起來“邏輯自洽”的謠言，一旦被有心人利用，很可能引發(fā)社會層面的信任動蕩。從以往多個類似事件中不難發(fā)現(xiàn)，被造謠的公眾人物通常選擇發(fā)布官方聲明或者直接報案以證清白，但海量懷疑和審視的目光一旦落在他們身上，事情真相反而會被邊緣化，新一輪的腦補和猜想影響社會大眾對他們的評價，進(jìn)而損害公眾人物的職業(yè)生涯。
AI加持下，網(wǎng)絡(luò)謠言不光生成速度快，溯源難度也非比尋常。在越來越多由算法構(gòu)建的網(wǎng)絡(luò)環(huán)境里，謠言可以更精準(zhǔn)地投放到特定受眾跟前，再通過網(wǎng)絡(luò)四散開來。等大部分人反應(yīng)過來時，已經(jīng)很難找到謠言傳播的源頭，辟謠成本和難度大增，正應(yīng)了那句“造謠一張嘴，辟謠跑斷腿”。
數(shù)字時代，AI謠言的生成與治理，說到底是一個技術(shù)倫理的事情。早在AI大規(guī)模貼近現(xiàn)實生活之前，技術(shù)被創(chuàng)造出來的終極目標(biāo)是不損害人的生存與健康，促進(jìn)人類社會沿著合乎倫理和道德的方向可持續(xù)發(fā)展。可以說，當(dāng)前我們知曉的許多應(yīng)用在不同場景的人工智能技術(shù)都秉持了這一理念，但隨著AI技術(shù)的普及與應(yīng)用領(lǐng)域的拓寬，有一部分人為了個人利益或特定目的，利用技術(shù)制造謠言，讓網(wǎng)民陷入信任危機中，危害社會公共秩序。不得不強調(diào)的一點是，除了造謠內(nèi)容觸及公眾核心利益或是引發(fā)社會巨大關(guān)注，其實還有大量網(wǎng)絡(luò)謠言沒有浮出水面，這些失實內(nèi)容摻雜在各種信息里，就像一顆顆定時炸彈，在日復(fù)一日的信息篡改中造成危害。
那么，想要從根本上化解AI造假的亂象，最有效的方法還是技術(shù)把關(guān)，從源頭遏制AI謠言的生成和傳播。近年來，《生成式人工智能服務(wù)管理暫行辦法》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》都對AI生成內(nèi)容作出了強制標(biāo)記的要求，幫助受眾更加直白清晰地分辨內(nèi)容真假。不過，此要求主要針對發(fā)布在平臺上的AI短視頻，至于以圖文為傳播形式的AI內(nèi)容，有關(guān)部門不妨也盡快跟進(jìn)并實施類似的監(jiān)管措施。
再來，政策出臺的意義在于執(zhí)行，大模型工具企業(yè)和網(wǎng)絡(luò)平臺作為技術(shù)的開發(fā)者與主要傳播載體，也應(yīng)承擔(dān)起相應(yīng)的社會責(zé)任。例如，如何更直觀地標(biāo)記AI生成內(nèi)容？如何從技術(shù)層面建立防火墻，防止部分用戶以改變畫幅的形式抹去AI標(biāo)記？又或者，當(dāng)未經(jīng)證實的內(nèi)容經(jīng)過舉報達(dá)到一定閾值，平臺方能否自動啟動事實核查程序并限制傳播？以上問題還需要大模型工具企業(yè)和網(wǎng)絡(luò)平臺，繼續(xù)依照實際情況不斷探索和思考。
回過頭來看，“有頂流明星在澳門輸了10億”的AI謠言在警方的嚴(yán)打下落幕了，這一場鬧劇勢必會警醒更多人冷靜看待網(wǎng)絡(luò)信息，仔細(xì)分辨網(wǎng)絡(luò)內(nèi)容。但不管怎么樣， 我們不需要因此對技術(shù)產(chǎn)生恐懼，畢竟，比謠言更可怕的，是對真相的集體冷漠；比技術(shù)更強大的，是永不停歇的求真意識。
（江一葦）
