你的聲音，我們?cè)敢饴?tīng)見(jiàn)；
你的關(guān)切，我們一同看見(jiàn)。
公安部門(mén)又打假了。
近日，一則“有頂流明星在澳門(mén)輸了10億”的信息在網(wǎng)上掀起驚濤駭浪。“頂流”“澳門(mén)”“10億”等炸裂字眼迅速引發(fā)網(wǎng)友討論和猜測(cè)，短短72小時(shí)內(nèi)，該話題點(diǎn)擊量就破億。不過(guò)，所謂的“驚天大瓜”最終被證實(shí)為虛假信息。經(jīng)公安網(wǎng)安部門(mén)查明，該謠言是某網(wǎng)民為博取流量、謀取非法利益，使用AI技術(shù)輸入社會(huì)熱點(diǎn)詞制作而成，嚴(yán)重?cái)_亂公共秩序。目前，公安機(jī)關(guān)已根據(jù)相關(guān)法律法規(guī)，對(duì)該網(wǎng)民處以行政拘留8日的處罰。
實(shí)際上，這已經(jīng)不是第一起用AI技術(shù)生成的假消息了。從詐騙老年人錢(qián)財(cái)?shù)摹凹俳鶘|”，到用換臉技術(shù)冒充張文宏直播帶貨，再到更多網(wǎng)絡(luò)上“有憑有據(jù)”“有圖有真相”的內(nèi)部消息。越來(lái)越頻繁的網(wǎng)絡(luò)謠言提醒著人們，在人工智能時(shí)代下，AI的技術(shù)賦能很可能成為虛假信息的幫兇。在更為復(fù)雜的技術(shù)語(yǔ)境下去治理謠言，也成為擺在明面上的事。
不可否認(rèn)，AI憑借強(qiáng)大的信息處理能力在工作生活上給人們帶來(lái)了便利，但也正是這種技術(shù)處理太過(guò)于迅速，且能根據(jù)部分關(guān)鍵詞或指令就生成一份看起來(lái)“邏輯自洽”的謠言，一旦被有心人利用，很可能引發(fā)社會(huì)層面的信任動(dòng)蕩。從以往多個(gè)類(lèi)似事件中不難發(fā)現(xiàn)，被造謠的公眾人物通常選擇發(fā)布官方聲明或者直接報(bào)案以證清白，但海量懷疑和審視的目光一旦落在他們身上，事情真相反而會(huì)被邊緣化，新一輪的腦補(bǔ)和猜想影響社會(huì)大眾對(duì)他們的評(píng)價(jià)，進(jìn)而損害公眾人物的職業(yè)生涯。
AI加持下，網(wǎng)絡(luò)謠言不光生成速度快，溯源難度也非比尋常。在越來(lái)越多由算法構(gòu)建的網(wǎng)絡(luò)環(huán)境里，謠言可以更精準(zhǔn)地投放到特定受眾跟前，再通過(guò)網(wǎng)絡(luò)四散開(kāi)來(lái)。等大部分人反應(yīng)過(guò)來(lái)時(shí)，已經(jīng)很難找到謠言傳播的源頭，辟謠成本和難度大增，正應(yīng)了那句“造謠一張嘴，辟謠跑斷腿”。
數(shù)字時(shí)代，AI謠言的生成與治理，說(shuō)到底是一個(gè)技術(shù)倫理的事情。早在AI大規(guī)模貼近現(xiàn)實(shí)生活之前，技術(shù)被創(chuàng)造出來(lái)的終極目標(biāo)是不損害人的生存與健康，促進(jìn)人類(lèi)社會(huì)沿著合乎倫理和道德的方向可持續(xù)發(fā)展。可以說(shuō)，當(dāng)前我們知曉的許多應(yīng)用在不同場(chǎng)景的人工智能技術(shù)都秉持了這一理念，但隨著AI技術(shù)的普及與應(yīng)用領(lǐng)域的拓寬，有一部分人為了個(gè)人利益或特定目的，利用技術(shù)制造謠言，讓網(wǎng)民陷入信任危機(jī)中，危害社會(huì)公共秩序。不得不強(qiáng)調(diào)的一點(diǎn)是，除了造謠內(nèi)容觸及公眾核心利益或是引發(fā)社會(huì)巨大關(guān)注，其實(shí)還有大量網(wǎng)絡(luò)謠言沒(méi)有浮出水面，這些失實(shí)內(nèi)容摻雜在各種信息里，就像一顆顆定時(shí)炸彈，在日復(fù)一日的信息篡改中造成危害。
那么，想要從根本上化解AI造假的亂象，最有效的方法還是技術(shù)把關(guān)，從源頭遏制AI謠言的生成和傳播。近年來(lái)，《生成式人工智能服務(wù)管理暫行辦法》和《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》都對(duì)AI生成內(nèi)容作出了強(qiáng)制標(biāo)記的要求，幫助受眾更加直白清晰地分辨內(nèi)容真假。不過(guò)，此要求主要針對(duì)發(fā)布在平臺(tái)上的AI短視頻，至于以圖文為傳播形式的AI內(nèi)容，有關(guān)部門(mén)不妨也盡快跟進(jìn)并實(shí)施類(lèi)似的監(jiān)管措施。
再來(lái)，政策出臺(tái)的意義在于執(zhí)行，大模型工具企業(yè)和網(wǎng)絡(luò)平臺(tái)作為技術(shù)的開(kāi)發(fā)者與主要傳播載體，也應(yīng)承擔(dān)起相應(yīng)的社會(huì)責(zé)任。例如，如何更直觀地標(biāo)記AI生成內(nèi)容？如何從技術(shù)層面建立防火墻，防止部分用戶以改變畫(huà)幅的形式抹去AI標(biāo)記？又或者，當(dāng)未經(jīng)證實(shí)的內(nèi)容經(jīng)過(guò)舉報(bào)達(dá)到一定閾值，平臺(tái)方能否自動(dòng)啟動(dòng)事實(shí)核查程序并限制傳播？以上問(wèn)題還需要大模型工具企業(yè)和網(wǎng)絡(luò)平臺(tái)，繼續(xù)依照實(shí)際情況不斷探索和思考。
回過(guò)頭來(lái)看，“有頂流明星在澳門(mén)輸了10億”的AI謠言在警方的嚴(yán)打下落幕了，這一場(chǎng)鬧劇勢(shì)必會(huì)警醒更多人冷靜看待網(wǎng)絡(luò)信息，仔細(xì)分辨網(wǎng)絡(luò)內(nèi)容。但不管怎么樣， 我們不需要因此對(duì)技術(shù)產(chǎn)生恐懼，畢竟，比謠言更可怕的，是對(duì)真相的集體冷漠；比技術(shù)更強(qiáng)大的，是永不停歇的求真意識(shí)。
（江一葦）
