聊誠(chéng)評(píng)丨社會(huì)共治，粉碎AI謠言“黑箱”

　　□ 侯莎莎

　　“有圖有真相？”未必。

　　伴隨著人工智能（AI）技術(shù)的發(fā)展，制造和傳播網(wǎng)絡(luò)謠言的手段也在不斷演進(jìn)。AI換臉、深度合成技術(shù)被一些不法分子用來炮制謠言、吸粉引流、非法牟利，嚴(yán)重?cái)_亂了社會(huì)秩序。

　　2024年國(guó)慶節(jié)期間，大量使用AI技術(shù)偽造的“雷軍”配音視頻廣泛傳播，內(nèi)容涉及對(duì)國(guó)慶堵車、調(diào)休、游戲等熱門話題的吐槽，甚至包含低俗謾罵等不當(dāng)言論。雷軍在2025年全國(guó)兩會(huì)期間表示，此類AI換臉和擬聲技術(shù)濫用已成為違法侵權(quán)的重災(zāi)區(qū)。

　　類似事件并非個(gè)例。近期，一則“某超一線男星澳門賭博輸10億元”的謠言在網(wǎng)絡(luò)上迅速傳播。后經(jīng)公安網(wǎng)安部門查明，這是網(wǎng)民徐某強(qiáng)使用軟件“某書”中AI智慧生成功能炮制的謠言。

　　這些謠言的共同特點(diǎn)是：利用公眾對(duì)明星、民生、健康等熱點(diǎn)話題的關(guān)注，通過AI生成看似有理有據(jù)的內(nèi)容，混淆視聽、收割流量。

　　分析AI謠言泛濫的原因，一是AI造謠成本低、識(shí)別難。在AI技術(shù)的加持下，造謠者只需輸入簡(jiǎn)單指令，就能快速生成逼真的謠言內(nèi)容。二是AI生成合成的謠言借助了豐富的大模型語料庫(kù)，往往具有較高的迷惑性，使人難辨真?zhèn)巍?/p>

　　在生成式人工智能時(shí)代，我們面臨著更為嚴(yán)峻的謠言治理挑戰(zhàn)，亟需采取有效措施加以應(yīng)對(duì)。

　　《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確規(guī)定：深度合成服務(wù)提供者對(duì)使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)。這表明，AI生成內(nèi)容強(qiáng)制標(biāo)識(shí)在政策層面已經(jīng)達(dá)成了共識(shí)，并被納入治理軌道。

　　用AI技術(shù)對(duì)抗AI謠言。利用自然語言處理和機(jī)器學(xué)習(xí)算法，配合大數(shù)據(jù)，進(jìn)行網(wǎng)絡(luò)分析和源頭追溯，從文本來源可信度、語義一致性等特征，快速辨別可疑信息，加以標(biāo)記或刪除；緊跟技術(shù)發(fā)展，構(gòu)建人工智能辟謠新模式，建立輿情監(jiān)測(cè)系統(tǒng)，及時(shí)預(yù)警并采取措施，為網(wǎng)絡(luò)謠言傳播加上一道有力的“防火墻”。

　　抵制AI謠言除了依靠技術(shù)手段，還需政府、信息平臺(tái)、公眾共同努力，加強(qiáng)監(jiān)管和協(xié)作，如此，才能共同維護(hù)網(wǎng)絡(luò)空間秩序和安全。

　　政府、信息平臺(tái)要在AI風(fēng)險(xiǎn)管理機(jī)制、倫理標(biāo)準(zhǔn)認(rèn)證等方面進(jìn)行探索，幫助AI設(shè)計(jì)者、開發(fā)者、評(píng)估者更好管理AI運(yùn)用過程中可能出現(xiàn)的風(fēng)險(xiǎn)。

　　信息平臺(tái)要落實(shí)主體責(zé)任。建立完善的審核機(jī)制，對(duì)AI生成內(nèi)容進(jìn)行嚴(yán)格把關(guān)。提高對(duì)未標(biāo)注AI提示信息的合成內(nèi)容、被篡改短視頻的檢測(cè)識(shí)別能力，做到精準(zhǔn)監(jiān)測(cè)和干預(yù)；加強(qiáng)對(duì)平臺(tái)用戶的管理，對(duì)違規(guī)發(fā)布AI謠言的用戶及時(shí)處理。

　　對(duì)于網(wǎng)友而言，了解AI技術(shù)的基本原理和應(yīng)用范圍，增強(qiáng)對(duì)虛假信息的警惕性及鑒別力也至關(guān)重要。技術(shù)向善，始于你我。讓我們每一個(gè)人理性駕馭AI，用法律守護(hù)底線，共同維護(hù)清朗網(wǎng)絡(luò)空間。