近日,公安部公布近期打擊整治網(wǎng)絡(luò )謠言10起典型案例,其中4起涉及使用人工智能工具生成和傳播謠言。這些涉“AI造謠”案件中,“廣州限制外賣(mài)配送”謠言案尤為典型。
2023年12月19日,有網(wǎng)民在今日頭條平臺發(fā)布“廣州即將成為全國首個(gè)限制外賣(mài)配送的城市”,迅速引發(fā)關(guān)注形成網(wǎng)絡(luò )熱搜。經(jīng)查,四川德陽(yáng)網(wǎng)民楊某組織招攬廣東江門(mén)網(wǎng)民葉某英等多名兼職人員,使用人工智能工具批量生成不實(shí)文章引流牟利。最終,涉案6人被采取刑事強制措施。其余3起案件中,涉案人均被處以行政處罰。這些案件顯示,伴隨AI技術(shù)的迅猛發(fā)展,“AI造謠”的情況日益增多,對此進(jìn)行治理已經(jīng)刻不容緩。
在自媒體時(shí)代,一些自媒體從業(yè)人員為了攫取利潤盲目追逐流量,當流量誘惑達到一定程度時(shí),他們不惜冒各種風(fēng)險甚至違法犯罪,其中最普遍的一種就是網(wǎng)絡(luò )造假傳謠。而AI技術(shù)在近兩年發(fā)展很快,大大降低了使用門(mén)檻,同時(shí)因為其更“善解人意”“以假亂真”,很快被派上了用場(chǎng)。
技術(shù)是中性的,本身并不能分辨善惡。一種新技術(shù)出現既可以為善,也可以助惡。一旦某種技術(shù)可能用于為惡,最終就會(huì )有人這么做,這也符合“墨菲定律”。當無(wú)底線(xiàn)追逐流量的自媒體盯上新興的AI技術(shù),結果便是為追逐流量造假變得更容易,造假效果更強,造成的損失也更大。
“廣州限制外賣(mài)配送”就屬于此種情況。當造謠者為吸引眼球編造謠言,幾乎無(wú)需成本,使用人工智能工具就可以批量生成不實(shí)文章引流牟利,這種幾乎沒(méi)有成本的謠言造成的后果,可能對一個(gè)巨大體量的行業(yè)造成沖擊,讓這個(gè)行業(yè)上下游所涉及的人都會(huì )受到直接或間接的影響。
當前,作為一種新型謠言傳播方式與犯罪手段,“AI造謠”擾亂了輿論秩序,也危害經(jīng)濟和社會(huì )平穩運行。不過(guò),現階段治理“AI造謠”也存在不少司法層面和社會(huì )治理層面的難點(diǎn)、堵點(diǎn),其中較為突出的是“AI造謠”的“定性難”“入罪難”問(wèn)題。相較于之前的網(wǎng)絡(luò )謠言違法行為,“AI造謠”成本低、門(mén)檻低、傳播廣、獲利小、破壞大,對正常經(jīng)濟和社會(huì )秩序有較強的危害性,但目前“多為行政處罰、刑事處罰較少”的治理力度,客觀(guān)上難以形成有力震懾,進(jìn)而縱容相關(guān)“黑灰產(chǎn)”野蠻擴張。
針對這一局面,相關(guān)部門(mén)已經(jīng)有所回應。2023年9月,最高人民法院、最高人民檢察院、公安部聯(lián)合發(fā)布的《關(guān)于依法懲治網(wǎng)絡(luò )暴力違法犯罪的指導意見(jiàn)》指出,對實(shí)施網(wǎng)絡(luò )暴力違法犯罪者利用“深度合成”等生成式人工智能技術(shù)發(fā)布違法信息,將依法從重處罰。此次廣東警方對“廣州限制外賣(mài)配送”謠言案中涉案人采取刑事強制措施,也體現了對“AI造謠”的堅決整治態(tài)度,或將成為打擊治理“AI造謠”的樣板案例。 (本文來(lái)源:經(jīng)濟日報 作者:賈安平)