社會新聞
“臺風(fēng)‘樺加沙’期間市民把汽車五花大綁”“海嘯來襲,上海撤離30萬居民”“上海退休教授靠陽臺核電池供電”“華山醫(yī)院前院長客死洛杉磯”……近年來,越來越多“新聞”出自AI之手,且因其逼真的視覺效果和情感沖擊力,在短時間內(nèi)就獲取了巨大流量。AI造假正以前所未有的傳播效率污染著我們的信息環(huán)境,稀釋甚至取代真實信息。
從表面看,AI新聞造假是技術(shù)濫用和流量追逐的結(jié)果。但深入分析,AI假新聞泛濫的根源,往往在于社會有效信息供給不足。
首先是信息披露時效不足。當(dāng)一些重大新聞事件發(fā)生時,公眾對于事件真相的好奇心被大大激發(fā)。但相關(guān)部門為確保信息的準確和全面,往往會遵循嚴謹?shù)男畔l(fā)布流程,客觀上存在一段時間的真相“空窗期”。一些不法分子正是利用這個時間窗口,快速生成虛假內(nèi)容,搶占公眾注意力。
其次是技術(shù)鑒別能力與工具供給不足。有些“無中生有”的內(nèi)容,光影效果、人物微表情甚至畫面噪點都模擬得極為逼真,讓專業(yè)人士也難辨真?zhèn)巍D壳,用于檢測AI生成內(nèi)容的技術(shù)工具尚未普及,普通用戶在面對可疑內(nèi)容時“手無寸鐵”,為造假者提供了可乘之機。
此外,行業(yè)治理規(guī)則與標準供給不足。從平臺的角度來看,批量炮制的假新聞給內(nèi)容治理帶來了不小的壓力。面對AI生成內(nèi)容,平臺要核實其真實性,同樣存在技術(shù)性與機制性難點,也給AI假信息傳播留下了一定的空間。
可喜的是,近日施行的《人工智能生成合成內(nèi)容標識辦法》,要求人工智能生成合成內(nèi)容必須添加標識。多家互聯(lián)網(wǎng)平臺也積極跟進,要求內(nèi)容發(fā)布者以顯著方式主動標識AI生成內(nèi)容。不少AI技術(shù)公司也在開發(fā)更先進的內(nèi)容檢測工具,幫助識別AI生成內(nèi)容。這些措施正在逐步構(gòu)建起治理AI造假的多重防線。
唯有權(quán)威信源跑贏謠言、技術(shù)工具賦能大眾、治理規(guī)則完善健全,我們才能構(gòu)建一個更加清朗、健康、可信的信息生態(tài),讓技術(shù)服務(wù)于人們對了解真實世界的需求。(評論員程思琪)
![]() |
![]() |
![]() |
![]() |
焦作網(wǎng)免責(zé)聲明: | |||||||
|
“臺風(fēng)‘樺加沙’期間市民把汽車五花大綁”“海嘯來襲,上海撤離30萬居民”“上海退休教授靠陽臺核電池供電”“華山醫(yī)院前院長客死洛杉磯”……近年來,越來越多“新聞”出自AI之手,且因其逼真的視覺效果和情感沖擊力,在短時間內(nèi)就獲取了巨大流量。AI造假正以前所未有的傳播效率污染著我們的信息環(huán)境,稀釋甚至取代真實信息。
從表面看,AI新聞造假是技術(shù)濫用和流量追逐的結(jié)果。但深入分析,AI假新聞泛濫的根源,往往在于社會有效信息供給不足。
首先是信息披露時效不足。當(dāng)一些重大新聞事件發(fā)生時,公眾對于事件真相的好奇心被大大激發(fā)。但相關(guān)部門為確保信息的準確和全面,往往會遵循嚴謹?shù)男畔l(fā)布流程,客觀上存在一段時間的真相“空窗期”。一些不法分子正是利用這個時間窗口,快速生成虛假內(nèi)容,搶占公眾注意力。
其次是技術(shù)鑒別能力與工具供給不足。有些“無中生有”的內(nèi)容,光影效果、人物微表情甚至畫面噪點都模擬得極為逼真,讓專業(yè)人士也難辨真?zhèn)。目前,用于檢測AI生成內(nèi)容的技術(shù)工具尚未普及,普通用戶在面對可疑內(nèi)容時“手無寸鐵”,為造假者提供了可乘之機。
此外,行業(yè)治理規(guī)則與標準供給不足。從平臺的角度來看,批量炮制的假新聞給內(nèi)容治理帶來了不小的壓力。面對AI生成內(nèi)容,平臺要核實其真實性,同樣存在技術(shù)性與機制性難點,也給AI假信息傳播留下了一定的空間。
可喜的是,近日施行的《人工智能生成合成內(nèi)容標識辦法》,要求人工智能生成合成內(nèi)容必須添加標識。多家互聯(lián)網(wǎng)平臺也積極跟進,要求內(nèi)容發(fā)布者以顯著方式主動標識AI生成內(nèi)容。不少AI技術(shù)公司也在開發(fā)更先進的內(nèi)容檢測工具,幫助識別AI生成內(nèi)容。這些措施正在逐步構(gòu)建起治理AI造假的多重防線。
唯有權(quán)威信源跑贏謠言、技術(shù)工具賦能大眾、治理規(guī)則完善健全,我們才能構(gòu)建一個更加清朗、健康、可信的信息生態(tài),讓技術(shù)服務(wù)于人們對了解真實世界的需求。(評論員程思琪)
![]() |
|
![]() |
焦作網(wǎng)免責(zé)聲明: | |||||||
|
|
|