|
||||||
AI“吸粉”亂象背后——
如何引導(dǎo)技術(shù)向善
外國(guó)人熟練演唱中文歌曲、銀發(fā)奶奶傳授養(yǎng)生秘訣、氛圍感女孩分享穿搭美學(xué)……社交媒體上，一些AI生成的視頻關(guān)注度頗高，“細(xì)節(jié)滿滿”讓很多網(wǎng)友信以為真。有媒體調(diào)查發(fā)現(xiàn)，不少社交賬號(hào)利用AI技術(shù)造假、博眼球快速“吸粉”起號(hào)，進(jìn)而變現(xiàn)。 近期，多個(gè)平臺(tái)對(duì)“AI起號(hào)”現(xiàn)象開(kāi)展專項(xiàng)治理行動(dòng)，清理違規(guī)內(nèi)容并封禁部分賬號(hào)。 現(xiàn)象 AI造假起號(hào)成新套路 廣西市民王夏經(jīng)常刷到這樣的視頻：“帥哥”“美女”高頻率更新日常生活，并在評(píng)論區(qū)與網(wǎng)友頻繁互動(dòng)。由于熟悉AI軟件，王夏很快發(fā)現(xiàn)這些視頻的主角是AI數(shù)字人，“但視頻沒(méi)有任何AI生成提示字樣，好幾個(gè)賬號(hào)顯示來(lái)自同一家MCN公司”。 當(dāng)前，生成式人工智能技術(shù)日益普及，不少內(nèi)容創(chuàng)作者通過(guò)AI創(chuàng)作出更具想象力的作品。但也有一些人利用AI造假，無(wú)底線博眼球，作為起號(hào)變現(xiàn)捷徑。 最近，跳水運(yùn)動(dòng)員全紅嬋因?yàn)椤皫蛬寢屚其N土雞蛋”登上熱搜。人氣很高的乒乓球運(yùn)動(dòng)員孫穎莎、王楚欽也發(fā)聲助陣，“孫穎莎”直言“我為嬋寶家農(nóng)家土雞蛋代言”，“王楚欽”則是“收到嬋妹私信”前來(lái)幫忙。 但媒體采訪調(diào)查發(fā)現(xiàn)，“奧運(yùn)冠軍帶貨”子虛烏有，他們的聲音是用AI工具合成的。在他們之前，知名演員靳東、劉曉慶，企業(yè)家雷軍等公眾人物，都曾遭遇相似問(wèn)題。除了讓被仿冒者口碑受損，造成網(wǎng)友、粉絲經(jīng)濟(jì)損失，技術(shù)造假如果得不到有效遏制，還會(huì)動(dòng)搖社會(huì)的信任基礎(chǔ)。有不少人擔(dān)心：如今眼見(jiàn)、耳聽(tīng)都不一定為實(shí)，還能相信什么？ 以此次“運(yùn)動(dòng)員代言土雞蛋”事件為例，違法者只需一款A(yù)I軟件，再找一段清晰的語(yǔ)音樣本，就能快速合成出自己設(shè)定好的內(nèi)容。幾位經(jīng)常出現(xiàn)在公眾場(chǎng)合的知名運(yùn)動(dòng)員的語(yǔ)音幾乎隨手就能搜到。侵權(quán)賬號(hào)也屬于難以辨別主體、數(shù)量龐大的“賬號(hào)矩陣”之一，被發(fā)現(xiàn)侵權(quán)后立即清空，將內(nèi)容遷移至別的賬號(hào)上。維權(quán)者要想在信息浩若煙海的互聯(lián)網(wǎng)上鎖定數(shù)字賬戶背后的侵權(quán)者、固定侵權(quán)證據(jù)，難度在不斷提高。 措施 阻斷AI造假起號(hào)利益鏈 當(dāng)前，主流網(wǎng)絡(luò)平臺(tái)普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng)，要求對(duì)AI生成作品添加標(biāo)注，但仍有一些人采用各種手段繞過(guò)審核。 “平臺(tái)甄別AI內(nèi)容主要依靠特征性技術(shù)痕跡，一些起號(hào)者通過(guò)多種手段削弱特征痕跡，逃避平臺(tái)標(biāo)注。”重慶理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院教授李彥說(shuō)，如通過(guò)微信轉(zhuǎn)壓縮等方式改變視頻文件代碼結(jié)構(gòu)，再上傳至平臺(tái)，就較難判定為AI生成內(nèi)容。 新華社記者用一款A(yù)I軟件生成一張人像圖片，裁掉AI生圖軟件水印后發(fā)布在社交平臺(tái)上。發(fā)布后，平臺(tái)系統(tǒng)并未自動(dòng)識(shí)別、提示添加標(biāo)注。相當(dāng)一部分網(wǎng)友辨別不出這是AI生成圖，紛紛點(diǎn)贊、發(fā)送私信。 “零基礎(chǔ)3天漲粉過(guò)萬(wàn)”“輕松月入過(guò)萬(wàn)”……近來(lái)，社交平臺(tái)上一批打著“AI變現(xiàn)”旗號(hào)的教程正以極具誘惑力的宣傳語(yǔ)吸引著不少人的目光。但據(jù)媒體報(bào)道，其實(shí)際內(nèi)容多為網(wǎng)上隨處可尋的基礎(chǔ)AI工具使用方法，按教程操作不僅難達(dá)宣傳效果，還可能因違規(guī)被平臺(tái)限制流量，且商家常缺乏有效售后，甚至“售后即失聯(lián)”。 在一些社交平臺(tái)上，有不少網(wǎng)友分享了被這類課程“坑”過(guò)的經(jīng)歷——有人付了錢只拿到些零散資料，自己對(duì)著學(xué)半天也摸不著門道；有人嘗試操作卻屢屢碰壁，于是調(diào)侃“現(xiàn)在防AI如防狼”；更有人想找商家咨詢，對(duì)方卻早已沒(méi)了蹤影，只能自認(rèn)倒霉。 AI培訓(xùn)課程虛假宣傳亂象叢生，已成為侵害消費(fèi)者權(quán)益的重災(zāi)區(qū)，眾多學(xué)員陷入“交錢易、維權(quán)難”的困境。在社交平臺(tái)，大量網(wǎng)友吐槽被AI培訓(xùn)課程“畫(huà)餅”欺騙，課程宣傳時(shí)承諾“AI起號(hào)輕松變現(xiàn)”“月入過(guò)萬(wàn)不是夢(mèng)”，甚至?xí)癯鎏摷俑呤找姘咐瑫r(shí)，這些課程常以“低價(jià)體驗(yàn)課”引流，后續(xù)層層誘導(dǎo)付費(fèi)，用“限時(shí)優(yōu)惠”制造緊迫感迫使學(xué)員沖動(dòng)購(gòu)買高價(jià)課，不少學(xué)員被誘導(dǎo)二次消費(fèi)，陷入“不續(xù)費(fèi)沒(méi)服務(wù)，續(xù)費(fèi)更入坑”的連環(huán)套。而當(dāng)學(xué)員發(fā)現(xiàn)課程與宣傳不符要求退費(fèi)時(shí)，商家會(huì)百般推脫，甚至直接失聯(lián)跑路，還會(huì)解散學(xué)習(xí)群、刪除聯(lián)系方式，切斷學(xué)員維權(quán)溝通渠道。 重慶公孝律師事務(wù)所執(zhí)行主任徐斌表示，AI造假起號(hào)灰色產(chǎn)業(yè)鏈?zhǔn)羌夹g(shù)異化的結(jié)果，可能造成低俗獵奇信息泛濫，加速虛假新聞、謠言傳播，擾亂網(wǎng)絡(luò)空間秩序，亟待加強(qiáng)清理整治。 今年4月以來(lái)，中央網(wǎng)信辦部署開(kāi)展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識(shí)缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象開(kāi)展重點(diǎn)整治。第一階段累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬(wàn)余條，處置賬號(hào)3700余個(gè)。 前不久，多家互聯(lián)網(wǎng)平臺(tái)發(fā)布專項(xiàng)治理公告，重點(diǎn)整治AI批量造假、AI起號(hào)引流帶貨、轉(zhuǎn)讓銷售AI虛擬賬號(hào)等違規(guī)行為。 北京郵電大學(xué)互聯(lián)網(wǎng)治理與法律研究中心執(zhí)行主任謝永江建議，技術(shù)提供者強(qiáng)化技術(shù)的安全性和合規(guī)性研發(fā)，提供技術(shù)支持和解決方案；平臺(tái)提高對(duì)深度偽造內(nèi)容的檢測(cè)精度，進(jìn)一步完善相關(guān)規(guī)則，明確對(duì)AI造假起號(hào)等違規(guī)行為的界定和處罰標(biāo)準(zhǔn)等。 反思 技術(shù)向善，任重道遠(yuǎn) 既然是違法乃至犯罪行為，不該也不能成為無(wú)解難題。隨著技術(shù)發(fā)展，此類違法行為還會(huì)增加并不斷變化，必須從技術(shù)和制度層面上筑牢防火墻，才能有效懲治違法行為，維護(hù)互聯(lián)網(wǎng)安全。 以技術(shù)治理技術(shù)是一條可取之道。如今一些社交媒體平臺(tái)已經(jīng)開(kāi)始試點(diǎn)在AI生成內(nèi)容上標(biāo)注提醒，今年9月1日起將實(shí)施的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》則明確要求“生成合成內(nèi)容添加顯式標(biāo)識(shí)”“提醒用戶主動(dòng)聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容”。同時(shí)，平臺(tái)也應(yīng)利用AI技術(shù)和大數(shù)據(jù)信息，及時(shí)分析比對(duì)違法內(nèi)容，主動(dòng)攔截、及時(shí)下架并保存數(shù)據(jù)作為證據(jù)。 社交平臺(tái)對(duì)這類“AI起號(hào)教程”的發(fā)布、售賣應(yīng)承擔(dān)怎樣的審核和監(jiān)管責(zé)任？中國(guó)人民大學(xué)法學(xué)院副教授黃尹旭表示，社交平臺(tái)應(yīng)承擔(dān)的審核和監(jiān)管責(zé)任包括：第一，內(nèi)容合規(guī)審查責(zé)任。平臺(tái)需依據(jù)《互聯(lián)網(wǎng)信息服務(wù)管理辦法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等規(guī)范，對(duì)AI起號(hào)教程進(jìn)行前置審核，確保其不包含虛假宣傳、賬號(hào)買賣，以及偽造身份、批量起號(hào)等違規(guī)操作指導(dǎo)。 第二，標(biāo)注與真實(shí)性核查責(zé)任。若教程涉及AI生成內(nèi)容，平臺(tái)應(yīng)要求發(fā)布者明確標(biāo)注“AI生成”，并核查其宣傳真實(shí)性，防止夸大或欺詐性營(yíng)銷。若平臺(tái)未核驗(yàn)AI起號(hào)教程的AI生成標(biāo)注，法院可推定其未盡合理注意義務(wù)；若平臺(tái)放任未標(biāo)注AI起號(hào)教程傳播的，可認(rèn)定其默許風(fēng)險(xiǎn)發(fā)生。 第三，動(dòng)態(tài)監(jiān)測(cè)與處置責(zé)任。建立技術(shù)監(jiān)測(cè)機(jī)制，提升深度偽造內(nèi)容檢測(cè)精度，完善AI造假行為界定標(biāo)準(zhǔn)和處罰規(guī)則，提高虛假內(nèi)容識(shí)別效率，從源頭上斬?cái)鄠鞑ユ湕l。對(duì)已發(fā)布的教程進(jìn)行持續(xù)篩查，發(fā)現(xiàn)違規(guī)后采取下架、限流、封號(hào)等措施，并向監(jiān)管部門報(bào)告。 加強(qiáng)AI技術(shù)治理，絕不是限制技術(shù)發(fā)展。技術(shù)本無(wú)錯(cuò)，為牟利踩踏法律紅線、踐踏他人權(quán)益的是藏在技術(shù)背后的人。加強(qiáng)治理利用AI技術(shù)違法犯罪，不僅是保護(hù)個(gè)體權(quán)益，也是為AI健康發(fā)展鋪平道路。將技術(shù)創(chuàng)新納入法律規(guī)范之中，是未來(lái)發(fā)展的必由之路，也考驗(yàn)我們的治理智慧。 （綜合新華社、《解放日?qǐng)?bào)》、法治網(wǎng)等）
|
