首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|低空經(jīng)濟|智能汽車|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片|報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 頭條固定一 >> 正文

“AI換臉擬聲”亂象頻出,怎么破?

2025年3月18日 07:18  CCTIME飛象網(wǎng)  

飛象網(wǎng)訊(易歡)“我經(jīng)常刷到非常知名的院士專家推薦某美白產(chǎn)品,自己也有這方面的困擾,因為是權(quán)威專家本人親推的就抱著試試的心態(tài)買了!”“看到自己非常喜歡的名人說用某某保健品親測有效,總?cè)滩蛔∠胍聠。”在人工智能快速滲透的當(dāng)下,短視頻平臺利用AI技術(shù)把名人明星換臉擬聲植入廣告,帶來受益的情景已然泛濫。這種通過科技在自媒體領(lǐng)域制造的營銷亂象真假難辨,不僅存在嚴(yán)重的侵權(quán)行為,也嚴(yán)重?fù)p害了消費者的合法權(quán)益。

相關(guān)數(shù)據(jù)顯示,僅 2024 年通過 AI 換臉實施的詐騙案件涉案金額就達 17.3 億元,而如今,在科技的加持下,消費者面臨著AI換臉+換聲的雙重威脅,高度真實感讓消費者們很難辨別信息真?zhèn)。?dāng)科技為人類生活提供極大便利的同時,如何合法合規(guī)的使用AI帶來正向價值,避免技術(shù)黑箱成為新型犯罪的溫床,保障用戶權(quán)益成為社會發(fā)展必須要考慮的關(guān)鍵問題。

“AI換臉擬聲”亂象頻出

毫無疑問,人工智能的快速發(fā)展,推動了AI換臉擬聲在影視、廣告、社交等領(lǐng)域的廣泛興起,成為極具傳播力、易成熱點的技術(shù)應(yīng)用。但同時也看到,AI換臉擬聲的不當(dāng)濫用成了違法侵權(quán)行為的重災(zāi)區(qū),易引發(fā)侵犯肖像權(quán)、侵犯公民個人信息以及詐騙等犯罪行為,甚至造成難以挽回的大規(guī)模形象和聲譽損害,損害消費者權(quán)益的同時帶來社會治理等風(fēng)險。

在今年兩會期間,“AI換臉”“AI擬聲”也成為熱議話題。其中,不少兩會代表們也深受其害,比如,全國人大代表、小米集團CEO雷軍在去年國慶期間,被人用AI捏造聲音亂說一氣,并以“雷軍語音包”的形式在網(wǎng)上流傳;全國政協(xié)委員、上海華山醫(yī)院醫(yī)生張文宏被AI換臉“帶貨”等,在所謂“操盤手”的套路之下,應(yīng)用AI技術(shù)擴散的虛假宣傳正在成為收割消費者的一種利器。

值得注意的是,目前,對于AI換臉的“反偵察”技術(shù)檢測尚無法做到百分百準(zhǔn)確,但AI深度合成技術(shù)所需素材卻具備獲取便利、技術(shù)使用門檻低的特性,面對AI換臉擬聲亂象,現(xiàn)有的法律法規(guī)尚不能完全滿足治理需求,亟須通過立法手段厘清邊界。

在兩會期間,小米集團CEO雷軍針對“AI換臉擬聲”等某一代表性問題,建議探索推出人工智能單行法,提高立法位階及其效力,分級分類的基礎(chǔ)上進行務(wù)實治理,明確“AI換臉擬聲”應(yīng)用邊界紅線,完善侵權(quán)證據(jù)規(guī)則,加大對利用人工智能技術(shù)實施犯罪行為的刑事處罰力度。

雷軍還建議強化行業(yè)自律共治,壓實平臺等各方的責(zé)任。支持平臺企業(yè)開發(fā)可精準(zhǔn)識別人工智能深度合成內(nèi)容的技術(shù)能力,優(yōu)化升級通信軟件和內(nèi)容平臺巡查審核機制、投訴舉報機制、應(yīng)急處理機制,確保及時阻斷問題內(nèi)容傳播。

不僅如此,他還強調(diào)要加強人工智能方面的法制宣傳教育,增強民眾的警惕性和鑒別力,聚焦重點人群,在中小學(xué)人工智能教材中加入倫理規(guī)范內(nèi)容,深入老年人聚居的社區(qū)開展相關(guān)知識普及活動,在全社會夯實“以人為本、智能向善”的人工智能發(fā)展生態(tài)。

人工智能健康有序發(fā)展可期

實際上,早在2022年11月,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,為深度合成服務(wù)劃定了“底線”和“紅線”,維護網(wǎng)絡(luò)空間良好生態(tài)。不過在實際操作中,仍存在一些模糊地帶。例如,對于個人使用“AI換臉擬聲”技術(shù)的界限、平臺審核責(zé)任的具體劃分,以及侵權(quán)賠償標(biāo)準(zhǔn)的確定等方面,還需進一步細(xì)化和明確。

為了更好的應(yīng)對在AI技術(shù)加持下的虛假信息泛濫、網(wǎng)絡(luò)信息治理等棘手問題,近日,國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識辦法》(以下簡稱《標(biāo)識辦法》),自2025年9月1日起施行。

《標(biāo)識辦法》提出,服務(wù)提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》第十六條的規(guī)定,在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識,隱式標(biāo)識包含生成合成內(nèi)容屬性信息、服務(wù)提供者名稱或者編碼、內(nèi)容編號等制作要素信息。鼓勵服務(wù)提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標(biāo)識。

《標(biāo)識辦法》要求,互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺在應(yīng)用程序上架或者上線審核時,應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說明是否提供人工智能生成合成服務(wù)。互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者提供人工智能生成合成服務(wù)的,互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)核驗其生成合成內(nèi)容標(biāo)識相關(guān)材料。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負(fù)責(zé)人表示,《標(biāo)識辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識”關(guān)鍵點,通過標(biāo)識提醒用戶辨別虛假信息,明確相關(guān)服務(wù)主體的標(biāo)識責(zé)任義務(wù),規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識行為,以合理成本提高安全性,促進人工智能在文本對話、內(nèi)容制作、輔助設(shè)計等各應(yīng)用場景加快落地,同時減輕人工智能生成合成技術(shù)濫用危害,防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險行為,推動人工智能健康有序發(fā)展。

在AI技術(shù)一路狂飆之下,換臉擬聲正在不斷模糊真實與虛構(gòu)的邊界,作為企業(yè)而言必須真正把科技向善的基因融入到算法中,才能更好的守護用戶的消費安全。與此同時,國家層面、相關(guān)企業(yè)、網(wǎng)絡(luò)平臺等也需要形成合力,促使AI換臉擬聲技術(shù)在合法、合規(guī)的軌道上健康發(fā)展。

編 輯:路金娣
飛象網(wǎng)版權(quán)及免責(zé)聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對于經(jīng)過授權(quán)可以轉(zhuǎn)載,請必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和飛象網(wǎng)來源。
2.凡注明“來源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點和對其真實性負(fù)責(zé)。
3.如因作品內(nèi)容、版權(quán)和其它問題,請在相關(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
vivo胡柏山:手機行業(yè)是最典型的新質(zhì)生產(chǎn)力代表
精彩專題
3·15權(quán)益日 | 共筑滿意消費 守護信息通信安全防線
聚焦2025全國兩會
2025年世界移動通信大會
低空經(jīng)濟2025:助力中國經(jīng)濟騰飛,成就高質(zhì)量發(fā)展
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像