【資料圖】

知名央視主持人現(xiàn)身網(wǎng)絡(luò)直播間？竟然還播報起虛假廣告？近日，北京市場監(jiān)管部門查處了首例利用人工智能（AI）技術(shù)進行虛假廣告宣傳的案件。北京一公司在直播中宣稱其產(chǎn)品能夠治療多種疾病，而實際該產(chǎn)品僅為普通食品，不具備疾病治療功能。此外，直播中還出現(xiàn)了知名央視主持人的形象，經(jīng)鑒定，該形象完全是利用AI技術(shù)偽造生成。

近年來，人工智能技術(shù)日益成熟，“AI換臉”的技術(shù)門檻大幅降低，如今僅憑一張圖片、一段聲音，就能生成高度逼真的偽造視頻。這讓一些不法商家心生歹念，利用AI深度偽造科學(xué)家、醫(yī)生、運動員、演員等知名人士的面容和聲音，炮制出一個個AI“李鬼”。

這類新型違法行為不僅侵犯了被仿冒者的合法權(quán)益，營造出“權(quán)威背書”的假象對公眾實施欺詐，給內(nèi)容安全帶來挑戰(zhàn)，更蠶食著社會賴以運轉(zhuǎn)的信任基礎(chǔ)。當(dāng)作假的圖像被AI包裝成“有鼻子有眼”的視頻肆意擴散，當(dāng)仿冒的名人形象在直播間里一本正經(jīng)兜售偽劣商品，當(dāng)電信詐騙者的聲音和容貌竟然與受害者的家人一模一樣……在AI生成內(nèi)容紛繁復(fù)雜的今天，倘若“眼見為實”不復(fù)存在，社會信任又該如何維系？

為解決AI生成內(nèi)容以假亂真的問題，今年9月，我國《人工智能生成合成內(nèi)容標(biāo)識辦法》正式施行。該辦法明確要求所有AI生成的文字、圖片、視頻等內(nèi)容必須添加顯式標(biāo)識“亮明身份”，同時鼓勵添加數(shù)字水印等隱式標(biāo)識，讓公眾明確知道哪些內(nèi)容可能源自AI生成。既然已有規(guī)定，有關(guān)部門就應(yīng)加大監(jiān)管和執(zhí)法力度，對違反相關(guān)規(guī)定的平臺和個人依法查處，形成震懾。此次北京市場監(jiān)管部門查處相關(guān)案件，就開了個好頭，釋放出對“AI造”加強監(jiān)管的強烈信號。

內(nèi)容傳播平臺、AI生成服務(wù)平臺和應(yīng)用程序分發(fā)平臺則要盡到相應(yīng)的責(zé)任義務(wù)，落實好有關(guān)要求，進一步優(yōu)化AI識別技術(shù)，加強鑒偽追溯能力，與監(jiān)管部門同向發(fā)力，守好“真實”的邊界。與此同時，廣大網(wǎng)民也要保持警惕，加強對信息真?zhèn)蔚恼鐒e，不被虛假信息蒙蔽雙眼。

當(dāng)前，我國人工智能技術(shù)正在飛速發(fā)展，針對不同應(yīng)用場景的安全標(biāo)準(zhǔn)和法律準(zhǔn)則在不斷完善中。構(gòu)建良好網(wǎng)絡(luò)生態(tài)，需要各方共同努力，把“眼見為實”的網(wǎng)絡(luò)空間還給我們每個人，守護好社會信任的根基。（文/陳可軒）

標(biāo)簽： 生成 內(nèi)容 技術(shù) 人工智能 平臺