(資料圖)
6月20日，國家互聯(lián)網(wǎng)信息辦公室（下稱“網(wǎng)信辦”）發(fā)布境內(nèi)深度合成服務(wù)算法備案清單，其中包括美團(tuán)在線智能客服算法、快手短視頻生成合成算法、百度文生圖內(nèi)容生成算法、百度PLATO大模型算法、天貓小蜜智能客服算法等41則深度合成服務(wù)算法備案信息。
“算法備案同審查與評估一樣，是監(jiān)管重要環(huán)節(jié)之一，備案清單的發(fā)布有利于促使備案單位進(jìn)一步加強(qiáng)合規(guī)管理?！惫ば挪啃禄ㄖ卮箜?xiàng)目評審專家、北京郵電大學(xué)科技園元宇宙產(chǎn)業(yè)協(xié)同創(chuàng)新中心執(zhí)行主任陳曉華在接受《證券日報(bào)》記者采訪時(shí)表示，這體現(xiàn)了我國對此輪人工智能引領(lǐng)的科技變革的重視，針對生成式算法的法規(guī)標(biāo)準(zhǔn)化步伐正在加速推進(jìn)。隨著相關(guān)監(jiān)管條例逐步清晰，我國AI產(chǎn)業(yè)生態(tài)將更加規(guī)范有序。
所謂深度合成技術(shù)是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。去年12月份，由網(wǎng)信辦等三部門發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（下稱《規(guī)定》）明確，具有輿論屬性或者社會動(dòng)員能力的深度合成服務(wù)提供者，應(yīng)當(dāng)按照相關(guān)規(guī)定履行備案和變更、注銷備案手續(xù)。同時(shí)，完成備案的深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)在其對外提供服務(wù)的網(wǎng)站、應(yīng)用程序等的顯著位置標(biāo)明其備案編號并提供公示信息鏈接。
“設(shè)立境內(nèi)深度合成服務(wù)算法備案清單是對《規(guī)定》的貫徹和落實(shí)，旨在對尚未履行備案手續(xù)的深度合成服務(wù)提供者和技術(shù)支持者起到引導(dǎo)作用，也讓公眾獲得了解、查詢相關(guān)主體是否履行備案手續(xù)的渠道?！眹坡蓭煟ㄉ虾＃┦聞?wù)所律師朱奕奕對《證券日報(bào)》記者表示。
深度合成技術(shù)最大的特點(diǎn)之一是“以假亂真”，通過人工智能和大數(shù)據(jù)算法合成的虛擬數(shù)據(jù)能夠使人難辨真假。例如，5月8日，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，涉案金額超330萬元。據(jù)相關(guān)通報(bào)，行騙者通過AI換臉和擬聲技術(shù)，佯裝受害者熟人以實(shí)施詐騙。
對此，清華大學(xué)研究生院院長周杰表示，深度合成技術(shù)快速發(fā)展的同時(shí)，也帶來了新的安全風(fēng)險(xiǎn)。誤用、濫用以及惡意使用深度合成技術(shù)生成的數(shù)據(jù)，將為個(gè)人、企業(yè)帶來聲譽(yù)損害和財(cái)產(chǎn)損失，甚至對國家安全、社會穩(wěn)定造成威脅。
在此背景下，生成式AI（AIGC）產(chǎn)品進(jìn)一步規(guī)范迫在眉睫。在朱奕奕看來，此次網(wǎng)信辦發(fā)布境內(nèi)深度合成服務(wù)算法備案清單，將引導(dǎo)尚未履行備案手續(xù)的深度合成服務(wù)提供者和技術(shù)支持者盡快申請備案。同時(shí)，也方便公眾了解相關(guān)信息后進(jìn)行監(jiān)督、投訴、舉報(bào)。
對于相關(guān)企業(yè)來說，朱奕奕表示，一方面應(yīng)依法履行備案手續(xù)，在提供深度合成服務(wù)時(shí)應(yīng)嚴(yán)格遵守相關(guān)法律法規(guī)、行業(yè)標(biāo)準(zhǔn)、準(zhǔn)則及自律管理制度，尊重社會公德和倫理道德；另一方面，應(yīng)積極承擔(dān)起社會監(jiān)督責(zé)任，例如在運(yùn)營過程中發(fā)現(xiàn)違法和不良信息的，應(yīng)當(dāng)依法采取處置措施，保存有關(guān)記錄，及時(shí)向網(wǎng)信部門和有關(guān)主管部門報(bào)告。
此外，朱奕奕提示，相關(guān)規(guī)定中僅明確了通過隱瞞有關(guān)情況、提供虛假材料等不正當(dāng)手段取得備案情況下的法律責(zé)任，但并未規(guī)定未履行備案手續(xù)而直接提供深度合成服務(wù)，或未履行備案手續(xù)而直接為深度合成服務(wù)提供技術(shù)支持的法律責(zé)任。后續(xù)需在配套政策細(xì)則中予以補(bǔ)充、完善。
關(guān)注公眾號：人民網(wǎng)財(cái)經(jīng)標(biāo)簽：
