我們每天上網(wǎng)看到的海量圖文、視頻，有多少是人工智能生成合成的？如何準(zhǔn)確分辨AI文章、AI圖片、AI視頻？近日，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見(jiàn)稿）》（以下簡(jiǎn)稱《意見(jiàn)稿》），擬規(guī)定服務(wù)提供者提供的生成合成服務(wù)，包括文本、音頻、圖片、視頻、虛擬場(chǎng)景等，均應(yīng)在適當(dāng)位置添加顯著的提示標(biāo)識(shí)；服務(wù)提供者提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等方式時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)。

隨著人工智能技術(shù)的迅猛發(fā)展，AI合成成本低、制作容易、出品太快，使得這類合成內(nèi)容逐漸滲透到生活的方方面面，從文字、圖片到音頻、視頻，無(wú)時(shí)不在、無(wú)處不在。隨之而來(lái)的是一系列倫理和社會(huì)問(wèn)題，AI合成被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等，影響傳播秩序和社會(huì)秩序，損害人民群眾合法權(quán)益，危害國(guó)家安全和社會(huì)穩(wěn)定。

或許有人說(shuō)，用人工智能技術(shù)合成，是“弄著玩”或“開(kāi)玩笑”，給網(wǎng)絡(luò)生活加點(diǎn)“調(diào)料”，沒(méi)有惡意。可即便如此，也會(huì)造成公眾對(duì)信息的誤會(huì)或誤判，極易導(dǎo)致不良社會(huì)后果。因此，顯著標(biāo)識(shí)AI合成內(nèi)容變得至關(guān)重要，而《意見(jiàn)稿》劃定了人工智能技術(shù)合成服務(wù)的底線和紅線。如此明確設(shè)定，具有很強(qiáng)的針對(duì)性，將減少由此導(dǎo)致的信任危機(jī)，對(duì)于防范化解網(wǎng)絡(luò)安全風(fēng)險(xiǎn)具有建設(shè)性作用。

眾所周知，網(wǎng)絡(luò)上每天產(chǎn)生的圖文、視頻等海量信息，傳播的路徑非常廣闊，傳播的速度異常快捷。但是，隨著深度學(xué)習(xí)和生成對(duì)抗網(wǎng)絡(luò)等先進(jìn)技術(shù)的介入，使得AI合成內(nèi)容越來(lái)越逼真，這種技術(shù)進(jìn)步存在被濫用的風(fēng)險(xiǎn)。這可能導(dǎo)致公眾對(duì)媒體和信息的普遍不信任，進(jìn)而引發(fā)社會(huì)信任危機(jī)并擾亂社會(huì)秩序。而目前許多國(guó)家尚未有完善的法律框架來(lái)規(guī)范AI合成內(nèi)容的使用，導(dǎo)致出現(xiàn)對(duì)這一網(wǎng)絡(luò)空間的監(jiān)管盲區(qū)。亟待有關(guān)部門出臺(tái)過(guò)渡性監(jiān)管措施，為法制監(jiān)管相關(guān)領(lǐng)域打下堅(jiān)實(shí)基礎(chǔ)，催生新的立法和監(jiān)管措施。

為此，規(guī)定設(shè)置顯式標(biāo)識(shí)，體現(xiàn)了對(duì)透明性和真實(shí)性的尊重，這是維護(hù)社會(huì)誠(chéng)信和公共安全的基本要求。這一規(guī)定，非常具有現(xiàn)實(shí)針對(duì)性、必要性。保障了用戶的知情權(quán)和選擇權(quán)，使用戶能夠自主決定是否接觸和信任這些由AI合成的特定內(nèi)容。這樣做，增加了一定成本，但對(duì)于提高透明度和建立信任至關(guān)重要；幫助公眾區(qū)分真實(shí)與合成內(nèi)容，減少信息混亂；有助于防止這種潛在的大規(guī)模操控行為；明確內(nèi)容的來(lái)源和制作者，有助于在發(fā)生侵權(quán)或欺詐行為時(shí)追究相關(guān)責(zé)任。

隨著AI技術(shù)不斷進(jìn)步，AI合成內(nèi)容將更加難以分辨，這必將會(huì)給顯式標(biāo)識(shí)帶來(lái)新的挑戰(zhàn)。未來(lái)可能需要更復(fù)雜的技術(shù)手段和國(guó)際合作來(lái)實(shí)現(xiàn)跨平臺(tái)、跨媒介的顯式標(biāo)識(shí)。同時(shí)，如何平衡技術(shù)發(fā)展與社會(huì)倫理，制定全球統(tǒng)一的標(biāo)準(zhǔn)和法規(guī)也是未來(lái)需要面對(duì)的重要問(wèn)題。我們應(yīng)當(dāng)推動(dòng)相關(guān)政策、技術(shù)和倫理規(guī)范的完善，以確保AI技術(shù)的健康發(fā)展和應(yīng)用。