国产乱码二卡3卡四卡|51视频精品全部免费|日本一区免费观看|五月综合色婷婷影院在线观看|国产在线天堂av

生成式人工智能技術(shù)因ChatGPT的爆火而獲得了社會(huì)各界的廣泛關(guān)注，并在近年來(lái)取得了突飛猛進(jìn)的發(fā)展。然而，其強(qiáng)大的學(xué)習(xí)與生成能力也帶來(lái)了諸如惡意輸出、版權(quán)侵犯、深度偽造等熱點(diǎn)安全問題。2023年10月18日，習(xí)近平主席在第三屆“一帶一路”國(guó)際合作高峰論壇開幕式主旨演講中提出《全球人工智能治理倡議》，指出“人工智能治理攸關(guān)全人類命運(yùn)，是世界各國(guó)面臨的共同課題”，應(yīng)當(dāng)“共同做好風(fēng)險(xiǎn)防范，形成具有廣泛共識(shí)的人工智能治理框架和標(biāo)準(zhǔn)規(guī)范，不斷提升人工智能技術(shù)的安全性、可靠性、可控性、公平性”。在此背景下，國(guó)家網(wǎng)信辦發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》（以下簡(jiǎn)稱《辦法》）以及配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法（征求意見稿）》（以下簡(jiǎn)稱《標(biāo)準(zhǔn)》）。《辦法》、《標(biāo)準(zhǔn)》的提出，旨在應(yīng)對(duì)人工智能技術(shù)發(fā)展帶來(lái)的新型挑戰(zhàn)，通過(guò)構(gòu)建標(biāo)識(shí)驗(yàn)證技術(shù)體系，有效識(shí)別和管理合成內(nèi)容，保障信息的真實(shí)性與公正性，維護(hù)技術(shù)的穩(wěn)定發(fā)展和社會(huì)秩序。

一、規(guī)范內(nèi)容標(biāo)識(shí)，防范誤解與濫用風(fēng)險(xiǎn)

隨著人工智能技術(shù)的快速發(fā)展，AI生成合成內(nèi)容的逼真度不斷提升，其與真實(shí)信息的界限日益模糊。這種高度仿真的內(nèi)容不僅容易造成公眾誤解，更有可能被不法分子利用，對(duì)個(gè)人隱私、組織聲譽(yù)以及社會(huì)穩(wěn)定、國(guó)家安全產(chǎn)生巨大危害。《辦法》和《標(biāo)準(zhǔn)》立足于規(guī)范化人工智能生成合成內(nèi)容的標(biāo)識(shí)方法，明確了使用的技術(shù)手段和基本目標(biāo)，并提出了一系列的檢測(cè)手段和添加目標(biāo)，解決了當(dāng)前人工智能面臨的諸多問題。

首先是人工智能生成合成內(nèi)容混淆誤認(rèn)的問題。當(dāng)前，公眾在獲取和傳播信息時(shí)，常常難以分辨由AI生成的內(nèi)容，導(dǎo)致公眾錯(cuò)誤傳播。為防止AI生成內(nèi)容被錯(cuò)誤傳播或被公眾誤認(rèn)為真實(shí)信息，《標(biāo)準(zhǔn)》采用顯式標(biāo)識(shí)的方法，在生成內(nèi)容的顯著地方提示用戶該內(nèi)容為人工智能生成合成。這種措施旨在提高公眾的辨識(shí)能力，促進(jìn)信息傳播的真實(shí)性和可靠性，同時(shí)也為內(nèi)容創(chuàng)作者和合規(guī)檢測(cè)平臺(tái)提供了明確的操作指南。

其次是AI生成內(nèi)容可能被惡意使用或?yàn)E用的問題。當(dāng)前生成式人工智能性能出色，使用門檻低，任何人都可能輕易生成大量AI生成的內(nèi)容，從而增加了濫用或惡意使用的風(fēng)險(xiǎn)。《標(biāo)準(zhǔn)》采用隱式標(biāo)識(shí)的方法，在不影響內(nèi)容呈現(xiàn)的同時(shí)，在生成內(nèi)容中嵌入可追溯信息。我們可以在發(fā)現(xiàn)內(nèi)容被濫用或惡意使用時(shí)，迅速追溯其來(lái)源，確定責(zé)任主體，從而有效遏制惡意使用行為，維護(hù)網(wǎng)絡(luò)空間秩序。同時(shí)，這種方法也為后續(xù)的監(jiān)管執(zhí)法、糾紛處理提供了關(guān)鍵的技術(shù)支持。

二、標(biāo)準(zhǔn)化多模態(tài)標(biāo)識(shí)與全周期監(jiān)管，推動(dòng)AI健康發(fā)展

生成式人工智能重塑了人類與技術(shù)的交互方式，改變了知識(shí)信息的生產(chǎn)方式，涉及范圍廣，應(yīng)用模態(tài)多，涉及場(chǎng)景復(fù)雜。不充分、不協(xié)調(diào)、不完整的標(biāo)識(shí)技術(shù)與應(yīng)用覆蓋將會(huì)對(duì)網(wǎng)絡(luò)信息空間安全帶來(lái)巨大隱患。

《辦法》和《標(biāo)準(zhǔn)》充分結(jié)合人工智能生成合成內(nèi)容的典型應(yīng)用場(chǎng)景，圍繞相關(guān)關(guān)鍵技術(shù)環(huán)節(jié)提出多項(xiàng)條款，為應(yīng)對(duì)多種可能存在的風(fēng)險(xiǎn)場(chǎng)合提出合適的生成標(biāo)識(shí)方法，有效推動(dòng)生成式人工智能技術(shù)健康發(fā)展。針對(duì)不同場(chǎng)景，《標(biāo)準(zhǔn)》以顯式標(biāo)識(shí)為主，隱式標(biāo)識(shí)為輔，圍繞相關(guān)關(guān)鍵技術(shù)環(huán)節(jié)提出多項(xiàng)舉措以加強(qiáng)監(jiān)管治理：一是明確了顯式與隱式標(biāo)識(shí)結(jié)合的方案。未經(jīng)監(jiān)管的生成內(nèi)容存在難以辨別真假、缺乏透明度且易于構(gòu)造誤導(dǎo)信息的潛在威脅，《標(biāo)準(zhǔn)》在顯式上注重標(biāo)識(shí)的易添加和易檢測(cè)，在隱式上注重標(biāo)識(shí)的安全性和不可篡改性，從而保證生成內(nèi)容溯源可查以降低風(fēng)險(xiǎn)。二是確立了多種模態(tài)下的治理手段。多模態(tài)技術(shù)發(fā)達(dá)且不同的模態(tài)具有獨(dú)特的數(shù)據(jù)表征，《標(biāo)準(zhǔn)》針對(duì)主流的生成式人工智能應(yīng)用音、視、圖、文四種模態(tài)各自獨(dú)特的應(yīng)用特點(diǎn)提出相應(yīng)的約束，從而提高各界對(duì)生成內(nèi)容的識(shí)別能力。三是覆蓋了人工智能生命全周期。《標(biāo)準(zhǔn)》確保從制作、發(fā)布、下載的每個(gè)階段都符合相應(yīng)的安全要求，提出各個(gè)環(huán)節(jié)下嚴(yán)格的技術(shù)規(guī)范和管理措施，有助于保障人工智能技術(shù)在發(fā)展階段始終符合隱私保護(hù)和安全防控的要求，以全方位指導(dǎo)規(guī)范生成式人工智能合規(guī)應(yīng)用。

三、推進(jìn)開放產(chǎn)業(yè)生態(tài)建設(shè)，作出中國(guó)回答

《辦法》和《標(biāo)準(zhǔn)》的制定和出臺(tái)，是我國(guó)推進(jìn)生成式人工智能服務(wù)領(lǐng)域治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措。在生成式人工智能發(fā)展的新階段，如何劃定合理的安全紅線，建立安全、開放、公平、符合國(guó)情的人工智能產(chǎn)業(yè)生態(tài)，推動(dòng)人工智能技術(shù)的健康發(fā)展，成為了管理者與相關(guān)從業(yè)者即將面臨的一大難點(diǎn)。

針對(duì)這一問題，《標(biāo)準(zhǔn)》作出了回應(yīng)。一是加強(qiáng)技術(shù)，提升多模態(tài)全周期場(chǎng)景下人工智能生成合成內(nèi)容的標(biāo)識(shí)與檢測(cè)能力，指導(dǎo)相關(guān)安全平臺(tái)的建設(shè)。二是提升管理，《標(biāo)準(zhǔn)》積極引導(dǎo)企業(yè)正確理解并落實(shí)強(qiáng)制性國(guó)家標(biāo)準(zhǔn)要求，幫助部門督促指導(dǎo)當(dāng)?shù)仄髽I(yè)貫徹強(qiáng)制性國(guó)家標(biāo)準(zhǔn)要求，提升整體監(jiān)管效能。三是落實(shí)“包容審慎”，正視中國(guó)的技術(shù)發(fā)展與產(chǎn)業(yè)現(xiàn)狀，積極聽取群眾的建議，完善制度與政策。在人工智能技術(shù)快速發(fā)展的時(shí)期，我們要平衡安全監(jiān)管與創(chuàng)新引導(dǎo)，推動(dòng)健康發(fā)展，促進(jìn)社會(huì)活力，建立良好的產(chǎn)業(yè)生態(tài)。《辦法》和《標(biāo)準(zhǔn)》通過(guò)明確發(fā)展與安全并重的原則，構(gòu)建生成式AI的安全治理環(huán)境，幫助公眾識(shí)別人工智能生成合成內(nèi)容，保障信息安全，促進(jìn)協(xié)同治理與良性發(fā)展。

生成式人工智能擁有巨大的潛力，很可能在未來(lái)對(duì)人類經(jīng)濟(jì)、政治、社會(huì)、文化、軍事各方面產(chǎn)生深刻影響。面對(duì)核心技術(shù)革新帶來(lái)的巨大挑戰(zhàn)，《辦法》和《標(biāo)準(zhǔn)》對(duì)于人工智能產(chǎn)業(yè)的開發(fā)部署、檢測(cè)評(píng)估、合規(guī)管理以及安全應(yīng)用有著重要的指導(dǎo)作用，讓中國(guó)能夠在全球智能技術(shù)浪潮中先行一步。我們期待著《辦法》與《標(biāo)準(zhǔn)》的實(shí)施能夠?yàn)楹罄m(xù)人工智能的立法積累中國(guó)經(jīng)驗(yàn)，為全球人工智能治理貢獻(xiàn)中國(guó)智慧，推進(jìn)全社會(huì)共同治理，建立開放和諧的網(wǎng)絡(luò)空間命運(yùn)共同體。（作者：任奎　浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院院長(zhǎng)，區(qū)塊鏈與數(shù)據(jù)安全全國(guó)重點(diǎn)實(shí)驗(yàn)室常務(wù)副主任）

原文鏈接：https://www.cac.gov.cn/2024-09/14/c_1728000690151962.htm