生成式人工智能服務(wù)管理辦法出臺(tái)在即 有望推動(dòng)AIGC產(chǎn)業(yè)規(guī)范發(fā)展

本報(bào)記者 邢萌 田鵬

        4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法（征求意見稿）》（以下簡(jiǎn)稱《征求意見稿》）公開征求意見。

《征求意見稿》重點(diǎn)強(qiáng)調(diào)了生成式人工智能產(chǎn)品訓(xùn)練數(shù)據(jù)及生成內(nèi)容的真實(shí)性。其中，就提供生成式人工智能產(chǎn)品或服務(wù)作出五大要求，提出“利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息”。同時(shí)，也對(duì)產(chǎn)品的訓(xùn)練數(shù)據(jù)作出五項(xiàng)要求，提出“能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性”。

“《征求意見稿》的出臺(tái)，意味著AI行業(yè)的標(biāo)準(zhǔn)化步伐正加快，AIGC產(chǎn)業(yè)可持續(xù)發(fā)展的政策紅利期即將來(lái)臨。”中關(guān)村智能科技發(fā)展促進(jìn)會(huì)副會(huì)長(zhǎng)兼首席數(shù)字經(jīng)濟(jì)學(xué)家陳曉華在接受《證券日?qǐng)?bào)》記者采訪時(shí)表示，從相關(guān)條例可以看出，我國(guó)極為重視此輪AI所引領(lǐng)的科技變革，有關(guān)部門在鼓勵(lì)自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作的同時(shí)，也致力于避免“先污染后治理”的困境。

強(qiáng)調(diào)生成內(nèi)容真實(shí)性

隨著ChatGPT火爆市場(chǎng)，大眾對(duì)生成式人工智能技術(shù)的認(rèn)知程度不斷提升，激發(fā)市場(chǎng)需求的同時(shí)，也加速了相關(guān)企業(yè)布局。

不過(guò)，AIGC行業(yè)發(fā)展也面臨著虛假信息的困擾。中國(guó)信息通信研究院和京東探索研究院發(fā)布的《人工智能生成內(nèi)容（AIGC）白皮書（2022年）》顯示，近年來(lái)，隨著人工智能技術(shù)不斷成熟，機(jī)器深度學(xué)習(xí)后生成的內(nèi)容愈發(fā)逼真，能夠達(dá)到“以假亂真”的效果。

在此背景下，《征求意見稿》著重強(qiáng)調(diào)了生成式人工智能產(chǎn)品訓(xùn)練數(shù)據(jù)及生成內(nèi)容的真實(shí)性。

“這將引領(lǐng)‘可信’生成式人工智能服務(wù)的發(fā)展。”大成律師事務(wù)所高級(jí)合伙人肖颯對(duì)《證券日?qǐng)?bào)》記者表示，對(duì)于生成式人工智能服務(wù)來(lái)說(shuō)，“可信”是最難以達(dá)成的。核心問(wèn)題指向服務(wù)生成內(nèi)容可信程度的波動(dòng)化，一時(shí)超常的準(zhǔn)確表現(xiàn)，一時(shí)難以分辨的潛藏錯(cuò)誤，是阻礙對(duì)該類服務(wù)賦予更多信任的主要原因。

此外，《征求意見稿》對(duì)用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)也進(jìn)行了明確要求：一是要符合《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)的要求；二是不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容；三是數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形；四是能夠保證數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性；五是國(guó)家網(wǎng)信部門關(guān)于生成式人工智能服務(wù)的其他監(jiān)管要求。

對(duì)此，肖颯認(rèn)為，對(duì)服務(wù)背后的數(shù)據(jù)進(jìn)行統(tǒng)一要求，最直接的意義便是對(duì)模型輸入端進(jìn)行優(yōu)化，從而盡可能地保證輸出端內(nèi)容的純凈性、準(zhǔn)確性。從長(zhǎng)遠(yuǎn)來(lái)看，這是對(duì)整個(gè)數(shù)據(jù)相關(guān)產(chǎn)業(yè)鏈提出的新要求，是對(duì)整個(gè)行業(yè)數(shù)據(jù)收集、傳輸、交易、檢驗(yàn)、維護(hù)與保護(hù)的全面規(guī)制，也符合現(xiàn)行立法對(duì)數(shù)據(jù)處理的各方面要求，能夠極大程度地防止后續(xù)違法行為的發(fā)生。

《比較》雜志研究部主管陳永偉對(duì)《證券日?qǐng)?bào)》記者表示，總體來(lái)看，《征求意見稿》相關(guān)要求給生成式AI發(fā)展劃定界限的同時(shí)，也為其留下了充分的發(fā)展空間，從而揚(yáng)長(zhǎng)避短，將技術(shù)發(fā)展的正向作用發(fā)揮到最大。

服務(wù)前應(yīng)申報(bào)安全評(píng)估

在國(guó)內(nèi)AIGC發(fā)展早期做好合規(guī)工作，可為行業(yè)后續(xù)穩(wěn)健發(fā)展保駕護(hù)航。據(jù)《證券日?qǐng)?bào)》記者不完全梳理，截至目前，已有百度、華為、騰訊、阿里、京東、360等互聯(lián)網(wǎng)企業(yè)布局生成式人工智能業(yè)務(wù)，并且部分企業(yè)已經(jīng)推出相應(yīng)產(chǎn)品。

“生成式人工智能快速發(fā)展，帶來(lái)了諸多信息安全方面的風(fēng)險(xiǎn)�！逼桨沧C券研報(bào)表示，一方面，信息泄露風(fēng)險(xiǎn)，大量的敏感數(shù)據(jù)和AI交互之后，可能會(huì)被應(yīng)用于迭代訓(xùn)練，造成敏感信息的泄露，尤其是國(guó)家、機(jī)構(gòu)和個(gè)人信息，都面臨著潛在風(fēng)險(xiǎn)；另一方面，AIGC被惡意應(yīng)用的風(fēng)險(xiǎn)也在上升，可能被應(yīng)用于惡意代碼生成，發(fā)展智能化網(wǎng)絡(luò)攻擊武器，加大了網(wǎng)絡(luò)安全防護(hù)難度。

深圳市信息服務(wù)業(yè)區(qū)塊鏈協(xié)會(huì)會(huì)長(zhǎng)鄭定向?qū)Α蹲C券日?qǐng)?bào)》記者表示，生成式人工智能產(chǎn)品目前僅是一個(gè)機(jī)器程序，沒有法律主體身份和行為能力，但如果被用來(lái)執(zhí)行非法行為，例如攻擊計(jì)算機(jī)系統(tǒng)、盜竊數(shù)據(jù)或參與欺詐等，就會(huì)成為犯罪行為的工具或手段�；�于此，為了確保人工智能的合法性和公正性，需要對(duì)提供生成式人工智能產(chǎn)品或服務(wù)進(jìn)行必要的法律約束。

為此，《征求意見稿》強(qiáng)調(diào)生成式人工智能產(chǎn)品的安全性�！墩髑笠庖姼濉诽岢�，國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。但利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)申報(bào)安全評(píng)估。

鄭定向表示，生成式人工智能技術(shù)和產(chǎn)品的發(fā)展歸根結(jié)底是為了服務(wù)于人，科學(xué)、嚴(yán)密的法律規(guī)范是發(fā)展過(guò)程中必不可少的重要環(huán)節(jié)。

平安證券表示，新技術(shù)發(fā)展和監(jiān)管合規(guī)是相輔相成的關(guān)系，離不開監(jiān)管在機(jī)制體制建設(shè)上的完善，以及產(chǎn)業(yè)政策引導(dǎo)。同時(shí)，監(jiān)管政策也正在積極適應(yīng)信息技術(shù)的革新。尤其是AIGC面世以來(lái)，監(jiān)管機(jī)構(gòu)對(duì)數(shù)據(jù)處理主體、數(shù)據(jù)處理過(guò)程以及伴隨的國(guó)家安全和信息安全的認(rèn)識(shí)也在逐步清晰。預(yù)計(jì)隨著更多AIGC技術(shù)的應(yīng)用落地，一些潛在的風(fēng)險(xiǎn)將更多被認(rèn)識(shí)和暴露，監(jiān)管側(cè)的監(jiān)管措施也會(huì)更“對(duì)癥”，《征求意見稿》只是第一步。