21世紀(jì)是數(shù)字化、網(wǎng)絡(luò)化、智能化深入發(fā)展的時代，人工智能(AI)作為其中的關(guān)鍵技術(shù)，其進(jìn)展備受各界矚目。而過去十年被認(rèn)為是以深度學(xué)習(xí)為代表的AI的“黃金十年”。[1]通過深度學(xué)習(xí)，AI領(lǐng)域的神經(jīng)網(wǎng)絡(luò)技術(shù)(Neural Networks)迎來復(fù)蘇，讓AI領(lǐng)域迎來飛速發(fā)展的“第三個春天”。在這之前，自從1956年達(dá)特茅斯會議提出“人工智能”這一概念以來，AI領(lǐng)域已經(jīng)歷兩起兩落。具體而言，機(jī)器學(xué)習(xí)算法、大數(shù)據(jù)、云計算、AI專用芯片、開源軟件框架等諸多技術(shù)要素的匯聚發(fā)展，推動了AI領(lǐng)域取得巨大進(jìn)展，不僅AI的感知、理解、學(xué)習(xí)、決策等能力持續(xù)得到提高，而且AI因此迅速成為新的通用技術(shù)和經(jīng)濟(jì)社會的智能底座，被廣泛應(yīng)用于經(jīng)濟(jì)社會的各個領(lǐng)域，帶來新的產(chǎn)品和服務(wù)。從消費(fèi)互聯(lián)網(wǎng)領(lǐng)域的算法推薦、AI生成內(nèi)容(AIGC)、聊天機(jī)器人，到產(chǎn)業(yè)領(lǐng)域的無人駕駛汽車、AI醫(yī)療軟件、AI質(zhì)檢，再到社會公共服務(wù)中的各種便民應(yīng)用，AI對經(jīng)濟(jì)社會高質(zhì)量發(fā)展的巨大價值持續(xù)得到彰顯。[2]總之，作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革(第四次工業(yè)革命)的戰(zhàn)略性技術(shù)，AI有望重塑人類經(jīng)濟(jì)社會，對生產(chǎn)力、勞動就業(yè)、收入分配、全球化等都將帶來巨大影響。
在此背景下，AI成為國際競爭的新焦點，全球各國紛紛出臺AI發(fā)展戰(zhàn)略和具體政策，搶占戰(zhàn)略制高點和發(fā)展機(jī)遇。2017年7月，cn發(fā)布《新一代人工智能發(fā)展規(guī)劃》，AI上升為國家戰(zhàn)略；2018年4月，歐盟出臺AI戰(zhàn)略，旨在讓歐盟成為世界級的AI中心并確保AI是以人為本的、可信的；2019年2月，《美國AI計劃》發(fā)布，啟動AI戰(zhàn)略，旨在提升美國在AI領(lǐng)域的領(lǐng)導(dǎo)地位；2021年9月，英國出臺AI戰(zhàn)略，希望通過十年計劃把英國打造為AI超級大國。分析各國的AI戰(zhàn)略不難看出，AI領(lǐng)域的國際競爭不僅事關(guān)技術(shù)創(chuàng)新與產(chǎn)業(yè)經(jīng)濟(jì)，而且牽涉AI治理等維度。隨著AI的廣泛應(yīng)用，AI帶來的諸多科技倫理問題持續(xù)引起社會各界的高度關(guān)注，諸如算法歧視、信息繭房、不公平的AI決策、個人信息濫用和隱私侵犯、AI安全、算法黑箱、責(zé)任承擔(dān)、技術(shù)濫用(如大數(shù)據(jù)殺熟、AI造假和合成虛假信息)、工作和就業(yè)影響、倫理道德沖擊等風(fēng)險挑戰(zhàn)。[3]因此，伴隨著過去十年AI技術(shù)發(fā)展應(yīng)用的“高歌猛進(jìn)”，國內(nèi)外各界同步推進(jìn)AI治理，探索立法、倫理框架、標(biāo)準(zhǔn)和認(rèn)證、行業(yè)最佳做法等多元治理措施和保障機(jī)制，支持負(fù)責(zé)任的、可信的、以人為本的AI發(fā)展。
本文立足國際視野，梳理過去十年cn在AI治理領(lǐng)域的重要進(jìn)展，分析總結(jié)其中的規(guī)律和趨勢，并展望未來發(fā)展。在可預(yù)見的未來，隨著AI的能力越來越強(qiáng)，其應(yīng)用和影響將日益加深，因此，負(fù)責(zé)任的AI(Responsible AI)將變得越來越重要。而負(fù)責(zé)任的AI的推進(jìn)和落實，離不開合理有效的AI治理。換句話說，建立健全AI治理，是邁向負(fù)責(zé)任AI、保障AI未來發(fā)展的必由之路。希冀本文對未來AI治理的持續(xù)開展和落地有所助益
AI治理的八個趨勢
宏觀戰(zhàn)略與落地政策并舉，培育國家AI競爭力
自2013年2月發(fā)布的《關(guān)于推進(jìn)物聯(lián)網(wǎng)有序健康發(fā)展的指導(dǎo)意見》提出“經(jīng)濟(jì)社會智能化發(fā)展”以來，AI便進(jìn)入國家宏觀戰(zhàn)略的視野，成為國家頂層政策文件的重要議題。例如，2015年《關(guān)于積極推進(jìn)“互聯(lián)網(wǎng)+”行動的指導(dǎo)意見》首次提出“培育發(fā)展人工智能新興產(chǎn)業(yè)”。此后，國家對AI的重視程度不斷提高，持續(xù)在戰(zhàn)略層面對發(fā)展AI做出部署，確保實現(xiàn)核心技術(shù)自主可控，推進(jìn)高水平科技自立自強(qiáng)(表1)。
落地政策同樣重要。AI是新興技術(shù)與新興產(chǎn)業(yè)的綜合體，AI技術(shù)創(chuàng)新只有轉(zhuǎn)化為可持續(xù)的產(chǎn)業(yè)生態(tài)，并和實體經(jīng)濟(jì)深度融合，才能發(fā)揮好其作為新的增長引擎的強(qiáng)大作用。在這方面，試驗區(qū)、先導(dǎo)區(qū)等先行先試模式發(fā)揮著重要作用?？萍疾恐ν七M(jìn)的人工智能創(chuàng)新發(fā)展試驗區(qū)建設(shè)成果顯著，全國已經(jīng)批復(fù)建設(shè)18個國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)，在政策工具、應(yīng)用模式、經(jīng)驗做法等方面起到了很好的引領(lǐng)帶動作用。2019年至今，工信部批復(fù)建設(shè)11個國家人工智能創(chuàng)新應(yīng)用先導(dǎo)區(qū)，促進(jìn)AI和實體經(jīng)濟(jì)深度融合；2022年7月，科技部等六部門發(fā)布《關(guān)于加快場景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見》，著力解決AI應(yīng)用和產(chǎn)業(yè)化問題，以“數(shù)據(jù)底座+算力平臺+場景開放”三駕馬車驅(qū)動AI與經(jīng)濟(jì)社會發(fā)展深度融合，更好支撐高質(zhì)量發(fā)展。
在國家宏觀戰(zhàn)略和落地政策的持續(xù)支持下，cnAI領(lǐng)域的創(chuàng)新創(chuàng)業(yè)持續(xù)活躍，AI領(lǐng)域的國家級實驗室陸續(xù)建立，在AI領(lǐng)域的技術(shù)創(chuàng)新、產(chǎn)業(yè)應(yīng)用、人才規(guī)模等方面均取得了重要成就。cn科學(xué)技術(shù)信息研究所發(fā)布的《2021全球人工智能創(chuàng)新指數(shù)報告》顯示，目前全球AI發(fā)展呈現(xiàn)中美兩國引領(lǐng)、主要國家激烈競爭的總體格局。[4]cnAI發(fā)展成效顯著，AI創(chuàng)新水平已經(jīng)進(jìn)入世界第一梯隊，與美國的差距進(jìn)一步縮小。cn的超算中心、AI企業(yè)規(guī)模、專利注冊數(shù)量、人才隊伍建設(shè)和科研實力均處在全球領(lǐng)先行列，未來，AI對cn經(jīng)濟(jì)增長和社會發(fā)展的貢獻(xiàn)將持續(xù)放大。普華永道的研究報告預(yù)測，全球來看，到2030年AI對全球經(jīng)濟(jì)的貢獻(xiàn)將達(dá)到15.7萬億美元，cn將從AI中收獲最大的經(jīng)濟(jì)收益，達(dá)到7萬億美元，意味著AI將推動cnGDP增長約26.1%；美國和北美其次，將達(dá)到3.7萬億美元。[5]
科技倫理制度不斷完善，成為AI創(chuàng)新的重要保障
在數(shù)字時代，AI等新興數(shù)字技術(shù)，具有不同于工業(yè)時代的技術(shù)應(yīng)用的獨(dú)特性和復(fù)雜性。主要體現(xiàn)為：(1)更廣泛的聯(lián)通性，網(wǎng)絡(luò)的連接和數(shù)據(jù)的收集、處理無處不在；(2)更強(qiáng)的自主性，AI系統(tǒng)驅(qū)動各種產(chǎn)品和服務(wù)獨(dú)立運(yùn)行，無須人類干預(yù)；(3)更深的不透明性，AI系統(tǒng)的“算法黑箱”難以被理解和解釋；[6](4)更高的擬真性，AI生成、合成的內(nèi)容、數(shù)據(jù)和虛擬世界越來越逼近現(xiàn)實。正因如此，AI等新技術(shù)應(yīng)用可能引發(fā)的社會倫理問題越來越具有突發(fā)性、隱蔽性、規(guī)模性、不可預(yù)測性等諸多特征，這給科技倫理治理提出新的挑戰(zhàn)。在AI的發(fā)展應(yīng)用過程中，同步考慮甚至提前考慮科技倫理問題變得越來越必要和重要。[7]科技倫理制度的調(diào)整完善，由此成為AI時代的重要議題，需要從關(guān)注人的倫理轉(zhuǎn)向關(guān)注技術(shù)的倫理，實施對智能體進(jìn)行道德約束，構(gòu)建友善的數(shù)字社會秩序。[8]更進(jìn)一步而言，隨著全球科技競爭日益激化，科技倫理不僅事關(guān)科技安全風(fēng)險挑戰(zhàn)之防范，而且關(guān)乎國家科技競爭力之打造。
黨的十八大以來，國家對科技倫理的重視程度不斷提升，明確提出科技倫理是科技活動必須遵守的價值準(zhǔn)則，并將科技倫理納入頂層政策設(shè)計，作為科技創(chuàng)新的重要支撐和保障?！吨泄仓醒腙P(guān)于堅持和完善cn特色社會主義制度推進(jìn)國家治理體系和治理能力現(xiàn)代化若干重大問題的決定》和《十四五規(guī)劃和2035年遠(yuǎn)景目標(biāo)綱要》對科技倫理做出了頂層部署，要求健全科技倫理治理體制，健全科技倫理體系。目前，國家持續(xù)建立健全科技倫理制度，塑造科技向善的文化理念和保障機(jī)制。主要體現(xiàn)在以下三個方面：
第一，組建國家科技倫理委員會，負(fù)責(zé)指導(dǎo)和統(tǒng)籌協(xié)調(diào)推進(jìn)全國科技倫理治理體系建設(shè)工作。2019年7月，中央全面深化改革委員會第九次會議審議通過了《國家科技倫理委員會組建方案》，正式確立了cn國家級的科技倫理管理機(jī)構(gòu)。2022年3月發(fā)布的《關(guān)于加強(qiáng)科技倫理治理的意見》進(jìn)一步明確了國家科技倫理委員會的管理職責(zé)。
第二，出臺科技倫理相關(guān)的政策法規(guī)，支持科技倫理治理落地實施。2021年12月修訂的《科學(xué)技術(shù)進(jìn)步法》的一大亮點就是增加了科技倫理相關(guān)條款，一方面對健全科技倫理治理體制做出了整體規(guī)定，另一方面要求科學(xué)技術(shù)研究開發(fā)機(jī)構(gòu)、高等學(xué)校、企業(yè)事業(yè)單位等主體履行科技倫理管理主體責(zé)任，對科學(xué)技術(shù)活動開展倫理審查，同時明確科學(xué)技術(shù)研究開發(fā)和應(yīng)用活動的法律倫理底線?！蛾P(guān)于加強(qiáng)科技倫理治理的意見》則對科技倫理治理提出了更為全面的要求，涉及總體要求、原則、體制、制度保障、審查和監(jiān)管以及教育和宣傳六大方面，為科技倫理治理的落地實施奠定了基礎(chǔ)。后續(xù)還將制定科技倫理審查辦法、科技倫理高風(fēng)險科技活動清單、細(xì)分領(lǐng)域的科技倫理規(guī)范等配套規(guī)定。
第三，強(qiáng)調(diào)AI領(lǐng)域的科技倫理治理。國家新一代人工智能治理專業(yè)委員會先后發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》和《新一代人工智能倫理規(guī)范》，為發(fā)展負(fù)責(zé)任的AI提供倫理指南?！稊?shù)據(jù)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》等法律法規(guī)，對數(shù)據(jù)和算法活動提出科技倫理要求和管理措施?！蛾P(guān)于加強(qiáng)科技倫理治理的意見》將AI、生命科學(xué)、醫(yī)學(xué)作為“十四五”期間的三個重點領(lǐng)域，要求制定專門的科技倫理規(guī)范、指南等，加強(qiáng)科技倫理立法，并要求相關(guān)行業(yè)主管部門推出科技倫理監(jiān)管舉措。可以預(yù)見，未來AI領(lǐng)域的科技倫理監(jiān)管將得到加強(qiáng)。此外，地方層面的立法如《深圳人工智能產(chǎn)業(yè)促進(jìn)條例》和《上海促進(jìn)人工智能產(chǎn)業(yè)發(fā)展條例》都把AI倫理治理作為支持AI產(chǎn)業(yè)健康發(fā)展的重要保障。
從以上分析可以看出，目前在AI的科技倫理治理方面，一個顯著的趨勢是把創(chuàng)新主體的科技倫理管理主體責(zé)任作為一個主要的抓手，這和互聯(lián)網(wǎng)平臺監(jiān)管強(qiáng)調(diào)平臺主體責(zé)任具有一定的相似性。政府對平臺的監(jiān)管，在很大程度上是通過落實、壓實平臺主體責(zé)任來實現(xiàn)的，網(wǎng)絡(luò)領(lǐng)域的相關(guān)立法構(gòu)建了事前、事中、事后全方位的平臺義務(wù)體系，市場監(jiān)管總局發(fā)布的《互聯(lián)網(wǎng)平臺落實主體責(zé)任指南(征求意見稿)》嘗試對不同類型的平臺的主體責(zé)任進(jìn)行細(xì)化。政府對AI的監(jiān)管，呈現(xiàn)出類似的思路。目前的相關(guān)政策法規(guī)嘗試對科技倫理管理主體責(zé)任進(jìn)行細(xì)化，要求創(chuàng)新主體建立倫理委員會、堅持科技倫理底線、進(jìn)行科技倫理審查、開展科技倫理風(fēng)險監(jiān)測預(yù)警和評估、開展科技倫理培訓(xùn)等。
互聯(lián)網(wǎng)領(lǐng)域算法應(yīng)用成為AI監(jiān)管的重點對象
算法推薦、算法自動化決策、AI深度合成等互聯(lián)網(wǎng)領(lǐng)域的算法應(yīng)用，由于應(yīng)用廣泛、社會公眾關(guān)注度高、負(fù)面問題持續(xù)凸顯等因素，成為政府在AI領(lǐng)域重點監(jiān)管的對象。近年來，國家出臺了一系列法律法規(guī)，積極規(guī)范互聯(lián)網(wǎng)領(lǐng)域算法應(yīng)用。[9]國家互聯(lián)網(wǎng)信息辦公室等九部門出臺的《關(guān)于加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》提出了較為全面的管理要求，希望利用三年左右時間，逐步建立治理機(jī)制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。該意見同樣強(qiáng)調(diào)強(qiáng)化企業(yè)主體責(zé)任，包括算法安全責(zé)任、科技倫理審查等。
在算法推薦方面，《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》提出針對算法推薦技術(shù)健全人工干預(yù)和用戶自主選擇機(jī)制。2022年3月1日起施行的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》則是cn第一部聚焦算法治理的立法，該規(guī)定針對算法推薦服務(wù)提供者提出全方位的義務(wù)和禁止性要求，提出算法安全風(fēng)險監(jiān)測、算法安全評估、算法備案管理等一系列監(jiān)管舉措，進(jìn)一步強(qiáng)化平臺企業(yè)的算法安全責(zé)任。業(yè)內(nèi)人士以此為標(biāo)志，將2022年稱為算法監(jiān)管元年。
在算法自動化決策方面，《中華人民共和國個人信息保護(hù)法》《中華人民共和國電子商務(wù)法》《在線旅游經(jīng)營管理服務(wù)暫行規(guī)定》等都有相關(guān)條款對算法歧視、大數(shù)據(jù)殺熟等不公平、不正當(dāng)?shù)乃惴Q策行為進(jìn)行規(guī)制，提出了向個人提供選擇權(quán)限、開展影響評估、個人可以要求說明和享有拒絕權(quán)限等規(guī)制方式，更好地平衡個人權(quán)益保護(hù)和算法商業(yè)應(yīng)用活動。
在AI深度合成(主要是指利用AI技術(shù)生成、合成信息內(nèi)容)方面，相關(guān)立法積極為AI深度合成技術(shù)劃定應(yīng)用紅線，促進(jìn)技術(shù)正向應(yīng)用，如《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等都禁止將深度合成算法用于虛假新聞信息和其他違法違規(guī)活動。2022年11月通過的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，總結(jié)既往監(jiān)管經(jīng)驗，從深度合成服務(wù)提供者主體責(zé)任、深度合成信息內(nèi)容標(biāo)識管理等方面，對深度合成技術(shù)應(yīng)用進(jìn)行全面規(guī)范，通過內(nèi)容標(biāo)識、檢測識別、內(nèi)容溯源等必要的安全保障措施確保深度合成技術(shù)應(yīng)用安全可靠，更好地促進(jìn)技術(shù)創(chuàng)新發(fā)展和積極正向應(yīng)用。
整體而言，互聯(lián)網(wǎng)領(lǐng)域的算法監(jiān)管強(qiáng)調(diào)安全可控、權(quán)益保護(hù)、公平公正、公開透明、濫用防范等多元目的，在算法應(yīng)用分級分類基礎(chǔ)上，重點規(guī)制高風(fēng)險類算法應(yīng)用。算法分級分類監(jiān)管和《歐盟人工智能法案》對AI系統(tǒng)的監(jiān)管思路是類似的，后者按照不可接受風(fēng)險、高風(fēng)險、有限風(fēng)險、最小風(fēng)險對AI系統(tǒng)進(jìn)行分級，并對不同風(fēng)險程度的AI系統(tǒng)提出不同的監(jiān)管要求。在此背景下，學(xué)界對算法治理的研究興趣濃厚，提出了算法解釋、算法影響評估、算法審計等諸多思路。未來，各界還需進(jìn)一步探索完善算法監(jiān)管的方式方法和治理舉措，更好地保障算法應(yīng)用向上、向善。
以監(jiān)管創(chuàng)新促進(jìn)AI在傳統(tǒng)強(qiáng)監(jiān)管領(lǐng)域應(yīng)用落地
對于交通、醫(yī)療等傳統(tǒng)強(qiáng)監(jiān)管領(lǐng)域而言，自動駕駛汽車、載人無人機(jī)(無人駕駛的飛行汽車)、AI醫(yī)療軟件等新生事物面臨的主要問題是，其商業(yè)化應(yīng)用仍面臨較大的法律和監(jiān)管障礙。這些障礙不僅影響消費(fèi)者和公眾對技術(shù)的信任，而且打擊創(chuàng)新者和投資者的積極性。因此，有效的監(jiān)管創(chuàng)新是這些新事物發(fā)展應(yīng)用的關(guān)鍵所在。以自動駕駛汽車為例，只有加快革新旨在規(guī)制傳統(tǒng)汽車和人類司機(jī)的立法和監(jiān)管框架，進(jìn)而建立新的、有效的監(jiān)管框架，才能加快實現(xiàn)自動駕駛汽車的商業(yè)化應(yīng)用。
cn的政策制定者積極創(chuàng)新監(jiān)管方式和手段，通過“監(jiān)管沙盒”(Regulatory Sandbox，詳見后文介紹)、試點、示范應(yīng)用等方式支持、促進(jìn)AI新事物應(yīng)用落地。在自動駕駛汽車領(lǐng)域，國家出臺了一系列立法和規(guī)范性文件，鼓勵、支持和規(guī)范自動駕駛汽車道路測試與示范應(yīng)用活動，探索自動駕駛汽車安全標(biāo)準(zhǔn)的“監(jiān)管沙盒”，完善自動駕駛汽車準(zhǔn)入和上路通行規(guī)則，保障自動駕駛汽車運(yùn)輸安全。由于監(jiān)管政策利好，北上廣深等各地紛紛搶占發(fā)展高地，部分城市已向自動駕駛廠商發(fā)放了允許車內(nèi)無駕駛?cè)?、可以收費(fèi)運(yùn)營的無人駕駛汽車試運(yùn)營牌照；深圳則在全國率先出臺《深圳智能網(wǎng)聯(lián)汽車管理條例》，為商業(yè)化應(yīng)用奠定立法和監(jiān)管框架。在AI醫(yī)療領(lǐng)域，由于AI醫(yī)療軟件具有不同于傳統(tǒng)醫(yī)療器械的諸多全新特征，包括自主性、學(xué)習(xí)進(jìn)化能力、持續(xù)迭代性、算法黑箱、不可預(yù)測性等，這使得傳統(tǒng)審批程序難以有效適應(yīng)AI醫(yī)療軟件的發(fā)展需求。為此，監(jiān)管部門積極完善AI醫(yī)療器械的注冊申報和審批程序、使用管理規(guī)范，支持智能醫(yī)學(xué)影像等輔助診斷和輔助治療的AI醫(yī)療軟件加快臨床應(yīng)用；目前國內(nèi)已有AI醫(yī)療軟件獲得審批，如騰訊覓影的AI輔助診斷青光眼軟件、肺炎AI輔助診斷系統(tǒng)都已獲批第三類醫(yī)療器械注冊證(“三類證”)。未來，監(jiān)管部門還需持續(xù)完善、優(yōu)化針對AI醫(yī)療軟件的注冊申報和審批程序，讓AI醫(yī)療應(yīng)用更好地增進(jìn)民生福祉。
加快探索AI的知識產(chǎn)權(quán)保護(hù)規(guī)則
AI生成內(nèi)容(AI-Generated Contents，縮寫AIGC)已經(jīng)成為AI的新疆域，代表著AI的未來發(fā)展方向[10]。在互聯(lián)網(wǎng)領(lǐng)域，AIGC是PGC(專業(yè)生產(chǎn)內(nèi)容)和UGC(用戶生產(chǎn)內(nèi)容)之后的內(nèi)容生產(chǎn)形態(tài)，帶來自動化內(nèi)容生產(chǎn)的巨大變革。目前，AIGC技術(shù)已能自主生產(chǎn)多種形式的內(nèi)容，包括文本、圖片、音頻、視頻、3D內(nèi)容(3D物品、3D虛擬場景)等。AIGC技術(shù)及其應(yīng)用的知識產(chǎn)權(quán)保護(hù)規(guī)則由此成為繞不過去的重要議題，諸如“AIGC內(nèi)容的著作權(quán)保護(hù)及歸屬如何確立”“AIGC技術(shù)使用他人版權(quán)內(nèi)容是否侵權(quán)”等都是亟待解決的問題。[11]國外有學(xué)者提出，需要建立專門的AI知識產(chǎn)權(quán)保護(hù)規(guī)則和國際條約，因為AI技術(shù)打破了創(chuàng)作者和發(fā)明人只能是人類的既有模式。
國內(nèi)外已在積極探索AI生成內(nèi)容的知識產(chǎn)權(quán)保護(hù)規(guī)則。在國外，英國、歐盟、日本、南非等在考慮或者已經(jīng)制定了專門的AI知識產(chǎn)權(quán)保護(hù)規(guī)則，如英國《版權(quán)、設(shè)計與專利法》中的計算機(jī)生成作品保護(hù)條款、歐盟《單一數(shù)字市場版權(quán)指令》中的基于AI技術(shù)的文本與數(shù)據(jù)挖掘版權(quán)例外條款等。在專利方面，英國的政策指出，由于AI還沒有先進(jìn)到可以獨(dú)立自主地進(jìn)行發(fā)明創(chuàng)造，所以當(dāng)前還沒必要對專利法進(jìn)行修改，但需密切關(guān)注技術(shù)進(jìn)展并及時評估AI的專利問題。
在國內(nèi)，北京菲林律師事務(wù)所訴百度“百家號”著作權(quán)侵權(quán)案中，法院雖然認(rèn)為只有自然人創(chuàng)作完成的獨(dú)創(chuàng)性作品才可獲得版權(quán)保護(hù)，由此否定了AI直接且獨(dú)立生成的作品的版權(quán)保護(hù)可能性，但卻指出可以通過競爭法等方式對AI生成內(nèi)容的相關(guān)權(quán)益(如競爭性權(quán)益)進(jìn)行保護(hù)。深圳市騰訊計算機(jī)系統(tǒng)有限公司訴上海盈訊科技有限公司侵害著作權(quán)及不正當(dāng)競爭糾紛案中，法院基于AI領(lǐng)域的人機(jī)協(xié)作現(xiàn)實，指出AI寫稿軟件Dream writer在技術(shù)上“生成”作品只是創(chuàng)作過程的一個環(huán)節(jié)，原告主持的多團(tuán)隊、多人分工形成的整體智力活動才是創(chuàng)作的核心環(huán)節(jié)，并由此認(rèn)定涉案文章是原告主持的法人作品。關(guān)于Dream writer案的認(rèn)定更符合當(dāng)前AIGC技術(shù)及其應(yīng)用的發(fā)展?fàn)顩r，對將來通過立法進(jìn)一步明確AI生成內(nèi)容的知識產(chǎn)權(quán)保護(hù)規(guī)則具有較大的借鑒意義。在立法上，2020年新修訂的《中華人民共和國著作權(quán)法》采用開放性的作品認(rèn)定方式，在明確作品構(gòu)成要件、列舉主要作品類型的同時，規(guī)定了開放式的兜底條款，為AIGC等新技術(shù)應(yīng)用帶來的新客體保護(hù)預(yù)留出制度空間。
標(biāo)準(zhǔn)化建設(shè)是AI治理的關(guān)鍵一環(huán)
《國家標(biāo)準(zhǔn)化發(fā)展綱要》指出，標(biāo)準(zhǔn)化在推進(jìn)國家治理體系和治理能力現(xiàn)代化中發(fā)揮著基礎(chǔ)性、引領(lǐng)性作用。對于AI領(lǐng)域而言，AI標(biāo)準(zhǔn)不僅是支持、促進(jìn)AI發(fā)展進(jìn)步和廣泛應(yīng)用的重要手段(如技術(shù)標(biāo)準(zhǔn))，而且是推進(jìn)落實AI治理的有效方式(如治理標(biāo)準(zhǔn)、倫理標(biāo)準(zhǔn))，因為AI治理標(biāo)準(zhǔn)可以起到“承接立法和監(jiān)管、對接技術(shù)實踐”的重要作用。再者，AI治理領(lǐng)域的標(biāo)準(zhǔn)相比立法和監(jiān)管更具敏捷性、靈活性和適應(yīng)性。因此，AI治理標(biāo)準(zhǔn)已經(jīng)成為AI技術(shù)和產(chǎn)業(yè)發(fā)展中的一個制高點，國際社會紛紛提出落地舉措。典型代表有歐盟的可信AI標(biāo)準(zhǔn)，美國國家標(biāo)準(zhǔn)與技術(shù)研究院(NIST)主導(dǎo)的AI風(fēng)險管理、AI歧視識別等治理標(biāo)準(zhǔn)，英國的AI認(rèn)證生態(tài)系統(tǒng)發(fā)展規(guī)劃，IEEE的AI倫理標(biāo)準(zhǔn)等。在落地方面，IEEE已面向行業(yè)推出了AI倫理認(rèn)證項目；英國希望通過5年時間培育一個世界領(lǐng)先、價值數(shù)十億英鎊規(guī)模的AI認(rèn)證行業(yè)，通過中立第三方的AI認(rèn)證服務(wù)(包括審計、影響評估、認(rèn)證)來評估、交流AI系統(tǒng)的可信性和合規(guī)性。
cn非常重視AI領(lǐng)域的標(biāo)準(zhǔn)化建設(shè)，《國家標(biāo)準(zhǔn)化發(fā)展綱要》要求在AI、量子信息、生物技術(shù)等領(lǐng)域，開展標(biāo)準(zhǔn)化研究。近年來，各界持續(xù)推進(jìn)AI治理領(lǐng)域的國家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)、地方標(biāo)準(zhǔn)、團(tuán)體標(biāo)準(zhǔn)等標(biāo)準(zhǔn)化工作。例如，國家標(biāo)準(zhǔn)化管理委員會成立國家人工智能標(biāo)準(zhǔn)化總體組，全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會設(shè)立人工智能分技術(shù)委員會，都旨在推進(jìn)制定AI領(lǐng)域的國家標(biāo)準(zhǔn)。2020年7月印發(fā)的《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》明確了AI標(biāo)準(zhǔn)領(lǐng)域的頂層設(shè)計，該指南將安全/倫理標(biāo)準(zhǔn)作為AI標(biāo)準(zhǔn)體系的核心組成部分，旨在通過安全/倫理標(biāo)準(zhǔn)為AI建立合規(guī)體系，促進(jìn)AI健康、可持續(xù)發(fā)展。未來，AI治理相關(guān)標(biāo)準(zhǔn)需加快制定并落地實施，從而為AI領(lǐng)域的技術(shù)創(chuàng)新和產(chǎn)業(yè)發(fā)展提供更多保障。
行業(yè)主動探索AI治理的自律措施，踐行負(fù)責(zé)任創(chuàng)新和科技向善理念
有效的AI治理需要政府、企業(yè)、行業(yè)組織、學(xué)術(shù)團(tuán)體、用戶或消費(fèi)者、社會公眾等多元主體的共同參與，其中，科技企業(yè)的自我治理和自律管理是落實“倫理先行”理念的重要方式。之所以呼吁“倫理先行”，在很大程度上是因為面對AI的快速發(fā)展，“法律的滯后性”現(xiàn)象變得越來越突出。在AI領(lǐng)域，“倫理先行”首先表現(xiàn)為科技企業(yè)的科技倫理自律管理，而且領(lǐng)先企業(yè)的最佳實踐做法往往能夠起到很好的引領(lǐng)帶動作用，推動整個行業(yè)踐行負(fù)責(zé)任創(chuàng)新和科技向善理念。
在行業(yè)層面，近年來，相關(guān)研究機(jī)構(gòu)和行業(yè)組織紛紛提出AI的倫理指南、自律公約等，為企業(yè)的AI活動提供倫理指引。這方面的典型代表有cn人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)的《人工智能行業(yè)自律公約》和《可信AI操作指引》、北京智源人工智能研究院的《人工智能北京共識》和《人工智能產(chǎn)業(yè)擔(dān)當(dāng)宣言》、全國信息安全標(biāo)準(zhǔn)化委員會的《網(wǎng)絡(luò)安全標(biāo)準(zhǔn)實踐指南——人工智能倫理安全風(fēng)險防范指引》等。
在企業(yè)層面，科技企業(yè)作為AI技術(shù)創(chuàng)新和產(chǎn)業(yè)應(yīng)用的主體，擔(dān)負(fù)著負(fù)責(zé)任地研發(fā)應(yīng)用AI的重要責(zé)任。在國外，從提出AI倫理原則，到成立內(nèi)部的AI倫理治理機(jī)構(gòu)，再到開發(fā)管理和技術(shù)工具甚至商業(yè)性的負(fù)責(zé)任AI解決方案，科技公司探索出了較為成熟的經(jīng)驗，積累了很多可資推廣的實踐做法(表2)[13]。近年來，國內(nèi)科技公司積極落實監(jiān)管要求，探索相關(guān)自律措施，主要包括：發(fā)布AI倫理原則，建立內(nèi)部的AI治理組織(如倫理委員會)，針對AI活動開展倫理審查或安全風(fēng)險評估，對外披露算法相關(guān)信息、促進(jìn)算法公開透明，探索應(yīng)對AI倫理問題的技術(shù)解決方案(如針對合成信息內(nèi)容的檢測識別工具、AI治理測評工具、聯(lián)邦學(xué)習(xí)等隱私計算方案)，等等。
2025-4-02
2025-4-02
2025-3-29
2025-3-28
2025-3-28
2025-3-13
2025-3-21
2025-3-05
2025-3-16
2025-3-13