近年來(lái)，人工智能技術(shù)快速發(fā)展，在賦能人類社會(huì)經(jīng)濟(jì)進(jìn)步的同時(shí)也帶來(lái)安全隱患和風(fēng)險(xiǎn)挑戰(zhàn)。既要促進(jìn)人工智能技術(shù)發(fā)展和應(yīng)用，又要確保其發(fā)展過(guò)程中的安全性、可靠性和可控性，構(gòu)建人工智能治理體系的緊迫性日益凸顯。世界各國(guó)都積極探索人工智能治理的方法路徑。

　　今年3月，美國(guó)白宮行政管理和預(yù)算辦公室(OMB)發(fā)布《致行政部門和機(jī)構(gòu)負(fù)責(zé)人的備忘錄》(以下簡(jiǎn)稱“《指南》”)。《指南》要求，設(shè)立首席人工智能官(CAIO)、成立人工智能治理委員會(huì)、推動(dòng)人工智能應(yīng)用創(chuàng)新、遵循最低風(fēng)險(xiǎn)管理實(shí)踐等，為推進(jìn)人工智能治理、創(chuàng)新和風(fēng)險(xiǎn)管理確立了新的管理要求和實(shí)踐指引。作為負(fù)責(zé)任的科技大國(guó)，我國(guó)也積極推動(dòng)人工智能治理體系優(yōu)化完善，《指南》中的一些內(nèi)容對(duì)于促進(jìn)我國(guó)政府部門人工智能應(yīng)用和治理實(shí)踐具有參考價(jià)值。

　　《指南》的主要內(nèi)容

　　首先，強(qiáng)化人工智能治理架構(gòu)體系。一是設(shè)立首席人工智能官。各聯(lián)邦機(jī)構(gòu)自《指南》發(fā)布60日內(nèi)設(shè)立首席人工智能官，《指南》還對(duì)首席人工智能官的角色、職責(zé)、級(jí)別、職位以及匯報(bào)結(jié)構(gòu)做出明確要求。二是組建人工智能治理委員會(huì)，由委員會(huì)召集高級(jí)別官員會(huì)議，統(tǒng)籌管理本單位人工智能應(yīng)用，并且掃除障礙、管控風(fēng)險(xiǎn)。三是實(shí)施遵從計(jì)劃管理，各聯(lián)邦機(jī)構(gòu)自《指南》簽署180天內(nèi)至2036年，每?jī)赡晗騉MB提交指南遵從計(jì)劃，確保本單位治理原則與治理方向與《指南》保持一致。四是實(shí)施用例清單管理。各聯(lián)邦機(jī)構(gòu)需建立人工智能用例清單，并以年度為單位提交至OMB，同時(shí)面向公眾公開。各聯(lián)邦機(jī)構(gòu)還需識(shí)別影響安全和權(quán)利的人工智能用例，披露用例風(fēng)險(xiǎn)細(xì)節(jié)與風(fēng)險(xiǎn)防控措施。

　　其次，推動(dòng)負(fù)責(zé)任的人工智能創(chuàng)新。一是落實(shí)人工智能戰(zhàn)略管理。各聯(lián)邦機(jī)構(gòu)需自《指南》發(fā)布365天內(nèi)制定并公開發(fā)布本單位人工智能發(fā)展戰(zhàn)略，識(shí)別并掃除人工智能應(yīng)用障礙，提升本單位人工智能發(fā)展整體成熟度。二是為負(fù)責(zé)任地使用人工智能掃除障礙。《指南》明確了“負(fù)責(zé)任地使用人工智能”的基本原則，即強(qiáng)化底線監(jiān)管的同時(shí)消除人工智能使用的不必要和無(wú)益障礙，確保各聯(lián)邦機(jī)構(gòu)擁有使用人工智能的足夠柔性，并提出IT設(shè)施、數(shù)據(jù)、網(wǎng)絡(luò)安全、生成式人工智能等四個(gè)方面具體指導(dǎo)建議。三是強(qiáng)化人工智能人才培養(yǎng)。《指南》明確各聯(lián)邦機(jī)構(gòu)需強(qiáng)化機(jī)構(gòu)內(nèi)部人工智能人才的選擇、使用、培育、留用，提升機(jī)構(gòu)人工智能創(chuàng)新應(yīng)用能力。四是推動(dòng)人工智能共享合作。各聯(lián)邦機(jī)構(gòu)需以有利于政府與公眾再利用與協(xié)同的方式共享其人工智能代碼、模型和數(shù)據(jù)，保障人工智能應(yīng)用的法律政策遵從與公眾權(quán)利保護(hù)。

　　最后，有效管控人工智能應(yīng)用風(fēng)險(xiǎn)。一是實(shí)施最低風(fēng)險(xiǎn)管理實(shí)踐。所有聯(lián)邦機(jī)構(gòu)對(duì)涉及安全與權(quán)利的人工智能(系統(tǒng))實(shí)施最低風(fēng)險(xiǎn)管理實(shí)踐。各機(jī)構(gòu)需于2024年12月1日前實(shí)施該項(xiàng)管理，終止使用不符合最低風(fēng)險(xiǎn)管理要求的人工智能。二是實(shí)施定期審查、報(bào)告披露與豁免管理制度。各聯(lián)邦機(jī)構(gòu)需定期開展審查評(píng)估，明確人工智能系統(tǒng)是否對(duì)安全和權(quán)利造成影響、是否符合《指南》規(guī)定的最低風(fēng)險(xiǎn)管理實(shí)踐，對(duì)不符合要求的人工智能系統(tǒng)決定終止使用或?qū)で蠡砻狻８髀?lián)邦機(jī)構(gòu)需記錄并報(bào)告審查結(jié)果，在必要時(shí)向公眾披露。

　　《指南》本質(zhì)上是基于原有網(wǎng)信安全、隱私保護(hù)、公民權(quán)利、數(shù)據(jù)開放等法律基礎(chǔ)，編織出一套以“人工智能應(yīng)用”為核心的監(jiān)管治理體系，既鼓勵(lì)人工智能應(yīng)用與創(chuàng)新，同時(shí)亦形成對(duì)人工智能(尤其是生成式人工智能)風(fēng)險(xiǎn)的系統(tǒng)性防控。

　　《指南》的發(fā)布，是對(duì)通用人工智能廣泛應(yīng)用的主動(dòng)回應(yīng)，既為政府部門部署和使用人工智能提供了可靠遵循，又形成對(duì)市場(chǎng)部門的示范性實(shí)踐與軟性行為約束。

　　我國(guó)人工智能治理的主要特點(diǎn)

　　作為負(fù)責(zé)任的科技大國(guó)，我國(guó)積極推動(dòng)人工智能治理體系優(yōu)化完善。目前，已形成以《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》《中華人民共和國(guó)個(gè)人信息保護(hù)法》為主體的人工智能治理法律框架，對(duì)人工智能涉及數(shù)據(jù)采集、數(shù)據(jù)處理、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、個(gè)人信息保護(hù)等做出明確要求。《生成式人工智能服務(wù)管理暫行辦法》對(duì)生成式人工智能服務(wù)的提供與使用做出規(guī)范，包括技術(shù)發(fā)展、服務(wù)規(guī)范、監(jiān)督檢查和法律責(zé)任等。《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南》《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》的發(fā)布亦有效推進(jìn)我國(guó)人工智能標(biāo)準(zhǔn)體系的形成。

　　國(guó)內(nèi)治理方面，推出《科技倫理審查辦法(試行)》和《生成式人工智能服務(wù)管理暫行辦法》，提出人工智能治理的中國(guó)方案。全球治理方面，積極倡導(dǎo)國(guó)際合作與全球共治，《全球人工智能治理倡議》《人工智能全球治理上海宣言》，堅(jiān)持“以人為本、智能向善”，為世界提供了基于人類命運(yùn)共同體理念的人工智能治理新視角，為全球人工智能治理積極貢獻(xiàn)中國(guó)智慧。

　　2022年《關(guān)于加快場(chǎng)景創(chuàng)新以人工智能高水平應(yīng)用促進(jìn)經(jīng)濟(jì)高質(zhì)量發(fā)展的指導(dǎo)意見》提出尊重人工智能發(fā)展規(guī)律，發(fā)揮政府和市場(chǎng)的積極性，共同為場(chǎng)景創(chuàng)新提供制度供給，促進(jìn)人工智能創(chuàng)新發(fā)展與監(jiān)管規(guī)范相協(xié)調(diào)。2024年6月，工信部等四部門發(fā)布《國(guó)家人工智能產(chǎn)業(yè)綜合標(biāo)準(zhǔn)化體系建設(shè)指南(2024版)》亦是要求完善治理標(biāo)準(zhǔn)，結(jié)合人工智能治理實(shí)際需求，規(guī)范人工智能的技術(shù)研發(fā)、運(yùn)營(yíng)服務(wù)和全生命周期治理。我國(guó)人工智能治理不斷走向體系深入。

　　我國(guó)雖然通過(guò)制定上述法律法規(guī)及標(biāo)準(zhǔn)指南構(gòu)成人工智能治理基本遵從，但在細(xì)分領(lǐng)域(包括政務(wù))，如何使用和治理人工智能(尤其是生成式人工智能)尚缺乏可靠的規(guī)范指引。同時(shí)，由于我國(guó)在人工智能治理架構(gòu)設(shè)置、制度規(guī)范方面仍然存在一些短板和不足，缺乏類似首席人工智能官、人工智能治理委員會(huì)的治理架構(gòu)設(shè)置及諸如遵從計(jì)劃管理、用例清單管理、部門發(fā)展戰(zhàn)略管理、最低風(fēng)險(xiǎn)管理實(shí)踐、定期審查與報(bào)告披露等制度規(guī)范，中央或省級(jí)政府層面難以形成對(duì)內(nèi)部人工智能使用情況的全面掌握和有序統(tǒng)籌，各部門無(wú)法在人工智能應(yīng)用創(chuàng)新和人工智能風(fēng)險(xiǎn)管理上形成有效協(xié)同。

　　此外，我國(guó)還存在高層次指南性文件缺位的問題，這將造成三方面不利影響：一是不利于政府內(nèi)部各部門條線形成協(xié)同一致的人工智能部署應(yīng)用和治理監(jiān)管;二是不利于政府引導(dǎo)示范作用發(fā)揮。政府采購(gòu)與使用是最好的“產(chǎn)業(yè)政策”，通常會(huì)形成對(duì)各行業(yè)的示范引領(lǐng)作用;三是不利于人們消除對(duì)人工智能系統(tǒng)應(yīng)用的焦慮與抗拒。

　　加快制定符合我國(guó)實(shí)際的人工智能治理指南

　　它山之石可以攻玉，其他國(guó)家在人工智能治理和應(yīng)用實(shí)踐方面的一些有益探索也可以為我所用。當(dāng)前，應(yīng)結(jié)合我國(guó)人工智能治理和應(yīng)用實(shí)踐，加快制定符合我國(guó)實(shí)際的人工智能治理指南。

　　第一，優(yōu)化人工智能治理組織架構(gòu)。由中央政府或省級(jí)政府統(tǒng)籌本級(jí)行政單位人工智能的應(yīng)用和治理。在當(dāng)前強(qiáng)化數(shù)據(jù)要素管理的基礎(chǔ)上，嘗試引入首席人工智能官和人工智能治理委員會(huì)制度，形成包含各層級(jí)、各部門的人工智能治理體系和報(bào)告體系。

　　第二，完善人工智能治理工具體系。建議引入遵從計(jì)劃管理、用例清單管理、部門發(fā)展戰(zhàn)略管理、最低風(fēng)險(xiǎn)管理實(shí)踐、定期審查與報(bào)告披露等管理工具，完善我國(guó)政府部門人工智能治理工具體系。

　　第三，推廣人工智能治理最佳實(shí)踐。在全國(guó)范圍內(nèi)征集政府部門人工智能應(yīng)用和治理最佳實(shí)踐，并基于《國(guó)家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，結(jié)合生成式人工智能廣泛應(yīng)用實(shí)際，形成并推廣具有全國(guó)范圍約束力的政府人工智能應(yīng)用和治理指南。

　　(廖文凱 作者單位系中國(guó)電信研究院)