ChatGPT的火爆，讓人們感受到新型人工智能技術(shù)越來越迫近我們的日常生活。未來，人工智能可能會成為重要的生產(chǎn)力，改變我們的生活。在進入未來世界之前，我們也在思考如何更好的治理人工智能技術(shù)，讓發(fā)展和治理同步進行、共同迭代。

近年來，中國針對人工智能技術(shù)可能帶來的風(fēng)險，出臺了相關(guān)法律和政策要求，科技企業(yè)也努力加強風(fēng)險控制，接受社會監(jiān)督。如何更好的推動針對新型人工智能技術(shù)的“敏捷治理”？如何在有效應(yīng)對技術(shù)不確定的同時，激發(fā)創(chuàng)新活力，加強國際競爭力和技術(shù)影響力？

要回答這些問題，首先要了解新型人工智能技術(shù)帶來了哪些挑戰(zhàn)——

“共同無知”是指治理者和被治理者都不確定治理對象帶來的風(fēng)險和挑戰(zhàn)。傳統(tǒng)治理范式中，治理者和被治理者信息不對稱。治理者對技術(shù)研發(fā)應(yīng)用了解較少，需要通過算法透明等方式，理解技術(shù)過程和技術(shù)后果，采取相應(yīng)治理機制。但新一輪人工智能技術(shù)發(fā)展迭代迅速，各方面臨的問題更多是，對技術(shù)發(fā)展變化和影響后果共同無知。

以前，算法透明在很大程度上能夠讓各方了解技術(shù)特點及其結(jié)構(gòu)，理解技術(shù)原理及負(fù)面影響。但以ChatGPT為代表的新型人工智能技術(shù)模型復(fù)雜、底層原理缺乏明確理論解釋，給治理提出新的挑戰(zhàn)。

另外，傳統(tǒng)科技治理以先驗式為主，也就是在風(fēng)險識別的基礎(chǔ)上，分類分級建立治理框架，采取預(yù)防性制度規(guī)則防范風(fēng)險。但ChatGPT為代表的新型人工智能技術(shù)可解釋性差、風(fēng)險情況未知、發(fā)展前景無法預(yù)知的情況，必須要探索新的治理模式。



“目標(biāo)模糊”是指作為最普遍應(yīng)用的新型技術(shù)，人工智能的廣泛影響使得治理目標(biāo)呈現(xiàn)多元化特點。人工智能技術(shù)快速迭代，應(yīng)用場景也越來越廣泛，要用更加包容的態(tài)度面對問題，設(shè)定多元、合理、具備包容性的治理目標(biāo)。

以前，人們擔(dān)心基于內(nèi)容生成類算法被用于換臉等深度偽造，給信息安全及其相關(guān)的肖像權(quán)、財產(chǎn)權(quán)帶來危害。現(xiàn)在，隨著ChatGPT出現(xiàn)和應(yīng)用，很多專家也開始擔(dān)心技術(shù)落后于人會帶來的風(fēng)險，呼吁通過更好的治理手段來解決數(shù)據(jù)、算力等發(fā)展堵點。

技術(shù)快速發(fā)展也要求動態(tài)模糊治理工具的運用范圍，利用合規(guī)、可信的技術(shù)對技術(shù)本身進行治理和約束，實現(xiàn)多樣化的治理效果。例如，數(shù)字水印技術(shù)開始是DRM（數(shù)字版權(quán)管理）機制的一種，被用于保護內(nèi)容的著作權(quán)；隨著深度合成技術(shù)發(fā)展以及普及，該項技術(shù)逐漸被應(yīng)用于虛假內(nèi)容治理領(lǐng)域，避免用戶混淆、誤認(rèn)，并實現(xiàn)生成內(nèi)容可追溯、可檢測。治理工具的效果隨技術(shù)發(fā)展呈現(xiàn)多樣化特點，其使用方式和使用效果也是多元的。對治理工具的選擇和確定需要考慮到這種模糊性，避免過于嚴(yán)格、單向度工具的設(shè)計和使用，并在過程中動態(tài)調(diào)整。

“關(guān)系依賴”是指多類型主體參與“人工智能生成內(nèi)容（AIGC）”，造成“牽一發(fā)而動全身”的多元主體的治理困境。傳統(tǒng)治理范式下治理者和被治理者身份清晰，社會公眾等利益相關(guān)方較少參與。但以ChatGPT為代表的通用人工智能技術(shù)主體多元，包括內(nèi)容服務(wù)提供方、作為數(shù)據(jù)提供方的用戶以及提供通用人工智能的技術(shù)支持者等。

人工智能治理不是二元對立的雙邊關(guān)系，需要各方互相依賴、共同探討，需要各類主體發(fā)揮自身治理能力優(yōu)勢，取長補短，形成綜合全面的共治體系。例如，可以構(gòu)建開源開放的社區(qū)環(huán)境，逐步形成自律自治的技術(shù)共同體，加強預(yù)判風(fēng)險能力，有效補充外部監(jiān)管。另外，由于人工智能設(shè)計倫理問題，通過多方參與形成共識的方式開展倫理治理，主動接受社會監(jiān)督，有助于達成共識、建立信任。

面對上述挑戰(zhàn)，應(yīng)當(dāng)如何有效的治理ChatGPT，讓它的創(chuàng)新能力可信可控可靠，服務(wù)人類福祉和數(shù)字經(jīng)濟高質(zhì)量發(fā)展？

以往，科技治理的主要范式有兩種：包容性自規(guī)制和規(guī)制性監(jiān)管。包容性自規(guī)制范式的核心思路是“避風(fēng)港規(guī)則”，是一種通知—刪除規(guī)則為核心的企業(yè)自律和結(jié)果責(zé)任體系。它形成于20世紀(jì)80年代，為上世紀(jì)末開始的快速發(fā)展變革浪潮提供了治理模式基礎(chǔ)。很明顯，這種治理方式下會產(chǎn)生較多侵權(quán)問題。規(guī)制性監(jiān)管的特點是嚴(yán)格風(fēng)險管控，例如在完整、全面的監(jiān)管風(fēng)險評估前禁止藥品上市等，并對技術(shù)使用過程進行較強的穿透性監(jiān)管。

以ChatGPT為代表的新型人工智能技術(shù)快速迭代并帶來重重挑戰(zhàn)的背景下，上述兩種范式明顯無法契合新技術(shù)治理的目標(biāo)和訴求。這就需要一種新的治理范式：敏捷治理。

敏捷治理的核心是多方共治和反饋迭代：涉及復(fù)雜參與主體和利益相關(guān)者的治理場景依賴多方共同參與達成共識，而面對復(fù)雜多變的治理問題，無法事前得到完善的治理規(guī)則，需要在治理和技術(shù)迭代的共同實踐中不斷反饋更新治理框架。敏捷治理理念更為契合人工智能技術(shù)特點，能更有效地達到治理目標(biāo)。

針對以ChatGPT為代表的新型人工智能技術(shù)帶來的三大挑戰(zhàn)，敏捷治理可以通過共同學(xué)習(xí)解決共同無知的問題，通過同行評議解決目標(biāo)模糊的問題，通過反饋迭代解決關(guān)系依賴的問題。

共同學(xué)習(xí)可以充分考量各方的不同利益訴求，借鑒科學(xué)決策的方法，通過標(biāo)準(zhǔn)化的科學(xué)方式開展成本收益評估，運用比例原則避免治理手段的絕對化。

同行評議能夠發(fā)揮專家知識的作用，評議本身屬于探索性的柔性治理方式，其靈活性和專業(yè)性能夠得到保障，評議過程中可以考慮運用監(jiān)管沙箱等實驗主義治理方式。

反饋迭代能夠充分考慮實踐中得到的有效信息，逐漸理清、撥開復(fù)雜的主體間依賴關(guān)系，明確治理問題及治理目標(biāo)，充分發(fā)揮各方積極性，形成互信、合作、敏捷的治理共同體。

（本文根據(jù)2023年3月18日中國法學(xué)會網(wǎng)絡(luò)與信息法學(xué)研究會第三次會員大會暨學(xué)術(shù)年會人工智能法治論壇發(fā)言內(nèi)容整理）