12月4日-5日，由清華大學人工智能國際治理研究院主辦的2021人工智能合作與治理國際論壇在清華大學舉行，搜狐科技作為支持媒體之一參與報道。在“如何構建一個平衡包容的人工智能治理體系”的主論壇中，清華大學文科資深教授、蘇世民書院院長、人工智能國際治理研究院院長薛瀾認為，人工智能治理現在已經從理念層面到實踐層面，既要鼓勵企業(yè)的創(chuàng)新發(fā)展，也要提供有效的治理框架和相關的規(guī)則。

“我們特別強調的是求同存異，爭取各國文明最大公約數，需要通過建立多邊協(xié)同共治的方式，把行業(yè)規(guī)則、技術標準等納到統(tǒng)一的框架內。”薛瀾表示。

目前，全球共同提倡的人工智能治理基本準則具有高度的相似性。薛瀾介紹了清華大學人工智能國際治理研究院提出的人工智能治理框架，基本的治理準則、治理對象(包括數據、算法、算力，囊括了從知識、信息到數據的治理過程);治理工具(包括法律制度體系、技術標準、行業(yè)準則和規(guī)范體系)，及參與的主體(包括政府、公民、媒體、高校、平臺企業(yè)、國際組織等)。

在應用場景層面，從治理角度來講，目的在于降低潛在風險，使社會效益最大。“這會有各種不同類型的場景，從風險治理角度來講，大概率、大損失的需要高度關注;小概率、大損失，所謂黑天鵝事件，也要高度關注;還有很多小損失，相對來講不用太擔心。”薛瀾介紹稱，在價值導向方面，則要具備底線思維、人本思維、發(fā)展思維和全球思維，形成共識。

人工智能治理目前面臨什么樣的挑戰(zhàn)?從治理對象來看，薛瀾表示，這主要體現在四個方面。首先是數據層面，挑戰(zhàn)在于如何進行高質量的數據集建設，以及如何讓公共數據集更大程度開放，數據自主可控和宏觀安全也需高度關注。

其次是算法的穩(wěn)定性、安全性、可解釋性和公平性;第三是算力層面，需要推動核心硬件的持續(xù)性創(chuàng)新，尋求多邊合作共贏，避免技術壟斷等，同時需要突破技術創(chuàng)新范式，探索未來的新興技術。最后就是場景，這是人工智能下一步更大的治理挑戰(zhàn)，需要考慮如何根據不同類型和風險的場景提出更加具體的準則，并更加具體地應用。

從人工智能治理機制來講，薛瀾認為，這包括三個層面。首先是形成價值共識，目前國家新一代人工智能治理專業(yè)委員會提出的治理準則和一些國際組織和機制的準則比較一致，核心是按照包容、共享、審慎、負責的價值原則來平衡人工智能治理中的發(fā)展和安全需求。

第二是促進治理主體分工協(xié)作，發(fā)揮治理主體各自優(yōu)勢，形成治理合力。具體來看，政府要擔負其賦權和監(jiān)管職責，技術提供方需要進行賦能，從而形成迭代優(yōu)化。同時，技術研究者和使用者也要有更多的合作交流，社會要提供及時有效的監(jiān)督。

第三個治理機制在于保持迭代優(yōu)化。薛瀾認為，這是在人工智能治理方面獨特的地方，很多傳統(tǒng)的技術擴散過程漫長，可能經過幾十年在社會上也只能達到70%、80%的滲透率，但現在人工智能技術發(fā)展非?？?，在短短的幾個月甚至幾天，就可以拓展到成百上千萬的用戶。

他表示，這種情況下，很難采用傳統(tǒng)的治理方式——先多方審慎探討，達成共識再出臺治理規(guī)則。這就會導致治理跟不上技術發(fā)展的速度，因此要保持各種治理模式相結合。首先是探索性治理或前瞻性治理，先對預想潛在的風險進行規(guī)制，有效避免不利的情況發(fā)生。此外，還需要適應性治理或敏捷治理，治理小跑跟上技術發(fā)展的步伐，不要追求完美，從而進行有效平衡。

在治理工具層面，也需要多方結合。薛瀾介紹，宏觀層面，需要出臺國家規(guī)劃、法律體系和倫理規(guī)范，把這些宏觀工具和具體的應用有效結合。在中觀層面，需要探索人工智能技術對社會的影響，進行更好的社會應用觀察和實驗。

在具體技術應用方面，薛瀾表示，技術標準對企業(yè)來講是更為關鍵的治理手段，包括強制性標準和推薦性標準，比如產品標準、工藝標準、檢測試驗方法等，在開始拿不準的時候可以先按照推薦性標準推進，在形成共識后就可以確定為強制性要求。

另外，薛瀾認為，技術手段本身也在治理過程中也可以發(fā)揮更大作用。如何通過技術手段，采取一些措施，一方面保證可以把數據拿來用，另一方面形成對數據隱私有效的保護，聯邦學習、隱私計算、區(qū)塊鏈等監(jiān)管性科學技術都可以發(fā)揮作用。(梁昌均)

標簽： AI治理 實踐層面 理念層面 應用場景治理