12月4日-5日，由清華大學(xué)人工智能國際治理研究院主辦的2021人工智能合作與治理國際論壇在清華大學(xué)舉行，搜狐科技作為支持媒體之一參與報道。在“如何構(gòu)建一個平衡包容的人工智能治理體系”的主論壇中，清華大學(xué)文科資深教授、蘇世民書院院長、人工智能國際治理研究院院長薛瀾認(rèn)為，人工智能治理現(xiàn)在已經(jīng)從理念層面到實踐層面，既要鼓勵企業(yè)的創(chuàng)新發(fā)展，也要提供有效的治理框架和相關(guān)的規(guī)則。

“我們特別強(qiáng)調(diào)的是求同存異，爭取各國文明最大公約數(shù)，需要通過建立多邊協(xié)同共治的方式，把行業(yè)規(guī)則、技術(shù)標(biāo)準(zhǔn)等納到統(tǒng)一的框架內(nèi)。”薛瀾表示。

目前，全球共同提倡的人工智能治理基本準(zhǔn)則具有高度的相似性。薛瀾介紹了清華大學(xué)人工智能國際治理研究院提出的人工智能治理框架，基本的治理準(zhǔn)則、治理對象(包括數(shù)據(jù)、算法、算力，囊括了從知識、信息到數(shù)據(jù)的治理過程);治理工具(包括法律制度體系、技術(shù)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則和規(guī)范體系)，及參與的主體(包括政府、公民、媒體、高校、平臺企業(yè)、國際組織等)。

在應(yīng)用場景層面，從治理角度來講，目的在于降低潛在風(fēng)險，使社會效益最大。“這會有各種不同類型的場景，從風(fēng)險治理角度來講，大概率、大損失的需要高度關(guān)注;小概率、大損失，所謂黑天鵝事件，也要高度關(guān)注;還有很多小損失，相對來講不用太擔(dān)心。”薛瀾介紹稱，在價值導(dǎo)向方面，則要具備底線思維、人本思維、發(fā)展思維和全球思維，形成共識。

人工智能治理目前面臨什么樣的挑戰(zhàn)?從治理對象來看，薛瀾表示，這主要體現(xiàn)在四個方面。首先是數(shù)據(jù)層面，挑戰(zhàn)在于如何進(jìn)行高質(zhì)量的數(shù)據(jù)集建設(shè)，以及如何讓公共數(shù)據(jù)集更大程度開放，數(shù)據(jù)自主可控和宏觀安全也需高度關(guān)注。

其次是算法的穩(wěn)定性、安全性、可解釋性和公平性;第三是算力層面，需要推動核心硬件的持續(xù)性創(chuàng)新，尋求多邊合作共贏，避免技術(shù)壟斷等，同時需要突破技術(shù)創(chuàng)新范式，探索未來的新興技術(shù)。最后就是場景，這是人工智能下一步更大的治理挑戰(zhàn)，需要考慮如何根據(jù)不同類型和風(fēng)險的場景提出更加具體的準(zhǔn)則，并更加具體地應(yīng)用。

從人工智能治理機(jī)制來講，薛瀾認(rèn)為，這包括三個層面。首先是形成價值共識，目前國家新一代人工智能治理專業(yè)委員會提出的治理準(zhǔn)則和一些國際組織和機(jī)制的準(zhǔn)則比較一致，核心是按照包容、共享、審慎、負(fù)責(zé)的價值原則來平衡人工智能治理中的發(fā)展和安全需求。

第二是促進(jìn)治理主體分工協(xié)作，發(fā)揮治理主體各自優(yōu)勢，形成治理合力。具體來看，政府要擔(dān)負(fù)其賦權(quán)和監(jiān)管職責(zé)，技術(shù)提供方需要進(jìn)行賦能，從而形成迭代優(yōu)化。同時，技術(shù)研究者和使用者也要有更多的合作交流，社會要提供及時有效的監(jiān)督。

第三個治理機(jī)制在于保持迭代優(yōu)化。薛瀾認(rèn)為，這是在人工智能治理方面獨特的地方，很多傳統(tǒng)的技術(shù)擴(kuò)散過程漫長，可能經(jīng)過幾十年在社會上也只能達(dá)到70%、80%的滲透率，但現(xiàn)在人工智能技術(shù)發(fā)展非?？欤诙潭痰膸讉€月甚至幾天，就可以拓展到成百上千萬的用戶。

他表示，這種情況下，很難采用傳統(tǒng)的治理方式——先多方審慎探討，達(dá)成共識再出臺治理規(guī)則。這就會導(dǎo)致治理跟不上技術(shù)發(fā)展的速度，因此要保持各種治理模式相結(jié)合。首先是探索性治理或前瞻性治理，先對預(yù)想潛在的風(fēng)險進(jìn)行規(guī)制，有效避免不利的情況發(fā)生。此外，還需要適應(yīng)性治理或敏捷治理，治理小跑跟上技術(shù)發(fā)展的步伐，不要追求完美，從而進(jìn)行有效平衡。

在治理工具層面，也需要多方結(jié)合。薛瀾介紹，宏觀層面，需要出臺國家規(guī)劃、法律體系和倫理規(guī)范，把這些宏觀工具和具體的應(yīng)用有效結(jié)合。在中觀層面，需要探索人工智能技術(shù)對社會的影響，進(jìn)行更好的社會應(yīng)用觀察和實驗。

在具體技術(shù)應(yīng)用方面，薛瀾表示，技術(shù)標(biāo)準(zhǔn)對企業(yè)來講是更為關(guān)鍵的治理手段，包括強(qiáng)制性標(biāo)準(zhǔn)和推薦性標(biāo)準(zhǔn)，比如產(chǎn)品標(biāo)準(zhǔn)、工藝標(biāo)準(zhǔn)、檢測試驗方法等，在開始拿不準(zhǔn)的時候可以先按照推薦性標(biāo)準(zhǔn)推進(jìn)，在形成共識后就可以確定為強(qiáng)制性要求。

另外，薛瀾認(rèn)為，技術(shù)手段本身也在治理過程中也可以發(fā)揮更大作用。如何通過技術(shù)手段，采取一些措施，一方面保證可以把數(shù)據(jù)拿來用，另一方面形成對數(shù)據(jù)隱私有效的保護(hù)，聯(lián)邦學(xué)習(xí)、隱私計算、區(qū)塊鏈等監(jiān)管性科學(xué)技術(shù)都可以發(fā)揮作用。(梁昌均)

標(biāo)簽： AI治理 實踐層面 理念層面 應(yīng)用場景治理