【科學向未來】

作者：蘇竣（清華大學智庫中心主任、清華大學公共管理學院教授）；黃萃（浙江大學公共管理學院教授、信息資源管理系主任）

作為引領未來的戰略性技術，人工智能的迅猛發展將進一步釋放歷次科技革命和產業變革積蓄的巨大能量，給全球經濟發展、國家治理、社會建設和人民生活帶來重大而深遠的影響，推動人類邁入以科技進步與產業革新為基礎的智能社會。但也應該看到，人工智能在創造經濟發展新引擎、推動人類文明邁上新臺階的同時，模糊了虛擬與現實、數字和實體的界限，給人類社會的法律規范、道德倫理、公共治理等方面帶來了挑戰。

人工智能時代呼喚全新的治理理念和治理形式。當前人工智能技術正深入發展，人工智能應用場景不斷豐富，人工智能開放創新平臺、人工智能創新發展試驗區建設正如火如荼推進。利用好這一有利契機，加強人工智能技術發展過程中的人文社會影響研究，開展人工智能社會實驗，建設更具有人文溫度的智能社會意義重大而深遠。

2019世界人工智能大會 新華社發

建設有人文溫度的智能社會是大勢所趨

自16世紀科學革命以來，科學技術的“雙刃劍”效應就成為人類社會發展進程中一個揮之不去的議題?？萍歼M步使得生產力得以飛速發展，為人們的生產和生活都帶來了極大的便利。但科技創新帶來的兩極分化、社會摩擦、生態破壞、倫理失范等負面影響也一直縈繞難散。英國著名科學家貝爾納在其著作《科學的社會功能》中指出：“科學技術的發展本身既為我們揭開了改善人類生活的前景，也為我們開辟了毀滅人類的可能性。”如今，伴隨智能時代的到來，科技的正負效應都在不斷強化，形成巨大的張力，使得人類文明的前景更加迷茫。

2019世界人工智能大會 新華社發

隨著人工智能發展與應用的深入，人—機器的社會結構，終將為人—智能機器—機器的社會結構所取代?？梢钥隙ǖ氖?，人工智能超強的信息儲存、超級模仿和深度自我學習能力，會把人類從各種危險、精密、煩瑣、重復的體力和腦力勞動中極大地解放出來。其發展與推廣應用會改變“不勞動者不得食”的人類社會基石，不勞動者照樣可以豐衣足食，人類想象中的“烏托邦”甚至會因為人工智能技術成為現實。但值得注意的是，與傳統科技相比，新一代人工智能技術最大的特色在于它能夠具有和人一樣進行思考和決策的能力。這種能力正是人類區別于動物，并能夠建立起燦爛文明的核心因素。在歷史的長河里，人類智慧的偉大之處不僅在于其對自然科學的孜孜以求，也在于其在技術、人文、社會科學領域創造出的累累碩果。然而，當人工智能開始替代人類進行思考與決策時，它們能否像人類一樣，在理性之上兼顧感性認知，在追求效率的同時也顧及倫理、價值觀、情感和文化。

新華社發

一個有人文溫度的人工智能社會，不僅要擁有更加高效的生產力，也要有更加豐富多彩的精神空間，更加深厚悠久的文化底蘊，更加公平公正的制度保障，更加包容和諧的人文關懷。這需要我們抓住人工智能技術應用剛剛起步、尚未形成鎖定效應的這一良好時機，樹立正確的價值觀念，深入開展基于科學循證邏輯的實證研究，構建全新的人工智能治理體系，并對技術和產業發展形成反饋和規制，引導人工智能技術良性發展，及時規避大規模失業失能、資源財富分化加劇、數字和信息鴻溝加深、人類精神文化生活停滯、人工智能技術失控等潛在風險和危機。

消解人工智能技術發展中的隱憂

作為第四次工業革命的技術基石，新一代人工智能技術發展與應用給人類社會帶來的好處自不必說，但我們也必須對人工智能所衍生出的風險和威脅保持警惕。人類對于人工智能技術負面影響的憂慮主要包括兩個方面，一是對人工智能技術失控的擔憂，二是對社會結構與社會秩序的重塑的擔憂。英國科學家斯蒂芬·霍金和美國創新企業家埃隆·馬斯克都曾不斷發出對人工智能威脅的警告。霍金認為，人工智能會是“人類歷史上最重大的事件，不幸的是，也可能會是最后的重大事件”。馬斯克也指出人工智能之險尤甚于核武器。他們普遍擔心具有人類決策能力的機器人最終將擺脫人類的控制，反過來奴役人類甚至滅絕人類。電影《流浪地球》里，宇航員懷疑國際空間站控制系統叛逃的情節，就反映了我們可能面臨的這種隱患。創新工場創始人李開復則認為，人工智能對人類社會真正的威脅不在于技術層面，而在于對工作的含義、財富的創造和分配方式的打碎、重塑，由此“引發前所未有的經濟不平等，甚至改變全球力量均勢”。人工智能的發展會使大量工作被機器人取代，從制造業到服務業，各層面都可能有大量工作崗位消失。大規模失業的同時，財富迅速并大量集中到少數人手里，進一步加劇兩極分化，帶來嚴重的民生和政治問題。

科技進步既改變著人類社會，也塑造著人本身。對于人工智能的發展，我們首先應當樹立正確的價值觀念，防患于未然，應對科技創新帶來的巨大沖擊。一方面，我們應積極倡導建立負責任的研發和創新價值體系，在人工智能的研發創新階段以及后續技術全生命周期，加強對科技創新過程中倫理問題的關注和控制，避免人工智能可能造成的不利影響。另一方面，要從人文社會科學的角度，加強人工智能的社會影響機理、規律與趨勢研究，完善和強化人工智能發展的社會政策體系。人工智能技術給人類社會帶來的負面影響，歸根到底是對人類歷經千百年所建立的具有深厚人文情懷的文明架構的全面沖擊。因此，在大力推動科技研發的同時，我們也必須促進與新興技術相關的人文社會科學研究的發展，實現自然科學與社會科學的交融共振，只有這樣，才能從根本上消解人工智能技術發展中的隱憂。

深入開展社會實驗研究，提升智能社會認知水平

要想解決人工智能技術的負面效應，實現對人工智能的有效治理，需要我們對人工智能時代的社會形態和特征具有全面而系統的把握和認知。而這種認知的建立，有賴于以實踐證據為基礎的實證研究，特別是社會實驗研究的開展。

社會實驗是種典型的社會科學研究方法，是以現實情境下的人、組織作為研究對象所開展的研究活動，目的在于通過某些社會、政治過程或技術變革導致的近似于理想實驗的場景來研究社會科學的問題。約一百年前，為研究工業化社會所帶來的影響，美國就曾通過組織大規模社會實驗，史稱“霍桑實驗”，對進入工業文明時代后，人類的心理和行為問題進行了深入的解析。

如今人工智能技術已經融入當下人類社會和生活，而且正在以幾何級增長的速度擴展自己的存在，人類社會正面臨百年未有之大變局，快速邁入智能化的新時代。人工智能技術創新給人類社會帶來的巨大變革，為開展智能化時代的社會實驗提供了理想的要素和場景。

近年來，清華大學、浙江大學等單位的專家學者，匯集全國計算機科學、社會學、心理學、醫學等領域的智力資源，在大量前期工作的基礎上，針對人工智能社會影響的問題，率先提出了開展長周期、寬領域、多學科人工智能社會實驗的政策建議?？萍疾拷M織制定了《國家新一代人工智能創新發展試驗區建設工作指引》，將社會實驗作為新一代人工智能創新發展試驗區建設的重要工作。中央網信辦等有關部委也制定行動方案，在全國開展人工智能社會治理實驗。

近日，第一屆全國人工智能社會實驗學術會議在清華大學召開，100余位專家學者交流分享了人工智能社會實驗的最新成果，研究討論了人工智能社會實驗的工作方案和行動計劃。開展長周期、寬領域、多學科人工智能社會實驗，有助于我們從小切入，在不對人類社會造成較大規模影響的情況下，準確識別人工智能對人類社會帶來的挑戰和沖擊，深入理解人工智能的社會影響特征與態勢，深刻把握人工智能時代社會演進的規律，從而為建立有人文溫度的智能社會提供科學的參考依據。

建立智能社會治理體系，實現對技術和產業的積極回饋

在人類社會面臨轉型的關鍵節點和重大關口，在應對人工智能等科技變革帶來的全新公共治理挑戰的情境下，我們要從人文社會科學的角度出發，以人工智能社會實驗為起點，加強人工智能的社會影響機理、規律與趨勢的研究與探索，在人工智能的研發階段以及后續技術全生命周期，加強對科技倫理問題的關注和控制，進一步完善負責任的研發創新價值體系，推動應對技術變革的公共政策創新，建立智能社會治理體系，實現對技術和產業的積極回饋。

當前，世界各國政府都陸續出臺了相關政策以推動并規范人工智能的發展。美國頒布了《國家人工智能研究與發展戰略規劃》和《為人工智能的未來做好準備》兩個國家級政策框架，日本出臺了《第五期（2016-2020年度）科學技術基本計劃》，提出了超智能社會5.0的概念，英國政府發布了《人工智能：未來決策制定的機遇與影響》，法國發布了《人工智能戰略》，我國也發布了《新一代人工智能發展規劃》等相關政策。不同國家對于人工智能發展的態度不同，但都高度關注人工智能的社會影響與治理問題。

我國是一個擁有近14億人口的大國，并處在經濟社會轉型升級的關鍵時期，具有龐大的人工智能市場需求。我們必須保持以市場為主導的“冒險取向的制度設計”和以人文社會為主導的“安全取向的制度設計”間的平衡，這要求我們不斷地根據出現的社會問題對人工智能帶來的影響進行評估，在此基礎上進一步優化人工智能在數據治理、算法責任、技術路徑等方面的科學規范與技術標準，構建兼顧理論與實踐的全鏈條研究路徑，以保障相關治理及時跟進，從而為人工智能技術發展打造開放有序的環境，推動建立有人文溫度的智能社會治理體系。

盡管世界各國在人工智能治理上目前還處于起步階段，但在不遠的將來，一些重要大國參與的人工智能國際治理機制會很快建構并完善起來，這是全球人工智能規范、有序發展的必由之路。尤其是人工智能與物聯網、云計算、大數據、互聯網等技術深度融合，人工智能所造成的社會影響將會超越一國的邊界而成為全球共同關注的公共問題，因此人工智能客觀上需要全球性協調機制、全球性協作平臺以及全球性的標準和規則，同樣也需要國際范圍內人工智能的道德倫理系統和價值理念的碰撞與討論，這些都是人工智能全球治理的發展趨勢。

我國是全世界發展人工智能技術行動最早、動作最快的國家之一，面對全球科技創新的新態勢，我們要牢牢抓住人工智能發展的重大歷史機遇，緊扣發展、研判大勢，主動謀劃、搶占先機，引領世界人工智能發展新潮流。我們要加快開展以理論探索為導向，以指導實踐為目標的人工智能社會實驗，在對人工智能綜合影響進行持續觀測和數據收集、分析的基礎上，探索人工智能全球治理的“中國方案”，促進人工智能技術、產業和治理的良性發展，建設有人文溫度的智能社會。

《光明日報》（ 2019年12月26日 16版）