作為引領(lǐng)未來的戰(zhàn)略性技術(shù)，人工智能的迅猛發(fā)展將進一步釋放歷次科技革命和產(chǎn)業(yè)變革積蓄的巨大能量，給全球經(jīng)濟發(fā)展、國家治理、社會建設和人民生活帶來重大而深遠的影響，推動人類邁入以科技進步與產(chǎn)業(yè)革新為基礎(chǔ)的智能社會。但也應該看到，人工智能在創(chuàng)造經(jīng)濟發(fā)展新引擎、推動人類文明邁上新臺階的同時，模糊了虛擬與現(xiàn)實、數(shù)字和實體的界限，給人類社會的法律規(guī)范、道德倫理、公共治理等方面帶來了挑戰(zhàn)。

    人工智能時代呼喚全新的治理理念和治理形式。當前人工智能技術(shù)正深入發(fā)展，人工智能應用場景不斷豐富，人工智能開放創(chuàng)新平臺、人工智能創(chuàng)新發(fā)展試驗區(qū)建設正如火如荼推進。利用好這一有利契機，加強人工智能技術(shù)發(fā)展過程中的人文社會影響研究，開展人工智能社會實驗，建設更具有人文溫度的智能社會意義重大而深遠。

    建設有人文溫度的智能社會是大勢所趨

    自16世紀科學革命以來，科學技術(shù)的“雙刃劍”效應就成為人類社會發(fā)展進程中一個揮之不去的議題?？萍歼M步使得生產(chǎn)力得以飛速發(fā)展，為人們的生產(chǎn)和生活都帶來了極大的便利。但科技創(chuàng)新帶來的兩極分化、社會摩擦、生態(tài)破壞、倫理失范等負面影響也一直縈繞難散。英國著名科學家貝爾納在其著作《科學的社會功能》中指出：“科學技術(shù)的發(fā)展本身既為我們揭開了改善人類生活的前景，也為我們開辟了毀滅人類的可能性。”如今，伴隨智能時代的到來，科技的正負效應都在不斷強化，形成巨大的張力，使得人類文明的前景更加迷茫。

    隨著人工智能發(fā)展與應用的深入，人—機器的社會結(jié)構(gòu)，終將為人—智能機器—機器的社會結(jié)構(gòu)所取代?？梢钥隙ǖ氖?，人工智能超強的信息儲存、超級模仿和深度自我學習能力，會把人類從各種危險、精密、煩瑣、重復的體力和腦力勞動中極大地解放出來。其發(fā)展與推廣應用會改變“不勞動者不得食”的人類社會基石，不勞動者照樣可以豐衣足食，人類想象中的“烏托邦”甚至會因為人工智能技術(shù)成為現(xiàn)實。但值得注意的是，與傳統(tǒng)科技相比，新一代人工智能技術(shù)最大的特色在于它能夠具有和人一樣進行思考和決策的能力。這種能力正是人類區(qū)別于動物，并能夠建立起燦爛文明的核心因素。在歷史的長河里，人類智慧的偉大之處不僅在于其對自然科學的孜孜以求，也在于其在技術(shù)、人文、社會科學領(lǐng)域創(chuàng)造出的累累碩果。然而，當人工智能開始替代人類進行思考與決策時，它們能否像人類一樣，在理性之上兼顧感性認知，在追求效率的同時也顧及倫理、價值觀、情感和文化。

    一個有人文溫度的人工智能社會，不僅要擁有更加高效的生產(chǎn)力，也要有更加豐富多彩的精神空間，更加深厚悠久的文化底蘊，更加公平公正的制度保障，更加包容和諧的人文關(guān)懷。這需要我們抓住人工智能技術(shù)應用剛剛起步、尚未形成鎖定效應的這一良好時機，樹立正確的價值觀念，深入開展基于科學循證邏輯的實證研究，構(gòu)建全新的人工智能治理體系，并對技術(shù)和產(chǎn)業(yè)發(fā)展形成反饋和規(guī)制，引導人工智能技術(shù)良性發(fā)展，及時規(guī)避大規(guī)模失業(yè)失能、資源財富分化加劇、數(shù)字和信息鴻溝加深、人類精神文化生活停滯、人工智能技術(shù)失控等潛在風險和危機。

    消解人工智能技術(shù)發(fā)展中的隱憂

    作為第四次工業(yè)革命的技術(shù)基石，新一代人工智能技術(shù)發(fā)展與應用給人類社會帶來的好處自不必說，但我們也必須對人工智能所衍生出的風險和威脅保持警惕。人類對于人工智能技術(shù)負面影響的憂慮主要包括兩個方面，一是對人工智能技術(shù)失控的擔憂，二是對社會結(jié)構(gòu)與社會秩序的重塑的擔憂。英國科學家斯蒂芬·霍金和美國創(chuàng)新企業(yè)家埃隆·馬斯克都曾不斷發(fā)出對人工智能威脅的警告。霍金認為，人工智能會是“人類歷史上最重大的事件，不幸的是，也可能會是最后的重大事件”。馬斯克也指出人工智能之險尤甚于核武器。他們普遍擔心具有人類決策能力的機器人最終將擺脫人類的控制，反過來奴役人類甚至滅絕人類。電影《流浪地球》里，宇航員懷疑國際空間站控制系統(tǒng)叛逃的情節(jié)，就反映了我們可能面臨的這種隱患。創(chuàng)新工場創(chuàng)始人李開復則認為，人工智能對人類社會真正的威脅不在于技術(shù)層面，而在于對工作的含義、財富的創(chuàng)造和分配方式的打碎、重塑，由此“引發(fā)前所未有的經(jīng)濟不平等，甚至改變?nèi)蛄α烤鶆?rdquo;。人工智能的發(fā)展會使大量工作被機器人取代，從制造業(yè)到服務業(yè)，各層面都可能有大量工作崗位消失。大規(guī)模失業(yè)的同時，財富迅速并大量集中到少數(shù)人手里，進一步加劇兩極分化，帶來嚴重的民生和政治問題。

    科技進步既改變著人類社會，也塑造著人本身。對于人工智能的發(fā)展，我們首先應當樹立正確的價值觀念，防患于未然，應對科技創(chuàng)新帶來的巨大沖擊。一方面，我們應積極倡導建立負責任的研發(fā)和創(chuàng)新價值體系，在人工智能的研發(fā)創(chuàng)新階段以及后續(xù)技術(shù)全生命周期，加強對科技創(chuàng)新過程中倫理問題的關(guān)注和控制，避免人工智能可能造成的不利影響。另一方面，要從人文社會科學的角度，加強人工智能的社會影響機理、規(guī)律與趨勢研究，完善和強化人工智能發(fā)展的社會政策體系。人工智能技術(shù)給人類社會帶來的負面影響，歸根到底是對人類歷經(jīng)千百年所建立的具有深厚人文情懷的文明架構(gòu)的全面沖擊。因此，在大力推動科技研發(fā)的同時，我們也必須促進與新興技術(shù)相關(guān)的人文社會科學研究的發(fā)展，實現(xiàn)自然科學與社會科學的交融共振，只有這樣，才能從根本上消解人工智能技術(shù)發(fā)展中的隱憂。

    深入開展社會實驗研究，提升智能社會認知水平

    要想解決人工智能技術(shù)的負面效應，實現(xiàn)對人工智能的有效治理，需要我們對人工智能時代的社會形態(tài)和特征具有全面而系統(tǒng)的把握和認知。而這種認知的建立，有賴于以實踐證據(jù)為基礎(chǔ)的實證研究，特別是社會實驗研究的開展。

    社會實驗是種典型的社會科學研究方法，是以現(xiàn)實情境下的人、組織作為研究對象所開展的研究活動，目的在于通過某些社會、政治過程或技術(shù)變革導致的近似于理想實驗的場景來研究社會科學的問題。約一百年前，為研究工業(yè)化社會所帶來的影響，美國就曾通過組織大規(guī)模社會實驗，史稱“霍桑實驗”，對進入工業(yè)文明時代后，人類的心理和行為問題進行了深入的解析。

    如今人工智能技術(shù)已經(jīng)融入當下人類社會和生活，而且正在以幾何級增長的速度擴展自己的存在，人類社會正面臨百年未有之大變局，快速邁入智能化的新時代。人工智能技術(shù)創(chuàng)新給人類社會帶來的巨大變革，為開展智能化時代的社會實驗提供了理想的要素和場景。

    近年來，清華大學、浙江大學等單位的專家學者，匯集全國計算機科學、社會學、心理學、醫(yī)學等領(lǐng)域的智力資源，在大量前期工作的基礎(chǔ)上，針對人工智能社會影響的問題，率先提出了開展長周期、寬領(lǐng)域、多學科人工智能社會實驗的政策建議?？萍疾拷M織制定了《國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設工作指引》，將社會實驗作為新一代人工智能創(chuàng)新發(fā)展試驗區(qū)建設的重要工作。中央網(wǎng)信辦等有關(guān)部委也制定行動方案，在全國開展人工智能社會治理實驗。

    近日，第一屆全國人工智能社會實驗學術(shù)會議在清華大學召開，100余位專家學者交流分享了人工智能社會實驗的最新成果，研究討論了人工智能社會實驗的工作方案和行動計劃。開展長周期、寬領(lǐng)域、多學科人工智能社會實驗，有助于我們從小切入，在不對人類社會造成較大規(guī)模影響的情況下，準確識別人工智能對人類社會帶來的挑戰(zhàn)和沖擊，深入理解人工智能的社會影響特征與態(tài)勢，深刻把握人工智能時代社會演進的規(guī)律，從而為建立有人文溫度的智能社會提供科學的參考依據(jù)。

    建立智能社會治理體系，實現(xiàn)對技術(shù)和產(chǎn)業(yè)的積極回饋

    在人類社會面臨轉(zhuǎn)型的關(guān)鍵節(jié)點和重大關(guān)口，在應對人工智能等科技變革帶來的全新公共治理挑戰(zhàn)的情境下，我們要從人文社會科學的角度出發(fā)，以人工智能社會實驗為起點，加強人工智能的社會影響機理、規(guī)律與趨勢的研究與探索，在人工智能的研發(fā)階段以及后續(xù)技術(shù)全生命周期，加強對科技倫理問題的關(guān)注和控制，進一步完善負責任的研發(fā)創(chuàng)新價值體系，推動應對技術(shù)變革的公共政策創(chuàng)新，建立智能社會治理體系，實現(xiàn)對技術(shù)和產(chǎn)業(yè)的積極回饋。

    當前，世界各國政府都陸續(xù)出臺了相關(guān)政策以推動并規(guī)范人工智能的發(fā)展。美國頒布了《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》和《為人工智能的未來做好準備》兩個國家級政策框架，日本出臺了《第五期（2016-2020年度）科學技術(shù)基本計劃》，提出了超智能社會5.0的概念，英國政府發(fā)布了《人工智能：未來決策制定的機遇與影響》，法國發(fā)布了《人工智能戰(zhàn)略》，我國也發(fā)布了《新一代人工智能發(fā)展規(guī)劃》等相關(guān)政策。不同國家對于人工智能發(fā)展的態(tài)度不同，但都高度關(guān)注人工智能的社會影響與治理問題。

    我國是一個擁有近14億人口的大國，并處在經(jīng)濟社會轉(zhuǎn)型升級的關(guān)鍵時期，具有龐大的人工智能市場需求。我們必須保持以市場為主導的“冒險取向的制度設計”和以人文社會為主導的“安全取向的制度設計”間的平衡，這要求我們不斷地根據(jù)出現(xiàn)的社會問題對人工智能帶來的影響進行評估，在此基礎(chǔ)上進一步優(yōu)化人工智能在數(shù)據(jù)治理、算法責任、技術(shù)路徑等方面的科學規(guī)范與技術(shù)標準，構(gòu)建兼顧理論與實踐的全鏈條研究路徑，以保障相關(guān)治理及時跟進，從而為人工智能技術(shù)發(fā)展打造開放有序的環(huán)境，推動建立有人文溫度的智能社會治理體系。

    盡管世界各國在人工智能治理上目前還處于起步階段，但在不遠的將來，一些重要大國參與的人工智能國際治理機制會很快建構(gòu)并完善起來，這是全球人工智能規(guī)范、有序發(fā)展的必由之路。尤其是人工智能與物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、互聯(lián)網(wǎng)等技術(shù)深度融合，人工智能所造成的社會影響將會超越一國的邊界而成為全球共同關(guān)注的公共問題，因此人工智能客觀上需要全球性協(xié)調(diào)機制、全球性協(xié)作平臺以及全球性的標準和規(guī)則，同樣也需要國際范圍內(nèi)人工智能的道德倫理系統(tǒng)和價值理念的碰撞與討論，這些都是人工智能全球治理的發(fā)展趨勢。

    我國是全世界發(fā)展人工智能技術(shù)行動最早、動作最快的國家之一，面對全球科技創(chuàng)新的新態(tài)勢，我們要牢牢抓住人工智能發(fā)展的重大歷史機遇，緊扣發(fā)展、研判大勢，主動謀劃、搶占先機，引領(lǐng)世界人工智能發(fā)展新潮流。我們要加快開展以理論探索為導向，以指導實踐為目標的人工智能社會實驗，在對人工智能綜合影響進行持續(xù)觀測和數(shù)據(jù)收集、分析的基礎(chǔ)上，探索人工智能全球治理的“中國方案”，促進人工智能技術(shù)、產(chǎn)業(yè)和治理的良性發(fā)展，建設有人文溫度的智能社會。

（作者：蘇竣，系清華大學智庫中心主任、清華大學公共管理學院教授；黃萃，系浙江大學公共管理學院教授、信息資源管理系主任）