人工智能科學(xué)與技術(shù)的發(fā)展日新月異，它直接作用于社會(huì)，也將以最直接的方式接收到社會(huì)的反饋。它在推動(dòng)科技、經(jīng)濟(jì)、社會(huì)的發(fā)展中起到的持續(xù)性積極作用毋庸置疑，然而如果在其發(fā)展過(guò)程中沒(méi)有對(duì)社會(huì)潛在影響和可持續(xù)性進(jìn)行充分考慮，可能會(huì)造成預(yù)期之外的負(fù)面影響。因此，對(duì)人工智能倫理的考量應(yīng)貫穿于人工智能產(chǎn)品與服務(wù)的整個(gè)生命周期。

　　需秉承以人為本及可持續(xù)發(fā)展的理念

　　符合人類倫理與價(jià)值觀的人工智能應(yīng)秉承以人為本及可持續(xù)發(fā)展的理念，尊重隱私，促進(jìn)公平公正，不引入種族、文化等偏見(jiàn)，人工智能技術(shù)的發(fā)展應(yīng)做到透明與可解釋、安全可控、可驗(yàn)證、可追責(zé)，為推動(dòng)技術(shù)普惠各行各業(yè)、各個(gè)國(guó)家與地區(qū)，應(yīng)避免惡意競(jìng)爭(zhēng)，促進(jìn)開(kāi)放合作與包容共享。

　　倡導(dǎo)和諧發(fā)展應(yīng)當(dāng)是新一代人工智能倫理與治理的主旋律。一方面為實(shí)現(xiàn)通過(guò)人工智能增進(jìn)人類共同福祉這一目標(biāo)，采用的途徑并不唯一，應(yīng)當(dāng)始終秉承與實(shí)踐和而不同、和合向善的發(fā)展理念。另一方面應(yīng)推動(dòng)人類與技術(shù)的和諧共生，避免技術(shù)的誤用、濫用、惡用對(duì)人類權(quán)益的傷害，總體愿景應(yīng)是發(fā)展對(duì)人類與生態(tài)有益的人工智能。

　　無(wú)論采取哪種技術(shù)途徑實(shí)現(xiàn)新一代人工智能，都無(wú)法杜絕在發(fā)展過(guò)程中可能帶來(lái)的潛在技術(shù)與社會(huì)風(fēng)險(xiǎn)及對(duì)現(xiàn)代科技倫理的潛在沖擊。技術(shù)發(fā)展的途徑與方式的多樣性使得其所帶來(lái)的風(fēng)險(xiǎn)也具有不確定性，因此應(yīng)當(dāng)在探索新一代人工智能，特別是不同類型的高等智能的過(guò)程中，建立對(duì)其技術(shù)與社會(huì)風(fēng)險(xiǎn)的持續(xù)戰(zhàn)略性前瞻研究，以避免、降低潛在風(fēng)險(xiǎn)帶來(lái)的負(fù)面影響。

　　在對(duì)未來(lái)人工智能的潛在風(fēng)險(xiǎn)及應(yīng)對(duì)策略的研究方面，應(yīng)最大限度地共享對(duì)隱患的認(rèn)識(shí)及危機(jī)處理方案與經(jīng)驗(yàn)。只有建立全球共享、群策群力的機(jī)制并采取行動(dòng)，才能保證安全，避免顛覆性技術(shù)可能帶來(lái)的災(zāi)難性風(fēng)險(xiǎn)。

　　多方協(xié)作實(shí)現(xiàn)發(fā)展與治理雙輪驅(qū)動(dòng)

　　作為我國(guó)新一代人工智能戰(zhàn)略的牽頭單位，2019年3月，科技部組建了國(guó)家新一代人工智能治理專業(yè)委員會(huì)。同年6月，該委員會(huì)發(fā)布了《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，這是我國(guó)新一代人工智能戰(zhàn)略對(duì)發(fā)展與治理關(guān)系的原則性闡述，也是中國(guó)新一代人工智能治理的重要基礎(chǔ)。

　　為了確保中國(guó)新一代人工智能向?qū)ι鐣?huì)有益的方向發(fā)展，新一代人工智能應(yīng)采取發(fā)展與治理雙輪驅(qū)動(dòng)的戰(zhàn)略。治理的目的并不是阻礙發(fā)展，而是保持發(fā)展的穩(wěn)健。

　　敏捷治理應(yīng)成為中國(guó)人工智能治理重要特征之一。這里敏捷治理可以被解讀為有兩方面的含義：一方面是人工智能治理隨人工智能技術(shù)的進(jìn)展進(jìn)行自適應(yīng)，使得治理工作能夠更適應(yīng)發(fā)展的特點(diǎn)；另一方面是相關(guān)治理工作動(dòng)作迅速。

　　與新一代人工智能發(fā)展一脈相承，作為中國(guó)人工智能發(fā)展的重要方面，人工智能治理在中國(guó)也應(yīng)通過(guò)多部門聯(lián)動(dòng)深度協(xié)作的方式進(jìn)行。政府部門、科研機(jī)構(gòu)、企業(yè)等創(chuàng)新單元在人工智能治理工作中應(yīng)各自承擔(dān)相應(yīng)的責(zé)任并深度協(xié)作，真正從技術(shù)和社會(huì)等不同視角實(shí)現(xiàn)新一代人工智能的敏捷治理。

　　建立人工智能治理公共服務(wù)體系防患于未然

　　未來(lái)，一方面需要政府相關(guān)部門、科研機(jī)構(gòu)、產(chǎn)業(yè)對(duì)人工智能可能存在的風(fēng)險(xiǎn)、安全與倫理隱患加以足夠的重視，并對(duì)人工智能倫理與治理進(jìn)行戰(zhàn)略性的關(guān)注與投入，加強(qiáng)自律自治。另一方面，對(duì)于國(guó)家和地方相關(guān)機(jī)構(gòu)而言，應(yīng)當(dāng)推動(dòng)人工智能治理相關(guān)高端智庫(kù)、執(zhí)行機(jī)構(gòu)、協(xié)作網(wǎng)絡(luò)的建立，并鼓勵(lì)公眾參與討論，及時(shí)了解公眾對(duì)技術(shù)參與變革社會(huì)的思考。

　　需要指出，新一代人工智能治理工作的重點(diǎn)應(yīng)當(dāng)是防患于未然，而不僅僅是事后的警戒、責(zé)令整改與懲治。發(fā)展與治理的雙輪驅(qū)動(dòng)需要將人工智能倫理與治理工作推動(dòng)為兼服務(wù)與監(jiān)管于一身的公共體系。應(yīng)鼓勵(lì)政府相關(guān)部門、科研機(jī)構(gòu)、企業(yè)及其他創(chuàng)新單元，乃至公眾共建新一代人工智能倫理與治理公共體系。應(yīng)在政府和相關(guān)機(jī)構(gòu)的指導(dǎo)下，鼓勵(lì)新一代人工智能倫理與治理公共服務(wù)平臺(tái)的建設(shè)并面向政府、科研機(jī)構(gòu)、企業(yè)、公眾提供服務(wù)，從而負(fù)責(zé)任地推動(dòng)并確保新一代人工智能的穩(wěn)健發(fā)展。（作者系中科院自動(dòng)化研究所研究員、北京智源人工智能研究院人工智能倫理與安全中心主任 曾毅）