科技日?qǐng)?bào)記者 李艷

　　斯蒂芬·霍金曾說(shuō)過(guò)，人工智能的崛起，要么是人類歷史上最好的事，要么是最糟的。人工智能在帶動(dòng)巨大技術(shù)進(jìn)步的同時(shí)，也給經(jīng)濟(jì)社會(huì)治理帶來(lái)了新的挑戰(zhàn)。

　　最近一段時(shí)間，人們關(guān)于人工智能的討論可真不少——換臉、反換臉技術(shù)斗得不可開(kāi)交；無(wú)人駕駛引發(fā)事故如何追責(zé)讓人憂心忡忡；智能機(jī)器人該不該有公民身份的爭(zhēng)論也已經(jīng)反復(fù)了好幾輪。

　　隨著人工智能越來(lái)越滲透進(jìn)人類生活的方方面面，全社會(huì)對(duì)人工智能的關(guān)注也從最開(kāi)始的懷揣美好期望，變成了期待之外有擔(dān)憂。在人工智能迅速發(fā)展，深刻改變?nèi)祟惿鐣?huì)生活、改變世界的背景下，我們?cè)诓粩鄬で笕斯ぶ悄苄б孀畲蠡瘯r(shí)，如何應(yīng)對(duì)其倫理和監(jiān)管問(wèn)題，成為新的焦點(diǎn)。

　　6月17日，國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》（以下簡(jiǎn)稱《治理原則》），提出了人工智能治理的框架和行動(dòng)指南。（見(jiàn)《治理原則》全文）

　　清華大學(xué)蘇世民書院院長(zhǎng)，國(guó)家新一代人工智能治理專業(yè)委員會(huì)主任薛瀾參與了《治理原則》制定和出臺(tái)的全過(guò)程，他在接受科技日?qǐng)?bào)采訪時(shí)表示，《治理原則》旨在更好協(xié)調(diào)人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可控可靠，推動(dòng)經(jīng)濟(jì)、社會(huì)及生態(tài)可持續(xù)發(fā)展，共建人類命運(yùn)共同體。

　　各方共同擔(dān)責(zé)

　　“負(fù)責(zé)任”是主題

　　《治理原則》突出了發(fā)展負(fù)責(zé)任的人工智能這一主題，強(qiáng)調(diào)了和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔(dān)責(zé)任、開(kāi)放協(xié)作、敏捷治理等八條原則。薛瀾說(shuō)，這里的“負(fù)責(zé)任”是多方的責(zé)任——既有人工智能研發(fā)者，也有使用者、管理者等其他相關(guān)方，各方應(yīng)具有高度的社會(huì)責(zé)任感和自律意識(shí)，嚴(yán)格遵守法律法規(guī)、倫理道德和標(biāo)準(zhǔn)規(guī)范。在這個(gè)基礎(chǔ)上建立人工智能問(wèn)責(zé)機(jī)制，明確研發(fā)者、使用者和受用者等的責(zé)任。人工智能應(yīng)用過(guò)程中應(yīng)確保人類知情權(quán)，告知可能產(chǎn)生的風(fēng)險(xiǎn)和影響。防范利用人工智能進(jìn)行非法活動(dòng)。

　　發(fā)展的眼光看問(wèn)題

　　敏捷治理是這個(gè)意思

　　人工智能的發(fā)展日新月異，技術(shù)更迭之快、新產(chǎn)品出現(xiàn)之頻繁遠(yuǎn)超出人們的預(yù)期，所以過(guò)往在人工智能治理過(guò)程中最大的麻煩就是老政策解決不了新問(wèn)題，這一次《治理原則》推出了“敏捷治理”。

　　“這是一個(gè)全新的思路”，中科院自動(dòng)化所研究員，國(guó)家新一代人工智能治理專業(yè)委員會(huì)委員曾毅向科技日?qǐng)?bào)表示，《治理原則》針對(duì)人工智能獨(dú)特的發(fā)展規(guī)律，在推動(dòng)人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時(shí)，更應(yīng)該具有前瞻性和預(yù)判性，這樣才能及時(shí)發(fā)現(xiàn)和解決可能引發(fā)的未知的風(fēng)險(xiǎn)。

　　“敏捷治理”可以讓我們對(duì)未來(lái)更高級(jí)人工智能的潛在風(fēng)險(xiǎn)持續(xù)開(kāi)展研究和預(yù)判，確保人工智能始終朝著有利于人類的方向發(fā)展。

　　尊重隱私

　　禁止濫用、惡用人工智能

　　這些年來(lái)，我國(guó)的人工智能技術(shù)取得了長(zhǎng)足發(fā)展，中國(guó)的人工智能發(fā)展動(dòng)力從哪里來(lái)？坊間有過(guò)各種說(shuō)法。上海大學(xué)教授，國(guó)家新一代人工智能治理專業(yè)委員會(huì)委員李仁涵表示，我國(guó)的人工智能發(fā)展得益于數(shù)據(jù)量的快速增長(zhǎng)、計(jì)算能力的大幅提升、機(jī)器學(xué)習(xí)算法的持續(xù)優(yōu)化，以及政府、企業(yè)對(duì)人工智能技術(shù)的大力支持。

　　曾毅表示，長(zhǎng)期以來(lái)，我國(guó)對(duì)于人工智能發(fā)展中的安全問(wèn)題、隱私問(wèn)題都十分重視。因此在《治理原則》中，尊重隱私被放在一個(gè)十分重要的位置。要求充分保障個(gè)人的知情權(quán)和選擇權(quán)的同時(shí)，在個(gè)人信息的收集、存儲(chǔ)、處理、使用等各環(huán)節(jié)應(yīng)設(shè)置邊界，建立規(guī)范。

　　曾毅更強(qiáng)調(diào)，此次在《治理原則》中首提“個(gè)人數(shù)據(jù)授權(quán)撤銷機(jī)制”。他表示，我們反對(duì)任何竊取、篡改、泄露和其他非法收集利用個(gè)人信息的行為，基于此個(gè)人有權(quán)在同意個(gè)人信息授權(quán)后，有權(quán)利隨時(shí)撤銷授權(quán)，這一點(diǎn)在全世界也屬于領(lǐng)先。他認(rèn)為，人工智能應(yīng)以保障社會(huì)安全、尊重人類權(quán)益為前提，避免誤用，禁止濫用、惡用。

　　共治共管

　　《治理原則》的誕生有點(diǎn)特別

　　《治理原則》的出臺(tái)，為的推動(dòng)我國(guó)人工智能行業(yè)的自律，凝聚全社會(huì)共識(shí)，促進(jìn)人工智能健康發(fā)展，所以“共治共管”的理念貫穿始終。早在《治理原則》起草前，科學(xué)技術(shù)部就在官方網(wǎng)站上發(fā)布消息，征求社會(huì)各界的意見(jiàn)。

　　“我們征集到了百余條十分有價(jià)值的意見(jiàn)，其中一些意見(jiàn)被采納，還有許多提意見(jiàn)的人員被請(qǐng)來(lái)與我們一起探討”，薛瀾向科技日?qǐng)?bào)介紹說(shuō)。

　　一位中醫(yī)科學(xué)院的專家提出以醫(yī)學(xué)倫理為鑒確定人工智能的監(jiān)管思路，一位南開(kāi)大學(xué)的哲學(xué)專家建議以傳統(tǒng)文化中的哲學(xué)思路倡導(dǎo)人工智能向善的理念等等，這些意見(jiàn)和建議都被國(guó)家新一代人工智能治理專業(yè)委員會(huì)的專家們廣泛聽(tīng)取。

　　曾毅告訴科技日?qǐng)?bào)，《治理原則》出臺(tái)整個(gè)過(guò)程經(jīng)歷了網(wǎng)上建議征集、專家反復(fù)研討、多方征求意見(jiàn)等環(huán)節(jié)，凝聚了廣泛共識(shí)。值得一提的是，與許多國(guó)家先出草案再聽(tīng)意見(jiàn)不同，我們最初的意見(jiàn)征集階段完全是發(fā)散性的，所有人各抒己見(jiàn)不設(shè)方向、不設(shè)門檻。

　　薛瀾表示，《治理原則》是一個(gè)框架，后續(xù)將有更細(xì)化的政策法規(guī)、行業(yè)標(biāo)準(zhǔn)規(guī)范、區(qū)域共識(shí)等來(lái)規(guī)范人工智能的發(fā)展。他強(qiáng)調(diào)，人工智能的治理已經(jīng)不是某個(gè)地區(qū)或者國(guó)家的問(wèn)題，而是需要全球協(xié)同；人工智能發(fā)展應(yīng)以增進(jìn)人類共同福祉為目標(biāo)，符合人類的價(jià)值觀和倫理道德。中國(guó)的專家們盼著與全世界的科學(xué)家一起建立共識(shí)、協(xié)同發(fā)展，為促進(jìn)人機(jī)和諧，服務(wù)人類文明進(jìn)步共同努力。