每經(jīng)記者 楊棄非    每經(jīng)編輯 楊歡

圖片來源：每經(jīng)記者 韓陽 攝

“我晚上甚至難以入眠，滿腦子都在思考如何推進人工智能倫理的全球合作。”作為ICGAI（國際人工智能治理大會）的發(fā)起人，已滿頭白發(fā)的耶魯大學生物倫理學中心科技與倫理學科主任溫德爾·瓦拉赫（Wendell Wallach）言辭懇切。在去年9月，主持了集結眾多人工智能行業(yè)領袖的紐約峰會后，瓦拉赫又現(xiàn)身中國——推動更多利益相關方加入到構建全球人工智能倫理與治理的工作中來，是他此行的重要目的。

今年4月，歐盟出臺《人工智能倫理導則》；在不久前舉行的第三屆世界智能大會上，全國政協(xié)副主席、中國科協(xié)主席萬鋼提出，將人工智能道德倫理研究列入中國人工智能發(fā)展的“新策略”。種種跡象表明，人工智能已掀起了倫理優(yōu)先的全新發(fā)展模式，瓦拉赫等國內(nèi)外學者進一步認為，應該將“戰(zhàn)線”再拉至全球?qū)用妗?/p>

“盡管人工智能仍處于起步期，但發(fā)展速度驚人。” 5月21日，在太和智庫主辦的中國人工智能倫理與治理網(wǎng)絡構建研討會上，太和智庫歐洲中心主任、高級研究員托斯登·耶里尼克指出，“人工智能將帶來‘革命的終結’，進而影響全人類發(fā)展軌跡。為避免不可逆的災難，有必要進行跨國的倫理治理。”

對于人工智能這樣的新興領域，多認為應審慎監(jiān)管，但如何把握倫理治理的度？在各國爭相搶占技術與產(chǎn)業(yè)應用制高點時，又如何建立合作的共識？在接受《每日經(jīng)濟新聞》記者的專訪時，耶里尼克就上述人工智能領域的國際焦點話題，一一作出解答。

顛覆性的人工智能如何向善？

人工智能的發(fā)展有多快？數(shù)據(jù)顯示，僅2017年，全球新成立人工智能創(chuàng)業(yè)公司1100家，人工智能領域共獲得投資152億美元，同比增長141%。而麥肯錫發(fā)布的一項研究報告指出，到2030年，約70%的公司將采用至少一種形式的人工智能，人工智能新增經(jīng)濟規(guī)模將達到13萬億美元。

被認為是第四次產(chǎn)業(yè)革命核心的人工智能，正在掀起新一輪產(chǎn)業(yè)的改造浪潮。 “人工智能+”接棒“互聯(lián)網(wǎng)+”，成為經(jīng)濟新的賦能手段。但在耶里尼克看來，人工智能更大的影響將發(fā)生在整個社會領域。

“與以前的產(chǎn)業(yè)革命不同，人工智能不是一個階段性的產(chǎn)業(yè)革命，它將帶來一種‘革命的終結’。”耶里尼克指出，“在產(chǎn)業(yè)革命的過程中，人類始終處于主宰的位置，人類智力對產(chǎn)業(yè)革命的作用是無可替代的。但隨著人工智能開始引領革命，將出現(xiàn)能夠與人類智力相抗衡的事物。”

改變已經(jīng)悄然上演。人工智能取代人力已不是新聞，與此同時，在人工智能技術的支持下，通過人臉識別改變照片甚至視頻的做法引起更多人的關注。

“它改變的是人與人之間、人與技術之間的關系。”耶里尼克分析道，“比如，當機器把人從工作中解脫出來，人通過工作來實現(xiàn)自我認知的方式可能就會產(chǎn)生改變；對于一些普世標準，比如如何定義最低收入，在由人工智能主導和未得到人工智能改造的國家中，將產(chǎn)生巨大的觀念差異。”

“人工智能實際上是在重新定義‘人’。”在接受《每日經(jīng)濟新聞》記者采訪時，中國人民大學國際關系學院教授王義桅提到，當有了人工智能參與后，國家競爭力定義將受到根本影響，這實際上是對規(guī)則本身的重塑。

當一切回到原點，人類的發(fā)展軌跡就成為一個需要考慮的問題。“我們要避免走向錯誤的方向，必須要進行干預，并找到好的應對措施。這會是一個很長的過程，可能會直到所有‘改革’的結束。”耶里尼克說道。

制度建立與國際協(xié)作應前置

正因如此，人工智能的發(fā)展與以前的數(shù)次工業(yè)革命中的新技術都不相同——按照耶里尼克所說，盡管人工智能還處于發(fā)展的初級階段，但關于倫理的討論和制度的建設已被早早提上日程。

一個典型的例子發(fā)生在歐盟。歐盟于去年通過了《通用數(shù)據(jù)保護條例》后，又在今年4月快馬加鞭地發(fā)布了《人工智能倫理導則》，據(jù)智庫機構數(shù)據(jù)創(chuàng)新中心（Center for Data Innovation）的高級政策分析師艾琳·奇沃特（Eline Chivot）分析，該舉動的目的是以倫理標準確定歐盟在全球人工智能發(fā)展中的地位。

領先科研與產(chǎn)業(yè)發(fā)展的倫理制定，亦成為越來越多國家的做法。中國科技部部長王志剛日前透露，正在加緊研究起草人工智能治理準則，近期將向全社會發(fā)布。而在美國，一些州已經(jīng)發(fā)布了以州為單位的導則。

有觀點指出，這種做法的效果存在兩面性——在提供更穩(wěn)定的政策土壤與可信賴的合作機制的同時，它也可能會限制企業(yè)和機構在該領域自然的創(chuàng)新本能與發(fā)展機遇。

“需要分清的是，是推進人工智能產(chǎn)業(yè)本身的發(fā)展，還是要促進全行業(yè)的創(chuàng)新能力。”耶里尼克認為，“不加以限制的后果是，一個‘巨無霸’公司可能很快就掌控了行業(yè)內(nèi)的全部機會，難以形成企業(yè)共同成長、創(chuàng)新的健康環(huán)境。同時，科技也應該真正用于服務社會。”

他提到了一種自我監(jiān)管的方式。“人工智能可以做到在設計層面擁有某種自我意識，幫助避免人類在為其制定制度時可能擁有的偏見；那么，也可以設計一種方式，讓人工智能自己管理自己。”耶里尼克說。

而在研討會現(xiàn)場，許多人也指出，作為一大國際議題，人工智能更需要來自國際層面的共同治理，特別是諸如氣候變暖等全球性議題，由于各國國內(nèi)缺乏變革動力時、難以進行有效國際合作，更應該提前部署在人工智能領域的國際合作，揚長避短。

“這實際上包含了一種多邊主義的觀念。”耶里尼克向記者解釋稱，“由于人工智能本身的‘跨界’屬性，自然需要鼓勵更多利益相關者和利益相關國參與。”

中、美、歐盟可構建“三角框架”

但與許多國際合作類似，在人工智能倫理治理上，尚未形成一個有約束力的、能夠有效協(xié)調(diào)各國和地區(qū)間競爭關系的合作機制。

在2017年舉行的“向善的人工智能”（Beneficial AI）會議上，由844名人工智能和機器人專家聯(lián)合簽署了一項“阿西洛馬人工智能原則”，提出了全球人工智能領域發(fā)展的普世原則，這也是人工智能領域較早、較全面的國際合作指導原則。

此后，盡管也有其他的跨國人工智能合作框架誕生，但大都與此類似——提出的原則相似，管理也主要以一種松散的模式——即耶里尼克提到的“軟治理”。

“由于政府的治理存在一定的滯后性，需要這種靈敏的治理方式，只提供治理框架，在治理過程中不斷根據(jù)實際情況進行動態(tài)調(diào)整，以跟上科技與產(chǎn)業(yè)的變化速度。”耶里尼克向記者如是介紹。

而與靈活性同時存在的是，軟治理難以彌合國家或地區(qū)間的不同點，這不僅體現(xiàn)在仍進行中的關于人工智能的競爭，同時，倫理層面的合作會更多牽動到文化差異。

“單獨看中國、美國和歐盟，文化、價值觀與倫理觀的差異確實存在。”據(jù)耶里尼克觀察發(fā)現(xiàn)，當談到人工智能的倫理，美國傾向于談利益、個人價值的實現(xiàn)，歐洲更關注社會融合和隱私保護的問題，而在中國，對和諧的強調(diào)以及如何治理則是討論的共同點。

針對三方的差異，中國人民大學國際關系學院教授王義桅在接受《每日經(jīng)濟新聞》記者采訪時，提出了一種合作模式：中國、美國與歐盟各施所長，構建一種三角形的合作框架。

在耶里尼克看來，在這種框架下，中國還可以發(fā)揮文化優(yōu)勢，比如將“利他主義”的思想貢獻至有關人工智能倫理的大討論中，供各方互學共鑒，使中國更好地加入人工智能全球發(fā)展議程的設置中。