每經(jīng)記者 文巧    每經(jīng)編輯 蘭素英    

伴隨著ChatGPT的崛起，AI的風(fēng)險(xiǎn)之說也不絕于耳。

當(dāng)?shù)貢r(shí)間5月30日，非營利組織“人工智能安全中心”（Center for AI Safety）在其官網(wǎng)發(fā)布一封聯(lián)名公開信，稱減輕AI（給人類）帶來的滅絕風(fēng)險(xiǎn)應(yīng)成為全球性的優(yōu)先事項(xiàng)，與大流行病及核戰(zhàn)爭(zhēng)等其他影響社會(huì)的大規(guī)模風(fēng)險(xiǎn)處于同等級(jí)別。目前已有350位AI大佬簽署了這封聯(lián)名公開信，包括OpenAI首席執(zhí)行官Sam Altman、谷歌DeepMind首席執(zhí)行官Demis Hassabis和Anthropic首席執(zhí)行官Dario Amode三大AI公司掌門人以及圖靈獎(jiǎng)獲得者、被譽(yù)為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio。

在此之前，Sam Altman等人也發(fā)表文章稱，超級(jí)智能技術(shù)帶來的潛在利益和風(fēng)險(xiǎn)將比過去任何其他技術(shù)更加巨大。“在未來幾年內(nèi)，AI系統(tǒng)將在大多數(shù)領(lǐng)域超越專家技能水平，并開展盡可能多的生產(chǎn)活動(dòng)。”

《每日經(jīng)濟(jì)新聞》記者近期對(duì)一系列行業(yè)開展調(diào)查后發(fā)現(xiàn)，AI已經(jīng)廣泛應(yīng)用于電商、游戲、留學(xué)等行業(yè)，并給部分職業(yè)造成了巨大沖擊。

在此背景下，越來越多的人呼吁對(duì)AI行業(yè)進(jìn)行監(jiān)管。“現(xiàn)在是一個(gè)開始思考超級(jí)智能（superintelligence）監(jiān)管的良好時(shí)機(jī)——未來的 AI 系統(tǒng)將比 AGI 都要強(qiáng)大。”Altman等如此說道。

在這場(chǎng)轟轟烈烈的技術(shù)浪潮中，人類應(yīng)該如何應(yīng)對(duì)？全球政府又該如何防范AI失控？每經(jīng)獨(dú)家采訪了在國際AI領(lǐng)域享譽(yù)盛名的“深度學(xué)習(xí)之父”Jürgen Schmidhuber、IBM AI倫理全球負(fù)責(zé)人Francesca Rossi，以及加州理工學(xué)院電氣工程和計(jì)算機(jī)科學(xué)教授Yaser S. Abu-Mostafa，探討人類應(yīng)當(dāng)如何建立一個(gè)人機(jī)共存的世界。

圖片來源：視覺中國-VCG41N1408722861

“這不僅僅是一場(chǎng)工業(yè)革命”

自ChatGPT誕生以來，人類無不嘆服于AI的強(qiáng)大，甚至許多人認(rèn)為，《終結(jié)者》和《黑客帝國》中上演的場(chǎng)景或?qū)⒃谖磥沓蔀楝F(xiàn)實(shí)——硅基生物將主宰碳基生物。

《人類簡史》作者Yuval Noah Harari近期也發(fā)表了一場(chǎng)演講，暗示了這樣的可能性，“AI可能會(huì)改變生態(tài)系統(tǒng)的含義，因?yàn)樵诘厍虼嬖诘?0億年里，生態(tài)系統(tǒng)只包含有機(jī)生命形式。而現(xiàn)在，或者說不久的將來，我們可能會(huì)看到第一種無機(jī)生命形式出現(xiàn)，或者至少是無機(jī)代理的出現(xiàn)。”

他表示，在科幻場(chǎng)景中，AI要構(gòu)成對(duì)人類的重大威脅有兩個(gè)前提，即AI必須變得有感知力，發(fā)展出意識(shí)、感情和情緒，并且必須擅長在物理世界中導(dǎo)航。然而，當(dāng)下的情況是，AI不需要意識(shí)就能威脅到人類文明的生存。

在Harari看來，當(dāng)前我們身處的AI革命進(jìn)程最重要的一個(gè)方面是，AI正在以超越普通人平均能力的水平掌握語言。通過掌握語言，人工智能正在獲得通往所有機(jī)構(gòu)之門的主鑰匙，可以說，AI破解了人類文明的操作系統(tǒng)。“通過掌握語言，AI還能與人建立深入而親密的關(guān)系，利用親密的力量影響我們的觀點(diǎn)和世界觀。”他說道。

“從長遠(yuǎn)來看，AI將改變我們文明的方方面面。一切都會(huì)改變，這不僅僅是另一場(chǎng)工業(yè)革命。”被譽(yù)為“深度學(xué)習(xí)之父”、瑞士AI實(shí)驗(yàn)室IDSIA的科學(xué)事務(wù)主管Jürgen Schmidhuber告訴《每日經(jīng)濟(jì)新聞》記者。

“每5年，計(jì)算成本就會(huì)降低10倍。照這種指數(shù)趨勢(shì)，可以初步預(yù)測(cè)，21世紀(jì)將出現(xiàn)‘廉價(jià)’計(jì)算機(jī)，其原始計(jì)算能力是所有人類大腦總和的一千倍。很快，數(shù)百萬、數(shù)十億和數(shù)萬億這樣的設(shè)備也會(huì)涌現(xiàn)，幾乎所有的智能體都能超越人腦。這是一種新事物，最終將超越人類，甚至超越生物學(xué)。”他進(jìn)一步說道。

Schmidhuber于1997年提出的LSTM（長短期記憶網(wǎng)絡(luò)）現(xiàn)廣泛應(yīng)用于谷歌翻譯、蘋果Siri、亞馬遜Alex等應(yīng)用，是深度學(xué)習(xí)領(lǐng)域商業(yè)化最強(qiáng)的技術(shù)之一；而他提出的具有線性化自注意力的 Transformers架構(gòu)也是后來ChatGPT誕生的基礎(chǔ)。

對(duì)于AI在人類社會(huì)中扮演的角色，國際機(jī)器學(xué)習(xí)權(quán)威學(xué)者、現(xiàn)加州理工學(xué)院電氣工程和計(jì)算機(jī)科學(xué)教授Yaser S. Abu-Mostafa表示，“AI可以且應(yīng)該繼續(xù)從屬于人類，從長遠(yuǎn)來看將對(duì)我們大有裨益。例如，在醫(yī)學(xué)領(lǐng)域，AI正在取得革命性的進(jìn)步，這將對(duì)我們的生活和我們的生活質(zhì)量產(chǎn)生深遠(yuǎn)的積極影響。”Abu-Mostafa也是神經(jīng)信息處理系統(tǒng)大會(huì)的創(chuàng)始項(xiàng)目主席，該會(huì)議在機(jī)器學(xué)習(xí)領(lǐng)域獨(dú)具權(quán)威性。

這一點(diǎn)，Schmidhuber同樣深信不疑，“在AI的快速發(fā)展中，個(gè)人和組織將以多種方式獲益匪淺。”

“搶飯碗”？陣痛之下也有機(jī)會(huì)

在更廣泛的討論中，大部分人對(duì)AI的恐懼更多來源于洶涌的“AI替代人工”之說。

3月份，OpenAI和非營利性研究實(shí)驗(yàn)機(jī)構(gòu)OpenResearch，以及賓夕法尼亞大學(xué)合作發(fā)表的一篇論文稱，約八成的美國勞動(dòng)力可能至少有10%的工作任務(wù)受到大型語言模型引入的影響，而約19%的工人可能會(huì)看到至少50%的工作任務(wù)受到影響。高盛此前也曾在一篇報(bào)告表示，AI革命可以取代3億歐美白領(lǐng)崗位，受影響最大的是法律和行政工作，而建筑師、工程師也有被淘汰的危險(xiǎn)。

實(shí)際上，在《每日經(jīng)濟(jì)新聞》的系列調(diào)查報(bào)道中，我們發(fā)現(xiàn)，AI的出現(xiàn)擠壓了許多打工人的空間，例如跨境電商領(lǐng)域的文案、翻譯、模特，游戲行業(yè)的原畫師，留學(xué)教育機(jī)構(gòu)的文書工作者等。

但值得注意的是，同樣受益于AI的發(fā)展，各行各業(yè)的效率得以大幅提升。以跨境電商為例，有受訪者告訴每經(jīng)記者，借助ChatGPT等AI工具能在10分鐘內(nèi)完成以前需要花數(shù)萬元成本做的事情，在今年3~4月，其公司業(yè)績額相比去年同期的增幅超過200%。

科研人員的數(shù)據(jù)也說明了這一點(diǎn)。據(jù)斯坦福大學(xué)和麻省理工大學(xué)對(duì)一家世界500強(qiáng)軟件公司客服人員長達(dá)一年的研究，生成式AI對(duì)工作效率的提高平均為14%，而技能生疏的新員工獲益最大，效率提升了35%。

關(guān)于AI是否能夠替代人工，也逐漸有了更多不同的聲音。德銀最近發(fā)布的報(bào)告中表示，歷史證明AI最終會(huì)創(chuàng)造而不是破壞工作，AI浪潮下新增就業(yè)機(jī)會(huì)多于被它取代的崗位。

“我在80年代曾經(jīng)說過，預(yù)測(cè)哪些工作會(huì)消失很容易，但很難預(yù)測(cè)哪些新工作會(huì)被創(chuàng)造出來。值得注意的是，人均機(jī)器人數(shù)量較高的國家，失業(yè)率反而相對(duì)較低，因?yàn)椋ń柚录夹g(shù)）創(chuàng)造了許多新工作。”Schmidhuber告訴記者，“30年前，誰又能預(yù)料到現(xiàn)在這么多人做視頻博主賺錢呢？”

《經(jīng)濟(jì)學(xué)人》近期發(fā)表的名為《你的工作可能將不受AI的影響》一文中的觀點(diǎn)與此不謀而合。報(bào)道中提到， 2013年，牛津大學(xué)曾發(fā)表過一篇被廣泛引用的論文，指出自動(dòng)化可能會(huì)在接下來的十年左右消滅47%的美國工作崗位。但實(shí)際發(fā)生的事情讓人們大吃一驚，在過去十年中，發(fā)達(dá)國家的平均失業(yè)率大約減半，工作年齡人口的就業(yè)比例處于歷史最高水平，日本、新加坡和韓國等自動(dòng)化和機(jī)器人技術(shù)普及率最高的國家失業(yè)率反而最低。

1991年-2023年G7國家的失業(yè)率趨勢(shì) 圖片來源：經(jīng)濟(jì)學(xué)人

在談到AI未來將在人類社會(huì)中扮演的角色時(shí)，IBM院士、AI倫理全球負(fù)責(zé)人Francesca Rossi對(duì)每經(jīng)記者表示，“AI應(yīng)該旨在增強(qiáng)而非取代人類。”

“的確，AI會(huì)對(duì)很多工作產(chǎn)生暫時(shí)的負(fù)面影響，而且影響會(huì)發(fā)生得比較快，所以我們需要有一個(gè)安全網(wǎng)來盡量減少過渡期的痛苦。”Abu-Mostafa說道。

如何實(shí)現(xiàn)“人機(jī)共存”的世界？

那么，在這個(gè)過渡期內(nèi)，世界應(yīng)該如何搭建這個(gè)安全網(wǎng)？

在Francesca Rossi看來，對(duì)AI的擔(dān)憂往往源于對(duì)“黑匣子”內(nèi)部發(fā)生的事情缺乏理解，“AI系統(tǒng)的開發(fā)和應(yīng)用必須根植于倫理，這意味著要優(yōu)先考慮負(fù)責(zé)任的培訓(xùn)、合作和監(jiān)督。隨著AI技術(shù)不斷被普及和使用，人們對(duì)這項(xiàng)技術(shù)仍然存在戒心是正常的，但現(xiàn)實(shí)情況是，AI的優(yōu)勢(shì)是顯而易見的。只有將倫理置于AI開發(fā)的核心，社會(huì)才能學(xué)會(huì)信任它。”

“在部署AI時(shí)，首先應(yīng)該考慮目前適用于各種產(chǎn)品的產(chǎn)品安全和質(zhì)量預(yù)防措施是否也可以適用于AI產(chǎn)品。此外，還需要一個(gè)類似于FDA的機(jī)構(gòu)來批準(zhǔn)AI產(chǎn)品，并確保它們是安全的、沒有偏見的，并且其帶來的‘副作用’（例如隱私泄露等）在可接受的標(biāo)準(zhǔn)內(nèi)。”Abu-Mostafa向《每日經(jīng)濟(jì)新聞》記者說道。

OpenAI創(chuàng)始人Altman近日在出席美國國會(huì)聽證會(huì)時(shí)也建議美國國會(huì)成立一個(gè)新機(jī)構(gòu)進(jìn)行監(jiān)管。他說，“因?yàn)槿斯ぶ悄苁遣粫?huì)自己管理自己的，所以我們需要類似于IAEA（國際原子能機(jī)構(gòu)）的國際組織來進(jìn)行超級(jí)智能方面的監(jiān)管。”微軟總裁Brad Smith也支持美國政府成立新的機(jī)構(gòu)來為主要AI系統(tǒng)發(fā)放許可。

圖片來源：BBC視頻截圖

隱私風(fēng)險(xiǎn)的確是AI部署中被廣泛質(zhì)疑的一個(gè)問題。4月，三星被曝在引入ChatGPT不到20天就出現(xiàn)了3起公司機(jī)密外泄的事故。

對(duì)此，Schmidhuber向記者坦言，“隱私監(jiān)視和丟失可能是日益復(fù)雜的社會(huì)不可避免的后果。城市、國家和公司等超級(jí)有機(jī)體的結(jié)構(gòu)越復(fù)雜，它收集到的信息就越全面。新冠時(shí)期為了減少病毒傳播而進(jìn)行的人員追蹤就是最近的例子。”

而在AI引領(lǐng)的革命浪潮里，全球化、快速發(fā)展的數(shù)據(jù)則是最有價(jià)值的，甚至被視為“AI時(shí)代的石油”。那怎樣才能更有效地進(jìn)行數(shù)據(jù)管理，保障數(shù)據(jù)安全呢？

Schmidhuber認(rèn)為，數(shù)據(jù)所有權(quán)有助于解決這個(gè)問題。“如果數(shù)據(jù)真的是‘新石油’，那么它應(yīng)該有價(jià)格。然而目前，主要的監(jiān)控平臺(tái)不會(huì)為用戶的數(shù)據(jù)和隱私的損失進(jìn)行賠償。但在未來，我們可能會(huì)看到嘗試創(chuàng)建高效的數(shù)據(jù)市場(chǎng)，通過供需之間的相互作用，可以看到隱私數(shù)據(jù)的真實(shí)價(jià)值。”他告訴《每日經(jīng)濟(jì)新聞》記者。

而對(duì)于普通消費(fèi)者來說，Abu-Mostafa認(rèn)為，AI產(chǎn)品在經(jīng)過安全性、有效性、公平性等標(biāo)準(zhǔn)的嚴(yán)格測(cè)試后，消費(fèi)者的信任也將逐漸建立。

當(dāng)前，各國政府和機(jī)構(gòu)已經(jīng)開始探索如何加強(qiáng)AI監(jiān)管。

日本高官近日表示，G7政府官員將舉行首次工作級(jí)AI會(huì)議，討論知識(shí)產(chǎn)權(quán)保護(hù)、虛假信息以及應(yīng)如何管理AI技術(shù)等問題。美國白宮已經(jīng)宣布首個(gè)AI監(jiān)管計(jì)劃，美國國家科學(xué)基金會(huì)計(jì)劃撥款1.4億美元，用于啟動(dòng)7所新的國家AI研究院；歐洲議會(huì)下屬委員會(huì)也已通過關(guān)于《AI法案》的談判授權(quán)草案，該法案有望成為世界上第一個(gè)監(jiān)管AI的全面立法。

隨著AI在人類世界的廣泛運(yùn)用，如何實(shí)現(xiàn)人機(jī)共存的平衡呢？Schmidhuber告訴《每日經(jīng)濟(jì)新聞》記者，“無論我們?cè)谀硞€(gè)時(shí)候達(dá)到什么樣的平衡，不久之后它就必須改變，因?yàn)锳I會(huì)不斷學(xué)習(xí)做以前只有人類才能做的新事情。因此，在自動(dòng)化和人類參與之間，平衡點(diǎn)會(huì)不斷變化，人類也應(yīng)該隨時(shí)準(zhǔn)備學(xué)習(xí)新事物。就像200年前，在許多國家，60%的人從事農(nóng)業(yè)工作。而在今天，這個(gè)數(shù)據(jù)只剩下1%~2%。”

在AI被廣泛應(yīng)用的同時(shí)，人類也需警惕過度依賴AI。Abu-Mostafa表示，“所有自動(dòng)化都有相同的風(fēng)險(xiǎn)。如果出現(xiàn)問題，就沒有后備方案，因?yàn)檫^去執(zhí)行任務(wù)的人類團(tuán)隊(duì)已經(jīng)解散，無法輕易重新組合以挽救局面。”

對(duì)此，Schmidhuber稱，擁抱并掌握新技術(shù)有助于避免這種情況的發(fā)生。“回顧歷史，當(dāng)計(jì)算器首次推出時(shí)，教師禁止學(xué)生在學(xué)校使用它，以防止過度依賴機(jī)器。但現(xiàn)在，孩子們既學(xué)習(xí)算術(shù)的基本方法也學(xué)習(xí)使用計(jì)算器。”他對(duì)記者解釋說，“今天的共識(shí)是，我們應(yīng)確保孩子學(xué)會(huì)自己寫論文，也要確保他們學(xué)習(xí)如何在AI的幫助下寫論文。”

封面圖片來源：視覺中國-VCG41N1188747468