馬斯克再發(fā)警告：人類難逃被機器人獨裁的命運

人工智能已經(jīng)在多個領域戰(zhàn)勝了人類，人類應該畏懼AI嗎？最近撤出OpenAI研究的埃隆·馬斯克再次發(fā)出警告，稱超級智能（Superintelligence）可能會創(chuàng)造出一個“不朽的獨裁者”。

在美國電影導演克里斯·潘恩（Chris Paine）制作的一部紀錄片中，馬斯克表示，在公司或其他人類組織的推動下，超級智能的發(fā)展可能會誕生一種統(tǒng)治世界的人工智能形式。

馬斯克稱：“我能想到的最不可怕的未來是，我們至少能把人工智能民主化，因為如果一家公司或一小群人成功地開發(fā)出了上帝般的數(shù)字超級智能，它們就能接管世界。”他說：“對于邪惡的人類獨裁者來說，至少那個人會死亡。但對于人工智能來說，將沒有死亡，它將永遠活著，然后你就會面對一個不朽的獨裁者，我們?nèi)祟悓⒂肋h無法逃脫。”

據(jù)了解，潘恩的紀錄片調(diào)查了一些人工智能的應用實例，包括自動武器、華爾街的技術和操縱假新聞的算法等。它還引用了一些有關人工智能的文化作品，比如1999年的電影《黑客帝國》(the Matrix)和2016年的電影《機械戰(zhàn)警》(Ex Machina)。

對于哪些公司希望開發(fā)出超級智能，馬斯克列舉了谷歌的人工智能子公司DeepMind的例子。2016年，該公司開發(fā)的圍棋程序阿爾法狗（AlphaGo）擊敗了人類圍棋世界冠軍、韓國棋手李世石，這是繼1997年IBM的深藍電腦(DeepBlue)擊敗國際象棋冠軍卡斯帕羅夫(Garry Kasparov)后，人工智能發(fā)展史上的又一個重大成就。

馬斯克表示：“DeepMind系統(tǒng)可以在任何游戲中獲勝，它已經(jīng)可以攻克所有的原始Atari游戲，它是超級人類;它能以超級速度攻克所有的游戲，在不到一分鐘的時間里。”這位同時擔任特斯拉和SpaceX首席執(zhí)行官的企業(yè)家表示，人工智能“不需要作惡，就可能摧毀人類。”

他說：“如果人工智能有一個目標，而人類恰好成為攔路虎，那么它將摧毀人類，這是理所當然的事情，它甚至不會有一點猶豫，也沒有什么難受的感覺。”

馬斯克稱：“這就像，如果我們正在修建一條公路，而一個蟻丘恰好在路上，我們并不憎恨螞蟻，我們只是在筑路，所以，再見了蟻丘。”去年，馬斯克警告稱，全球對人工智能技術的爭奪，可能導致第三次世界大戰(zhàn)。這位企業(yè)家還表示，與朝鮮的核沖突相比，新興技術可能給世界帶來更大的風險。

此外，馬斯克認為，人類應該與人工智能融合，以避免變得無關緊要的風險，他是Neuralink的聯(lián)合創(chuàng)始人，這是一家腦機接口初創(chuàng)公司，希望將人腦與電腦接口連接起來。今年2月份，他辭去了OpenAI董事會的職務，OpenAI是一家非營利組織，旨在安全地促進和發(fā)展人工智能。

事實上，最近人工智能威脅論正在不斷升溫。

近日韓國科學技術院與韓國十大財團之一韓華集團旗下韓華系統(tǒng)公司合作，開設了人工智能研發(fā)中心，目的是研發(fā)適用于作戰(zhàn)指揮、目標追蹤和無人水下交通等領域的人工智能技術。

這也引起業(yè)內(nèi)專家的廣泛擔憂，目前，30個國家和地區(qū)的人工智能及機器人專家宣布將抵制研究人工智能武器的韓國科學技術院（KAIST），這由澳大利亞新南威爾士大學人工智能教授托比·沃爾什發(fā)起，美國和日本等30個國家和地區(qū)的研究人員4日簽署了一封公開信，敦促韓國科學技術院停止人工智能武器研發(fā)，他們稱這是加速機器人武器開發(fā)競爭的動向，令人遺憾，并表示如果該大學不承諾停止研發(fā)，將與之斷絕關系，而且將拒絕訪問韓國科學技術院、接待對方訪客或與對方合作研究項目，直至這所韓國頂尖大學承諾放棄研發(fā)缺少“有效人工控制”的武器。

網(wǎng)易智能注意到，這封聯(lián)名信中寫道：“自動武器一旦成熟，戰(zhàn)爭發(fā)展速度和規(guī)模將前所未有，它們可能會被恐怖分子利用。”發(fā)起聯(lián)名抵制的人工智能教授沃爾什告訴路透社記者，機器人和人工智能技術實際可以在軍事領域發(fā)揮有利作用，比如完成掃雷等威脅人類安全的任務，但我們不能將決定生死的權力交給機器，這就越過道德底線。

此外，Google內(nèi)部流傳著一封聯(lián)名信，有3100多人在上面簽名，抗議谷歌為五角大樓提供人工智能力量，谷歌的員工希望谷歌CEO退出五角大樓的代號為Maven的項目，并宣布“永不開發(fā)戰(zhàn)爭技術”的政策。

值得一提的是，早在今年3月，來自14個組織的26名研究人員對惡意AI所造成的危險進行了全面的報告。