谷歌想將AI運用在軍事武器中 遭到內(nèi)部強烈反對

最擔(dān)心的事情還是要發(fā)生了，谷歌計劃與國防部合作“Maven”項目，將AI運用到軍事武器中，這個項目在谷歌內(nèi)部引發(fā)了爭議。

據(jù)美國媒體報道，本月谷歌與美國五角大樓合作的Maven項目曝光，導(dǎo)致該公司一些職員抗議和辭職?，F(xiàn)在谷歌表示將制定指導(dǎo)其參與軍事項目的道德政策?！都~約時報》稱，谷歌的政策將明確禁止在武器中使用人工智能（AI）。

谷歌發(fā)言人表示，在圍繞國防和AI合同制定的“一系列原則”上，公司考慮了職員的意見，公司CEO桑德爾·皮查伊在全公司大會上承諾制定“經(jīng)得住時間考驗”的“指導(dǎo)方針”。該政策的細節(jié)預(yù)計在幾周內(nèi)宣布?！都~約時報》獲得的內(nèi)部交流郵件顯示，在谷歌高管中Maven項目成為熱烈爭論的話題。

去年9月谷歌國防和智能銷售主管斯科特·福羅曼、谷歌云首席科學(xué)家和斯坦福AI實驗室主管李飛飛都對由此可能帶來的反沖力表達了擔(dān)憂。李飛飛寫到：“AI武器化是AI話題中最敏感的一個，這是媒體攻擊谷歌的最好素材。”李飛飛是教育AI的公開支持者，她與梅琳達·蓋茨、英偉達創(chuàng)始人黃仁勛一起創(chuàng)辦了輔導(dǎo)課程AI4All，招募高中生研究將機器學(xué)習(xí)應(yīng)用到解決人道危機中的項目。

谷歌決定不公開參與Maven項目，但職員內(nèi)部卻展開了爭論。一位辭職的工程師將一個會議室更名為克拉拉·伊墨瓦爾（為抗議將科學(xué)用于戰(zhàn)爭在1915年自殺的德國化學(xué)家）。谷歌在倫敦的子公司DeepMind的高管，包括創(chuàng)始人穆斯塔法·蘇雷曼，與皮查伊和其他股東討論了有關(guān)Maven項目的政策問題。負責(zé)谷歌AI研究的杰夫·迪安在反對將機器學(xué)習(xí)用于自動武器的公開信上簽名。

在谷歌參與Maven項目新聞爆出后不久，谷歌云的CEO戴安娜·格林與谷歌創(chuàng)始人塞爾蓋·布林一起回答了相關(guān)問題。隨著公司內(nèi)部抗議非常強烈，格林決定舉辦圓桌會議，討論谷歌參與Maven項目性質(zhì)和使用AI道德問題。谷歌副總裁和著名的前國防部研究員溫特·瑟夫、谷歌AI研究員梅雷迪斯·惠塔克參加了談?wù)摚⑾蛉蚬雀杪殕T直播。但這不能消除職員的擔(dān)憂，他們感覺谷歌違背了“不作惡”的核心座右銘。