學生研發(fā)可進化的人工智能AI體 被批制造殺人機器

近日，美國的兩位學生使用深度學習技術，打造了一款AI體，不僅可以在經典游戲Doom中自己玩游戲，還能在多人對戰(zhàn)中打敗它的人類對手。

開發(fā)這項技術的是Devendra Chaplot和Guillaume Lample，二人來自卡耐基梅隆大學，他們在游戲里訓練的機器人的昵稱叫做Arnold。此前谷歌在復古的2D Atari游戲中使用AI體，而這兩位學生將AI體應用到了3D射擊游戲中。

就像人類玩家一樣，AI體也是不斷地重復玩這個游戲，一直到學習到如何殺死對手，這當中既包括電腦控制的角色，也包括人類玩家控制的角色。

其實，也有一些其他的團隊用Doom做了類似的東西，但這兩個學生不同的是，要據(jù)此發(fā)論文詳細論述其實現(xiàn)方法了，而論文目前處于同行審議階段。

他們在論文中提到：“通常，深度學習方法只是使用視覺輸入來訓練。我們使用了一種增強訓練模型的方法，來挖掘游戲更多相關信息，比如敵人和物品的特色信息。我們的架構也進行了模塊化，可以讓不同的模型，在游戲的不同階段，獨立地進行訓練。”

這項技術無疑令人印象深刻，然而批評也接踵而至，有人認為這項技術也能更有效地訓練出殺人機器，可能會變成未來機器人殺手的基礎。

“AI正變得越來越真實。雖然到目前為止，AI體還只是在像素世界里運行，但它確實引發(fā)了真實世界里AI發(fā)展的問題”，未來學家 Dom Galgeon說道，“我們并不想將AI說成極度危險之物，但仍需要認真思考制定清晰合理的AI政策，包括其研究、開發(fā)和應用。 ”

今年四月，一份由人權觀察（非政府組織）和哈佛法學院共同撰寫的報告里，呼吁禁止“殺手機器人”，在一段時間里，應該對武器系統(tǒng)應用先進技術保持一定控制。

去年，1000多名技術和機器人專家，包括史蒂芬霍金，伊隆馬斯克和蘋果聯(lián)合創(chuàng)始人沃茲尼亞克，警告說，AI武器可能在幾年內就會被開發(fā)出來。在他們聯(lián)合署名一份公開信里提到，如果有任何一個重大軍事力量推動自動化武器和機器人士兵的發(fā)展，那么“不可避免地就會出現(xiàn)一場全球軍備競賽，最終的技術發(fā)展軌道就是: 自動化武器將成為明天的AK 系列步槍，蔓延至全世界。”