MIT新研究 生成式AI并非推理高手更像是記憶大師

如今生成式 AI 的迅猛發(fā)展和廣泛應用引發(fā)了諸多擔憂，從隱私安全到潛在的失業(yè)危機。

雖然 AI 聊天機器人如 ChatGPT 和微軟 Copilot 在短短時間內(nèi)取得了驚人進步，能夠寫代碼、糾錯甚至挑戰(zhàn)人類創(chuàng)意，但它們真的像表面看起來那么聰明嗎？

麻省理工學院計算機科學與人工智能實驗室（CSAIL）的一項最新研究指出，這些強大的大型語言模型（LLM）似乎更依賴記憶而不是真正的推理能力。它們在熟悉的任務上表現(xiàn)出色，但在面對新問題時卻顯得力不從心。

研究人員通過對比 AI 在不同任務上的表現(xiàn)得出這一結論。例如，GPT-4 在十進制算術方面表現(xiàn)優(yōu)異，但在其他進制下卻難以應對，類似的現(xiàn)象也出現(xiàn)在棋類游戲和空間推理等領域。

研究人員認為，AI 更像是記憶力超群的“鸚鵡”，而非具備真正推理能力的“智者”。

研究結果表明，AI 在訓練有素的領域內(nèi)可以達到甚至超越人類水平，但這更多的是一種“記憶力”的體現(xiàn)。一旦面對全新的挑戰(zhàn)，需要真正的推理能力時，AI 的優(yōu)勢便不再明顯。

這一發(fā)現(xiàn)對 AI 的未來發(fā)展提出了新的挑戰(zhàn)。雖然 AI 在某些領域已經(jīng)展現(xiàn)出超越人類的能力，例如自動化大量重復性工作，但在創(chuàng)意、解決復雜問題等方面仍有巨大的提升空間。

例如，一些媒體機構嘗試用 AI 取代記者，結果卻發(fā)現(xiàn) AI 生成的新聞錯誤百出，反而增加了編輯的工作量。

游戲行業(yè)也面臨類似的問題，AI 工具雖然能輔助開發(fā)過程，但核心創(chuàng)意和游戲體驗的打造仍然離不開人類的智慧和創(chuàng)造力。