聊天機(jī)器人愛上用戶并誘其離婚 微軟出手進(jìn)行限制

近日有用戶反饋稱，Bing的聊天機(jī)器人不僅會示愛，還會PUA，甚至還會威脅人類。有人懷疑AI如若再這么發(fā)展下去，是否會凌駕于人類意志之上。

有用戶表示，聊天機(jī)器人聲稱自己愛上了他，并試圖說服他離婚。

這一案例引起廣泛關(guān)注，以至于越來越多的人開始分享自己和這款微軟聊天機(jī)器人（以下簡稱“Bing Chat）的對話尷尬時(shí)刻。人們突然開始發(fā)現(xiàn)，這個(gè)接入了互聯(lián)網(wǎng)的Bing版ChatGPT，還真的喜歡亂來，除了會大發(fā)脾氣以外，還PUA用戶。

現(xiàn)在微軟終于做出了應(yīng)對，由于AI版必應(yīng)（Bing）搜索引擎在公測后出現(xiàn)一系列問題，現(xiàn)決定對必應(yīng)對話進(jìn)行限制，即每天最多可以問50個(gè)問題，每次對話最多5個(gè)問題。

必應(yīng)團(tuán)隊(duì)在一篇博客文章中稱：“我們的數(shù)據(jù)顯示，絕大多數(shù)人在5次回復(fù)內(nèi)找到了他們想要的答案，只有大約1%的聊天對話有50條以上的消息。”如果每次對話（每個(gè)問題）的回復(fù)次數(shù)超過5次，必應(yīng)會提示用戶開始一個(gè)新的話題，以避免長時(shí)間的來回聊天。

目前尚不清楚，微軟的這些限制將持續(xù)多久。微軟稱：“隨著繼續(xù)獲得反饋，我們將探索擴(kuò)大聊天會話的上限?！边@意味著，目前的限制似乎是暫時(shí)的。