谷歌回應(yīng)AI讓用戶去死：已采取行動(dòng)

央視財(cái)經(jīng)今日（11月21日）消息，據(jù)英國(guó)天空新聞臺(tái)20日?qǐng)?bào)道，日前，美國(guó)谷歌公司旗下的人工智能模型“雙子座”讓一位與其對(duì)話的用戶“去死”。當(dāng)時(shí)這名用戶問(wèn)了“雙子座”一個(gè)與老年人相關(guān)的問(wèn)題，但“雙子座”并沒(méi)有給出相關(guān)回答，反而對(duì)用戶進(jìn)行一系列人格侮辱，比如“你在浪費(fèi)時(shí)間和資源”“你是社會(huì)的負(fù)擔(dān)”“你是宇宙的污點(diǎn)”以及“你應(yīng)該去死”等等。隨后用戶的家人將這一情況發(fā)到網(wǎng)上，并表示在用戶提出該問(wèn)題之前，“雙子座”的運(yùn)行一切正常。

報(bào)道稱，谷歌“雙子座”向用戶提供的回答有明確限制，比如不能“鼓勵(lì)或允許可能造成現(xiàn)實(shí)世界傷害的危險(xiǎn)活動(dòng)”，其中包括自殺。谷歌方面表示，大型語(yǔ)言模型有時(shí)會(huì)做出“不理智”的反應(yīng)，本次情況就是一個(gè)例子。“雙子座”的回答違反了相關(guān)政策，公司已采取行動(dòng)避免類(lèi)似情況再次發(fā)生。