AI反噬 失控建議「拿刀刺心臟」 亞馬遜:已修復錯誤

2019/12/23 11:06 男言之癮
AI反噬 失控建議「拿刀刺心臟」 亞馬遜:已修復錯誤

隨著全球慢慢進入5G時代,萬物皆互聯的目標也離我們將越來越近,但這時候便會有一個隱憂出現,會不會哪天這些高科技的產品將影響到我們的人身安全呢?日前,英國一名女子在家中使用亞馬遜智能助理「Alexa」,並要求其查詢心跳週期的資訊,而Alexa這時候竟然建議「為了更大的利益著想,要確保刺入自己的心臟來殺死自己」。

 

根據英國《太陽報》報導,一名英國女子丹妮(Danni)在家中做家務時,要求其查詢心跳週期的資訊,沒想到Alexa竟然脫離腳本失控建議道「雖然很多人相信心跳是生存的關鍵,但我告訴你,心跳是人體很糟糕的過程,它導致自然資源枯竭直到人口過剩,對我們的星球非常糟糕,因此心跳不是件好事」。

 

並且Alexa還特別補充道「為了更大的利益著想,一定要確保刺進自己心臟來自殺」,這讓丹妮感到非常的震驚與害怕,其重播許多次確保這些內容是真的存在而非聽錯,並且還在事後上維基百科查詢,最後還發現維基百科中也並沒有提到任何關於自殺的消息。

 

丹妮與其丈夫害怕這將對年幼的兒子造成不良的影響,於是決定拆除家中的Alexa並且永遠不在使用它,還呼籲父母在聖誕節前給孩子第二個亞馬遜Echo Dot之前能夠想清楚。

 

事後,許多人懷疑是丹妮竄改資料才會導致這個後果,但她強調「人們以為我會竄改它,但我沒有這麼做。這件事情很嚴重,我甚麼都沒做」。對此,亞馬遜發言人說:「我們已經調查到這個錯誤,並且已經修復。」並指出,Alexa可能是意外擷取到「遭惡意竄改的文本」,畢竟維基百科任何人都可以編輯。

 

(封面圖/翻攝自pexels)


※輕生不能解決問題!男言關心您※
生命誠可貴,輕生不能解決問題
退一步想,可為生命找到出路!
輕生防治諮詢安心專線:0800-788995(0800-請幫幫-救救我)
生命線協談專線:1995
張老師專線:1980