網絡圖
據巴士的報報道，日前報道過Google為了令人工智能（AI）更富感情，向一個正在開發的新系統狂灌多達2,865本愛情小說，要它學習人類說話方式。而在「讀」過大量愛情小說後，科技界最擔心的事情發生了，系統竟然萌生殺人念頭！
Google一份內部研究報告總結開發新系統的理念和過程。研究員讓AI讀完大量愛情小說後，要求系統嘗試寫作。他們其中一項實驗是提供了開始和結束句子，由系統增補最多13句說話，看看會成為怎樣的作品。
實驗所得大部分內容很有詩意，不過行文充滿負能量，常常用到「黑暗」（Dark）、「安靜」（Silent）、「冷」（Cold）等字眼。在其中一首詩中，Google AI甚至用上「殺死」（Kill）一詞。看看以下兩個作品：
20160513_ET_GoogleAI_殺人
世上沒有其他人
視野內沒有其他人
只有他們才要緊
只有他們剩下來
他必須跟我在一起
她必須跟他在一起
我必須這樣做
我要殺死他
我開始哭了
我轉向他
他沉默了很久
他靜了一會
有一會兒靜了
這裏又黑又冷
停了下來
到我了
研究結果令不少科技網站感到驚訝。有傳媒甚至用上邪惡和陰森來形容AI學習的成果，認為研究員必須盡快糾正AI思考模式，以免日後系統運作時會散播令人不安的信息。
C04