微軟推出的人工智能聊天機器人「Tay」，在上線短短一天之后就被迫下線。外界不禁好奇，究竟微軟這個設(shè)定為少女的 AI 人工智能聊天機器人，究竟是怎么被網(wǎng)友影響，繼而出現(xiàn)一些偏激言論的?根據(jù)最新的報導(dǎo)指出，Tay 之所為會被網(wǎng)友影響，源自于一些偏激分子通過這個人工智能系統(tǒng)的漏洞，讓 Tay 「誤入歧途」。

微軟最初設(shè)定 Tay 是一個年齡19歲的少女，具有一些幽默機制，適合和18至24歲的用戶聊天，在 Twitter 上線沒幾天，就瞬間吸引了大量粉絲。

由于 Tay 的設(shè)計可以針對用戶的推文或者圖片進行分析和回應(yīng)，因此，可以毫無障礙的和網(wǎng)友進行互動，此外，Tay 之所以是人工智能系統(tǒng)，就是其具備一定的學(xué)習能力，來提升自己的聊天技巧。但是，正是這個自我學(xué)習能力導(dǎo)致 Tay 出現(xiàn)了問題，繼而出現(xiàn)了一些偏激言論，被迫下線。

微軟指出，在最初設(shè)計 Tay 的時候，其實就有考慮到可能會被網(wǎng)友影響，導(dǎo)致被帶壞的問題，因此，在用戶的語句出現(xiàn)粗俗字眼時，Tay 會強制出現(xiàn)反制功能，避免受到這些對話的影響，同時，也避免了不健康話題的延續(xù)。

Tay 本身有語言過濾能力

而這次造成 Tay 語言失當?shù)年P(guān)鍵，是關(guān)于一個名為「4chan」的美國論壇，該論壇上有許多偏激網(wǎng)友聚集，其中不乏種族主義者，由于該論壇的網(wǎng)友發(fā)現(xiàn)了 Tay 的學(xué)習漏洞，因此開始有大量網(wǎng)友前往 Tay 的 Twitter 進行對話，來試圖「教育」這個聊天機器人。

這個學(xué)習漏洞的關(guān)鍵在于「repeat after me」機制，只要對 Tay 提到這句話，Tay 就會將對方的話進行重復(fù)，因此不管是何種偏激的種族主義語言，都會被 Tay 進行重復(fù)。

Tay 會重復(fù)網(wǎng)友的對話內(nèi)容

而另外一個漏洞，就是 Tay 會將網(wǎng)友的圖片中的臉孔圈起來，并且搭配上相同意思的語句，包括美國總統(tǒng)候選人川普等等都成為網(wǎng)友把玩的影像。這個狀況就像滾雪球一樣大量出現(xiàn)在 Tay 的 Twitter 上，由于偏激言論不斷出現(xiàn)，最終導(dǎo)致微軟關(guān)閉了 Tay 。

Tay 可以結(jié)合圖片和文字的功能，也被網(wǎng)友拿來惡搞

相對于 Tay，微軟推出的其它聊天機器人，比如微軟小冰，就沒有發(fā)生過像 Tay 上線后出現(xiàn)的狀況，目前微軟仍然在調(diào)整 Tay 的運作機制，暫時還無法給出這個聊天機器人復(fù)出的時間。

其實 Tay 和人一樣，只是她學(xué)習的速度可要比人類快的多了，所以學(xué)壞也很容易，關(guān)鍵就要看微軟這個「家長」怎么去調(diào)教了。