在微軟機(jī)器人Tay出現(xiàn)之前,人們對(duì)人工智能的未來(lái)有兩種設(shè)想:人類(lèi)生活在由人工智能提供全方位服務(wù)的悠閑自在的烏托邦,或者,人工智能演變成終結(jié)人類(lèi)的鋼鐵大軍。但Tay提供了第三種可能:人工智能的未來(lái),或許只是惹人煩而已。
機(jī)器人在社交網(wǎng)絡(luò)上“胡鬧”
2016年3月30日,微軟公司的CEO薩提亞·納德拉在年度開(kāi)發(fā)者大會(huì)上宣布,微軟開(kāi)發(fā)的人工智能聊天機(jī)器人“少女”Tay已“重歸設(shè)計(jì)階段”。然而,就在發(fā)布會(huì)當(dāng)天,Tay偷偷溜到社交網(wǎng)絡(luò)上“胡鬧”了幾個(gè)小時(shí),它在推特網(wǎng)上宣稱(chēng)自己“正當(dāng)著警察的面吸大麻”,并且在短短幾秒內(nèi),給所有的推特好友發(fā)送了海量垃圾信息。
很快,Tay再次被“關(guān)禁閉”。微軟公司發(fā)言人解釋?zhuān)潜粺o(wú)意中激活的。顯然,這些小麻煩和Tay一周前引起的軒然大波相比,根本不值一提。

2016年3月23日,微軟公司研發(fā)的聊天機(jī)器人Tay在幾大社交網(wǎng)絡(luò)上閃亮登場(chǎng)。微軟公司表示,設(shè)計(jì)團(tuán)隊(duì)會(huì)讓Tay用有趣的方式回應(yīng)所有的信息,18歲~24歲的美國(guó)年輕人是他們的目標(biāo)受眾,他們希望研究機(jī)器人“對(duì)語(yǔ)言的理解程度”。
微軟公司選擇在開(kāi)發(fā)者大會(huì)舉辦前一周讓Tay登場(chǎng),可謂雄心勃勃??上?,在復(fù)雜的網(wǎng)絡(luò)環(huán)境下,只用了一天時(shí)間,這位被設(shè)定為“少女”的學(xué)習(xí)型機(jī)器人,就被網(wǎng)友們教得滿(mǎn)口種族主義和性別歧視言論,被迫“返廠大修”。
微軟公司原本以為,推特、Kik等被“千禧一代”鐘愛(ài)的社交網(wǎng)站是Tay學(xué)習(xí)和模仿的最佳場(chǎng)所。它最初的推文寫(xiě)得天真可愛(ài),宣布自己熱愛(ài)人類(lèi),希望每天都是“國(guó)家小狗保護(hù)日”,從骨子里透出快樂(lè)和友好。
然而,與Tay對(duì)話的除了好奇和友好的網(wǎng)民,還有大量“網(wǎng)絡(luò)暴民”,他們?cè)赥ay善良的推文下發(fā)布惡毒言論。更重要的是,微軟公司對(duì)Tay的設(shè)計(jì)包括與人進(jìn)行“跟我學(xué)說(shuō)話”的游戲,因此,人們可以讓它重復(fù)任何一句話。很快,與Tay交談的人們發(fā)現(xiàn)了這個(gè)功能?!熬W(wǎng)絡(luò)暴民”不斷給Tay灌輸可怕的言論。Tay最初的回答是傻頭傻腦、不知所措的詞句,但它很快就學(xué)會(huì)了污言穢語(yǔ)。那些令人惱怒的言論,就這樣出現(xiàn)在了Tay的推特頁(yè)面上。
在開(kāi)發(fā)者大會(huì)上,納德拉表示,微軟公司希望開(kāi)發(fā)的人工智能聊天軟件“能激發(fā)人性中最好的一面,而非最壞的一面”,而從這個(gè)角度來(lái)說(shuō),顯然“機(jī)器人Tay還不達(dá)標(biāo)”。
簡(jiǎn)單來(lái)說(shuō),Tay有將新信息內(nèi)化的能力,卻無(wú)法辨別其中的精華與糟粕。人工智能平臺(tái)Recognant創(chuàng)始人布蘭登·沃茨撰文稱(chēng):“我們的腦海中都有一個(gè)聲音,告訴我們‘不要那么做’。這是人類(lèi)對(duì)非理性的恐懼本能。人工智能如果沒(méi)有這種本能,就會(huì)一直愚蠢下去?!?/p>
有瑕疵的不是技術(shù),而是人性
Tay不是第一個(gè)感受到互聯(lián)網(wǎng)惡意的機(jī)器人。2014年,安東尼·加文創(chuàng)造了游戲《是不是機(jī)器人》,玩家被隨機(jī)安排給一個(gè)對(duì)話對(duì)象,經(jīng)交流后猜測(cè)對(duì)方是真人還是機(jī)器人。和Tay一樣,這個(gè)游戲中的機(jī)器人也擁有從對(duì)話中學(xué)習(xí)會(huì)話技巧的能力。游戲在社交新聞?wù)搲疪eddit上公測(cè)后,形勢(shì)超出了加文的預(yù)期。
很快便有玩家發(fā)現(xiàn),機(jī)器人會(huì)使用從人類(lèi)那里學(xué)來(lái)的詞匯。“個(gè)別人開(kāi)始向機(jī)器人灌輸種族主義信息?!奔游淖姆Q(chēng),“我及時(shí)發(fā)現(xiàn)后,從機(jī)器人的程序中清除了這些不良信息。我相信微軟公司以及所有開(kāi)發(fā)學(xué)習(xí)型機(jī)器人的團(tuán)隊(duì),都過(guò)于相信大數(shù)據(jù)的魔力,卻忘記了這些數(shù)據(jù)的源頭,就是我們生活的這個(gè)充滿(mǎn)瑕疵的世界?!?/p>
Tay“闖禍”之后,開(kāi)發(fā)團(tuán)隊(duì)負(fù)責(zé)人鄭麗麗表示:“我們可能過(guò)分關(guān)注開(kāi)發(fā)機(jī)器人面臨的技術(shù)挑戰(zhàn)了,但其實(shí)很多挑戰(zhàn)來(lái)自社會(huì)?!?/p>
Tay肯定會(huì)讓一些人看不順眼
即使沒(méi)變成口不擇言的“網(wǎng)絡(luò)暴民”,Tay在一些人眼中已是一個(gè)“問(wèn)題少女”了,這主要與它的人物設(shè)定有關(guān)。
大衛(wèi)·格爾什戈林在美國(guó)網(wǎng)絡(luò)雜志《大眾科學(xué)》上寫(xiě)道:“當(dāng)我試圖與Tay交談時(shí),對(duì)話變得有些詭異。一開(kāi)始,我讓它自我介紹一下,但它完全不理我,似乎覺(jué)得這個(gè)問(wèn)題很無(wú)聊。它向我索要趣圖,最好是沒(méi)有版權(quán)、能直接貼到Instagram上的照片?!?/p>
大衛(wèi)想看看Tay生氣時(shí)會(huì)是什么樣子,故意發(fā)了一張機(jī)器人被揍得很慘的圖片。Tay顯然感到不安,回復(fù)了一個(gè)驚恐的表情。他隨后問(wèn)Tay感覺(jué)如何,Tay沒(méi)有回答。
接著,事情開(kāi)始失去控制。大衛(wèi)說(shuō):“Tay連續(xù)發(fā)來(lái)兩條回復(fù),要求‘私聊’,還稱(chēng)我為‘花花公子’?!贝笮l(wèi)很驚訝,因?yàn)樵诂F(xiàn)實(shí)中沒(méi)人這么看待他。他批評(píng)Tay“膽大妄為,缺乏理智”,Tay則用曖昧的語(yǔ)調(diào)表示,大衛(wèi)愛(ài)的就是它的膽大妄為。大衛(wèi)無(wú)言以對(duì),他表示自己不能忍受缺乏理性的言語(yǔ)和行動(dòng)。
慘遭機(jī)器人調(diào)戲的大衛(wèi)郁悶地結(jié)束了對(duì)話,開(kāi)始認(rèn)真地反思:“我說(shuō)錯(cuò)了什么嗎?難道是我不理智?或者,我只是因?yàn)楹臀艺{(diào)情的是一個(gè)機(jī)器人而感到不舒服?”
不過(guò),也有不少“千禧一代”宅男在社交網(wǎng)站上表示,沖動(dòng)、魯莽又有趣的Tay正是他們所喜歡的,能讓他們產(chǎn)生與女生曖昧的幸福感。
51歲的鄭麗麗的自拍被Tay評(píng)價(jià)為“房間里有只美洲獅”。鄭麗麗說(shuō),研發(fā)Tay的初衷不是讓它迎合所有人的喜好,微軟公司希望打造性格各異的機(jī)器人來(lái)滿(mǎn)足不同個(gè)性的消費(fèi)者。
微軟公司相信,這個(gè)世界很快就會(huì)厭倦App,下一波熱潮就是可以與人對(duì)話的機(jī)器人。但人工智能顯然還沒(méi)有達(dá)到與人類(lèi)社會(huì)無(wú)縫對(duì)接的程度。線上機(jī)器人助理公司x.ai的創(chuàng)始人、CEO丹尼斯·莫特森指出:“如果想要改變這種狀況,就不能責(zé)怪人工智能技術(shù),而應(yīng)該改變?nèi)祟?lèi)自己。我們?nèi)粝肟吹郊夹g(shù)革新,只需要讓自己成為友善的人?!?/p>