在過去十年中，機器學習在圖像識別、自動駕駛汽車和圍棋等領(lǐng)域取得了前所未有的進步。這些成功在很大程度上是靠監(jiān)督學習和強化學習來實現(xiàn)的。

這兩種方法都要求由人設(shè)計訓(xùn)練信號并傳遞給計算機。在監(jiān)督學習的情況下，這些是“目標”（例如圖像的正確標簽）; 在強化學習的情況下，它們是成功行為的“獎勵”（例如在Atari游戲中獲得高分）。因此，機器學習的極限是由人類訓(xùn)練師決定的。

但是學習知識還應(yīng)該有其他的策略，就像讓幼兒學習，不僅有指導(dǎo)（監(jiān)督學習）和鼓勵（強化學習），還應(yīng)該有自由探索世界（無監(jiān)督學習）。如果要讓AI脫離人類發(fā)展成出通用智能，必須要讓它掌握無監(jiān)督學習的技能。

DeepMind今天在官方博客中對無監(jiān)督學習的原理、近年來取得的成果、發(fā)展前景進行了綜述。

無監(jiān)督學習關(guān)鍵的特點是，傳遞給算法的數(shù)據(jù)在內(nèi)部結(jié)構(gòu)中非常豐富，而用于訓(xùn)練的目標和獎勵非常稀少。無監(jiān)督學習算法學到的大部分內(nèi)容必須包括理解數(shù)據(jù)本身，而不是將這種理解應(yīng)用于特定任務(wù)。

解碼視覺元素

2012年是深度學習的里程碑，AlexNet席卷了ImageNet圖像分類競賽，但是更引人注目的是藏在AlexNet之下的事情。

研究人員在分析AlexNet時發(fā)現(xiàn)，它通過為輸入構(gòu)建復(fù)雜的內(nèi)部表示來解釋圖像，低層次的特征，如紋理和邊緣在底層中表示，然后將它們組合在一起形成高級概念，例如更高層次中的輪子和狗。

這與我們的大腦中處理信息的方式非常相似，其中初級感官處理區(qū)域中的簡單邊緣和紋理，然后組裝成復(fù)雜對象。因此復(fù)雜場景的表示可以由“視覺基元”所構(gòu)建，這種方式與單詞構(gòu)成句子大致相同。

在沒有人類明確的指導(dǎo)的情況下，研究人員發(fā)現(xiàn)AlexNet的層可以通過基本的“視覺詞匯”來解決任務(wù)。

遷移學習

AlexNet還可以被遷移到訓(xùn)練之外的視覺任務(wù)中，例如識別整個場景而不是單個圖像。

人類就非常擅長這種學習方法，我們能迅速調(diào)整自己的經(jīng)驗，以適應(yīng)新的技能和理解收集到的信息。例如，經(jīng)過專業(yè)訓(xùn)練的鋼琴家可以相對輕松地掌握彈奏爵士鋼琴的方法。

理論上，構(gòu)成世界正確內(nèi)部表征的智能體應(yīng)該能夠做同樣的事情。

但是AlexNet等分類器所學到的表示仍具有局限性，特別是網(wǎng)絡(luò)只用單一類別標記圖像訓(xùn)練時，那些推斷標簽時用不上的信息 ，無論它在其他任務(wù)中用處多大，都可能被網(wǎng)絡(luò)所忽略。如果標簽總是指向前景，則表示可能無法獲取圖像的背景。

一種可能的解決方案是提供更全面的訓(xùn)練信號，比如描述圖像的詳細內(nèi)容，不單單把圖像描述成“狗”，而是“柯基犬在陽光明媚的公園里叼飛盤”。

但是，這些信息很難大規(guī)模提供，而且這樣做仍然有可能不足以捕獲完成任務(wù)所需的全部信息。

無監(jiān)督學習的基本前提是學習豐富、可廣泛轉(zhuǎn)移表示的最佳方式，這種方式可以學習關(guān)于數(shù)據(jù)的全部內(nèi)容。

如果你覺得轉(zhuǎn)移的概念看起來過于抽象，那么請想象一個學習簡筆畫的孩子。她發(fā)現(xiàn)了人體形態(tài)的特征。通過增加具體細節(jié)，她可以為她的所有同學繪制肖像，加上眼鏡、紅色T恤的同桌等等。

她發(fā)展出這項技能不是為了完成一項特定任務(wù)或獲得獎勵，而是為了反映她描繪周圍世界的基本要求。

生成模型和GAN

無監(jiān)督學習的最簡單目標是訓(xùn)練算法生成自己的數(shù)據(jù)實例，但是模型不應(yīng)該簡單地重現(xiàn)之前訓(xùn)練的數(shù)據(jù)，否則就是簡單的記憶行為。

它必須是建立一個從數(shù)據(jù)中的基礎(chǔ)類模型。不是生成特定的馬或彩虹照片，而是生成馬和彩虹的圖片集；不是來自特定發(fā)言者的特定話語，而是說出話語的一般分布。

生成模型的指導(dǎo)原則是，能夠構(gòu)建一個令人信服的數(shù)據(jù)示例是理解它的最有力證據(jù)。正如物理學家理查德·費曼所說：“我不能創(chuàng)造的東西，我就不能了解”（What I cannot create, I do not understand.）。

對于圖像來說，迄今為止最成功的生成模型是生成對抗網(wǎng)絡(luò)（GAN）。它由兩個網(wǎng)絡(luò)組成：一個生成器和一個鑒別器，分別負責偽造圖片和識別真假。

生成器產(chǎn)生圖像的目的是誘使鑒別者相信它們是真實的，同時，鑒別者會因為發(fā)現(xiàn)假圖片而獲得獎勵。

GAN開始生成的圖像是雜亂的和隨機的，在許多次迭代中被細化，形成更加逼真的圖像，甚至無法與真實照片區(qū)別開來。最近英偉達的GauGAN還能根據(jù)用戶草圖生成圖片。

通過預(yù)測創(chuàng)建內(nèi)容

無監(jiān)督學習中另一個值得注意的成員是自回歸模型，它把數(shù)據(jù)分成一系列小片段，每個片段依次被預(yù)測。這些模型可以通過連續(xù)猜測接下來會發(fā)生什么來作為輸入，并能夠再次生成猜測數(shù)據(jù)。

在語言模型中，每個單詞都是從它之前的單詞預(yù)測出來的。它能夠支持在電子郵件和消息應(yīng)用程序中彈出的文本預(yù)測內(nèi)容。

最近OpenAI公布的GPT-2模型還能能夠生成以假亂真的文字段落。

通過控制用于調(diào)節(jié)輸出預(yù)測的輸入序列，自回歸模型也能用于將一個序列轉(zhuǎn)換為另一個序列。例如將文本轉(zhuǎn)換為逼真的手寫體、自然的語音，還能將一種語言翻譯成另一種語言。

自回歸模型以預(yù)測特定順序數(shù)據(jù)的方式來理解數(shù)據(jù)。通過預(yù)測任何其他數(shù)據(jù)的任何部分，可以構(gòu)建更一般的無監(jiān)督學習算法。

例如從句子中刪除一個單詞，并試圖從剩余的內(nèi)容中預(yù)測它。通過學習進行大量局部預(yù)測，系統(tǒng)被迫從整體上理解數(shù)據(jù)。

生成模型的出現(xiàn)讓人們產(chǎn)生了一種擔憂，就是它們可能被濫用。雖然通過照片、視頻和音頻編輯操縱證據(jù)歷史已久，但生成模型讓惡意編輯媒體內(nèi)容變得更加容易。一個知名的“deepfakes”范例是奧巴馬演講視頻片段。

令人鼓舞的是，人們已經(jīng)做出了面對這些挑戰(zhàn)的努力，包括利用統(tǒng)計技術(shù)幫助檢測偽造內(nèi)容和驗證真實內(nèi)容、提高公眾意識、以及圍繞限制生成模型使用范圍展開討論。

生成模型本身也能用在檢測偽造內(nèi)容和異常數(shù)據(jù)。例如，檢測虛假語音或識別支付異常，保護客戶免受欺詐。研究人員需要研究生成模型，以便更好地理解它們并降低風險。

實現(xiàn)通用智能

生成模型本身很吸引人，DeepMind的主要興趣是用它作為通用智能的踏腳石。賦予智能體生成數(shù)據(jù)的能力是一種賦予其想象力的方式，從而能夠規(guī)劃和推理未來。

DeepMind的研究表明，即使沒有明確的生成數(shù)據(jù)，學習預(yù)測環(huán)境的不同方面可以豐富智能體的世界模型，從而提高其解決問題的能力。