|
來源：https://www./blog/automated-machine-learning-short-history/ 翻譯：蔡玲 最近，我們聽到了關(guān)于機(jī)器學(xué)習(xí)的很多新聞，這部分是由不斷增長的需求和缺少數(shù)據(jù)科學(xué)家們所激發(fā)的。但像許多創(chuàng)新一樣，機(jī)器學(xué)習(xí)并不是簡(jiǎn)單出現(xiàn)的 ,它至少發(fā)展了二十年。在這篇文章中，我們簡(jiǎn)要地回顧一下這段歷史。 在成功地推出Unica系列營銷自動(dòng)化軟件之前，這家公司的主要業(yè)務(wù)是通過特別關(guān)注神經(jīng)網(wǎng)絡(luò)進(jìn)而進(jìn)行預(yù)測(cè)分析。1995年，Unica介紹了Pattern Recognition Workbench （簡(jiǎn)稱PRW，一種數(shù)據(jù)挖掘工具），一個(gè)使用自動(dòng)網(wǎng)格搜索優(yōu)化模型的神經(jīng)網(wǎng)絡(luò)優(yōu)化軟件包。三年后，Unica與Group 1 Software（現(xiàn)在由Pitney Bowes公司擁有）在市場(chǎng)上推出Model 1，這是一個(gè)自動(dòng)選取超過4種不同預(yù)測(cè)模型的工具。更名幾次之后，原始的Pattern Recognition Workbench （PRW）仍然作為IBM 的預(yù)測(cè)工具，作為IBM企業(yè)營銷管理套件的一部分出售。 其他兩個(gè)商業(yè)嘗試自動(dòng)預(yù)測(cè)模型是從上世紀(jì)90年代末開始的。 MarketSwitch，提供市場(chǎng)營銷優(yōu)化的解決方案，其中包括嵌入式的“自動(dòng)化”的預(yù)測(cè)建模能力。在銷售推介會(huì)上，MarketSwitch關(guān)于他如何優(yōu)化工作的信息提供得很少。然而，他們宣揚(yáng)這是“前蘇聯(lián)火箭科學(xué)家”背后的技術(shù)，并承諾客戶，有了這個(gè)他們可以“解雇他們的SAS程序員”了。益百利（一家信息技術(shù)有限公司）在2004年收購了Market Switch，通過他的自身的服務(wù)外包分析，重新定位了產(chǎn)品作為決策工具和自動(dòng)建模能力。 KXEN，1998年在法國成立的一家公司，圍繞著自動(dòng)建模技術(shù)建立了自己的分析工具，還宣稱結(jié)構(gòu)風(fēng)險(xiǎn)最小化（具體請(qǐng)點(diǎn)http://www./srm/）。原來的產(chǎn)品有一個(gè)基本的用戶界面，依靠于合作伙伴應(yīng)用程序的生產(chǎn)出相反的API。最近，KXEN把自己定位為易于使用又能提供市場(chǎng)營銷分析解決方案，并試圖直接銷售給公司高管。 在這方面的努力是非常成功的，SAP（衛(wèi)星自動(dòng)控制系統(tǒng)）在2013年大概賣出了4000萬美元。 Market Switch和KXEN在反對(duì)傳統(tǒng)預(yù)測(cè)分析上取得了一些小進(jìn)展。首先，通過定義它的狹小去“解決”問題，限制優(yōu)化的范圍到幾個(gè)算法，把建設(shè)工程的質(zhì)量和堅(jiān)固性的花費(fèi)減少到最小。其次，通過定位他們的工具就可以不需要專家來進(jìn)行分析，他們疏遠(yuǎn)了在客戶組織中非常了解他們的產(chǎn)品甚至于可以成為他們冠軍的人。 在過去的幾年中，領(lǐng)先的分析軟件供應(yīng)商（SAS和SPSS）在他們的高端產(chǎn)品中增加了自動(dòng)建模功能。2010年，SAS介紹SAS Rapid Modeler（SAS快速建模功能），附加到了SAS的Enterprise Miner?？焖俳Ｊ且惶缀陮?shí)施啟發(fā)式處理任務(wù)，如離群點(diǎn)識(shí)別、缺失值處理、變量選擇和模型選擇。用戶指定了一個(gè)數(shù)據(jù)集和響應(yīng)措施；快速建模確定回應(yīng)是連續(xù)的還是分類的，并利用這些信息與其他的診斷一起去測(cè)試測(cè)試一系列建模技術(shù)。用戶可以通過選擇初級(jí)、中級(jí)或高級(jí)方法來控制技術(shù)的范圍。（SAS最近將這個(gè)產(chǎn)品作為SAS Factory Miner）。 IBM SPSS Modeler包括一套自動(dòng)準(zhǔn)備數(shù)據(jù)功能以及自動(dòng)分類、自動(dòng)聚類、自動(dòng)數(shù)字節(jié)點(diǎn)功能。自動(dòng)準(zhǔn)備數(shù)據(jù)功能執(zhí)行這樣的任務(wù)作為缺失值處理，異常處理，日期和時(shí)間的準(zhǔn)備，基本價(jià)值篩選、分級(jí)和可變的重鑄。三個(gè)建模節(jié)點(diǎn)可以實(shí)現(xiàn)用戶指定的技術(shù)可以被運(yùn)用于包括測(cè)試計(jì)劃在內(nèi)的，指定的模型選擇規(guī)則和在模型訓(xùn)練集中設(shè)置限制等功能。 至今為止所有討論的軟件產(chǎn)品都是商業(yè)許可的，反映了機(jī)器學(xué)習(xí)社區(qū)的方向是為了開源軟件。在社區(qū)項(xiàng)目中的機(jī)器自動(dòng)化學(xué)習(xí)取得最具創(chuàng)新性的發(fā)展并不讓人覺得稀奇，三個(gè)項(xiàng)目值得特別提及：Caret, Auto-WEKA和AutoML。 在開放資源的R語言的插入包中插入一套包括旨在加速模型規(guī)范和廣泛的技術(shù)調(diào)整生產(chǎn)力工具。該包包括預(yù)處理工具，可以支持虛擬編碼，零方差預(yù)測(cè)，識(shí)別相關(guān)的預(yù)測(cè)因子等諸如此類的任務(wù)，還可以支持模型訓(xùn)練和調(diào)整。在當(dāng)前插入的訓(xùn)練功能可以支持192種不同的建模技術(shù)，它可以通過選定的技術(shù)來達(dá)到參數(shù)最優(yōu)化，但不優(yōu)化跨技術(shù)。用多個(gè)建模技術(shù)實(shí)現(xiàn)測(cè)試計(jì)劃，用戶必須編寫一個(gè)R語言的腳本來運(yùn)行所需的訓(xùn)練任務(wù)并捕獲結(jié)果。 注釋： caret:插入包（簡(jiǎn)稱分類和回歸訓(xùn)練）是一套旨在簡(jiǎn)化創(chuàng)建預(yù)測(cè)模型中的功能。該軟件包中包含的工具：數(shù)據(jù)分割,預(yù)處理,特征選擇,基于重采樣的模型調(diào)整,變量重要性估計(jì)以及其他功能。 Auto-WEKA是另一個(gè)開放資源的機(jī)器自動(dòng)化學(xué)習(xí)的項(xiàng)目。2013首次發(fā)布，Auto-WEKA是一個(gè)合作的項(xiàng)目，由英屬哥倫比亞大學(xué)和弗萊堡大學(xué)的四位研究人員驅(qū)動(dòng)。在目前的版本中，Auto-WEKA只支持自動(dòng)分類問題。該軟件從39個(gè)可用的算法中選擇一個(gè)學(xué)習(xí)算法，包括2種集成方法、10個(gè)元方法和27個(gè)基分類器。由于每個(gè)分類有許多可能的參數(shù)設(shè)置，搜索空間是非常大的，開發(fā)人員用貝葉斯優(yōu)化來解決這個(gè)問題。 CHALEARN是一個(gè)由美國國家科學(xué)基金會(huì)和商業(yè)贊助支持的免稅組織。CHALEARN舉辦一年一度的automl挑戰(zhàn)，旨在開發(fā)自動(dòng)化機(jī)器的回歸和分類學(xué)習(xí)的軟件。最近的一次會(huì)議是2015年7月在法國的里爾舉行的，會(huì)議演示了機(jī)器自動(dòng)化學(xué)習(xí)的最新發(fā)展，還舉辦了一個(gè)活動(dòng)。 想要看最新進(jìn)展，請(qǐng)點(diǎn)擊這里：https://indico.lal./event/2914/ 隨著機(jī)器自動(dòng)化學(xué)習(xí)的成熟，我們描述的能力也有了轉(zhuǎn)變。早期的商業(yè)產(chǎn)品如MarketSwitch和KXEN聲稱可以消除專家，但我們現(xiàn)在認(rèn)為機(jī)器自動(dòng)化學(xué)習(xí)系統(tǒng)的作為一種生產(chǎn)力工具，能讓專家更有效。例如，機(jī)器人手術(shù)，并不排除對(duì)心臟病專家的需要；它使心臟病學(xué)家集中更多的精力在診斷和病人護(hù)理上。類似的，自動(dòng)機(jī)器學(xué)習(xí)并沒有消除專家分析，它還可以使專家專注于理解業(yè)務(wù)問題，并解釋結(jié)果，真正的價(jià)值驅(qū)動(dòng)高級(jí)分析的實(shí)現(xiàn)。 |
|
|
