最近韓國 KBS 電視臺專訪了被譽為「AI 教父」的 Geoffrey Hinton。

作為深度學習領(lǐng)域的先驅(qū)，Hinton 在人工神經(jīng)網(wǎng)絡(luò)領(lǐng)域的開創(chuàng)性研究為當今生成式 AI 奠定了堅實基礎(chǔ)，并因此獲得了今年的諾貝爾物理學獎。

與此同時，他也是當下最堅定的 AI 信徒。

從他篤定的采訪語氣中，我們仿佛看到了一個既充滿希望又暗藏隱憂的未來圖景。

十年后，我們或?qū)⒂瓉硪粋€連當下最狂野的想象力都無法企及的 AI 時代；就像十年前我們無法預見 GPT-4 的存在一樣，未來的突破可能會遠遠超出我們的預期。

如果你想知道 10 年后會是什么樣子，最好的方法可能是回頭看看 10 年前的情況。

從工業(yè)革命解放體力，到 AI 革命釋放智力，人類正在逐步突破自身的局限。

然而，Hinton 也向我們發(fā)出警告，當我們在為未來歡呼雀躍時，是否也該思考如何在這場 AI 浪潮的翻涌中確保人類的主導地位？

部分金句如下：

Geoffrey Hinton：我們的主要限制曾經(jīng)是體力，而工業(yè)革命消除了這一限制?，F(xiàn)在我們的主要限制是我們的智力，而人工智能將消除這一限制。

因此，深度學習的靈感來源于大腦的工作方式。我們并不完全理解大腦的工作機制，但我們已經(jīng)知道了很多。在大腦中，有許多叫做神經(jīng)元的腦細胞，這些神經(jīng)元之間有連接。

當我們學習某些事物時，神經(jīng)元之間的連接強度會發(fā)生變化。神經(jīng)元通過發(fā)送信號（類似脈沖）來與其他神經(jīng)元通信。

所有神經(jīng)元需要做的，就是決定何時發(fā)送信號。它通過查看輸入（其中一部分來自其他神經(jīng)元，有些來自感覺神經(jīng)元，如視網(wǎng)膜中的神經(jīng)元）來決定何時發(fā)出信號。

如果接收到足夠的輸入，它就會發(fā)出信號。但是，接收到多少輸入取決于連接的權(quán)重。

權(quán)重較小的連接意味著當一個神經(jīng)元向另一個神經(jīng)元發(fā)送信號時，效果不大。權(quán)重大、影響強的連接則意味著當一個神經(jīng)元向另一個神經(jīng)元發(fā)送信號時，效果會更大，更有可能讓后者發(fā)出信號。學習的過程就是改變這些連接的強度。

學習中的關(guān)鍵問題是，大腦是基于什么原則來調(diào)整連接強度的？

在 1980 年代，科學家們提出了一種名為「反向傳播」的方法，這是一種用來決定如何調(diào)整連接強度的方式。

事實證明，在 1980 年代，這種方法的效果還算中等。但當時我們并未意識到，如果能提供大量的數(shù)據(jù)和計算資源，這種方法的效果會變得異常強大。

現(xiàn)在，大型聊天機器人使用反向傳播來改變計算機中模擬的神經(jīng)網(wǎng)絡(luò)連接強度，這就是深度學習的工作原理。

例如，如果你想要一個能夠識別鳥類的神經(jīng)網(wǎng)絡(luò)，它的第一層可能會包含識別邊緣的神經(jīng)元。然后，在下一層，可能會有識別邊緣組合的神經(jīng)元，例如兩條邊在銳角處相交，這可能代表鳥喙的形狀。

接著，在下一層，可能會有識別物體組合的神經(jīng)元，這些物體可能是鳥喙和眼睛。如果它們之間的關(guān)系合適，就可能形成鳥頭的形狀。

訣竅在于，它通過多個層次逐步檢測越來越復雜的特征，直到它看到可能是鳥頭的部分，或者突然識別出鳥腳，甚至可能是鳥翼的尖端。如果我們看到了這些特征，它就會判斷，這很可能是一只鳥。

但所有的權(quán)重，即連接強度，都是在神經(jīng)網(wǎng)絡(luò)中學習得來的。

自 1950 年代人工智能誕生以來，AI 發(fā)展出了兩種方法：一種是基于邏輯的，另一種是基于生物學的。基于生物學的方法試圖模擬大腦中的神經(jīng)網(wǎng)絡(luò)，而基于邏輯的方法則側(cè)重于模擬邏輯推理。

直到最近，基于生物學的神經(jīng)網(wǎng)絡(luò)方法才開始比基于邏輯的方法更加有效。

在人工智能的前 50 年里，幾乎所有人都傾向于相信基于邏輯的方法，但它并沒有真正奏效。直到本世紀初，大約在 2009 年，使用神經(jīng)網(wǎng)絡(luò)的生物學方法才開始取得顯著進展，并帶來了巨大的變化。

其中一個重大突破發(fā)生在 2012 年，當時模擬生物學的神經(jīng)網(wǎng)絡(luò)在物體識別方面突然變得非常有效。

神經(jīng)網(wǎng)絡(luò)之所以能夠取得如此顯著的效果，主要有三個原因。首先是來自像英偉達等公司開發(fā)的游戲芯片所提供的強大計算能力。

第二個因素是來自互聯(lián)網(wǎng)的大量數(shù)據(jù)。

第三個因素是技術(shù)的進步，例如 2017 年 Google 推出的 Transformer 模型，使得語言模型的效果得到了極大的提升。

此后，神經(jīng)網(wǎng)絡(luò)引發(fā)了廣泛的興趣，尤其是在 ChatGPT 發(fā)布后，大家看到神經(jīng)網(wǎng)絡(luò)不僅能理解你說的內(nèi)容，還能合理地回答問題，這引起了人們對神經(jīng)網(wǎng)絡(luò)的巨大關(guān)注。

因此，我認為人工智能將在各個行業(yè)得到廣泛應(yīng)用。

在某些領(lǐng)域，人工智能的影響顯然會非常積極，例如在醫(yī)療保健領(lǐng)域。目前，如果我有一些癥狀，我會去看家庭醫(yī)生。

如果我得了某種罕見病，家庭醫(yī)生可能從未見過這種病的案例。我更愿意去找那種接診過 1 億病人的家庭醫(yī)生，或者那種了解我整個基因組、掌握我所有醫(yī)學檢查結(jié)果并知曉我完整病史的醫(yī)生。

未來，我們將擁有這樣的人工智能醫(yī)生。

它們將遠比普通醫(yī)生更為優(yōu)秀。它們在解讀醫(yī)學影像方面的表現(xiàn)也將更加出色。因此，人工智能能夠利用更多現(xiàn)有的信息。

如果遇到難以診斷的病例，可以交給醫(yī)生，他們的診斷正確率約為 40%。

或者交給一個人工智能系統(tǒng)，其正確率可以達到 50%；但如果醫(yī)生和人工智能系統(tǒng)結(jié)合在一起工作，正確率將提高到 60%。

目前，在北美，每年大約有 20 萬人因誤診而死亡，因此這將能夠挽救許多生命。

在教育方面，我們知道，如果有私人導師，學習速度會比在課堂上和其他孩子一起學習快兩倍。而有了人工智能，每個人都能擁有自己的私人導師，這會讓孩子們的學習速度加倍。

這對教育將產(chǎn)生巨大影響。

對于大學來說，這或許不太理想，但在任何擁有數(shù)據(jù)的領(lǐng)域，人工智能都會非常有用。

讓我來舉個例子。我有一個鄰居，他為一家采礦公司開發(fā)了一套人工智能系統(tǒng)，這家公司擁有大量關(guān)于在不同條件下挖掘某段礦井所需時間的數(shù)據(jù)。

他們有大約 100 億個這樣的數(shù)據(jù)點。現(xiàn)在，這些數(shù)據(jù)被輸入了人工智能系統(tǒng)，可以迅速解答任何問題。

過去，如果他們想知道一個承包商是否能夠在承諾的時間內(nèi)完成任務(wù)，他們會雇傭一家大型咨詢公司撰寫報告，三周后才能拿到結(jié)果。而如今，只需短短 4 秒，這套系統(tǒng)就能給出答案。

這只是一個例子，但在所有擁有大量數(shù)據(jù)的行業(yè)，都會出現(xiàn)類似的情況。

你將能夠擁有公司所有的數(shù)據(jù)，并且能夠非常高效、迅速地利用這些數(shù)據(jù)?，F(xiàn)在，當我遇到新的問題時，我會請 GPT-4 幫忙。

例如，我有一座里面被某種螞蟻侵擾的小屋。我和 GPT-4 交流后，它告訴我可能是什么種類的螞蟻以及該如何處理。這非常有幫助，就像有一個非常有知識和耐心的朋友在旁邊。

主持人：然而，我們也能看到它有時會產(chǎn)生錯誤。

Geoffrey Hinton：AI 有時搞錯一些事情，但人類也會這樣，它會產(chǎn)生幻覺的事實，實際上也正是人類常見的現(xiàn)象，這叫做「虛構(gòu)」。

人類總是會發(fā)生這種情況。如果你觀察任何一個回憶起很久以前發(fā)生的事情的人，你會發(fā)現(xiàn)他們記不住所有的細節(jié)，但他們會非常自信地講述，而這些細節(jié)往往是錯誤的。

所以，人類就像這些大型聊天機器人一樣，總是在編造事實。預測未來非常困難，特別是在事物變化很快的情況下。

如果你想知道 10 年后會是什么樣子，最好的方法可能是回頭看看 10 年前的情況。

10 年前，沒人會想到會有像 GPT-4 這樣的技術(shù)，或者像 Google 開發(fā)的大型聊天機器人那樣的技術(shù)。因此，10 年后的未來，我們將擁有一些完全沒有人預料到的技術(shù)，它們將比人們預期的要好得多。

如果你展望幾年的未來，情況不會有劇烈變化，但如果看向 10 年后的未來，我們將會看到人工智能在韓國各個領(lǐng)域取得巨大的進展。

主持人：人工智能革命，相較于過去，它在我們文明歷史中的意義是什么？

Geoffrey Hinton：如果你看看工業(yè)革命，工業(yè)革命帶來的變化是人類的體力變得不再那么重要了。

在那之前，如果你想挖溝，你需要人來挖。雖然有動物，風車和水車等工具，但人類的體力依然非常重要。而在工業(yè)革命之后，人類的體力就變得不再那么重要了?，F(xiàn)在，我們所面臨的挑戰(zhàn)是人類的智力問題。

當人工智能變得比我們更聰明時，人類的智力將像工業(yè)革命后的人類體力一樣，變得不再重要。你可以把歷史看作是一個去除人類局限的過程，長久以來，我們的主要局限在于體力。

而現(xiàn)在，我們的主要局限是智力，而人工智能將會去除這一局限。如果你問，有多少例子是更聰明的事物被更不聰明的事物控制的？我只知道一個例子，那就是母親和嬰兒的關(guān)系。

進化過程中，為了讓嬰兒能夠影響母親的行為，大自然投入了極大的努力，這對物種的生存至關(guān)重要。

然而，嬰兒和母親的智力差不多。無論如何，我們不知道當人工智能比我們更聰明時，我們是否還能保持對它們的控制。有些人，比如我的朋友賈·拉·卡，認為一切都會很順利。

我們創(chuàng)造出的智能體并非總是會完全遵從我們的指令。我對此持懷疑態(tài)度，認為我們不應(yīng)過于自信地認為它們會絕對服從。

我相信人類是物質(zhì)存在的形式，人的所有特性都有可能在計算機中被模擬和發(fā)展。

從長遠來看，計算機能夠具備我們擁有的所有感知能力。我并不認為人類有什么特別之處，我們只是非常復雜，經(jīng)歷了漫長的進化過程。對于其他人來說，我們非常特別，但沒有什么是機器無法模擬的。

主持人：那么，人工智能對人類工作崗位可能帶來的威脅是什么？

Geoffrey Hinton：人工智能帶來的風險是多方面的，我們不應(yīng)將這些不同的風險混淆。每種風險都有不同的解決方案，顯然，人工智能將取代許多工作。

例如，律師的助理，進行法律研究的人，人工智能現(xiàn)在已經(jīng)能夠更好地完成其中的大部分工作。

因此，許多普通辦公室的工作崗位將不再需要那么多人。我有一個親戚在衛(wèi)生服務(wù)部門工作，她負責處理投訴信，以前她需要花費 25 分鐘時間寫一封投訴的答復信。

現(xiàn)在，她只需把信件發(fā)給 ChatGPT，系統(tǒng)就能生成回復，她只需要檢查并發(fā)送出去，整個過程只需要五分鐘。因此，這類職位將減少五倍。

這種情況在許多普通辦公室工作中都很常見。

現(xiàn)在，有些人說人工智能會創(chuàng)造大量的新工作崗位，確實它會創(chuàng)造一些新崗位，但目前并不清楚它是否能創(chuàng)造出足夠的新崗位來取代那些普通的辦公室工作，特別是那些由人工智能而非人類完成的工作。

所以，對于這些失業(yè)人員的未來來說，這是一個嚴峻的問題。

我認為這是政府需要關(guān)注的問題。我目前最擔心的短期風險是人工智能可能使網(wǎng)絡(luò)攻擊和生物武器的制造變得更加容易。

例如，去年，網(wǎng)絡(luò)釣魚攻擊增加了 1200%。這在很大程度上是因為這些聊天機器人被用來進行網(wǎng)絡(luò)釣魚攻擊。我還擔心有人利用這些技術(shù)制造新的病原體，目前對此幾乎沒有控制措施。

這就是短期的風險。

在中期，我非常擔心工作崗位的流失以及自主致命武器的出現(xiàn)，而從長遠來看，我最擔心的是這些技術(shù)變得比我們更聰明，最終接管我們。

我認為在兩到三年內(nèi)，我們可能會看到自主致命武器的問世。那將是人工智能的負面影響。

所有主要的國防部門都在努力開發(fā)這些武器。如果你查看目前關(guān)于人工智能的法規(guī)，所有法規(guī)中都有一條規(guī)定，明確表示這些法規(guī)不適用于軍事用途的人工智能。

例如，歐洲的法規(guī)中就明確規(guī)定，它們不適用于軍事用途的人工智能。因此，政府不愿進行自我監(jiān)管，而是競相開發(fā)自主致命武器。

一旦這些武器被投入使用，我們將看到它們的可怕后果，這些武器將造成可怕的災難，或許我們能制定類似于日內(nèi)瓦公約的國際協(xié)議，就像我們在化學武器問題上所做的那樣。

他們沒有使用化學武器，但我們直到第一次世界大戰(zhàn)后，才制定了相關(guān)公約。

我們現(xiàn)在需要做的是，在技術(shù)發(fā)展過程中加強安全研究，而只有那些大公司擁有足夠的資源來開展這些工作。因此，我們需要政府強迫這些大公司在安全方面做出更多努力。

顯然，人工智能的發(fā)展需要巨大的計算能力，同時也需要大量的技術(shù)人員，因此我們需要留住這些技術(shù)人才。留住技術(shù)人才的最佳方式就是為他們提供一個可以專心從事研究的環(huán)境。

以加拿大為例，雖然它的規(guī)模和經(jīng)濟體量相對較小，但在人工智能領(lǐng)域表現(xiàn)非常出色。之所以能夠做到這一點，是因為加拿大長期以來實行資助基礎(chǔ)科學研究的政策。

像我和喬舒亞·本喬、里奇·薩頓等領(lǐng)先的研究人員，之所以選擇來到加拿大，部分是因為加拿大的社會制度，主要還是因為它在基礎(chǔ)科學研究上給予了大量資金支持。

所以，做一件事就是大力資助基礎(chǔ)科學研究。

關(guān)于職業(yè)生涯的建議是，如果你能夠為創(chuàng)意十足的研究人員提供優(yōu)厚的基礎(chǔ)科學研究資助，他們實際上會更愿意從事基礎(chǔ)科學研究，而不是去銀行賺取豐厚的薪水。

雖然也有一些人會選擇去銀行賺大錢，但你對此無能為力。但對基礎(chǔ)科學研究的良好支持，特別是對計算能力的資助，是留住優(yōu)秀研究人員的關(guān)鍵。

主持人：你認為機器人是和人工智能一起發(fā)展的嗎，

Geoffrey Hinton：人形機器人？

主持人：是的

Geoffrey Hinton：因為我看到很多人現(xiàn)在都在做這個。

可能我們之所以這么做，是因為工廠的設(shè)計本來就是為了適應(yīng)人類。我的意思是，工廠里的所有機器設(shè)備都是為人來操作而設(shè)計的。

所以，與其重新設(shè)計所有的機器設(shè)備，不如重新設(shè)計一個人。這樣你就可以繼續(xù)使用現(xiàn)有的機器。現(xiàn)在人們正在嘗試這種方法。

我不確定會發(fā)生什么，但我認為現(xiàn)在正處于一個充滿巨大不確定性的時代。在這種情況下，面對未來的不確定性，我們應(yīng)該保持謹慎。

主持人：會有一個調(diào)整期或者經(jīng)濟衰退嗎？

Geoffrey Hinton：對此有兩種不同的看法。我的看法是，這種發(fā)展將持續(xù)下去。

有些人，特別是那些堅持邏輯方法的人工智能信徒，長期以來一直不看好神經(jīng)網(wǎng)絡(luò)，他們一直在說人工智能即將走到盡頭。

但神經(jīng)網(wǎng)絡(luò)，許多人曾經(jīng)說它們被過度炒作，但它們已經(jīng)實現(xiàn)了巨大進展，現(xiàn)在已經(jīng)能夠做出令人驚訝的成就。所以我認為它們并沒有被過度炒作。

每隔幾年，總會有人說神經(jīng)網(wǎng)絡(luò)被過度炒作，一切將要崩潰，但他們每次都是錯的，我認為他們將繼續(xù)錯下去。