諾貝爾獎快被 AI 包圍!十個冷知識重新認識 AI 教父

作者 | 發布日期 2024 年 10 月 15 日 8:30 | 分類 AI 人工智慧 , 網路趣聞 line share Linkedin share follow us in feedly line share
諾貝爾獎快被 AI 包圍!十個冷知識重新認識 AI 教父


今年的諾貝爾化學獎和物理學獎,頒給了兩位做人工智慧的人物:一位是 DeepMind 創辦人 Demis Hassabis,另一位是 AI 教父 Geoffrey Hinton。

比得獎更有意思的是得獎人背後的故事:當年DeepMind還只是個不為人知的小公司時,就敢和百度、微軟、Google三巨頭,爭搶這位教父,儘管肯定是爭不過。

筆者翻遍各大媒體報導和矽谷史記,找到了更多跟Geoffrey有趣的冷知識──不得不說,這個人物可比物理有意思多了。

不算是真·物理學家

這點現在已經人盡皆知了。本次物理學獎之一John Hopfield確實是物理學出身──雖然他現在在普林斯頓,是分子生物學教授。而Geoffery則是知名的「人工智慧教父」,他在神經網路上的研究,為人工智慧奠定了基礎。

實際上,兩人的研究都跟物理學有連結。Hopfield創造了一種聯想式記憶(associative memory),可以儲存和重建影像以及資料中其他類型模式,這套理論的基礎,正是物理學中的自旋系統。

Geoffrey發明的玻爾茲曼機,靈感來自於統計物理學,引入了一種用於模式辨識的機率模型。在理論上,它的訓練演算法、動力學原理,都與簡單物理過程相似。玻爾茲曼機跟Hopfield網路緊密相關。

不過,獲得物理學獎令兩人非常吃驚,Geoffrey甚至沒有想過自己會被提名。他很高興諾貝爾獎委員會能看到他和Hopfield的研究中,物理學所帶來的啟發,只不過在最近,基於LLM的AI研究與物理學關聯不太多,所以得獎一事讓人非常意外。

曾經的學渣,如今的教父

早年間Geoffrey也嘗試過物理學,但直接被裡面複雜的數學勸退了。甚至到後來做機器學期的時候,他還是會常常跳過數學演算的部分,直接看論證。

直到指導Yann LeCun的論文時,他因為完全不懂法語,只能反過來──跳過論述,只看數學。論文答辯時,Geoffrey以英語提問,LeCun用法語回答,兩人居然交流自如。這是基於他們對神經網路共同的信念,LeCun說,聊天時他感覺Geoffrey正在完成他的句子。

英式冷幽默大師

但凡看過Geoffrey的演講影片,都會被他的英式冷幽默折服。一位名叫Aapo Hyvärinen的研究人員,曾經在發表學術論文時在致謝一欄寫道:

本文的基礎想法是在與Geoffrey的討論中提出的,但他本人不願意成為合著者,因為論文包含了太多數學方程式。

離那個叫Sam Altman的人遠一點

雖然被稱為AI教父,但是Geoffrey在警示AI潛在的危險性上,稱得上是不遺餘力。在線上新聞發布會中,他感謝貝爾獎委員會以及一直以來共事導師、同事和學生,並說道「我對其中一位同學格外自豪,他解雇了Sam Altman」。

美聯社記者追問為什麼對Sam Altman有如此評價,他表示,OpenAI的初衷是開發通用AI,並保證它是安全的。但隨著時間的推移,Sam Altman逐漸把利潤放在安全之上,「我覺得這很不幸。」

百度離拿下Geoffrey的「皮包公司」,曾經只有一步之遙

Geoffrey有兩次「創業」的經驗。當然,不是嚴格意義上的創業,更多像是把自己和學生的研究成果,引薦給工業界。

2009年,他的學生在語音辨識上做出了一個很好的模型,於是他們去和當時做手機很紅的黑莓公司接觸。經過漫長的溝通,黑莓一位高層說,他們不感興趣。

後來,Google拿到了這個語音辨識模型,打磨成了產品嵌入Android系統中。 「太可惜了,」Geoffrey在一場多倫多大學的座談會上分享這個故事,當時另一位講座嘉賓是李飛飛,「如果不是這樣,我們現在說不定還能看到黑莓呢」。

到了2012年,Geoffrey和他的學生發表了一篇論文,證明了神經網路強大的價值。率先向Geoffrey拋出橄欖枝的,正是來自中國的百度。

但他的學生提議,與其去當打工人,不如原地成立一家公司,讓巨頭來收購。Geoffrey想想有道理,說做就做。沒想到成立之後,四家巨頭拋出爭相拍賣,分別是百度、Google、微軟,以及當時尚未嶄露頭角的Deepmind。

拍賣全程用電子郵件進行,Deepmind當時實力尚淺,只能拿公司股票來參與拍賣,所以很快就出局了。而剩下的三位巨頭不斷抬價,微軟在2,000萬退出了一次。 2,200萬時,由於Geoffrey提出暫停,微軟徹底退出。在後半程的終極競價裡,百度的出價其實是領先的,然而最終Geoffrey還是屬意Google。他在Google工作了十年,直到去年退休。

站著把研究做了

傳言他最後沒有選擇百度,是因為越洋飛機對他而言太難了:Geoffrey患有嚴重的腰椎間盤病,嚴重到完全不能坐下,否則就會有一塊腰椎突出導致劇痛。他在所有的演講、座談中,都是站著的,必要時會拿一個軟墊跪下來。

2009年,微軟邀請Geoffrey到位於華盛頓遠郊的實驗訪問研究。旅程非常費勁:又不能開車又不能飛,坐車也只能躺在後座。於是他先搭地鐵,去到多倫多城中的公車站,提前排隊,然後率先搶到最後一排空座,直接躺下裝睡,全程無人打擾。後來他又搭了三天火車到達西雅圖,再躺在計程車後座橫越華盛頓湖,到達微軟。

聽說這趟旅程如此折騰,微軟提前為他定了一張站立式辦公桌,保證他可以正常工作。

冷血動物愛好者

Geoffrey的父親是一位著名的昆蟲學家,小時候的他經常跟各種奇怪的動物打交道,包括但不限於青蛙、烏龜、蜥蜴、蟾蜍。

一直到現在,他也和冷血動物很親近。他把死掉的蜻蜓保存在櫃子裡,在海島度假時,甚至會把蛇帶進屋裡,邀請前來採訪的記者去摸看。

祖上都是科學家

Geoffrey出生於科學世家,最為人所知的是他的曾曾祖父George Boole,開發了二元推理系統「布爾代數」,構成了現代計算機的基礎。其實,他還有許多祖輩都有驚人的科學成就。

曾祖母Mary Ellen Boole(後來改姓)是數學家,嫁給了Charles Howard Hinton,同樣是數學家,他提出了四維超正方體,是四維空間的基礎理論。表親Joan Hinton是核物理學家,曾經參與曼哈頓計劃,後來嫁給了中國對美事務顧問Erwin Engst後就定居中國了。他們的孩子之一Fred Engst陽和平,目前是北京對外經貿大學的教授。

研究了一下發現他祖輩裡還有太多科學家,像是英國皇家化學研究所第一位女性院士、發明便攜式X光機的內科醫生等等。

成功的祕訣?找一堆天才學生

OpenAI的前首席科學家、聯創之一Ilya Sutskever是Geoffrey的學生,在多倫多大學攻讀本科時就決定了自己的方向。他直接走到Geoffrey的辦公室敲門問,能不能加入深度學習實驗室。 Geoffrey說,那約個時間聊聊吧。

Sutskever說,「行啊,現在怎麼樣?」

Geoffrey給了他一些經典論文,一週後,Sutskever回來了,說「我不理解」。

「你訓練一個神經網路來解決一個問題,然後又訓練一個新的網路解決另一個問題──為什麼不用一個網路解決所有的問題呢?」

Geoffrey意識到,眼前這個二十多歲的年輕人,有著超乎經驗的研究直覺,遂邀請他加入自己的實驗團隊。

「我一直都是對的」

Geoffrey坐了十多年學術界的冷板凳。當他決定把神經網路當作自己的研究目標時,沒有人看好這個方向,都覺得做不出名堂。然而,多年後,當神經網路為自己正名後,Geoffrey經常在接受採訪中被問到,是什麼讓他選擇了一個冷門方向。

他每次都輕描淡寫地答到,「我相信我是對的」。

這也是他對年輕人的建議之一,「去找這樣一個地方:在那裡,你覺得每個人都做錯了。然後相信你的直覺,直到你弄清楚為什麼你的直覺是錯的。當你覺得每個人的做法都是做的,選擇那個不一樣的做法。

事實是,要嘛你有很好的直覺,要嘛你沒有。如果你有好的直覺,應該傾聽它們,遵循它們,一直努力,直到你發現它為什麼是錯的。如果你有糟糕的直覺,那你做什麼其實也不重要,那還不如遵循自己的直覺。 」

(本文由 愛范兒 授權轉載;首圖來源:多倫多大學

想請我們喝幾杯咖啡?

icon-tag

每杯咖啡 65 元

icon-coffee x 1
icon-coffee x 3
icon-coffee x 5
icon-coffee x

您的咖啡贊助將是讓我們持續走下去的動力

總金額共新臺幣 0
《關於請喝咖啡的 Q & A》