辛頓教授 Geoffrey Hinton AI 的創意及推理能力馬上會超過人類很多。他現在同時也被叫做「末日教父」

牟中原

AI 教父Hinton 得諾貝爾物理奬使很多人驚訝，但我覺得更令人吃驚的是他辭去工作了10年的Google 然後到處演講努力告訴世人AI 的危險性。

Hinton利用一個例子來體現大模型甚至擁有超越人類的類比思維，而不是簡單重複自己之前預訓練學習過的內容。以下是常用的的兩個例子。

（1）訊問 GPT-4，為什麼堆肥堆像原子彈？大多數人回答不出來。大多數人沒有想過，他們會認為原子彈和堆肥堆是非常不同的東西。但 GPT-4 會告訴你，它們的能量規模非常不同，時間規模非常不同。但它們的共同點是，當堆肥堆變得更熱時，它產生熱量的速度更快；當原子彈產生更多的中子時，它產生中子的速度也更快。所以這就得到了連鎖反應的概念。（他當初問這問題時曾確認過，網路上從來沒有人問過這個問題）

大模型似乎理解這兩種連鎖反應，並使用這種理解將所有這些資訊壓縮到它的權重中。如果它確實在這樣做，那麼它將會對我們還沒有看到的所有事物進行同樣的操作。這就是創造力的來源 —— 看到這些表面上截然不同的事物之間的類比關係。

（2）問GPT-4, 我有三個房間分別漆成白、藍、黃，並說黃色的在一年會褪成白色。一年以後我希望他們都是白色。回答是你只要把藍色的漆成白色的就可以。這回答其實使Hinton 非常吃驚，因為GPT-4 並沒有內建的邏輯推理程式。是他自己學到的。

Hinton在採訪時表示，大腦認知實際上採用了和大模型一樣的處理邏輯。即大腦將這些符號轉換為嵌入，並使用多層嵌入，因而大腦將得到非常豐富的嵌入。而嵌入仍然與符號相關聯。人們曾認為符號處理只是簡單地匹配符號，一個符號只有一個屬性：要麼與另一個符號相同，要麼不相同。實際並不是這樣，而是利用上下文為符號提供嵌入向量，然後利用這些嵌入向量之相互作用而思考。。這使他非常擔心，AI 的創意及推理能力馬上會超過人類很多。他現在同時也被叫做「末日教父」

所有心情：

103103

#2024年諾貝爾物理學獎

傑佛瑞．辛頓 Geoffrey Hinton：https://bit.ly/3XYhMqh

 2024年諾貝爾物理學獎由美國普林斯頓大學的約翰·霍普菲爾德教授與加拿大多倫多大學的傑佛瑞·辛頓名譽教授共同獲得。辛頓長期致力於深層學習的研究，這項技術引發了當前的生成式人工智慧（AI）熱潮，並正在迅速改變社會和經濟。然而，技術的急速發展也帶來了一系列問題。

Joel

辛頓教授於1947年出生於英國，後來進入劍橋大學學習心理學，受到生物學家父親的影響，逐漸將AI的開發與人腦結構相結合。儘管他的深層學習研究在早期並不被看好，甚至曾遭到導師的反對，但他始終相信大腦結構在學習過程中的適用性，並堅持不懈地進行研究。

AI的概念自1950年代誕生以來經歷了多次「冬季」，直到80年代，辛頓及其同事撰寫的重要論文為AI的第三次發展浪潮奠定了基礎。2012年，他開發的「AlexNet」在國際影像辨識競賽中取得了驚人成績，並由此引爆了生成AI的熱潮。辛頓使用輝達（NVIDIA）的GPU大幅提升了影像辨識的精度，促使AI研究者紛紛採用該公司的GPU，使得輝達成為全球市值最高的半導體公司之一。

辛頓的成功背後，離不開一批優秀的學生，特別是伊利亞·薩茨基弗（Ilya Sutskever）。薩茨基弗曾是OpenAI的聯合創辦人及研發負責人，並於2024年5月從該公司離職。兩人在2012年參加國際影像辨識比賽時，憑藉「AlexNet」取得壓倒性勝利，證明了AI在影像辨識上的潛力，這場勝利極大地推動了AI的發展。

在此之前，辛頓並未完全相信GPU的潛力。2006年，有學生建議他採用GPU來進行AI模型訓練，但他當時並未理會。直到2008年，受美國研究人員的再次建議，辛頓才開始嘗試使用GPU，而此時輝達推出的CUDA軟體基礎，使得AI訓練變得更加便捷。辛頓承認，如果沒有CUDA，GPU可能不會成為AI發展的核心工具。

2012年AI革命的成功引起了輝達CEO黃仁勳的注意，他將這次比賽稱為AI領域的「大爆炸」，並迅速將公司的資源轉向AI，甚至在2016年向OpenAI捐贈了搭載GPU的AI專用伺服器，最終促成了ChatGPT的誕生。

辛頓教授的AI研究始於1980年代，他在AI發展停滯的「冬季時代」依然堅持不懈地研究，並培養出眾多傑出的學生，包括現在在Meta領導AI研究的楊立昆（Yann LeCun）和蒙特婁大學的約書亞·本吉奧（Yoshua Bengio）。

儘管生成AI帶來了革命性的技術變革，風險也隨之增加。AI的誤用可能助長誤導性信息的傳播，甚至被用於犯罪或加劇社會不平等。隨著部分企業掌握強大的技術，如何確保技術的安全性並進行適當監管，仍是亟待解決的議題。

2023年，辛頓教授離開了他服務十年的Google，以便能更自由地討論AI的安全性。在昨天的記者會上，他再次強調了對AI潛在負面影響的關注，呼籲社會必須重視這些問題。雖然他長年的研究取得了巨大的成功，但與此同時，社會也面臨著如何負責任地使用這些技術的挑戰。

資料來源：日經新聞

。。。。

“我的第一個反應是,怎麼判斷

這不是一個詐騙電話，但是

那傢伙有著濃重的瑞典口音

電話來自瑞典，但我完全不知道

有被提名了，我大吃一驚，沒想到我有可獲得諾貝爾物理學獎，這可能是一個 Al 騙局，它們現在的功能非常強⋯⋯”

當你意識到它時是真的 ,你怎麼樣反應?

my jaw dropped open!

加拿大電視報導

Hinton拿到諾貝爾物理獎

人在加州的便宜旅館

“I’m flabbergasted. I had, no idea this would 

happen,” 

“I think we're moving into a period when, for the first time ever, we may have things more intelligent than us,” says artificial intelligence pioneer Geoffrey Hinton. Today he shared the 2024 #NobelPrize in physics. https://cbsn.ws/3KPtyNv

有批評到Open AI 把profit 看的比safety 重。