劍指AI,馬斯克暗度陳倉|甲子光年

2023-07-14     甲子光年

原標題:劍指AI,馬斯克暗度陳倉|甲子光年

不按套路出牌的馬斯克,炸得整個AI界波瀾迭起。

作者|塗明 李晗 朱悅

編輯|王博

儘管很多人相信馬斯克會組建AI公司,但是沒人知道這一天會什麼時候到來。

就像2200多年前,雍王章邯知道漢軍在修棧道,但不知道漢軍會悄悄繞過棧道,結果陳倉遇襲,雍王兵敗。

馬斯克「殺入AI圈,劍指大模型」就是這麼突然,北京時間7月13日0點23分,馬斯克在Twitter上毫無徵兆地宣布:「xAI宣告成立,為了理解現實。」

在宣告xAI成立之前,馬斯克為此至少悶聲籌備了4個月。早在今年3月,馬斯克就曾透露他正在組建一個「TruthGPT」項目,目的是「最大程度探求真理」。

戲劇性的是,就在今年3月23日,馬斯克還曾聯名發表公開信稱:為了人類的安全考慮,呼籲全球所有人工智慧實驗室暫停訓練比GPT-4更強大的人工智慧系統,暫停時間至少6個月。

現在距離公開信發表還不到4個月,「暫停之聲」猶在耳邊,馬斯克卻已經挖走了包括DeepMind、OpenAI、谷歌研究院、微軟研究院、多倫多大學計算機科學系在內的全球頂尖AI團隊的牆腳,組建起一支11人的「全明星創始團隊」。

一邊明修棧道,勸各大AI企業「別乾了,太危險」;一邊暗度陳倉,緊鑼密鼓地籌備自己的AI公司。不按套路出牌的馬斯克,炸得整個AI界波瀾迭起。

1.雙面馬斯克

當矽谷大佬們大談《道德經》之時,馬斯克似乎讀懂了《三十六計》。

在收購推特的過程中,馬斯克就運用了「瞞天過海」「順手牽羊」「欲擒故縱」等計謀。

而在AI領域,一直以來,馬斯克都是「AI威脅論」中聲量最大的那一位。

自2014年至今,馬斯克多次發聲,提醒社會警惕AI,呼籲社會加強對AI的監管。據《中國經營報》不完全統計,馬斯克在過去十年內公開發表的「警惕AI」言論多達數十次,甚至曾直言「人工智慧比核武器更危險」。

比如2018年時,馬斯克宣布退出OpenAI董事會,理由是與OpenAI管理層就AI安全問題與商業化方式產生分歧。馬斯克曾公開批評OpenAI「在追求先進人工智慧方面變得不夠透明,過於商業化」,擔心像GPT-4會散布虛假信息並顯示偏見。

今年年初,ChatGPT爆火,AI安全問題再次引發關注。3月22日,非營利組織「未來生命研究所」發出一封聯合署名的公開信,呼籲全球所有人工智慧實驗室「為了人類的安全考慮,最好暫停訓練比GPT-4強大的人工智慧系統,暫停時間至少6個月」,馬斯克的大名位列其中。

在馬斯克眼中,AI最大的威脅就是「脫離人類控制」。為此,其關於AI的絕大部分建議都是圍繞限制AI發展、加強對AI的監管展開。

但是,馬斯克同樣是地球上最堅定的AI技術推動者之一,也是最瘋狂的AI實用主義者之一。

早在2013年,馬斯克就在特斯拉內部提出了Autopilot項目,希望與谷歌一同開發一套高速公路自動駕駛系統。自2013年10月Autopilot招聘第一名員工Drew Gray開始,特斯拉就在量產汽車自動駕駛的路上「狂飆」。

他用不到一年的時間研發出Autopilot的第一代硬體,在Google選擇叫停半自動駕駛項目時依舊堅定投入,並在兩年之後開放Autosteer自動駕駛功能上車,推動特斯拉成為當時全球唯一一家實現了自動駕駛核心領域全棧自研自產的科技公司。

馬斯克堅定推動AI在汽車領域應用,這並不意味著特斯拉的自動駕駛技術已經絕對安全。

就在今年2月,美國高速交通安全管理局(NHTSA)就曾以安全問題為由,強制召回超過36.2萬輛配備了全自動駕駛軟體的特斯拉汽車。1個月後,美國舊金山聯邦法院也發起訴訟,認為特斯拉對技術風險的隱瞞「造成了嚴重的事故和傷害風險」。

這並不影響馬斯克對AI的熱愛。迄今為止,馬斯克旗下的幾乎所有公司,比如航天公司SpaceX、太陽城、神經技術研究公司Neuralink、Twitter,都在使用甚至依賴AI技術。

一方面高調批判AI,質疑其安全性;一方面又支持推動AI,並應用在各種產品中。馬斯克在AI的問題上呈現出了十足的「矛盾感」。這種矛盾感背後的潛台詞或許是,「AI很危險,別人開發的我不放心,還得自己上」。

也有人感受到了這種「矛盾感」。小冰CEO李笛近日接受了新華社「新科創」欄目專訪,在被問及「馬斯克為何會呼籲停止大模型的研發」時,李笛表示:當時曾「問」過小冰,馬斯克的此舉有何目的。小冰在經過調查之後發現,馬斯克自己又採購了大量的GPU,因此得出了「可能是為了給自己爭取更多時間準備」的結論。

李笛自己則認為馬斯克「確實認為人工智慧是危險的」,但是由於更多的原因,馬斯克作出了「呼籲停止大模型的研發」表態,「人們面對這種新的技術就是如此侷促、手足無措、進退失據,情感和情緒非常複雜。但毫無疑問的是,這種號召和呼籲是沒有用的。」李笛在「新科創」欄目中說。

在官宣xAI成立之後,馬斯克在Twitter Spaces活動中與兩位政府議員進行了關於AI安全的對談。對談中,馬斯克表示自己要「構建一套更安全的人工智慧工具」。他同時聲明:「xAI不會將人類的道德編進人工智慧的程序中,而是會尋求創造一個能在最大程度上擁有好奇心並追求真理的人工智慧。」

「我正在培養AI的人性,試圖讓AI了解宇宙的真實本質,這才是有利於人類的做法,能夠讓AI明白人類的重要性」,馬斯克說,「這是我從人工智慧安全角度出發想到的最佳解決方案。」

為了完成這個目標,在至少四個月之前,馬斯克就已經在緊鑼密鼓地籌建自己的AI公司了。據外媒報道,3月初,在註冊X Holdings Corp、X Corp的同時,xAI公司也同步註冊。

4月份,馬斯克在接受《金融時報》採訪時表示,他已經從英偉達手中購買了1萬顆GPU處理器。當時,馬斯克對自己行為的解釋是,「似乎每個人和他們的狗都在購買GPU,特斯拉和Twitter肯定也需要」,而業內自那時起就猜測馬斯克是在醞釀自己的人工智慧大模型。

同樣是在4月份,在一檔電視節目中,馬斯克進一步披露自己正在籌備TruthGPT項目,並公開表達了對現有人工智慧產生「偏見」的擔憂。他表示,新設立的AI項目旨在對抗OpenAI旗下的ChatGPT,現在來看,當時的TruthGPT項目或許就是今天xAI的前身。

在融資方面,全球首富找錢的能力毋庸置疑。馬斯克曾與SpaceX和特斯拉的一些投資者進行討論,邀請投資人向xAI注資。知情人士表示:「有很多人在投資……這是真實存在的,他們對此感到興奮。」

關於馬斯克挖同行牆腳的信息最早由外媒傳出,自今年3月起,馬斯克就一直在說服Alphabet旗下人工智慧研究部門DeepMind的研究員加入xAI。目前,參與了AlphaStar、AlphaCode等模型研發的Igor Babuschkin和Manuel Kroiss已成為xAI的創始團隊成員。

xAI的成立,對外的目的是挑戰包括OpenAI、Claude在內的所有AI科技企業,對內的目的則是進一步整合馬斯克「X品牌」下的資源。「X品牌」是馬斯克近期試圖打造的科技企業「合集」,旨在將「X」打造成萬能應用。今年3月時,馬斯克在美國內華達州成立了X控股公司(X Holdings Crop),管理有關「X品牌」框架下的所有企業,比如Twitter,它的企業名已經更新為X Crop。業內人士分析稱,xAI可能會利用X Crop(Twitter)的數據進行訓練,並藉助特斯拉的算力資源。

xAI公司突然官宣背後,藏著馬斯克的一整套設計。

2.挖牆腳挖來11位大佬

在此次公布的團隊名單中,除馬斯克之外的11名成員均來自DeepMind、OpenAI、谷歌、微軟、特斯拉等頂級科技公司,都是AI行業有頭有臉的「圈裡人」。靠著連自己公司(特斯拉)牆腳都挖的狠勁,馬斯克硬是挖來了一支「AI天團」。

年輕的面孔,優秀的履歷,這支隊伍讓人印象深刻。

據xAI官網介紹,團隊成員曾在AI領域貢獻過許多創新技術,如Adam Optimizer、批歸一化、層歸一化、對抗樣本發現等,這些工具與方法目前已在AI行業廣泛使用。其中,Jimmy Ba 開發的 Adam Optimizer,是目前訓練深度學習模型的首選算法之一。

此外,這些成員還帶領或參與了AI領域重要模型的研發,比如AlphaStar、AlphaCode、Inception、Minerva、GPT-3.5和GPT-4,每一個模型拿出來,在AI江湖上都是一個傳說。

Nvidia AI研究員Linxi Jim Fan對這些「傳說」就十分熟悉,他在職場社交網站領英上發帖表示,「該團隊是一隻『全明星創始團隊』,其人才密度之高給我留下了深刻的印象——他們發表的論文太多了,數不勝數。」

值得注意的是,在這支團隊中,華人科學家的比重達到了三分之一,他們分別是吳玉懷(Tony Wu)、楊格(Greg Yang )、張國棟(Guodong Zhang)和戴子航(Zihang Dai)。其中,楊格還是xAI的聯合創始人。

楊格(Greg Yang )出生於湖南,本碩均就讀於哈佛大學數學系,師承我國著名數學家丘成桐院士。本科期間,他曾獲得胡普斯獎(哈佛最佳本科論文)以及摩根獎提名(該獎項授予數學系研究表現最出色的大學生)。工作後,他加入微軟研究院,任微軟高級研究員。

吳玉懷(Tony Wu)是多倫多大學博士、史丹福大學博士後,致力於機器學習、機器推理、形式推理等研究。此前,他曾在Christian Szegedy領導的 Google N2Formal 工作。其主要研究興趣是創造可以自主推導數學定理的「機器數學家」。

張國棟(Guodong Zhang)本科畢業於浙江大學,碩博畢業於多倫多大學,曾獲2020年 Borealis 人工智慧獎學金。主要從事機器學習、人工智慧領域研究,專注於大型語言模型的訓練、調優和對齊。曾就職於多倫多大學和矢量研究所(Vector Institute)。他在機器學習的理論基礎和實用算法的相關研究已經被DeepMind、OpenAI、谷歌大腦等AI公司採用。

戴子航(Zihang Dai) 本科畢業於清華大學,博士畢業於卡內基梅隆大學計算機科學學院。2020年加入谷歌,任谷歌大腦研究科學家,主要從事機器學習、神經網絡研究。

為了挖到這支初始團隊,馬斯克煞費苦心。比如在今年3月時,馬斯克就透露正在招募前谷歌DeepMind成員Igor Babuschkin、Manuel Kroiss,彼時他為二者提供的職位是Twitter高級工程總監、軟體工程高級總監,而在本次官宣的xAI團隊成員名單中,二者赫然在列。

Igor Babuschkin 曾兩度任職DeepMind。2017年至2022年擔任高級工程師,開啟深度學習研究,並作為核心成員參與AlphaStar項目——這一模型曾在星際爭霸電競比賽中擊敗人類冠軍。而後,Babuschkin又加入OpenAi擔任技術人員,並在一年後重新回DeepMind任高級研究工程師。

Manuel Kroiss 作為軟體工程師,曾就職於谷歌、Deepmind等科技公司,在強化學習和人工智慧領域做出突出貢獻。

同為谷歌系出身的還有Toby Pohlen和Christian Szegedy。Pohlen,他本碩畢業於德國亞琛工業大學計算機科學專業,前谷歌研究工程師,曾參與 AlphaStar League 和 Ape-XDQfD 等項目,在機器學習、強化學習領域擁有豐富經驗。

Christian Szegedy是波恩大學數學博士,曾在伯克利Cadence研究實驗室擔任研究科學家。自2010年加入谷歌以來,致力於深度學習、人工智慧、計算機視覺等領域研究已有13年之久,也是初創團隊中最年長的一位。

除上述成員外,其他2位核心成員同樣在深度學習、人工智慧等領域有著顯著成就。

比如Jimmy Ba,他既是多倫多大學計算機助理教授,也是加拿大CIFAR-AI主席,在xAI團隊中是社會知名度最高的成員之一。2014年時,他與 Diederik Kingma 共同發表了在AI領域影響力最廣的深度學習系列論文——《Adam: A Method for Stochastic Optimization》。根據學術社交網站ResearchGate的數據,此論文在AI領域被引用次數最多,高達95460次。

Kyle Kosic則是一名全棧網站可靠性工程師和數據科學家,他曾任職於OpenAI等科技公司,具有豐富的數學研究經驗,對自動化、可擴展性和分布式計算研究興趣濃厚,在機器學習、數據分析等領域具有豐富經驗。

美國人工智慧安全中心的主任Dan Hendrycks也受馬斯克邀請,將擔任X.AI安全顧問。

值得一提的是,該組織致力於「減少與人工智慧相關的社會風險」。而此前,Dan Hendrycks曾發表一封致全球領導人的公開信,稱人工智慧堪比「疫情和核戰爭」的技術,或對人類構成生存威脅。

Dan Hendrycks加入後會將xAI引向何方?他與馬斯克之間又會碰撞出怎樣的AI發展觀?這不禁讓人期待。

目前,xAI的招聘工作也在緊鑼密鼓地進行著。據悉,xAI團隊正在舊金山灣區積極招聘經驗豐富的工程師和研究人員。

3.xAI想要幹什麼?

找錢、搖人、炮轟OpenAI,馬斯克閃電式成立xAI,到底想要幹什麼?

xAI的官網上只有一句話,就是「了解宇宙的本質」(Understand the Universe)。相比OpenAI的目標——「建立安全有益的AGI」——xAI的目標明顯要抽象很多。

為了進一步解釋這一目標,在馬斯克官宣xAI的一小時內,xAI就順勢發布了第一條推文,「最基本的未解答問題是什麼?」

馬斯克又接著在評論中附和,「最基本的未知問題又是什麼?一旦你知道該問什麼問題,答案往往是容易的,正如我的偶像道格拉斯·亞當斯所說的那樣」,並附上了一張xAI官網介紹的截圖,將公司成立日期標紅,在旁邊寫道,「7+12+23=42」,7月12日顯然別有深意,「42是生命、宇宙和萬物終極問題的答案」。

在科學界,42是一個梗。這來自於英國作家道格拉斯·亞當斯的著名科幻小說《銀河系漫遊指南》,它曾是少年馬斯克最喜愛的一本讀物。

在小說中,一群具有超高智慧的老鼠為了找出宇宙終極問題的答案,製造了一台名為「深思」的超級計算機。在經過750萬年的計算後,計算機得到的終極答案是一個數字—42。有意思的是,為了解析42的終極意義,老鼠文明又花了1000萬年的時間進行計算,結果在只差5分鐘就可以得到答案時,承擔計算任務的計算機被炸毀了,千萬年的努力和終極答案灰飛煙滅。

自此,42在極客和科學圈中有著非同尋常的地位。

這並不是馬斯克第一次表達對數字「42」的鐘愛。此前被曝光的特斯拉神秘項目就叫作「42號項目」,SpaceX的星鏈系統將總共有42台發動機,特斯拉進入中國那年馬斯克正值42歲。

而關於42與xAI的關係,在馬斯克的Twitter下,有網友分析稱,42暗示著一種數學意義,馬斯克可能會從第一性原理出發解決 AI for Math 的問題。xAI的聯創楊格的態度也印證了這一觀點,他在Twitter說道,「Math for Al and Al for math!」

馬斯克對AI大多數的恐懼都來源於害怕它會脫離人類掌控,這與AI能否誕生意識息息相關。在xAI的推文回覆中,有網友問馬斯克是否相信AI具有意識,馬斯克並沒有正面回答,而是提到了細胞、夸克、輕子還有外星人,甚至還發出了「生命的意義是什麼」的疑問。

未知、含糊不清,對於xAI的目的是什麼,人們只能猜測。在線上問答會之前,一種刻意被營造的神秘氣氛被無限渲染、放大。

眼下,關於xAI,相對確定的話題是「如何構建AI的安全性」。在北京時間7月13日凌晨舉行的Twitter Spaces活動上,馬斯克與兩位政府議員進行了關於AI安全的對談,其中他就描述了構建更安全人工智慧的計劃。馬斯克提到,xAI不會按照現有方式,用規則框死AI,而會尋求創造一個能在最大程度上滿足好奇和追求真理的人工智慧。

關於xAI的發展目標也是確定的,馬斯克曾多次公開表示,自己將OpenAI、DeepMind視作競爭對手,「顛覆AI行業」這樣的字眼也頻頻出現在馬斯克的口中。

儘管胸懷大志,但目前來看,xAI與OpenAI、DeepMind仍有差距,馬斯克將這兩家公司稱之為「AI中的兩隻大猩猩」,並表示,「xAI目前還只是一個開始,要想達到競爭對手的規模還需要一段時間。」

在AGI賽道,各個賽手間的競爭極為激烈,技術疊代速度以天計。

就在xAI官宣的前一天,Anthropic正式發布了全新的Claude2,在代碼、數學和推理方面展現出極大的能力提升。Anthropic與OpenAI、DeepMind並列為目前AI前沿模型領域排名前三的公司,並且是其中惟一沒有與大廠深度綁定的創業公司。

而Anthropic的聯合創始人兼CEO Dario Amodei曾就任OpenAI的研究和安全副總裁,正是因為與OpenAI在大模型安全問題上的分歧,選擇離開並創立了Anthropic。Claude2在模型對齊方面遵循了3個H:honest(誠實性)、helpful(有用性)、harmless(無害性)。

作為xAI最大的競爭對手OpenAI,其聯合創始人兼CEO Sam Altman在今年4月就對公開信進行了回應,他表示,OpenAI還未開始訓練GPT-5,並且在一段時間內也不會開始。相較於繼續擴大大模型的規模,OpenAI選擇在GPT-4的功能上發力。

在GPT-4發布後不久,OpenAI推出了插件(Plugin)功能,幫助ChatGPT接入第三方服務。6月,OpenAI發布了一系列API更新,包括更強大的AI模型、新的函數調用能力、更長的上下文處理能力。7月6日,OpenAI表示GPT-4 API將全面開放使用,所有付費API用戶均可直接訪問。

除了在API和插件上的探索,OpenAI的野心不止於此。OpenAI正準備發布一個類似於App Store的模型商店(marketplace),企業可以把根據自己需求定製的AI模型賣給其他公司,在通用大模型的基礎上,正式布局垂直領域大模型。

《連線》雜誌則指出,現階段xAI似乎缺乏與OpenAI、微軟和谷歌相匹配的雲計算能力。相較於大企業在人工智慧項目上百人的部署,xAI僅有11人的研究團隊也並不亮眼,且僅有xAI的安全顧問Dan Hendrycks一人擁有人工智慧風險的工作經驗。

儘管如此,馬斯克依然自帶籌碼。xAI的官網表示,目前它是一家獨立於X Corp的公司,但將會和X(Twitter)、Tesla和其他公司密切合作,可能會使用Twitter內容作為數據來訓練其語言模型,並利用特斯拉的計算資源,比如特斯拉自主研發的超級計算機Dojo,馬斯克曾表示會將該計算機作為基礎設施向其他公司開放。

在xAI官網上,馬斯克及其團隊表示將在本周五(7月14日)於Twitter的語音聊天室Spaces里舉辦一次線上問答會,針對公眾的疑問集中回應,具體時間未公布。隨著xAI相關信息的不斷披露,馬斯克這次「暗度陳倉」的成果,即將公之於眾。

文章來源: https://twgreatdaily.com/zh-cn/8da691ad23859a6394e0a8b40d76247c.html