在 OpenAI 的「大變天」之中，OpenAI 董事會主席兼聯合創始人格雷格·布羅克曼（Greg Brockman），選擇與被出局的山姆·奧特曼（Sam Altman）共進退。儘管格雷格的職位依然被保留，只不過被趕出了董事局。但他很快宣布主動辭職，並選擇和山姆站在一起。
圖 | 格雷格·布羅克曼（Greg Brockman）（來源：領英）
當地時間 11 月 18 日，格雷格在 X 上（原 Twitter）上撰文回顧了自己和山姆被迫出局之前發生的幾件事情。
格雷格寫道：「昨晚，山姆收到伊利亞的簡訊，要求在周五中午進行交談。山姆加入了 Google Meet，除了格雷格之外，整個董事會都在場。伊利亞告訴山姆他被解僱了，這個消息很快就會傳出去。12:19pm，格雷格收到伊利亞的簡訊，要求進行一個快速的電話。12:23pm，伊利亞發送了一個 Google Meet 的連結。格雷格被告知他將被從董事會中撤職（但由於他對公司至關重要因此將保留他的職位，於此同時山姆要被解僱）。大約在同一時間，OpenAI 發布了一篇博客文章。據我們所知，管理團隊在此之後不久就得知了這個消息，除了在前一晚得知的米拉之外。」
圖 | 格雷格在推文中回顧了相關細節（來源：X）
格雷格提到的博客文章，就是宣布趕走山姆的那封公開信。而分別給格雷格和山姆發 Google Meet 連結的伊利亞，他的全名叫伊利亞·蘇茨克維（Ilya Sutskever），是 OpenAI 的首席科學家。
在此次「大變天」之中，相比被推至舞台中央擔任臨時 CEO 的米拉，伊利亞顯得更加「隱身」。不過據 The Information 報道，在山姆被掃地出門的當天，OpenAI 立馬舉行全會大會，會上有人問伊利亞這是否是一場「政變」。伊利亞表示：「你可以這麼說，但我覺得這只是董事會在履行自己的職責。」
Gillett News 報道稱：「伊利亞認為作為 CEO 的山姆沒有針對減輕 AI 風險給予足夠的重視，伊利亞還對自己在公司中的作用減弱表示不滿。」另據 TechCrunch 報道，伊利亞反駁了把山姆趕出公司的說法，並聲稱有必要保護「讓 AI 有益於人類」的使命。
The Information 還報道稱：「伊利亞可能會感到奧特曼過於迅速地將軟體商業化，這（軟體商業化）已經成為一個價值十億美元的業務，但這卻犧牲了潛在的安全問題。」
圖 | 伊利亞·蘇茨克維（Ilya Sutskever）（來源：《麻省理工科技評論》）
伊利亞是誰？他和「踢走 CEO」 有無關係？
作為 OpenAI 的首席科學家，伊利亞有著耀眼的經歷，會說英語、希伯來語和俄語。他出生於前蘇聯，目前是加拿大國籍。其曾先後就讀於以色列開放大學、加拿大多倫多大學，並在多倫多大學獲得碩博學位，師從圖靈獎得主、「AI 三巨頭」之一的傑弗里·辛頓（Geoffrey Hinton）。
伊利亞和導師以及另一位同學曾共同發明卷積神經網絡 AlexNet。博士畢業之後，伊利亞來到美國史丹福大學從事博後研究，師從當時在史丹福擔任教授的吳恩達。
隨後，伊利亞回到加拿大加入導師辛頓創辦的公司 DNNResearch。2013 年，Google 收購 DNNResearch，伊利亞也隨之成為 Google Brain 項目的研究科學家。
在 Google 那篇著名的 AlphaGo 論文中，伊利亞是共同作者之一。2015 年 12 月，在 OpenAI 正式成立的月份里，他離開 Google 正式加入 OpenAI。也是在這一年，他還入選「《麻省理工科技評論》35 歲以下科技創新 35 人」全球榜單。
不過，伊利亞真正決定離開 Google 之前也曾十分糾結。作為 OpenAI 早期董事會成員的埃隆·馬斯克（Elon Musk）曾公開表示：「那是一場艱苦的招募，一邊是 Demis，另一邊是我，我們倆都試圖招募伊利亞，伊利亞則來回走動，他在留在 Google 和加入 OpenAI 之間猶豫不決，最後他同意加入 OpenAI。」
馬斯克這裡提到的 Demis，是 Google 旗下公司 DeepMind 的創始人戴密斯·哈薩比斯（Demis Hassabis）。最終，伊利亞還是選擇了 OpenAI，拒絕了 DeepMind。馬斯克認為招募到伊利亞是 OpenAI 的「關鍵時刻」，並誇獎他「是一個好人，聰明且心地善良」。
至少從伊利亞的簡歷來看，他的技術能力應該高於此次被推到台前擔任臨時 CEO 的米拉·穆拉緹（Mira Murati）。儘管米拉也畢業於美國達特茅斯學院這樣的常青藤名校，但她僅僅擁有機械工程的學士學位，既沒有伊利亞這樣的高學歷，也不像伊利亞那樣師從 AI 名師並參與撰寫 AI 里程碑論文。因此，米拉是否只是伊利亞的代理人？目前還很難說。
更加值得玩味的是，當地時間 11 月 7 日，山姆在 OpenAI 開發者大會上宣布「GPT 全家桶」，試圖為公司帶來更大的商業化利益。結果不到兩周時間山姆就意外出局。事發之後，山姆在一則推文中表示：「今天的經歷在很多方面都很奇怪。有點像在自己還活著的時候讀自己的悼詞。」
而更早之前的 10 月 26 日，加入 OpenAI 以後很少公開露面的伊利亞，接受了《麻省理工科技評論》的專訪。自從 OpenAI 大火以來，一直都是山姆以 CEO 的身份在各種場合代表公司發言。如今來看，伊利亞在此次事情發生之前接受媒體專訪，或許正是一個先兆。
那麼，伊利亞在專訪中主要講了什麼？他和山姆是否真的有觀念上的分歧？
伊利亞：ChatGPT 可能是有意識的
在《麻省理工科技評論》的專訪中，伊利亞表示自己並不打算構建下一個 GPT 或圖像生成模型 DALL-E，而是打算弄清楚如何阻止超級人工智慧變得不受控制。作為未來主義的信徒，他認為這種仍處於假設的未來技術終將出現。
他認為 ChatGPT 可能是有意識的。他還認為，人們需要意識到 OpenAI 和其他公司正在競相創造的技術的真正力量。他相信，會有一些人在未來選擇與機器融合。
他說，ChatGPT 已經改變了很多人對於即將發生的事情的期望，從「永遠不會發生」變成了「比想像中發展得更快」。
在預測通用人工智慧的發展之前（指的是像人類一樣聰明的機器），他說：「重要的是要談論它的發展方向。在某個時候，我們真的會看到通用人工智慧。也許 OpenAI 會構建它，也許是其他公司。」
自 2022 年 11 月 ChatGPT 突然發布以來，圍繞 OpenAI 的討論一直層出不窮，即使在一個以炒作而聞名的行業中也是如此。沒有人對這家估值 800 億美元創業公司感到厭倦，它的產品名字活躍於人們茶餘飯後的閒聊中。
2023年夏天，山姆進行了為期數周之久的宣傳之旅，他與政客們一一握手，並在全球各地的擁擠會場裡發表演講。
但伊利亞此前並不是一個公眾人物，他也並沒有接受太多的採訪。相比之下伊利亞說話深思熟慮，有條不紊。當他思考自己想說什麼以及如何說時，會有很長的停頓，把採訪問題像他需要解決的難題一樣翻來覆去地思考。
他似乎對於談論自己的生活並不感興趣。「我過著非常簡單的生活，」他說，「我去上班，然後回家，幾乎不做什麼別的事情。能參加的社交活動有很多，但我不去。」
不過，當談論人工智慧、以及他所看到的劃時代風險和回報時，他則鄭重其事地表示：「這將是無法忽視的、驚天動地的、劃分時代的（東西）。」
而他的導師辛頓也曾在 2023 年公開表達了對於人工智慧的擔憂。伊利亞不想評論辛頓的聲明，但他對於超級人工智慧被惡意使用的關注，表明這對師生有著相似的看法。
幾年前，辛頓與楊立昆（Yann LeCun）和約書亞·本吉奧（Yoshua Bengio）共同獲得圖靈獎，以表彰他們在神經網絡方面的工作。不過，當伊利亞在本世紀初加入辛頓課題組讀書的時候，大多數人工智慧研究人員都認為神經網絡是一條死胡同。
然而，辛頓是一個例外。伊利亞說，辛頓當時已經在訓練很小的模型，一次可以生成一個字符的短文本字符串：「這是生成式人工智慧的開始。這真的很酷，只是當時表現不夠好。」
像辛頓一樣，伊利亞看到了神經網絡的潛力。而辛頓用來訓練神經網絡的試錯技術，又被稱為深度學習。2012 年，伊利亞、辛頓和辛頓的另一位研究生亞歷克斯·克里熱夫斯基（Alex Krizhevsky）建立了一個名為 AlexNet 的神經網絡，他們訓練 AlexNet 去識別照片中的物體。
經過多年的嘗試，神經網絡在識別照片規律上的有效性已經得到證明。但是，要想實現更好的效果，就需更大的數據集，同時也需要更大的算力。
山姆曾誇讚伊利亞是「全球最受尊敬的研究人員之一」
算力的飛躍來自於英偉達製造的圖形處理器（GPU，graphics processing unit）。顯卡本來是用在電子遊戲領域的，但它們所擅長的運算方式，恰好看起來很像訓練神經網絡所需的計算。
英偉達現在是一家價值萬億美元的公司。但在當時，它迫切希望為其小眾的新硬體尋找用武之地。「當你發明一項新技術時，你必須接受瘋狂的想法，」英偉達 CEO 黃仁勛說，「我的心態一直是不斷尋找一些古怪的東西，而神經網絡將改變計算機科學的想法，（在當時）的確是一個非常古怪的想法。」
黃仁勛說當辛頓團隊開發 AlexNet 時，英偉達送給後者幾個 GPU 進行嘗試。但是，辛頓團隊想要當時最新版的 GTX 580 顯卡，由於供不應求這在當時很難買到。
黃仁勛講了一個故事，伊利亞從加拿大多倫多開車越過美加邊境，跑到美國紐約買了一些。「人們在商店外面排著長隊，」黃仁勛說，「我不知道他（伊利亞）是怎麼做到的，但我很確定當時的規定是每人只能買一個。我們有非常嚴格的政策，每個遊戲玩家一個，但他顯然用了一些辦法，買了一整個後備箱的顯卡。那個裝滿 GTX 580 的後備箱改變了世界。」
這是一個頗具傳奇色彩的故事，但可能不是真的。伊利亞堅稱他在網上購買了第一批顯卡。在 AlexNet 成功之後，Google 找上門來。它收購了辛頓手裡的衍生公司 DNNresearch 並聘請了伊利亞。
在 Google，伊利亞發現深度學習的規律識別能力，能被用於數據序列比如單詞、句子、以及圖像。伊利亞的前同事、現任 Google 首席科學家的傑夫·迪恩（Jeff Dean）說：「伊利亞一直對語言感興趣，多年來我們都保持著很好的交流。伊利亞對事情的發展方向有很強的直覺。」
但伊利亞並沒有在 Google 呆太久。如前所述，後來他被招募成為 OpenAI 的聯合創始人。在 10 億美元的支持下，再加上矽谷的「噱頭」，這家新公司從一開始就將目光投向了開發通用人工智慧。
山姆的前同事、Y Combinator 投資總經理道爾頓·考德威爾（Dalton Caldwell）回憶稱：「我記得山姆說伊利亞是世界上最受尊敬的研究人員之一，他認為伊利亞能夠吸引很多頂尖的人工智慧人才。他甚至提到，約書亞·本吉奧也認為不太可能找到比伊利亞更好的候選人來擔任 OpenAI 的首席科學家。」
伊利亞：「超級人工智慧會看到人類看不到的東西」
然而，OpenAI 一開始就陷入了困境。「當我們剛創立 OpenAI 時，我不確定該如何繼續下去，」伊利亞說，「但我有一個非常明確的信念，那就是人們不會反對深度學習。」
他的信心得到了回報。OpenAI的第一個 GPT 大型語言模型出現在 2016 年。接著是 GPT-2 和 GPT-3，然後是 DALL-E。從來沒有人創造出這麼強大的東西。隨著每個版本的發布，OpenAI 都提高了人們心目中「可能」的標準。
2022 年 11 月，OpenAI 發布聊天機器人 ChatGPT，儘管這款產品只是對現有技術的包裝。但是，它重置了整個行業的進程。
當時，OpenAI 還不知道 ChatGPT 能帶來什麼。伊利亞說公司內部對於 ChatGPT 也沒有太高期望：「我不得不承認這點，雖然有些尷尬，但這是真的。當我們創造 ChatGPT 時，我不知道它是否能帶來任何好處。當你問它一個事實性問題時，它會甩給你一個錯誤的答案。我覺得它是如此地平淡無奇，以至於人們會說你做這個東西幹什麼？這太無聊了！」
然而，人們關注的重點是便捷性。在 ChatGPT 發布之時，其背後的大型語言模型已經存在數月之久。但是，將其包裝在一個易用的網頁上並免費開放，這讓數十億人第一次意識和接觸到 OpenAI 以及其他公司正在構建的東西。
「這種第一次的使用體驗吸引了人們，」伊利亞說，「第一次使用它時，我認為這幾乎是一種精神之旅。你會覺得，我的天啊，這台電腦明白我在說什麼。」
OpenAI 在不到兩個月的時間裡積累了 1 億用戶。儘管 ChatGPT 有時會給出愚蠢的回應，但是人們看到了它的可能性。
伊利亞說：「（自此以後）通用人工智慧不再是機器學習領域人人避之不及的一個詞。人們之前採取的態度是：人工智慧行不通，每一步都非常困難，你必須為一點點的進步而戰。但是有了 ChatGPT，開始變得不一樣了。」
「這主要是因為 ChatGPT 的誕生，」他說，「ChatGPT 讓機器學習研究人員開始有資格做夢。現在有人在談論人工智慧會走多遠。人們也開始談論通用人工智慧，或者超級智能。而且不僅僅是研究人員，政府也在談論它。」他說：「這太瘋狂了。」
伊利亞堅持認為，所有這些關於尚未（也可能永遠不會）出現的技術的討論都是一件好事，因為它讓更多人看到了未來的樣子。
「你可以用通用人工智慧做很多令人驚奇的、不可思議的事情，比如自動化醫療保健，讓它便宜一千倍，好一千倍，治癒更多的疾病，真正解決全球變暖，」他說。但也有許多人擔心，人工智慧公司能管理好這項影響深遠的技術嗎？
這樣聽起來，通用人工智慧更像是一個存在一定實現可能的精靈，而不是現實世界的前景。很少有人會對拯救生命和解決氣候變化說不。但由於通用人工智慧是一個還不存在的技術，所以你可以隨心所欲地說。
「通用人工智慧並不是一個科學術語，」他說，「它代表了一個有用的門檻（閾值），一個參考點。
他繼續說：「這是一個時間點，人工智慧會變得非常聰明，聰明到如果一個人可以完成一些任務，那麼人工智慧也可以做到。在這時候，你可以說你有了通用人工智慧。」
目前，通用人工智慧仍然是該領域最具爭議的想法之一。很少有人認為它的發展是理所當然的。許多研究人員認為，在我們看到伊利亞所提到的任何美妙的東西之前，需要出現重大的概念突破。有些人則認為我們永遠不會看到這個時刻。
然而，這一願景從一開始就驅使著他。「我一直受到這個想法的啟發和激勵，」伊利亞說，「當時它還不叫通用人工智慧，當時就是想讓神經網絡做任何事情。儘管我並不總是相信它們可以做到，但這是一座要去攀登的山。」
他將神經網絡和大腦的運作方式相提並論。兩者都接受數據，從這些數據中聚合信號，然後基於一些簡單的過程（神經網絡中的數學，大腦中的化學物質和生物電）來傳播或不傳播它們。這是這個過程的極度精簡版本，但本質上就是這樣。
「如果你允許自己相信這一點，那麼就會有很多有趣的引申冒出來，」伊利亞說，「如果你有一個非常大的人工神經網絡，它應該能做很多事情。特別是，如果人類大腦可以做某事，那麼大型人工神經網絡也可以做類似的事情。」
2022 年 2 月，伊利亞發帖稱，「或許如今的大型神經網絡萌生了意識」。說到這裡，有必要介紹一下玻爾茲曼大腦的概念，它指的是以 19 世紀物理學家路德維希·玻爾茲曼（Ludwig Boltzmann）命名的量子力學思想實驗。其中，宇宙中的隨機熱力學波動被想像成大腦突然出現和消失的原因。
「我覺得現在這些語言模型有點像玻爾茲曼大腦，」伊利亞說，「你開始和它說話，聊了一會兒，然後你說完了，大腦就噗的一下消失了。」
那麼，是不是說當神經網絡處於活動狀態時，會出現一些東西？對此他表示：「我想可能是，我不確定，但這是一種很難反駁的可能性。誰也不知道到底發生了什麼，對吧？」
在他眼中超級人工智慧會更深入地看待事物，會看到人類看不到的東西。他舉例稱：「我們已經在 AlphaGo 中看到了一個非常狹隘的超級智能的例子。」2016 年，DeepMind 的圍棋人工智慧以 4：1 的成績擊敗了世界上最好的圍棋選手之一李世石。「它想出了如何以不同於人類數千年來集體發展的方式來下圍棋，（也就是說）它想出了新的想法。」伊利亞說。
他重點指出了 AlphaGo 走出的第 37 步。在對陣李世石的第二場比賽中，人工智慧做出了一個讓評論員感到困惑的舉動。他們認為 是 AlphaGo 搞砸了。事實上，它下出了圍棋史上從未見過的關鍵一手。「想像一下這種洞察力，這可以用到各種地方，」他說。
正是這種思維導致伊利亞做出了他職業生涯中最大的轉變。他與 OpenAI另一位科學家簡·雷克（Jan Leike）聯合成立一支「超級對齊（super alignment）」團隊。
對齊（alignment）是人工智慧領域的術語，即讓人工智慧模型只做你想讓它做的事。超級對齊，則是 OpenAI 專門用於超級人工智慧的對齊術語。
這支團隊的目標是，提出一套故障安全程序來構建和控制這項未來技術。據了解，OpenAI 將把五分之一的龐大計算資源分配給這個問題，並在四年內解決這個問題。
「現有的對齊方法並不適用於比人類更聰明的模型，因為它們從根本上假設人類能夠可靠地評估人工智慧系統正在做什麼，」雷克說，「而隨著人工智慧系統變得越來越強大，它們將承擔更艱巨的任務。因此，這將使人類更難評估它們。
「而與伊利亞組建超級對齊團隊，意味著我們已經開始著手解決這些未來的對齊挑戰，」雷克表示。
儘管對於這一做法也收到一些外部同行的質疑。但是對於伊利亞來說，超級對齊是必須要開展的新計劃。他認為，此前沒有足夠多的、像他這樣的核心型機器學習研究人員來探索上述問題。
「我這樣做是我自己的興趣驅使，」他說，「（同時）非常重要的是，任何人建立的任何超級智能都不應該變成壞蛋。」
分歧，在所難免？
總的來說，二十六七歲博士畢業之後才踏入社會工作的伊利亞，致力於解決可能出現的通用人工智慧風險；而 20 歲就從史丹福大學退學創業的山姆更加善於商業投資和商業遊說。
一位是優秀的學術研究人員，一位是成功的科技商業領袖。他們的經歷和對於自己的定位，似乎從一開始就註定了今天的分歧。
那麼，山姆接下來該何去何從？據 The Information 消息：「一位知情人士透露，剛被免職的 OpenAI CEO（Sam Altman）告訴投資者，他計劃啟動一項新的人工智慧風險投資。這位人士說，前 OpenAI 董事會主席格雷格·布羅克曼預計將參與這項工作，該項目仍在開發中。這一行動的確切性質目前還不清楚。」
如果是這樣，那麼也和格雷格選擇主動離開 OpenAI、轉而和山姆共進退的做法保持一致。另據悉，山姆的出局已經導致另外三位 OpenAI 高級研究人員的離職，他們分別是 OpenAI 研究部主任雅各布·帕喬奇（Jakub Pachocki）、AI 風險團隊的亞歷山大·馬德里（Aleksander Madry）、以及已經在 OpenAI 工作 7 年之久的西蒙·西多爾（Szymon Sidor）。
不過，當地時間 11 月 19 日 The Verge 報道稱：「知情人士透露，該公司董事會正在與山姆·奧特曼商討，是否將重返公司擔任 CEO。其中一名知情人士說奧特曼星期五在沒有通知的情況下，突然被董事會解僱，他對回來的態度『模稜兩可』。」
參考資料：
https://www.technologyreview.com/2023/10/26/1082398/exclusive-ilya-sutskever-openais-chief-scientist-on-his-hopes-and-fears-for-the-future-of-ai/
https://www.theverge.com/2023/11/18/23967199/breaking-openai-board-in-discussions-with-sam-altman-to-return-as-ceo
https://twitter.com/gdb/status/1725736242137182594
https://gillettnews.com/business/philosophical-differences-emerge-within-openai/238435/#gsc.tab=0
https://www.businessinsider.com/3-open-ai-researchers-resign-sam-altman-dismissal-ceo-2023-11
https://www.theinformation.com/articles/ Three-senior-openai-researchers-resign-as-crisis-deepens
https://www.theinformation.com/articles/openai-co-Founder-altman-plans-new-venture