六個月前，美國生命未來研究所（FLI， Future of Life Institute ）發布了一封由埃隆·馬斯克（Elon Musk）、史蒂夫·沃茲尼亞克（Steve Wozniak）和約書亞·本吉奧（Yoshua Bengio）等科技界知名人士署名的公開信。
生命未來研究所是一家關注人工智慧「滅絕風險」的非營利組織。這封信呼籲科技公司在六個月內「暫停」開發比 OpenAI 的 GPT-4 更強大的人工智慧語言模型。
顯然，它的呼籲並沒有奏效。
（來源：AI 生成）
我與麻省理工學院（MIT）教授、生命未來研究所的創始人兼總裁馬克斯•泰格馬克（Max Tegmark）坐下來聊了聊，回顧了自那以來發生的事情。以下是我們談話的要點。
談及改變人工智慧風險的「奧弗頓窗口」，泰格馬克告訴我，在與人工智慧研究人員和科技公司 CEO 的交談中，很明顯人們對人工智慧帶來的（人類）滅絕風險感到非常焦慮，但沒有人覺得他們可以公開談論這個問題。
「因為他們害怕被嘲笑，被打上危言聳聽的標籤。」他說：「這封信的主要目標是讓有關對話成為主流，改變所謂的奧弗頓窗口，讓人們可以安全地表達這些擔憂。六個月後的今天，我們在這方面的努力顯然是成功的。」
但其效果僅此而已。 泰格馬克表示，「不太好的是，所有的公司仍在（人工智慧模型領域）全速前進，而我們在美國仍然沒有有意義的監管。看起來，美國的政策制定者們儘管嘴上談論著這些東西，但今年不會通過任何有意義的法律來控制最危險的東西。」
那麼，他認為政府應該介入的理由是什麼？泰格馬克正在遊說美國政客，希望成立一個類似於美國食品藥品監督管理局（FDA，Food and Drug Administration）的機構，以執行有關人工智慧的規定，並要求政府迫使科技公司暫停人工智慧的開發。
「很明顯，像山姆·奧特曼（Sam Altman）、德米斯·哈薩比斯（Demis Hassabis）和達里奧·阿莫代伊（Dario Amodei）這樣的人工智慧領導者，他們自己也非常擔心。但他們都知道他們不能獨自停下來，」泰格馬克說。只有自己單方面參與的暫停，對他們的公司來說「將是一場災難」。
他補充道：「否則他們將會在競爭中被淘汰出局，然後無論誰是 CEO，都會被一個不想停下來的人所取代。暫停相關研究的唯一方法是世界各國政府的介入，制定安全標準迫使所有人暫停。」
那麼馬斯克呢？馬斯克在呼籲暫停的公開信上籤了名，但緊接著卻成立了一家名為 X.AI 的新人工智慧公司，開發能夠「理解宇宙真實本質」的人工智慧系統，而且馬斯克還是生命未來研究所的顧問。「顯然，他想要暫停，就像許多其他人工智慧領導者一樣。但只要大規模的暫停沒有出現，他就會認為自己也必須行動起來，才能留在這場遊戲中。」
為什麼泰格馬克認為科技公司的 CEO 心存人性的善良？他說「我為什麼認為他們真的希望人工智慧有一個美好的未來，而不是一個糟糕的未來？我認識他們很多年了。我經常和他們交談。即使在私人談話中我也能看出來，我能感覺到這一點。」
一些批評者認為，關注滅絕風險會分散人們對當前危害的注意力，對於這些聲音，泰格馬克的回應是：「至關重要的是，那些非常關心當前問題的人和那些關心即將到來的危害的人要合作，而不是內鬥。我不會批評那些關注當前危害的人。我覺得他們這麼做很好，我也非常關心那些風險。如果人們參與這種內鬥，只會幫助大型科技公司分裂並打敗所有這些努力。」
根據泰格馬克的說法，我們現在應該避免三個錯誤：1.避免讓科技公司來主導立法。2. 避免為西方掀起另一場地緣政治競爭。3.避免只關注滅絕威脅或當下的風險，因為我們必須意識到，它們都是人類權力被剝奪的威脅的一部分。我們必須團結起來才能應對這些威脅。
作者簡介：梅麗莎·海基萊（Melissa Heikkilä）是《麻省理工科技評論》的資深記者，她著重報道人工智慧及其如何改變我們的社會。此前，她曾在 POLITICO 撰寫有關人工智慧政策和政治的文章。她還曾在《經濟學人》工作，並曾擔任新聞主播。
支持：Ren