內容轉載自：寧波晚報
近日，包括馬斯克、蘋果聯合創始人斯蒂夫·沃茲尼亞克在內的1000多名人工智慧專家和行業高管簽署了一份公開信，他們呼籲將AI系統的訓練暫停六個月，理由是對社會和人性存在潛在風險。
馬斯克、圖靈獎得主等千名專家
呼籲暫停超強AI研發，至少6個月
今日，未來生命研究所（Future of Life Institute）公布一封公開信，呼籲所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。
這封信已有1126名科技領袖和研究人員簽名，除了馬斯克、辛頓和馬庫斯之外，還包括圖靈獎得主約書亞·本希奧、《人工智慧：現代方法》作者斯圖爾特·羅素、 蘋果公司聯合創始人史蒂夫·沃茲尼亞克、Stability AI執行長埃馬德·莫斯塔克等科技界領袖人物。
這封公開信指出，最近幾個月，人工智慧實驗室陷入了一場失控的競賽，他們致力於開發和部署更強大的數字思維，但即使是研發者也不能理解、預測或可靠地控制這些數字思維。諸多研究表明，具有與人類匹敵智能的人工智慧系統可能對社會和人類構成深遠的風險。
公開信呼籲所有人工智慧實驗室立即暫停訓練比GPT-4更強大的人工智慧系統，期限至少6個月。在這段時間內，人工智慧實驗室和專家應該開發和實施一套技術安全協議，由獨立外部專家進行嚴格的審計和監督。與此同時，人工智慧研發者必須和政策制定者合作，加快開發人工智慧治理系統。
部分簽名者
GPT-4老闆：
AI可能會殺死人類，
已經出現我們無法解釋的推理能力
值得關注的是，發布公開信的「未來生活研究所」是由MIT物理學終身教授泰格馬克創立的一家非盈利研究機構，創立於2014年，一直關注「開發與人類相當的人工智慧技術過程中出現的風險」，霍金、馬斯克都是這家機構的科學顧問。
也是在這一年，霍金開始通過公開媒體發表對於人工智慧技術最終將取代人類的一系列「預言」。
他在BBC採訪中表示：「人工智慧技術的研發將敲響人類滅絕的警鐘。這項技術能夠按照自己的意願行事並且以越來越快的速度自行進行重新設計。人類受限於緩慢的生物學進化速度，無法與之競爭和對抗，最終將被人工智慧取代。」
值得一提的是，在昨日公開的訪談中，「ChatGPT之父」Altman在與MIT研究科學家Lex Fridman的最新對話中指出， AI已經出現其無法解釋的推理能力，同時承認「AI殺死人類」有一定可能性。
Altman談及了近期圍繞ChatGPT產生的諸多問題，坦承就連OpenAI團隊，也根本沒搞懂它是如何「進化」的：
從ChatGPT開始，AI出現了推理能力。但沒人能解讀這種能力出現的原因。
從ChatGPT開始，AI出現了推理能力。但沒人能解讀這種能力出現的原因。
唯一的途徑是向ChatGPT提問，從它的回答中摸索它的思路。
網友評論
你怎麼看？