專訪李飛飛:我為什麼不同意AI教父對災難性人工智慧風險的看法

2023-11-15     DeepTech深科技

原標題:專訪李飛飛:我為什麼不同意AI教父對災難性人工智慧風險的看法

「人工智慧正處在一個轉折點。」李飛飛最近告訴我。她是美國史丹福大學「以人為本人工智慧研究所(Human-Centered AI Institute)」的聯合主任,也是我們這個時代最傑出的計算機科學研究人員之一。她最出名的成果是創建了 ImageNet 數據集,這是一個流行的開源圖像數據集,它在研究人員訓練現代人工智慧系統方面發揮了關鍵作用。

(來源:COURTESY PHOTO)

李飛飛解釋說,這樣說的原因是最近該領域發生了兩件事。一個是生成式人工智慧讓公眾真切地感受到了人工智慧技術,因為它驅動著 ChatGPT 之類的人們可以自己嘗試的人工智慧工具。

因此另一件事是,許多企業已經意識到,文本生成等人工智慧技術可以讓它們賺錢,所以企業已經開始在更多產品中推出和加入這些技術。「正因如此,它正以一種更深刻的方式影響著我們的世界。」李飛飛說道。

在最新一期《麻省理工技術評論》雜誌中,李飛飛是我們採訪的技術領袖之一。在這期雜誌中,我們主要探討了世介面臨的最大問題和最困難的問題。

技術和社會兩個領域的交叉部分存在考慮不周的問題,因此我們請到了這兩個領域的大思想家來討論這些問題。

在李飛飛最新出版的回憶錄《我看到的世界:人工智慧黎明的好奇、探索和發現》中,她講述了自己是如何從一個生活貧困的移民變成今天的人工智慧領域重量級人物的。

這本書是對為實現夢想而做出犧牲的移民們的近距離觀察,也是一位人工智慧從業者講述人工智慧研究如何嶄露頭角的故事。

當我們交談時,李飛飛告訴我,她始終關注著人工智慧的未來,以及該領域面臨的難題。

以下是我們談話中的一些亮點。

為什麼她不同意一些人工智慧「教父」對災難性人工智慧風險的看法?許多人工智慧領域的重量級人物,如傑弗瑞·辛頓(Geoffrey Hinton)、楊立昆(Yann LeCun)和約書亞·本吉奧(Yoshua Bengio),一直在公開討論人工智慧系統的風險以及如何安全地管理技術。辛頓表達了他對人工智慧可能對人類構成生存風險的擔憂。但李飛飛不那麼信服。

她說:「我絕對尊重這一觀點。我認為,從理智上講,我們應該談談那些風險。但如果你問我,作為一名人工智慧的領導者……我覺得還有其他風險,我願稱之為社會的災難性風險,這些風險更為緊迫。」

李飛飛提出了諸如錯誤信息、勞動力受限、偏見和侵犯隱私等實際存在的、貼近日常社會生活的問題。

更棘手的問題:李飛飛擔心的另一個主要的人工智慧風險是,科技行業的權力和主導情況越來越集中,而來自公共部門的科技研究投資卻在減少。

「人工智慧太貴了,研發一個大模型要花費數億美元,這無法在學術界實現。這會讓科學為公共利益服務嗎?或者讓客戶之外的各種聲音都能被聽到?美國需要在人工智慧領域開啟一個『登月計劃』,並對公共部門的研究和計算能力進行大量投資,包括美國國家人工智慧研究資源工作組和類似歐洲核子研究中心的實驗室。我堅信人工智慧將有助於改善人類(的生活)狀況,但必須有協調一致的努力才能確保美國在人工智慧方面的領導地位。」她告訴我們。

李飛飛創建的 ImageNet 存在缺陷:批評者認為 ImageNet 包含有偏見,其中有不安全和有害的照片,這反過來導致了人工智慧系統中的偏見和有害結果。她也承認數據集並不完美。

李飛飛說:「我們需要人們來指出 ImageNet 的不完美之處和公平問題。這就是為什麼我們需要不同的聲音。我們需要一個村莊(社群)才能讓技術變得更好。」

版權和數據:批評者表示,目前從網際網路上獲取數據以創建數據集的做法會導致偏見、侵犯版權和隱私等問題。李飛飛對此表示,人工智慧界需要對此進行深入研究。

她說:「與 2009 年相比,現在我們對數據所起作用的理解要成熟得多,當時我們是最先指出數據重要性的一群人。」她補充道,人工智慧社區需要不斷發展,並從過去的錯誤中吸取教訓。

給任何想進入人工智慧領域的人的提示:李飛飛表示,無論你來自哪裡,有什麼背景,如果你對此充滿熱情,你都可以在人工智慧中占有一席之地。她還說,來自不同背景的人應該儘量忽略媒體對這個領域的描述,即這個領域非常白人化和男性化。

她給年輕技術人員的寄語:「技術背後的數學是簡潔而有序的,但技術帶來的社會影響是雜亂無章的。我們必須認識並承認這種混亂,因為我們正在創造的東西既有積極的影響,也有消極的影響。」

作者簡介:梅麗莎·海基萊(Melissa Heikkilä)是《麻省理工科技評論》的資深記者,她著重報道人工智慧及其如何改變我們的社會。此前,她曾在 POLITICO 撰寫有關人工智慧政策和政治的文章。她還曾在《經濟學人》工作,並曾擔任新聞主播。

支持:Ren

文章來源: https://twgreatdaily.com/542e084caac599578a100215edf190e8.html