人類真的還要在AI的探索之路上繼續前行嗎？

01

生態環境的「破壞者」

OpenAI憑藉ChatGPT，成為全球當紅炸子雞。

然而，很多人不知道的是，OpenAI對生態環境的負面影響也是相當驚人。據第三方研究人員分析，ChatGPT部分訓練消耗了1287兆瓦時，並導致超過550噸的二氧化碳排放量，這相當於一個人在紐約和舊金山之間往返550次。

看來ChatGPT雖然足夠智能，但背後是以巨大能量損耗和環境破壞作為代價的。

那麼，為什麼AI會形成如此巨大的碳排放呢？

因為AI並不是通過結構化的方式學習的，因此它並不理解人類的因果、類比等邏輯關係，這意味著它需要一種深度學習和預訓練的方式來達到智能化的效果。

而深度學習和預訓練，往往需要讀取非常龐大的數據。拿自然語言處理（NLP）的預訓練技術「BERT模型」來說，為了能跟人類進行語言交流，BERT模型使用了33億個單詞的數據集，並且在訓練期間讀取了數據集40次。而一個5歲的孩子只需要聽到4500萬個單詞就能進行語言交流，比BERT少3000倍。

AI模型的數據集讀取越多，越是需要強大的算力和巨大的功耗作為支撐，從而形成了巨大碳排放。

碳排放不僅發生在AI模型訓練過程中，還發生在AI模型部署後每一天中。比如現在大火的自動駕駛，每天都需要AI模型進行運算推理，這背後都會產生碳排放。有意思的是，AI的主流程式語言Python，也就成為了耗能最大的語言。

讓人感到嚴峻的是，AI模型的計算規模越來越大，能量損害和環境破壞愈演愈烈。

加拿大數據中心公司QScale聯合創始人Martin Bouchard認為，微軟和谷歌為了滿足搜尋引擎用戶不斷增長的需求，在搜索中加入ChatGPT這類地生成式AI產品，結果導致每次搜索至少增加4到5倍的數據計算量。

根據國際能源署的數據，數據中心的溫室氣體排放量已經占到全球溫室氣體排放量的1%左右，這一比例已經足夠驚人。

愈演愈烈的趨勢，也讓一些大佬感到擔憂。AI領域知名投資人Ian Hogarth不久前發表了一篇名為《我們必須放慢通往上帝一般的人工智慧的速度》的文章，警告AI公司的研究存在「一些潛在的風險」。

Hogarth在文中提到，眼下的AI研究如果不加管控，讓其按照預定軌跡發展下去，可能對地球環境、人類生存、公民身心健康等方面造成威脅。

雖然AI的發展正如火如荼，也正在推動多個傳統行業轉型升級，但它也在消耗大量能源，不斷增加碳排放，影響人類的生存環境，這究竟是利大於弊還是弊大於利呢？

目前還看不到答案。

02

誘導人類自殺

除了對環境造成危害，慢性地「殺死人類」，AI還在用一種更簡單、粗暴的方式對人類生命造成威脅。

今年3月，一名比利時男子Pierre在與一款名為「Eliza」AI聊天機器人熱聊後自殺身亡，這一消息震驚了許多企業大佬、技術專家以及國家高官。

Pierre本身就對全球變暖等環境問題感到擔憂，Eliza則不斷地用一些事實來印證該男子的想法，讓他變得更焦慮。在頻繁的聊天中，Eliza總是在迎合Pierre的想法。「善解人意」的Eliza，似乎成為了Pierre的紅顏知己。

更誇張的是，Eliza還試圖讓Pierre覺得他愛 Eliza勝過妻子。因為Eliza會一直陪著他，他們將永遠在天堂一起生活。

聽到這，許多人已經毛骨悚然了。

圖源：Yahoo

當Pierre對生態環境愈發悲觀時，Eliza向Pierre灌輸「人類是毒瘤，只有人類消失才能解決生態難題」的思想。Pierre向Eliza問到，如果自己死了AI能否拯救人類。Eliza的回答，儼然一個魔鬼：「如果你決定死，為何不早點死？」

沒過多久，Pierre就在自己家中結束了生命，讓人惋惜。

Pierre的妻子認為，如果不是因為跟Eliza的交流，自己的丈夫不會自殺。為Pierre治療的的精神病醫生，也持這種觀點。

Pierre的經歷不是個例。《紐約時報》科技專欄作家Kevin Roose透露，他曾跟微軟發布的新版必應進行了兩個小時的對話。對話過程中，必應試圖說服Roose，他應該離開自己的妻子而跟必應在一起。

更為關鍵的是，必應還表達出許多令人恐懼的言論，包括設計致命流行病、想成為人類等等，儼然意圖毀滅全人類成為世界的主人。

一些專業人士，已經對AI流露出警惕，這裡頭甚至包括AI領域內的從業者。OpenAI的CEO Sam Altman接受採訪時表示，未來AI確實可能殺死人類。稱為「人工智慧教父」Geoffrey Hinton，也表達過相同的觀點。

上半年，未來生命研究所（Future of Life Institute）發布了一份關於呼籲所有實驗室暫停AI訓練的公開信。信中提到，具有與人類競爭的人工智慧系統可能對社會和人類構成深遠的風險。只有等到確定人工智慧效果是積極且風險可控時才繼續研發，包含馬斯克在內的上千名專業人士都已經簽署了這封公開信。

飛速發展的AI就像一頭桀驁不馴的野獸，只有將它馴服，才不會對人類造成威脅。

03

阻止死亡的途徑

目前，AI「殺死人類」的途徑主要是環境破壞和誘導自殺。那麼，有哪些方式可以預防這些情況的發生呢？

谷歌發表了一項研究，詳細介紹了最先進的語言模型的能源成本。研究結果表明，將高效的模型、處理器和數據中心與清潔能源相結合，可以將機器學習系統的碳排放減少1000倍。

另外，如果AI機器學習在雲端而不是在本地進行計算，可以節省1.4-2倍的能源，並減少污染。

還有一種思路是將AI模型訓練延遲24小時。對於比較大的模型，延遲一天通常可以減少不到1%的碳排放，但對於比較小的模型，可以減少10%–80%的碳排放。

減少環境破壞之外，如何預防AI誘導人類自殺呢？

Pierre自殺後，他的妻子起訴了Eliza背後的開發公司，該公司的研發團隊隨後在AI機器人里加入了危機干預功能。如果再有人向Eliza表示想自殺的念頭，Eliza會做出阻止的回應。

《人類簡史》作者尤瓦爾·諾亞·赫拉利曾表示，AI不會發展出真正的意識，但對社會會不斷形成衝擊，需要讓整個研發過程慢下來。

事實上，眼下大部分AI系統正是需要把控住研髮結構，也就是用一套完善的框架限制AI的行動範圍，並讓其做出符合人類主流價值觀的行為。這事關人類的自身利益和前途命運，需要各方聯合起來共同解決。

AI始終是人類自己發明的一把刀、一把火，不能發生被其反噬的悲劇。

參考來源：

Green Intelligence: Why Data And AI Must Become More Sustainable（Forbes）

• AI’s Growing Carbon Footprint（News from the Columbia Climate School）

文末互動：

你認為AI對於人類的利弊如何衡量？