本周，每個人都在談論人工智慧。美國總統剛剛公布了一項新的行政令，旨在推廣安全、可靠的人工智慧系統。這是美國迄今為止影響最深遠的人工智慧監管舉措。
七國集團（G7）剛剛同意了一項人工智慧公司應遵守的（自願）行為準則，其動機是各國政府試圖將人工智慧系統造成的危害和風險降至最低。
就在這兩天，英國也邀請全球多個重要國家參與了一場人工智慧安全峰會，旨在制定人工智慧安全的全球規則。
總之，這些事件表明，美國矽谷推動的人工智慧可能帶來的「（人類）生存風險」，似乎在輿論中越來越占主導地位。
這是令人擔憂的，因為過於專注於修復未來可能出現的假設性危害，導致人們對於人工智慧正在造成的真正危害的關注有所減少。
著名人工智慧研究人員和活動家喬伊·布蘭維尼（Joy Buolamwini）在她的新回憶錄《揭開人工智慧的面紗：我在機器世界中保護人類的使命》中寫道：「造成明顯危害的、現有的人工智慧系統，比假設的『有意識的』人工智慧系統更危險，因為它們的危害是真實存在的。」
我很高興與她談論她的人生故事，以及她今天在人工智慧領域的關注重點。她在這個領域很有影響力。她對面部識別系統偏見的研究使 IBM、谷歌和微軟等公司改變了他們的系統，並且不再向執法部門出售相關技術。
現在，布蘭維尼看到了一個新的目標。她呼籲徹底反思人工智慧系統的構建方式，從更合乎道德、更一致的數據收集實踐開始。她告訴我：「我擔心的是，我們給了這麼多公司暢通無阻的通行證（他們可以想做什麼就做什麼），我們還在讚揚創新的同時別過頭去，不願看到那些危害。」
雖然她的故事在很多方面都是鼓舞人心的，但它們也是一個警告。她在過去十年的大部分時間裡一直在呼籲人工智慧的危害，她做了一些令人印象深刻的事情，並將這個話題帶入了公眾的意識之中。但真正讓我震驚的是直言不諱對她帶來的傷害。
在書中，她描述了自己在試圖同時做太多事情後，由於身體和精神極度疲憊，不得不住進急診室；她四處宣傳，成立了非營利組織算法正義聯盟（Algorithmic Justice League）；參加了國會聽證會；還試圖完成她的麻省理工學院博士論文。
她並不孤單，她的經歷與我之前寫的一篇文章相吻合，那篇文章講述了負責任的人工智慧是如何造成倦怠問題的。
得益於像布蘭維尼這樣的研究人員的努力，科技公司的人工智慧系統正面臨著更多的公眾審查。這些公司意識到，他們需要負責任的人工智慧團隊，來確保他們以減輕潛在危害的方式來開發自家產品。
這些團隊會評估我們的生活、社會和政治系統是如何受到這些系統的設計、開發和部署方式的影響的。
（來源：STEPHANIE ARNETT/ MITTR | ENVATO）
但指出人工智慧系統問題的人經常在網上面臨激烈的批評，以及僱主的抵制。布蘭維尼描述了她不得不對抗一家美國科技巨頭對她研究成果的公開攻擊。
當她剛開始這項工作時，她必須讓人們相信人工智慧值得擔心。現在，人們更加意識到人工智慧系統可能存在偏見和危害。這是個好消息。
但壞消息是，要想公開反對那些強大的科技公司仍然存在風險。這真是太不幸了。試圖改變討論和監管哪些風險的聲音比以往任何時候都更大，並引起了英國首相里希·蘇納克（Rishi Sunak）等立法者的注意。
如果圍繞人工智慧的文化主動壓制其他聲音的出現，那對我們所有人來說都是有代價的。
作者簡介：梅麗莎·海基萊（Melissa Heikkilä）是《麻省理工科技評論》的資深記者，她著重報道人工智慧及其如何改變我們的社會。此前，她曾在 POLITICO 撰寫有關人工智慧政策和政治的文章。她還曾在《經濟學人》工作，並曾擔任新聞主播。
支持：Ren