大數據文摘出品
作者：王燁
前段時間鬧得沸沸揚揚的谷歌AI倫理團隊聯合負責人Timnit Gebru被谷歌AI負責人Jeff Dean開除事件已經告一段落。
儘管事後谷歌CEO Sundar Pichai承諾將調查此事，但是目前還沒有什麼實質性的說法。
Timnit Gebru是靠人工智慧倫理研究走進大眾眼帘的，出生於史丹福大學人工智慧實驗室，其博士生導師是著名AI學者李飛飛。
獲得博士學位後，Timnit Gebru入職谷歌，僅用兩年時間便升至L6 Research Scientist。
隨著AI研究井噴式發展，AI倫理審查也受到了廣泛的重視，比如讓Timnit Gebru一戰成名的研究就是她的一項發現——面部識別軟體在35%的情況下會錯誤識別深膚色女性，而這項在白人男性身上運行得幾乎完全準確。
作為AI界久負盛名的NeurIPS會議也邁出了倫理審查的第一步，神經信息處理系統(Neural Information Processing Systems，NeurIPS)會議受疫情影響在線舉行，會議首次要求提交論文的作者同時提交一份聲明，說明他們的研究可能對社會產生的更廣泛影響，包括任何可能的負面影響。
會議組織者還任命了一個評審小組，負責審查引發倫理問題的論文，這個過程可能導致某些論文被拒絕。
9467篇論文提交，290篇被標記，4篇因倫理原因被拒
這次的NeurIPS會議共受到了9467份論文，審查人員主要根據提交材料的研究價值進行評估，但有通過初步審核的論文還要由 Gabriel 領導的一個單獨的道德委員會進行全面審查。
Facebook人工智慧研究中心的計算機科學家馬克·奧雷里奧·蘭扎托（Marc』 Aurelio Ranzato）是這次NeurIPS會議的主席之一，他表示，在290篇被標記的論文中，有4篇最終因倫理原因被項目主席拒絕。
添加倫理審查過程的做法參考的是Future of Computing Academy的做法，該學院由布倫特 · 赫克特領導，他是微軟和美國西北大學研究技術對人類影響方面的專家。
2018年，赫克特和他的合作者提出，要求計算機科學出版物陳述其研究的潛在副作用和可能出在的意外使用。
比如Ian J. Goodfellow在2014年提出GAN的時候並不會想到這項技術會用於AI生成色情圖片，而要求作者提供陳述的舉措將迫使技術的發明者不得不去思考自己的技術可能會帶來的社會影響。
這項舉措也得到了很多技術專家的肯定。
谷歌的計算機科學家凱薩琳•海勒（Katherine Heller）表示: 「總體而言，我認為倫理程序做得很好。」
「我認為，即使是讓人們開始思考這些問題，也有很大的價值，」加拿大多倫多行業監督機構技術調查（Tech Inquiry）的創始人傑克•鮑爾森（Jack Poulson）表示。他補充說，這項政策可能有助於改變該領域的文化。
儘管NeurIPS算是邁出了第一步，但是如何判斷一篇文章有沒有倫理上的風險呢？
NeurIPS的倫理評審小組表示，目前這是一個難題，審查人員沒有得到關於什麼會構成對社會的危害的具體指導。
舉個例子，NeurIPS會議的主席之一Ranzato說，一些評審標記了那些利用資料庫收集未經明確同意的個人信息或照片的論文。
這類資料庫的使用廣受批評，但會議組織者並沒有將這一問題單獨提交給審查人員，也沒有提供有問題的資料庫清單。
不過，Ranzato補充說，審查政策是朝著正確方向邁出的一步。「沒有什麼是完美的，但現在比以前更好了。」
大多數有問題的問題應該已經被發現，因為三個匿名的同行審稿人中的任何一個都可以標記一篇論文，主題領域的主席也可以。
倫理評審小組負責人Gabriel表示: 「其中任何一方發出的『信號』都足以啟動審查程序。」
不過，他承認，這一過程並非絕對可靠。例如，如果所有的評論員碰巧都是男性（在男性主導的領域並不少見） ，他們可能無法充分評估算法是否會對女性產生負面影響。
「我不能排除出現這種盲點的可能性。」Gabriel說。
NeurIPS會議的最後一天還舉行了一次特別會議，重點討論人工智慧對社會的廣泛影響，大家一起討論了解決行業問題的方法。
微軟在紐約市的研究員 Hanna Wallach 呼籲研究人員從研究的早期階段評估和減輕任何潛在的對社會的危害，而不是預想開發和市場最終產品的同時會做這種道德方面的工作。
為什麼一定要程式設計師自己區考慮倫理因素，而不是交給專門的倫理審查專家呢？
她表示，道德思維應該納入機器學習領域，而不是簡單地外包給道德專家，否則「其它學科可能成為警察，而程式設計師則試圖逃避它們」。
但是如何能讓研究人員自發審視技術的倫理因素呢？
這恐怕還有很長的路要走。
相關報道：
https://www.nature.com/articles/d41586-020-03611-8
https://www.nature.com/articles/d41586-020-03188-2