（文/Karen Hao）
日前，紐約金融服務部門對高盛發起了一項調查，原因是該公司可能存在性別信貸歧視。此前，網絡企業家戴維•海涅邁爾•漢森(David Heinemeier Hansson)在推特上表示，高盛管理的蘋果卡給他的信用額度是他妻子的20倍，儘管夫妻二人申請了聯合納稅申報單，而且他妻子的信用得分更高。
作為回應，高盛發布了一份聲明稱，在決定信用等級時不考慮性別。這種邏輯很可能是一種防禦——當你甚至不知道某個人是女性的時候，你怎麼能歧視女性呢？但事實上，沒有考慮到性別正是問題所在。之前關於算法公平性的研究表明，考慮性別實際上有助於緩解性別偏見。然而，具有諷刺意味的是，這樣做在美國是非法的。由聯合國基金會和世界銀行資助的一項正在進行的研究的初步結果，再次挑戰了不分性別的信貸貸款的公平性。研究發現，為男性和女性創建完全獨立的信用價值模型，可以讓大多數女性獲得更多的信用。
那麼：應該更新法律嗎?
1.「不分性別」的性別歧視
如果你不想受到性別歧視，為什麼不幹脆把性別從等式中去掉呢?這是1974年美國頒布的《平等信貸機會法》的前提，當時女性經常被拒絕信貸。它規定，任何債權人在評估信譽度時因性別而歧視或考慮性別都是非法的。
但在機器學習中，即使性別不明確，也很容易從其他與之高度相關的變量中推斷出來。因此，以剔除性別的歷史數據為基礎的模型，仍然放大了過去的不平等。這同樣適用於種族和其他特徵。這很可能就是蘋果信用卡案例中發生的情況：因為歷史上女性獲得的信用較少，算法學會了延續這種模式。
在2018年的一項研究中，計算機科學家和經濟學家的合作發現，緩解這些問題的最佳方式實際上是在模型中重新引入性別和種族等特徵。這樣做允許更多的控制來衡量和逆轉任何明顯的偏見，從而在整體上實現更多的公平。
2.性別差異信貸
最新的研究正在驗證一種新的假設：將男女模型分開會進一步減少性別偏見嗎?周二，在聯合國基金會舉辦的一次活動上，西北大學助理教授、該研究的研究員展示了初步研究結果，研究結果表明答案是肯定的。
研究人員與多米尼加共和國的一家商業銀行合作，對2萬名低收入者進行了兩項獨立的分析，其中一半是女性。在第一個分析中，研究人員利用個人的貸款償還歷史和性別來訓練一個單一的機器學習模型來預測信用度。在第二項分析中，研究人員只訓練了一個模型，該模型只包含來自這些女性的貸款還款數據。他們發現，93%的女性在這個模型中比在男女混合的模型中得到了更多的信任。
研究員說，這種情況會發生，因為女性和男性有不同的信用歷史和不同的貸款償還行為——不管是出於歷史、文化還是其他原因。例如，女性更有可能償還貸款，他說。但這些差異在聯合模型中沒有被考慮進去，該模型學會了根據女性和男性的平均信譽度來預測信用度。因此，這些模型低估了女性償還貸款的可能性，最終給予她們的信貸少於她們應得的。雖然這項研究是專門針對多米尼加共和國的低收入女性進行的，但定性結果應該是正確的，無論背景如何。它們還應適用於性別以外的特徵，以及金融以外的領域。
3.如何處理法律？
問題是，這種單性別模式是非法的。問題是，政策制定者是否應該因此更新《平等信貸機會法》。研究人員持贊成態度。「最近關於算法公平性的研究得出了一個相當明確的結論，即我們應該在算法中使用種族和性別等因素，」他說。「如果銀行無法獲得這些變量，甚至無法建立安全檢查來確保它們的算法不存在偏見，那麼我們發現這些偏見的唯一途徑就是當人們在推特上八卦時。」
但加州大學洛杉磯分校專攻人工智慧與法律交叉領域的助理法學教授警告稱，不要過快行動。他說，「以這種方式改寫法律，為壞人開始包括種族變量和性別變量，以及以一種很難監管的方式進行瘋狂的歧視，開闢了道路。」他還擔心，這種解決方案不會考慮到非二元或跨性別人士，從而無意中給他們造成傷害。
來源：麻省理工科技評論