全文共2284字，预计学习时长6分钟
图源：unsplash
算法无处不在。我们的网络生活由神秘无形的算法所引导着，算法使用海量数据帮助私营公司和政府做出决策，或将其彻底自动化；生活中，从汽车保险报价到社交媒体消息。
尽管算法对日常生活至关重要，但大多数人并不清楚算法是如何使用数据进行决策的，这意味着人们可能忽略了一些严重问题。例如，去年的一项研究发现，在帮助医院确认病人是否需要额外护理的常用算法中，存在歧视黑人的偏见倾向。
为了应对这一问题，新西兰政府计划推出了“全球首个算法章程”。该章程包含一系列规定与原则，供政府机构在应用算法时遵循，以便民众一窥其真容。通过首倡算法失察责任制，公开展示算法如何影响日常生活，新西兰希望此举能为其他国家树立榜样。
签署该章程的机构做出了一些承诺。例如，他们同意用浅显易懂的英语公开算法的使用时间与方法，确保算法不带有偏见，并允许同行审查以避免出现“意外后果”；还包括在算法开发和使用过程中兼顾毛利土着人的视角，并要求机构提供民众可用的联系途径以咨询算法相关的问题，以及就算法做出的决策提出异议等。
从计算失业救济金到警察如何巡视周边并登记住户信息，政府在许多方面应用了算法。让人民群众了解算法的真正运作方式，有助于政府对保证算法公正性负责。
迄今为止，该章程已经有大量的签署方，包括教育部、环境部、新西兰统计局、新西兰国防军等。但值得一提的是，该国的警察部门和情报机构，如政府通信安全局，并不在签署方之列。
图源：unsplash
尽管听上去是些技术性问题，但其实政府采用的算法与公共生活息息相关。2020年初，《纽约时报》报道称美国使用算法“规划警察巡逻、服刑与缓刑规则”，荷兰则“用算法标记福利诈骗风险”。
制定决策使用了哪些数据我们很难查明，例如算法是否考虑到性别、邮政编码、年龄或其它多种因素，遑论用于训练算法的数据是否在初期得到合理的使用。
这可能导致“指标偏见（bias by proxy）”，即采用一种变量来测定某一结果，但二者间却并不具备真实的相关性。例如，在其它系统性因素也可能有所影响的情况下，根据学生在标准化测试中的成绩来检测教师的工作效率。
ProPublica研究了用于为警署逮捕人员生成风险评分的算法。研究显示，这类偏见随处可见。根据该项调查，这种计算方法不仅可能“错误地将黑人被告者标记为潜在的罪犯”，而且“比起黑人被告者，更易将白人被告者误认为低风险人员”。
带有偏见的算法困扰着新西兰。《卫报》报道称该章程的签署方之一，即新西兰意外伤害赔偿局，“2017年因使用算法检测记录中的诈骗事件而受到指责”。惩教机关和移民局过去都曾遇到相似的问题，这两者也都签署了该章程。
要求算法以简明易懂的文本记录有助于减轻对其直接受众的影响，因为这允许他们核实自己是否被公正地对待。简明易懂的文本记录能告知人们计算机是如何得出与他们相关的结论，并在决策可能不公正的情况下提供官方的质询途径。
的确，这类政策过去曾出现问题。2018年，纽约市实施了《算法问责法案》，以透明化市政府使用的多种自动化系统。两年后，CityLab报道称，官僚主义阻碍了最基本的透明性，负责实施该政策的工作组甚至无法获取纽约市所用的自动化系统的清单。
尽管如此，假如实施得当，新西兰的章程是能够让政府在使用个人数据和规划居民生活方面更好地获取市民信任的。关于信任缺失对政府的影响有一个经典的例子：谷歌旗下的Sidewalk Labs是一家研究城市生活的初创公司，由于争议颇多，它不得不放弃多伦多市的项目。
这一公私合作项目是与多伦多市共同开展的。对于这一“智慧街区”项目来说，数据使用至关重要，项目主办方也尽力对其进行了解释。据《华尔街日报》报道，2020年，因为居民质疑“谷歌的算法过多地掌控了城市规划”，该智慧城市项目宣告关停。
如果有关方面要求公司将该项目透明化，那么或许市民们会认为Sidewalk Labs值得信任，而不是施压终止项目。
图源：unsplash
签署了新西兰算法章程的机构必须使用风险评级，通过评估偏见出现的可能性及影响程度来决定如何应用该章程，并据此记录日常使用的算法的风险。虽然目前章程中还没有惩罚条例和执行机制，但一年后的评审过程将会调查签署机构是否应用了该章程。
作为新西兰的居民，笔者深知能够窥探算法后的真相，鉴别自己是否在政府应用算法时得到了公正对待，以及得知政府如何使用采集到的个人数据来得到结论，都是值得珍惜的权利。在这一章程出台之前，我们根本无从得知如何制定决策、使用何种数据。这些规定要求政府必须公示内部的运作机制，因而给人以信任感。
新西兰仍在探索实施新规的途径。在这一过程中，新西兰将为其他效仿此举的国家奠定基础。公开政府所使用的算法无疑将会揭露不平等现象，但也是在为那些被迫由计算机的决策左右生活的人发声，这一公开透明的决策有助于解决AI中的系统性问题。
留言点赞关注
我们一起分享AI学习与发展的干货
如转载，请后台留言，遵守转载规范