摘要：許多傳統(tǒng)上由人做出的重要決策,現(xiàn)在都是由計(jì)算機(jī)做出的。算法統(tǒng)計(jì)選票、批準(zhǔn)貸款和信用卡申請(qǐng)、指定公民或社區(qū)進(jìn)行警務(wù)審查、選擇納稅人進(jìn)行稅務(wù)審計(jì)、批準(zhǔn)或拒絕移民簽證等。然而,監(jiān)管此類(lèi)決策流程的問(wèn)責(zé)機(jī)制和法律標(biāo)準(zhǔn),尚未跟上技術(shù)的步伐。目前,可供決策者、立法者和法院使用的工具,是為監(jiān)督人類(lèi)決策而設(shè)計(jì)的,當(dāng)把它們應(yīng)用于監(jiān)督計(jì)算機(jī)決策時(shí),通常會(huì)失靈。例如,如何判斷一個(gè)軟件的意圖?由于自動(dòng)化決策系統(tǒng)可能會(huì)輸出不正確、不合理或不公平的結(jié)果,因此,我們需要采取其他手段,以使此類(lèi)算法具有可問(wèn)責(zé)性和可操控性。本文提出了一套新的技術(shù)措施,它能夠以法律公平為準(zhǔn)繩,來(lái)驗(yàn)證自動(dòng)化決策。法學(xué)界的主流文獻(xiàn)認(rèn)為,算法透明可以解決這些問(wèn)題。本文對(duì)這一主流觀點(diǎn)提出挑戰(zhàn)。通常而言,源代碼的公開(kāi),既不必要(由于計(jì)算機(jī)科學(xué)中的替代技術(shù)),也不足以證明決策流程的公平性(由于分析代碼時(shí)所存在的問(wèn)題)。此外,算法透明也可能是不可取的,例如,它可能會(huì)披露個(gè)人信息,也可能會(huì)幫助不法分子或恐怖分子與稅務(wù)審計(jì)或安全檢查的系統(tǒng)進(jìn)行周旋。真正的核心問(wèn)題是:如何使自動(dòng)化決策更具可問(wèn)責(zé)性,以確保公民個(gè)體和整個(gè)社會(huì)的利益?本文認(rèn)為,技術(shù)正在創(chuàng)造新的機(jī)會(huì)——以比算法完全透明更巧妙、更靈活的方式,來(lái)設(shè)計(jì)自動(dòng)化決策的算法,使其更好地順應(yīng)法律和政策的目標(biāo)。這樣做不僅可以改善當(dāng)前對(duì)自動(dòng)化決策的治理,而且在某些情況下,還可以改善普通決策的治理。人類(lèi)決策者的內(nèi)在(或外在)偏見(jiàn),很難被發(fā)現(xiàn)和根除,但我們卻可以窺視算法的“大腦”:計(jì)算過(guò)程和目的規(guī)范可以在事前聲明,并在事后驗(yàn)證。本文介紹的技術(shù)可以得到廣泛應(yīng)用。它們可以用來(lái)設(shè)計(jì)私營(yíng)機(jī)構(gòu)和公共部門(mén)的決策流程,并可根據(jù)決策者、監(jiān)管者或公眾的