中國(guó)人民公安大學(xué)法學(xué)院蘇宇在《東方法學(xué)》2024年第1期上發(fā)表題為《算法解釋制度的體系化構(gòu)建》的文章中指出：

算法解釋在算法治理研究及法律實(shí)踐中正逐漸成為最引人注目的主題之一?！八惴ń忉尅笔且粋€(gè)內(nèi)涵特定的專業(yè)術(shù)語，其中的“解釋”是指人類與（機(jī)器）決策者之間的一個(gè)交互面，同時(shí)滿足既是決策者的精確代理，又能為人類所理解，這就使算法解釋不同于算法披露、算法公開或算法透明等概念。本質(zhì)上，算法解釋致力于提供一種中介機(jī)制，致力于以人類思維能理解的方式，揭示何種輸入變量或變量的組合會(huì)在何種程度上影響到輸出的結(jié)果。用戶、相對(duì)人或社會(huì)公眾渴望理解算法系統(tǒng)為何如此決策，理解不同因素通過何種過程、以何種程度影響到系統(tǒng)的判斷和決定，進(jìn)而了解是否可能存在歧視、偏見等倫理或法律風(fēng)險(xiǎn)。算法解釋以“黑箱型”算法的存在和應(yīng)用為前提。并非所有算法都是“黑箱型”的算法，也并非所有算法模型都需要解釋。

算法解釋的法理意義可以被概括為權(quán)益保障意義、社會(huì)交往意義和風(fēng)險(xiǎn)治理意義，每一種意義都有助于使人工智能算法回歸人類可理解、可交流、可控制的范圍，使算法治理能夠徹底穿透技術(shù)上的“黑箱”而落到實(shí)處。算法解釋的三重意義使其在算法治理中占據(jù)不可替代的基礎(chǔ)性地位。然而，法律人關(guān)心的是算法解釋如何能夠被建構(gòu)為一種預(yù)期明確、行之有效的制度，使之嵌入一定法律關(guān)系框架中，確保其權(quán)益保障、社會(huì)交往及風(fēng)險(xiǎn)治理意義得到穩(wěn)定、充分實(shí)現(xiàn)。制度是人類設(shè)計(jì)出來的、用以形塑人們相互交往的一系列約束，界定并限制了人們的選擇集合，能減少社會(huì)生活的不確定性。

在算法治理活動(dòng)中，應(yīng)根據(jù)常規(guī)場(chǎng)景、關(guān)鍵場(chǎng)景和爭(zhēng)議場(chǎng)景分別限定選擇解釋的路徑選擇和技術(shù)方案，通過凍結(jié)機(jī)制、抽樣機(jī)制和鏡像機(jī)制固定算法解釋，并使之接受外部的驗(yàn)證與審查，確保算法解釋真實(shí)、有效。算法解釋的路徑選擇、固定、驗(yàn)證與審查等機(jī)制的建立，不僅有助于實(shí)現(xiàn)算法解釋的三重意義，還可以使算法解釋成為算法治理的樞紐，構(gòu)建體系化的算法解釋制度，有力支撐算法備案審查、算法影響評(píng)估、算法審計(jì)、算法問責(zé)等其他算法治理制度的運(yùn)行。

算法解釋制度以算法解釋的技術(shù)原理為基礎(chǔ)，通過算法解釋權(quán)和算法解釋義務(wù)嵌入法律關(guān)系之中，將既有法律規(guī)范中的算法可解釋性和透明度要求整合為算法模型設(shè)計(jì)和運(yùn)行的標(biāo)準(zhǔn)，使之通過算法解釋義務(wù)的適當(dāng)履行而得以實(shí)現(xiàn)。對(duì)解釋路徑與精度、解釋時(shí)限、解釋瑕疵責(zé)任等要素的合理配置，可以實(shí)現(xiàn)社會(huì)效益與規(guī)制負(fù)擔(dān)的精細(xì)平衡。