我國規(guī)定AI不能取代法官判案

人類公平正義的最后一道防線應(yīng)該交給有情感的人來守護，而不應(yīng)交給一個冰冷的“按鈕”。人工智能無法替代法官，也不應(yīng)替代法官

文/本刊記者 王衛(wèi)

2023年，伴隨著新一代生成式人工智能應(yīng)用ChatGPT的橫空出世，全球范圍內(nèi)掀起了一場人工智能浪潮?！癆I版權(quán)智審”“AI寫作”“AI繪畫”“AI視頻”“AI復(fù)活逝者”“AI換臉”……AI大模型以猝不及防的速度來到我們身邊，給社會各個領(lǐng)域帶來前所未有的影響和沖擊。從司法到教育，從健康醫(yī)療到金融、律師、交通以及物流，AI重塑著我們的世界。

ChatGPT等生成式人工智能技術(shù)大語言模型相較于原有初級人工智能技術(shù)輔助類案智能化算法推薦技術(shù)，實現(xiàn)了技術(shù)功能上的延展性，在提升司法效率的同時也將帶來相應(yīng)的法律風(fēng)險和挑戰(zhàn)。

早在2017年，國務(wù)院就印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，指出：“人工智能是影響面廣的顛覆性技術(shù)，可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個人隱私、挑戰(zhàn)國際關(guān)系準則等問題?！蹦敲矗贏I介入司法裁判的過程中，我國會允許介入到何種程度，AI會取代法官判案嗎？

最高人民法院立案庭、訴訟服務(wù)中心外景。何能高 攝

ChatGPT技術(shù)尚處于早期階段

近年來，人工智能迅猛發(fā)展，被廣泛應(yīng)用于駕駛、無人機、安防、教育、醫(yī)療、搜索、金融等方方面面，深刻影響著我們的社會和生活，司法當然也在其中。

結(jié)合實踐，不難發(fā)現(xiàn)，ChatGPT已經(jīng)具有助力司法審判的可能，它在類案檢索與裁判預(yù)測等方面也能夠?qū)λ痉▽徟挟a(chǎn)生積極的作用。在人工智能司法高歌猛進的同時，我們還應(yīng)當注意到人工智能發(fā)展給社會治理、知識產(chǎn)權(quán)保護等帶來的負面影響。

多地公安機關(guān)公布多起利用AI工具實施造謠的相關(guān)案件。6月20日，上海市公安局城市軌道和公交總隊發(fā)布警情通報：有營銷人員為博取關(guān)注，使用AI軟件生成“上海地鐵行兇”虛假視頻在網(wǎng)上發(fā)布，造成惡劣社會影響。此外，“西安突發(fā)爆炸”“濟南一高層住宅樓起火，多人跳樓逃生”等聳人聽聞又廣泛傳播的“新聞”，均被查實是AI軟件炮制的謠言。去年2月，一則“杭州市政府將取消機動車尾號限行政策”的消息在網(wǎng)上瘋傳，但該消息實則是某居民用ChatGPT擬寫的。

各地司法機關(guān)也審理了多起涉AI侵權(quán)案件。今年廣州互聯(lián)網(wǎng)法院作出判決的全球AIGC侵權(quán)第一案，北京互聯(lián)網(wǎng)法院審理的國內(nèi)首例“AI文生圖”著作權(quán)的侵權(quán)案以及前不久全國首例AI生成聲音人格權(quán)侵權(quán)案，這些案件都在生成式人工智能領(lǐng)域、知識產(chǎn)權(quán)領(lǐng)域以及我們傳統(tǒng)意義上的人身權(quán)等問題上產(chǎn)生了緊密的關(guān)聯(lián)，值得我們進一步深思。

業(yè)界認為，ChatGPT目前技術(shù)尚處于早期階段，其自身存在較多問題。首先，身為大規(guī)模語言模型，ChatGPT使用成本高昂。ChatGPT基礎(chǔ)大模型訓(xùn)練成本高、部署困難、每次調(diào)用花費不菲，還可能有延遲問題，對工程能力有很高的要求。數(shù)據(jù)顯示，OpenAI為了讓ChatGPT的語言合成結(jié)果更自然流暢，共用了45TB的數(shù)據(jù)、近1萬億個單詞來訓(xùn)練模型。這大概相當于1351萬本牛津詞典。訓(xùn)練一次的費用高達千萬美元。

其次，人工智能技術(shù)在信息泄露等方面的社會性風(fēng)險，會因為使用的龐大數(shù)據(jù)規(guī)模被進一步放大。對于司法工作而言，在司法人員和ChatGPT交互過程中，ChatGPT會獲取大量業(yè)務(wù)相關(guān)數(shù)據(jù)，這些數(shù)據(jù)在案件未符合司法公開條件之前，不能隨意公開，一旦發(fā)生數(shù)據(jù)泄露，可能導(dǎo)致嚴重后果。此外，OpenAI的使用條款并未對用戶可能輸入ChatGPT的數(shù)據(jù)信息提供任何保護。

再次，ChatGPT準確率不高的問題不容忽視。由于ChatGPT的大部分答案都是從已知內(nèi)容中摘錄或搜集而來，對于未知的或者ChatGPT知識的盲區(qū)，則可能會給出錯誤或者不恰當?shù)慕ㄗh意見。比如，司法工作人員在辦案工作中常常需要兼顧“天理國法人情”，需要考量辦案的法律效果社會效果政治效果的統(tǒng)一，具有一定的人性化思考，而這些往往是人工智能有所欠缺和不足的，因此，此時ChatGPT給出的建議，會存在一定程度的偏頗。

專家認為AI不能充當審判主角

在紛繁復(fù)雜的司法審判流程中，如何給人工智能以正確定位，發(fā)揮其優(yōu)勢，避免其弊端？

人工智能介入司法裁判包括獨立裁判和輔助裁判兩種，法官僅憑借人工智能的結(jié)論徑直給出裁判的活動屬于獨立裁判，此時人工智能在司法裁判中占據(jù)主導(dǎo)地位。而輔助裁判則將人工智能放到法官輔助者的地位上去。我國在建的智慧法院平臺就是例證之一。

部分專家認為，法官作為“人”的價值是機器無法取代的?！胺ü僦怼辈徽摱鄡?yōu)秀，終究不能取代法官。

法律精神需要法官站在“人”的角度去理解評判。西南財經(jīng)大學(xué)法學(xué)院教授李毅認為，對于法律精神中的好與壞、公平與正義，人類會站在自身獨特的角度去理解和評判，這是機器評判所不具備的，也恰恰是法官工作的基礎(chǔ)。法的領(lǐng)域不能完全依賴于人工智能，必須運用好人的審美與價值觀。

“AI代替法官裁判，我覺得是不可思議的。”中國政法大學(xué)傳播法中心副主任朱巍認為，法官的工作不只是簡單地依法條判案。從確定衡量標準、確定處罰內(nèi)容，到撰寫判決書所用的具體語言，每一項工作都體現(xiàn)著法官身為“人”的關(guān)懷。他表示，現(xiàn)有的人工智能輔助系統(tǒng)只不過是通過對海量數(shù)據(jù)信息的學(xué)習(xí)和處理，用事先設(shè)置好的方法，展現(xiàn)出我們需要的結(jié)果，進而產(chǎn)生類似于人類判斷的表現(xiàn)，并非真的讓機器擁有人的智慧。

“法官判決的每一個案件都是有溫度的。”上海市高級人民法院副院長郭偉清說，“司法審判的過程不只是理性邏輯的堆砌，還有人性和情理的融合，是基于社會公義、法律量刑和人情世故作出判斷的微妙平衡，這是機器無法取代的?！?/p>

“法諺道，正義不僅要實現(xiàn)，而且應(yīng)當以人們看得見的方式加以實現(xiàn)?！卑不帐徍幸换鶎臃ü僖﹃辉谧约旱脑浿袑懙溃拔覀兺匾暯Y(jié)論，卻忽略了形成結(jié)論的理由。讓AI告訴我們‘是什么’很容易，可難以讓它告訴我們‘為什么’。

AI可以模擬人類的思維，但無法表達這種思維的形成過程?！彼J為，目前司法審判中存在的各種問題，尤其是群眾對司法缺乏足夠信任，原因不在于沒有開發(fā)“人工智能法官”，而是法官正在成為法律“工廠流水線”上的操作工。

專家們達成的共識是，AI正在通過案件繁簡分流、創(chuàng)新審判手段等方式減輕法官負擔(dān)，提高司法公平與效率。不可否認的是，其輔助力度正變得越來越大。

AI輔助裁判，繁簡分流，將法官從簡單的、重復(fù)性案件中解脫出來。AI完全可以通過導(dǎo)入案件數(shù)據(jù)，學(xué)習(xí)法官的裁判思路和理由，對證據(jù)清楚、案情簡單的重復(fù)性案件進行立案、篩選、判決，減少法官的重復(fù)性勞動，讓他們更多地關(guān)注復(fù)雜案件、疑難案件。

同案同判，減少法官個人因素對審判結(jié)果的影響。中國的案件特別多、地域特別廣，相同案件不同判案標準和結(jié)論的現(xiàn)象比較普遍。法官的價值理解仁者見仁智者見智，其有生之年能夠接觸到的案件數(shù)量有限，AI可以最大程度減少法官個人及與案件無關(guān)的因素，輔助法官促進審判公正。

創(chuàng)新司法體系，為司法提高效率帶來曙光。人類社會現(xiàn)有的司法體系仍是工業(yè)時代的體系。AI的發(fā)展將高效率實現(xiàn)部分案件無人化、標準化審理，有望促進司法體系的自身創(chuàng)新，緩解立案難、舉證難、出庭難以及案多人少的難題。

最高人民法院訴訟服務(wù)大廳，每天前來立案、申訴信訪的人絡(luò)繹不絕。何能高 攝

最高法規(guī)定不允許用AI進行裁判

基于人工智能的快速發(fā)展及潛在風(fēng)險，我國開始密集討論人工智能的風(fēng)險問題，發(fā)布一系列聲明、愿景及政策，試圖規(guī)范人工智能的發(fā)展路徑。

中國高度重視人工智能治理問題，治理理念側(cè)重于平衡發(fā)展和安全。2022年12月9日，最高人民法院就印發(fā)《關(guān)于規(guī)范和加強人工智能司法應(yīng)用的意見》（以下簡稱《意見》），開創(chuàng)性提出人工智能司法應(yīng)用的五個基本原則，其中之一是“輔助審判原則”。

《意見》著重從人工智能為司法工作提供全方位智能輔助支持、顯著減輕法官事務(wù)性工作負擔(dān)、有效保障廉潔司法、提高司法管理水平、創(chuàng)新服務(wù)社會治理等角度，明確了人工智能司法應(yīng)用的主要場景。要求加強人工智能全流程輔助辦案、加強人工智能輔助事務(wù)性工作，最大程度依托信息化手段，減少法官事務(wù)性工作，降低各類人員工作負擔(dān)，提高司法效率。要求加強人工智能服務(wù)多元解紛和社會治理，為社會公眾提供便捷的司法資源，為化解社會矛盾、服務(wù)社會治理提供新的途徑和方式。

“用一句話概括，就是‘司法裁判始終由審判人員作出，裁判職權(quán)始終由審判組織行使，司法責(zé)任最終由裁判者承擔(dān)’。換言之，無論是‘疑難雜癥’，還是簡單案件，最終決定判多少年、賠多少錢都應(yīng)當是人類法官?！弊罡呷嗣穹ㄔ核痉ǜ母镱I(lǐng)導(dǎo)小組辦公室負責(zé)人、國際合作局副局長何帆說。

就人工智能技術(shù)現(xiàn)狀和固有局限性以及法律審判的復(fù)雜性而言，ChatGPT還無法成為“真正的法官”。普通民眾的心聲是，人類公平正義的最后一道防線應(yīng)該交給有情感的人類來守護，而不應(yīng)交給一個冰冷的“按鈕”。人工智能無法替代法官，也不應(yīng)替代法官。

此外，去年4月，國家互聯(lián)網(wǎng)信息辦公室起草《生成式人工智能服務(wù)管理辦法（征求意見稿）》。《生成式人工智能服務(wù)管理暫行辦法》于去年7月正式公布，從技術(shù)發(fā)展與治理、服務(wù)規(guī)范、監(jiān)督檢查和法律責(zé)任等方面對生成式人工智能作出具體規(guī)定，并于去年8月15日起施行，這是全球首部針對生成式人工智能的專門立法。與此同時，中國也推出一系列針對深度合成、算法等專門領(lǐng)域的規(guī)定，例如《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》。中國還提出《全球人工智能治理倡議》，對個人隱私與數(shù)據(jù)保護、數(shù)據(jù)獲取、算法設(shè)計、技術(shù)開發(fā)以及風(fēng)險等級測試評估和倫理準則等提出了具體的原則準則或建議。

未來，人工智能法的立法還需要根據(jù)人工智能快速迭代的發(fā)展進行不斷調(diào)整。人工智能作為當前最受矚目的新興科技，我們必須重視由此引發(fā)的法律挑戰(zhàn)，通過立法為人工智能的發(fā)展保駕護航，讓人工智能更好地造福人類社會，服務(wù)國家發(fā)展。

文章來源：《法制與新聞》雜志2024年11月上期

   編輯：周潔萌