因應生成式AI時代來臨 司法節研討會聚焦AI

司法院長許宗力表示，國家公權力運用AI技術，須更注意資安問題。（圖／司法院提供，2024.01.11）

[NOWnews今日新聞] 為慶祝一年一度之司法節，司法院、法務部及全國律師聯合會今（11）日在國家圖書館共同舉辦「第79屆司法節學術研討會」。為因應人工智慧帶來的遽變與挑戰，研討議題觸及法律界對於AI發展的重要問題，包括「生成式AI在法律實務之應用及對人權、弱勢與性別帶來之挑戰」、「生成式AI對刑事實務之挑戰」及「演算法社會的憲政主義思考－AI時代的人權保障挑戰」。

今天的研討會邀請司法院長許宗力、全律會理事長尤美女、法務部長蔡清祥共同主持，並邀請各界專家學者及檢、審、辯、警、調等實務工作者，討論及分享AI發展對司法帶來的挑戰，各界均認AI議題是法律人無法迴避而更應共同回應的重要課題。

許宗力致詞表示，無論未來AI科技如何發展，只要審判是國家公權力的行使，憲政主義（Constitutionalism）精神就不能被挑戰、被破壞。在此前提下，生成式AI在審判實務的應用及挑戰，應特別留意六點原則：一、AI應用在審判實務，司法的可課責性（Accountability ）對象依然是人類，不是AI。

二、AI在審判實務應用的程度越強，對人民訴訟權與其他基本權的影響也就可能越大，就越應考慮是否有法律保留的適用，單單司法權內部的指引可能還無法正當化其適用。

三、AI對審判結果的產出影響越大，其演算法的黑盒子可能必須打開，當事人才能檢驗審判結果的正確性與合法性。且應用生成式AI，越應讓人們檢視，其餵食訓練的資訊，是否都是符合我們憲法自由民主憲政價值的資訊。

四、生成式AI越進化，可能需研議是否存在有那些事務是屬於「人類法官保留」領域，也就是純粹人類腦力決定，不應應用AI。

五，相對應的，是否應承認人民擁有某種「不受AI審判的基本權」或者說「受人類審判的基本權」。六、越是應用AI在國家公權力之行使（當然包括司法權之行使在內），就越有義務注意資安問題。



蔡清祥表示，法務部3年前開始發展AI助手，目前在2個地檢署試辦，希望藉由科技協助檢察機關處理較為簡易的案件或機械性且重複性的工作，例如公共危險、人頭戶詐欺案件；另外，過去「眼見為憑」，如今眼見耳聞都不足為憑，AI製造足以亂真的假圖像、影音都不能相信，且實務上生成式AI產生的訊息或判斷，不易察覺隱藏其中種族、文化、性別歧視，也欠缺對隱私、個資、著作權的保障，這些均有賴法律保護。

蔡說，法律做為避免AI發展失控的一道重要防線，以及引導AI良善發展的制度工具，該如何調整因應，法律人均責無旁貸。

相關新聞

蘇震清違法收受360萬政治獻金 北高行判全數沒入、裁罰116萬

「華爾街女神」母女殺姑奪產 涉暴力脅迫小姑出借不動產追加起訴

侵占台北律師公會逾6000萬元 「神鬼女會計」二審加重改判7年