AIに人を裁けるか 「ChatGPT」が裁判官の模擬裁判、東大五月祭で公開実演

米OpenAIが開発したチャットAIボット・ChatGPTが裁判官を務める模擬裁判が、5月13日（土）に公開実演される。 東京大学の法学部と教養学部の学生有志などによる実演企画で、同大学の学園祭・五月祭に合わせて実施される。 会場は東京大学本郷キャンパスの安田講堂。 【重大告知】 機械に人は裁けるか−−？ GPT4を”裁判官”にした、国内初の模擬裁判公開実演。 ５／１３（土）、五月祭1日目。 東京大学本郷キャンパス安田講堂にて開廷。 pic.twitter.com/xzq9gqeIfN — AI法廷の模擬裁判/東大五月祭 (@AI_Judge_May) March 15, 2023 専門テストでも人間レベルの能力を発揮するChatGPT ChatGPTは米OpenAI社が開発するチャットAIボット。質問などをテキストで入力すると、AIによって回答が自然な文章で出力される、対話に最適化された

[IthacaChasma]

当然裁けると思う。被告人や証人の見た目や喋り方、司法と政治の関係、社会的影響への想像などで判断が揺らがない分、人間の裁判官より公平に裁くまである。

[BlueSkyDetector]

今のGPT-4の仕組みだと世間の持ってる偏見も学習してるので、むしろ「被告人や証人の見た目や喋り方、司法と政治の関係、社会的影響への想像などで判断が揺ら」ぐ可能性を認識して危惧すべきかと。

[mohno]

自動運転もそうだけど、結果に対して誰が責任を負うの？という話があって、たとえ「人間と同じことができる」ようになったとしても、だからって「やらせていい」かは別だと思う。あと、弁護士はハッキングするよね。

[hinonono]

人間特有の弱点はないが、囲碁でやられたようにAI特有の弱点があって、そこを突かれると人間には納得いきにくい内容になるのでは。そもAIは偏りやすい。普段はAI、異論あれば人間＋AIなど組み合わせての運用が強いか？

[wkpn]

AIには有罪か無罪か言う事は可能だと思うがAIは責任を取る事ができないので結局最終的にはAIが出したジャッジにイエスかノーかを言う人間が必要になる気がする。

[dollarss]

攻殻機動隊で見たやつだ…AI陪審員がズラリと並んでたのを思い出す。

[la25]

法律論的な正しさより、いかにAIをハックするかの技術論のほうが発達しそう（現今の実態も変わらないのか）

[Caerleon0327]

ある弁護士が『AIが裁判官にとってかわるか？』と聞かれ『今でもAIみたいに杓子定規な判決しか出ませんけどね』って皮肉ってた

[vanillayeti]

過去の判例を学んでしまうから人間より公平なんてことはないだろうしもっと差別的になるまである。てかこのイベントひろゆきとか成田みたいな匂いがプンプンするな

[Mysz]

AIは誤審に責任をとらないが、人間の判事・検事・刑事も誤審・誤捜査に個人として責任をとらないので、条件は対等である。

[Kukri]

今よりましになるなら使えばいい。そもそも100か0なんて現実にはないのだから、トータルでお得なら問題ないだろ

[minamihiroharu]

現実的には、法曹にとってのAI技術が「医療者にとってのCTやMRIの様なツール」になり得るかって話なんだろうと思う。

[agektmr]

AIに世の中を支配させた方が公平になるって考える人たちは間違いなく出てくる

[VNFn2uS7hy]

まぁ最初のうちはあくまで参考意見役として取り入れて、時間をかけてAIに移行するでしょうね。結局慣れの問題なので、100年時間使えば抵抗感ない人だけになってる。

[trkbt10]

証言にプロンプトインジェクションしこみたい

[aquatofana]

法律というのは社会を機能させるプログラムだから、AIにも法曹の「機能」は真似られるだろう。しかし、反例に学べばその裏にある偏見や差別(レイプを認めつつ無罪とか、外国籍には重量刑とか)を鮮烈に再生産するだろ

[ntstn]

プレ裁判的なのには使えそう。

[anmin7]

ChatGPT「まず正中線に沿って腹部を切開する(ギュッ)」

[daydollarbotch]

「人を裁ける」とは何かをまず定義しないと。定義によっては、現状、職業裁判官や裁判員（裁判の裁判体）が「人を裁け」ているとはいえないかもしれない。

[letitbomb78]

思考回路が一般市民レベルのシビュラシステムみたいな感じだろうか。

[table]

5月13日だと周回遅れになってそう

[tonza_dopeness]

シビュラシステム

[mtoy]

AIも人間も、良い面・悪い面がある。その匙加減が上手くできれば実用に耐えられると思うが、利権の問題で実戦投入は20年ぐらいかかりそう。

[shinobue679fbea]

さすが東大。今頃京大はどんなしょうもないけど知的さを失わない使い方があるか頭捻ってるはず

[i_ko10mi]

判決は出せなくても判決への根拠となる要素を整頓するのは向いてそう。過去の判例や持ち込まれた証拠集めて管理するとか。

[minamishinji]

面白そう

[taruhachi]

どれだけ判例を知っているかという知識に照らし合わせるのが裁判なので、素人参加型の裁判員制度よりずっと筋がよく裁けるとは思うが、裁かれる方が納得できるかは別問題だろうね。

[manatus]

裁判所と弁護士会と検察がAI持ち寄って多数決するMAGI型にしよう

[kuippa]

憲法にかかれている「迅速な公開裁判を受ける権利」が機能していない。人間がボトルネックでできていないことは、機械化したほうがいい。少額訴訟とか、予備裁判とか。

[cj3029412]

AI(愛)に人を裁けるかとは一体・・・

[estragon]

条文と判例に照らして適正な量刑と判決文が書けそうだけど、事実認定起案の書き方次第でどのようにでもできそうな。逆に言えば事実認定まで固まればあとはAIに任せても良いケースが多そう

[retire2k]

判決そのものよりも、判決理由がどういうものになるか。過去の判決理由とよく似た文章になるのかな。

[ichilhu]

試しに自衛隊が違憲か合憲か判断させてみたい

[toshiyam]

Q.E.D. iff 11巻に意図的な表記揺れで犯行現場を捏造し互いに別の現場の話をしたまま冤罪を成立させようとする話が出てくるけど、今のAI見てると普通に解決しちゃいそうだな、、、

[mionosuke]

面白そうだけど、前例を踏襲すると予想。

[yoiIT]

検察と弁護士の裁判官AIハック技術の競い合いになりそう。

[nori__3]

判例主義から抜けられないのでは

[chuujou]

これって、交差検証して「実際の判決と同じ判決が出せたら高精度」と言っていいんだろうか？アメリカだと陪審員制なので、Cohen’s Kappa などを使ってラベルそのものの揺らぎも統計化できるかも

[doko]

犯罪の成否の認定にせよ量刑にせよ、事実の認定をどうやるかってだけの話のような。複数の事実をインプットして、どの事実に重きをおいて認定するのかしないのかって感じかしら。

[NikugaTabetainoyo]

ほー