Sullivan & CromwellがAIによる虚偽の法的引用を受け、裁判所に謝罪

TLDR

• 名門法律事務所がAIが捏造した引用文献を含む裁判所書類を提出

• Sullivan & Cromwellが破産事件における検証の失敗を認める

• AIが生成した不正確な情報が連邦裁判所への提出書類を損なう

• 相手方弁護士が法的申立書における捏造された判例を発見

• 本件はAI検証プロトコルの強化が急務であることを浮き彫りにする

米国の名門法律事務所による重大なミスを受け、人工知能の信頼性をめぐる法曹界への scrutiny が再び高まっている。Sullivan & Cromwellは、AIが捏造した判例引用や不正確な法的参照が随所に含まれた裁判所書類を提出したことを公式に認めた。この事件を受け、同事務所は人工知能に関するセキュリティー対策の包括的な内部調査を実施することとなった。

捏造された引用文献が連邦裁判所への提出書類を損なう

この名門法律事務所は、Prince Groupの訴訟に関連するチャプター15破産書類に重大な欠陥があることを発見した。人工知能システムが架空の判例参照を生成し、米国破産法の条項を誤って分析した。これらの捏造された内容は、ニューヨーク連邦破産裁判所に提出された資料に含まれていた。

同事務所のリストラクチャリング部門を統括するAndrew Dietderichは、書類の不備について個人的な責任を認めた。同氏は、事務所がAI利用に関する確立されたガイドラインを定めているものの、この特定の書類作成時にはそのプロトコルが遵守されていなかったことを確認した。同組織はその後、今後の法的書類提出においてAI 駆動によるミスの再発を防ぐための是正措置を講じた。

相手方当事者を代理するBoies Schiller Flexnerが不一致を発見し、裁判所の注意を促した。同社の調査により、引用された一部の判例が完全に実在しないか、まったく無関係な司法意見を引用していることが明らかになった。これを受け、同事務所はAIが生成したエラーを明示する注釈を付した修正版を提出した。

検証の失敗がAIの組織的課題を浮き彫りに

この事例は、生産性向上と訴訟件数管理のために人工知能を導入している法律事務所が直面している広範な困難を示している。多くの法律事務所が法律調査や文書作成にAIシステムを活用しているが、不十分な検証プロトコルが依然として脆弱性を生み出し続けている。法律の専門家は、AIを業務ワークフローに組み込む際、業務効率と精度の間の緊張関係を乗り越えなければならない。

Sullivan & Cromwellは、AIが生成したすべての資料に対する義務的な手動審査を含む、厳格なAI利用ポリシーを施行していると述べた。同事務所は、今回の件で品質管理メカニズムが機能せず、欠陥のある内容がチェックされないまま進んでしまったことを認めた。この事件により、重要な法的文脈における人工知能ガバナンスの枠組みへの scrutiny が高まっている。

業界データによると、司法書類におけるAIハルシネーションの発生頻度が増加しており、特に架空の法的先例に関するものが多い。研究では世界全体で1,300件以上のそのような事例が記録されており、その大半は米国の裁判所に集中している。この新たなパターンは、法的文書作成プロセスにAIを活用する際に、より厳格な認証メカニズムが不可欠であることを強調している。

影響は単発的な事件を超えて広がる

Prince Group訴訟は、強制労働慣行や財務上の不正行為を含む広範な詐欺スキームの申し立てを中心としている。米国の検察当局は、同組織の業務に関連した刑事訴訟と財産没収の両手続きを開始している。そのため、複雑な国際的申し立てを伴う案件では、法的文書の精度が最重要となる。

Sullivan & Cromwellはこれまで、FTX取引所の破産手続きを含む著名な案件でクライアントを代理してきた。同事務所はプレミアム料金を請求し、複数の法的管轄にまたがる高度な再編案件を扱っている。このAI関連の失敗は、大手法律企業における品質管理に関する疑問を生じさせた。

同事務所は、人工知能の活用を管理する教育プログラムとコンプライアンスの枠組みを再評価しながら、進行中の内部調査を継続している。その目標には、保護措置の強化と文書作成ワークフロー全体にわたる責任の向上が含まれる。人工知能の統合が加速する中、法律業界は信頼性を保証し、高コストなミスを排除するための高まる期待に直面している。

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.