سالیوان اند کرامول پس از تولید استنادهای حقوقی جعلی توسط AI از دادگاه عذرخواهی کرد

TLDR

• یک شرکت حقوقی معتبر سند دادگاهی با استنادهای ساختگی توسط هوش مصنوعی ارائه می‌دهد

• Sullivan & Cromwell شکست‌های تأیید در پرونده ورشکستگی مالی را می‌پذیرد

• نادرستی‌های تولیدشده توسط هوش مصنوعی ارائه به دادگاه فدرال را به خطر می‌اندازد

• وکیل طرف مقابل قوانین پرونده ساختگی را در پرونده حقوقی کشف می‌کند

• این رویداد نیاز حیاتی به پروتکل‌های تأیید پیشرفته‌تر هوش مصنوعی را برجسته می‌کند

حرفه حقوقی پس از خطای قابل توجهی توسط یک شرکت حقوقی برجسته آمریکایی، بار دیگر با موشکافی درباره قابلیت اطمینان هوش مصنوعی روبه‌رو شده است. Sullivan & Cromwell به‌طور عمومی پذیرفته که سند دادگاهی پر از استنادهای ساختگی توسط هوش مصنوعی و مراجع حقوقی نادرست ارائه داده است. این رویداد شرکت را بر آن داشته تا یک تحقیق داخلی جامع درباره حفاظ‌های هوش مصنوعی خود انجام دهد.

استنادهای ساختگی ارائه به دادگاه فدرال را به خطر می‌اندازند

این شرکت حقوقی معتبر نواقص قابل توجهی در یک سند ورشکستگی مالی فصل ۱۵ مرتبط با دعوای گروه Prince کشف کرد. سیستم‌های هوش مصنوعی ارجاعات پرونده‌های ساختگی تولید کردند و مقررات قوانین ورشکستگی ایالات متحده را به‌اشتباه تحلیل کردند. این جعلیات در مواد ارائه‌شده به دادگاه ورشکستگی فدرال نیویورک گنجانده شدند.

Andrew Dietderich، که بر بخش بازسازی شرکت نظارت دارد، مسئولیت شخصی کاستی‌های سند را پذیرفت. او تأیید کرد که اگرچه شرکت دستورالعمل‌های تثبیت‌شده‌ای برای استفاده از هوش مصنوعی دارد، این پروتکل‌ها در طول تهیه این سند خاص رعایت نشدند. سازمان از آن زمان اقدامات اصلاحی برای جلوگیری از تکرار اشتباهات مبتنی بر هوش مصنوعی در ارائه‌های حقوقی بعدی اجرا کرده است.

Boies Schiller Flexner، به نمایندگی از طرف‌های مخالف، مغایرت‌ها را شناسایی و به توجه قضایی رساند. بررسی آن‌ها آشکار کرد که برخی پرونده‌های ارجاع‌شده کاملاً ناموجود بودند یا آرای قضایی کاملاً نامرتبط را استناد کرده بودند. در نتیجه، شرکت یک نسخه اصلاح‌شده با یادداشت‌هایی که به‌وضوح خطاهای تولیدشده توسط هوش مصنوعی را شناسایی می‌کردند ارائه داد.

شکست‌های تأیید چالش‌های سیستماتیک هوش مصنوعی را برجسته می‌کنند

این رویداد مشکلات گسترده‌ای را که شرکت‌های حقوقی با استفاده از هوش مصنوعی برای افزایش بهره‌وری و مدیریت پرونده‌ها با آن روبه‌رو هستند نشان می‌دهد. بسیاری از دفاتر حقوقی از سیستم‌های هوش مصنوعی برای تحقیقات حقوقی و ایجاد اسناد استفاده می‌کنند، اما پروتکل‌های تأیید ناکافی همچنان آسیب‌پذیری‌هایی ایجاد می‌کنند. متخصصان حقوقی باید تنش میان کارایی عملیاتی و دقت را هنگام جاسازی هوش مصنوعی در جریان‌های کاری خود مدیریت کنند.

Sullivan & Cromwell اعلام کرده که سیاست‌های دقیق استفاده از هوش مصنوعی، از جمله بررسی دستی اجباری تمام مواد تولیدشده توسط هوش مصنوعی را اجرا می‌کند. شرکت پذیرفت که مکانیزم‌های کنترل کیفیت در این پرونده شکست خوردند و اجازه دادند محتوای معیوب بدون بررسی پیش برود. این رویداد بررسی چارچوب‌های حاکمیتی هوش مصنوعی در زمینه‌های حقوقی حیاتی را تشدید کرده است.

داده‌های صنعت افزایش فراوانی توهمات هوش مصنوعی در پرونده‌های قضایی را نشان می‌دهد، به‌ویژه در مورد سوابق حقوقی اختراع‌شده. تحقیقات بیش از ۱٬۳۰۰ مورد از این قبیل را در سراسر جهان مستند کرده، با اکثریت متمرکز در دادگاه‌های آمریکا. این الگوی نوظهور ضرورت مکانیزم‌های احراز هویت دقیق‌تر هنگام استقرار هوش مصنوعی در فرآیندهای مستندسازی حقوقی را برجسته می‌کند.

پیامدها فراتر از یک رویداد منفرد امتداد دارند

دعوای گروه Prince بر اتهامات طرح‌های گسترده تقلب، شامل شیوه‌های کار اجباری و تخلفات مالی متمرکز است. دادستان‌های ایالات متحده هم پیگرد کیفری و هم تلاش‌های مصادره اموال مرتبط با عملیات این سازمان را آغاز کرده‌اند. در نتیجه، دقت در اسناد حقوقی در پرونده‌هایی که اتهامات پیچیده فراملی را در بر می‌گیرند از اهمیت بالایی برخوردار می‌شود.

Sullivan & Cromwell پیش از این موکلانی را در پرونده‌های برجسته، از جمله اقدامات ورشکستگی مالی صرافی FTX نمایندگی کرده است. شرکت نرخ‌های ممتاز دریافت می‌کند و پرونده‌های پیچیده بازسازی را در چندین حوزه قضایی مدیریت می‌کند. این خرابی مرتبط با هوش مصنوعی سؤالاتی درباره کنترل کیفیت در شرکت‌های حقوقی بزرگ ایجاد کرده است.

شرکت در حالی که برنامه‌های آموزشی و چارچوب‌های انطباق حاکم بر استقرار هوش مصنوعی را بازنگری می‌کند، تحقیق داخلی در دست اقدام خود را ادامه می‌دهد. هدف آن تقویت اقدامات حفاظتی و افزایش مسئولیت در طول جریان‌های کاری ایجاد سند است. با شتاب گرفتن یکپارچه‌سازی هوش مصنوعی، صنعت حقوقی با انتظارات فزاینده‌ای برای تضمین قابلیت اطمینان و حذف اشتباهات پرهزینه روبه‌رو است.

The post Sullivan & Cromwell Issues Court Apology After AI Generates False Legal Citations appeared first on Blockonomi.