اشتباه هوش مصنوعی، موسسه حقوقی مشهور وال‌استریت را در دادگاه رسوا کرد

به گزارش نشریه علمی و فناوری «فیوچریسم» (Futurism)، در دادگاه‌های آمریکا روشی تازه رواج یافته است، وکلا متن‌های حقوقی طرف مقابل را بررسی می‌کنند تا مشخص شود آیا بخش‌هایی از آن بر پایه ادعا‌های بی‌پایه هوش مصنوعی نوشته شده است یا نه، و در صورت مشاهده، این موضوع را به قاضی گزارش می‌دهند. همین روند باعث شد موسسه حقوقی معتبر سالیوان و کرامول (Sullivan & Cromwell) که از مشتریان آن دونالد ترامپ (Donald Trump) نیز هست، با یک رسوایی جدی روبه‌رو شود.

روز شنبه، اندرو دیتدریچ (Andrew Dietderich)، رئیس مشترک بخش بازسازی این موسسه، در نامه‌ای رسمی از قاضی فدرال مارتین گلن (Martin Glenn) عذرخواهی کرد. این عذرخواهی پس از آن صورت گرفت که مشخص شد دادخواست ارائه‌شده در یک پرونده مهم، مملو از ارجاعات ساختگی بوده که یک ابزار هوش مصنوعی آنها را تولید کرده است. دیتدریچ در این نامه نوشت: «ما عمیقا متاسفیم که چنین اتفاقی رخ داده است.»

رهبران مالی بریتانیا: خروجی‌های نادرست، بزرگ‌ترین مانع در مسیر پذیرش هوش مصنوعی است

این خطا‌ها را موسسه رقیب، بوئیس شیلر فلکسنر (Boies Schiller Flexner)، در دادخواستی که شرکت در دادگاه فدرال ورشکستگی منهتن ثبت کرده بود، شناسایی کرد. بررسی‌ها نشان داد که در بخش‌هایی از متن، قانون ورشکستگی آمریکا به‌اشتباه نقل شده و به آرای قضایی‌ای استناد شده که یا نادرست خلاصه شده بودند یا به‌اشتباه شناسایی شده بودند. حتی یکی از «پرونده‌هایی» که شرکت به آن استناد کرده بود، اساسا وجود خارجی نداشت.

دیتدریچ که نگران احتمال اعمال مجازات بود، در نامه خود از «سیاست‌های سختگیرانه» موسسه درباره استفاده از هوش مصنوعی دفاع کرد و توضیح داد که این سیاست‌ها شامل «الزامات آموزشی درباره استفاده از ابزار‌های هوش مصنوعی در کار حقوقی» است. او تاکید کرد که این سیاست‌ها «در هنگام تهیه دادخواست رعایت نشده‌اند» و افزود: «می‌خواهم به دادگاه اطمینان بدهم که سیاست‌های موسسه درباره استفاده از هوش مصنوعی کاملا روشن و سختگیرانه است».

این حادثه تازه‌ترین نمونه از رسوایی‌های حقوقی ناشی از استفاده بی‌احتیاط از ابزار‌های هوش مصنوعی است؛ ابزار‌هایی که ممکن است قوانین یا آرای قضایی را اشتباه نقل کنند یا حتی پرونده‌های کاملا ساختگی بسازند

به گفته او، موسسه بلافاصله «اقدامات اصلاحی» را آغاز کرده است؛ از جمله بررسی اینکه چگونه این ادعا‌های بی‌پایه هوش مصنوعی از مراحل کنترل عبور کرده‌اند. نسخه اصلاح‌شده دادخواست نیز بعدا به دادگاه ارائه شد.

این‌که کدام مدل یا مدل‌های هوش مصنوعی در این اشتباه نقش داشته‌اند مشخص نشده است. با این حال، منابع نزدیک به موسسه به فایننشال تایمز (Financial Times) گفته‌اند که این شرکت دارای مجوز سازمانی برای (ChatGPT) شرکت (OpenAI) است.
این حادثه تازه‌ترین نمونه از رسوایی‌های حقوقی ناشی از استفاده بی‌احتیاط از ابزار‌های هوش مصنوعی است؛ ابزار‌هایی که ممکن است قوانین یا آرای قضایی را اشتباه نقل کنند یا حتی پرونده‌های کاملا ساختگی بسازند. موسسات حقوقی بزرگ دیگری نیز با چنین خطا‌هایی مواجه شده‌اند، از جمله مورگان و مورگان (Morgan & Morgan).

قاضی‌ها نیز در برخورد با این موارد سخت‌گیر بوده‌اند؛ از اعمال مجازات گرفته تا تهدید به ارجاع وکلا به کانون وکلا را انجام داده‌اند. برخی حتی روش‌های متفاوتی به کار گرفته‌اند، زمانی که دو وکیل از موسسه کوزن اوکانر (Cozen OConnor) به‌خاطر استفاده از مطالب اشتباه تولیدشده توسط هوش مصنوعی گرفتار شدند، قاضی به آنها اختیار داد که یا مجازات شوند، یا نامه‌ای به روسای دانشکده‌های حقوق خود بنویسند و توضیح دهند که چگونه مرتکب این اشتباه شده‌اند.