سخنگوی قوه قضائیه در گفتوگو با آنا مطرح کرد
در گفتوگو با آنا مطرح شد
حجتالاسلاموالمسلمین کاشانی:
پنتاگون اتکای بیش از حد به هوش مصنوعی پالانتیر را از عوامل حمله مرگبار به مدرسه میناب میداند
به گزارش خبرگزاری آنا مقامهایی که با بلومبرگ گفتوگو کردهاند، نتیجه بررسی داخلی را نه حاصل یک خطای منفرد بلکه زنجیرهای از اشتباهات قابل پیشگیری توصیف کردهاند. مدرسه میناب سالها پیش در پایگاههای اطلاعاتی آمریکا بهعنوان بخشی از یک مجموعه نظامی ثبت شده بود، اما تغییر کاربری محل در همان دادههای اصلی بهروزرسانی نشد و این مکان در آستانه آغاز حملات آمریکا همچنان بهعنوان هدف نظامی بالقوه باقی ماند. تصاویر تجاری ماهوارهای از سالها قبل دیوارهای جداکننده، ورودی مستقل، زمین فوتبال و نشانههای یک محیط آموزشی را در محل ثبت کرده بودند.
انتظار اشتباه از هوش مصنوعی پالانتیر
سامانه هوشمند Maven که پالانتیر آن را برای وزارت دفاع آمریکا توسعه داده، اطلاعات بیش از ۱۵۰ منبع را در یک محیط واحد ترکیب میکند تا تحلیلگران و فرماندهان بتوانند دادههای مرتبط با مأموریت و اهداف احتمالی را سریعتر بررسی کنند. مقامهای آگاه از تحقیقات گفتهاند برخی کارکنان فرماندهی مرکزی انتظار داشتند این سامانه اطلاعات قدیمی یا تناقضهای موجود در پرونده اهداف را بهطور خودکار شناسایی و علامتگذاری کند، در حالی که مشخص نیست چنین قابلیتی در آن زمان بخشی از وظایف تعریفشده Maven بوده باشد. محل مدرسه همراه اهداف دیگر وارد این سامانه شد و در نهایت در میان اهداف پیشنهادی روز نخست عملیات قرار گرفت.
فرایندی که در عملیاتهای قبلی برای آمادهسازی فهرست اهداف ممکن بود ساعتها طول بکشد، با استفاده از Maven در بعضی مراحل به چند دقیقه کاهش یافته بود. بررسی پنتاگون طبق روایت بلومبرگ به این نتیجه رسیده که اعتماد زیاد به خروجی سامانه، همراه با کیفیت نامناسب دادههای ورودی و فرصت محدود برای بازبینی دستی، یکی از چند عامل مؤثر در باقی ماندن مدرسه در زنجیره هدفگیری بوده است. این یافته به معنای آن نیست که سامانه هوش مصنوعی بهتنهایی هدف را انتخاب یا فرمان شلیک صادر کرده باشد و تصمیم نهایی همچنان از چند مرحله بررسی انسانی و نظامی عبور کرده است.
پالانتیر نقص نرمافزار را رد میکند
پالانتیر گفته مسئول اطلاعات اولیهای نیست که دولت آمریکا وارد Maven میکند و مدرکی وجود ندارد که نقص نرمافزار این شرکت باعث حمله میناب شده باشد. افراد آشنا با قراردادهای پنتاگون نیز به بلومبرگ گفتهاند مسئولیت اصلی کیفیت و صحت دادههای واردشده به سامانه بر عهده دولت است. اختلاف اصلی در این پرونده بیشتر به نحوه استفاده انسانها از ابزار مربوط میشود، زیرا برخی کاربران ظاهراً توانایی سامانه برای تشخیص اطلاعات منسوخ یا متناقض را بیشتر از چیزی که طراحی و قرارداد آن تضمین میکرد، فرض کرده بودند.
پالانتیر پس از حمله قابلیتهای تازهای به Maven اضافه کرده که اطلاعات زیربنایی یک هدف را دوباره بررسی میکند تا عوامل احتمالی برای کنار گذاشتن آن یا تناقضها و خطاهایی را که ممکن است در بررسی انسانی دیده نشده باشند، علامت بزند. فردی آشنا با این تغییرات به بلومبرگ گفته قابلیت تازه تاکنون برخی ناهنجاریها را شناسایی کرده است، اما این شرکت جزئیات فنی مستقلی درباره عملکرد یا نرخ خطای آن منتشر نکرده است.
اطلاعات سالها قبل تغییر کاربری مدرسه را ثبت کرده بودند
بررسی تصاویر ماهوارهای تجاری نشان میدهد جداسازی محدوده مدرسه از مجموعه نظامی مجاور تا حدود سال ۲۰۱۷ انجام شده بود و تصاویر سال ۲۰۱۸ نشانههای آشکاری مانند دیوارهای رنگشده، زمین ورزشی و خطکشی محوطه مدرسه را ثبت کرده بودند. بلومبرگ پیشتر گزارش داده بود یکی از تحلیلگران آمریکایی در سال ۲۰۱۹ نیز متوجه تغییرات شده و آنها را در سامانهای جداگانه ثبت کرده بود، اما آن یادداشتها به پایگاه اطلاعاتی اصلی مورد استفاده برای هدفگیری منتقل نشدند. مدرسه علاوه بر این در اینترنت حضور عمومی داشت و موقعیت آن در سرویسهایی مانند گوگل مپس قابل مشاهده بود.
مقامهای درگیر در تحقیقات همچنین گفتهاند تیمهای کاهش آسیب به غیرنظامیان در وزارت دفاع طی سالهای اخیر کوچک شده بودند و گروه مربوط به فرماندهی مرکزی از ۱۰ نفر به یک نفر رسیده بود. براساس گزارش بلومبرگ، هیچ عضو این تیم پیش از شلیک موشکها پرونده میناب را بررسی نکرد و همزمان آمادهسازی بیش از هزار هدف در ساعات نخست عملیات، زمان در دسترس برای کنترل دوباره اطلاعات را محدود کرده بود. این بخش از یافتهها نیز تاکنون فقط از طریق منابع آگاه از بررسی داخلی منتشر شده و گزارش کامل وزارت دفاع همچنان در دسترس عموم قرار نگرفته است.
سازمان ملل احتمال ارتکاب جنایت جنگی را مطرح کرده است
هیأت حقیقتیاب مستقل سازمان ملل درباره ایران در گزارشی جداگانه گفته «دلایل معقولی» برای این نتیجه وجود دارد که حمله به مدرسه میناب و یک حمله دیگر در همان روز میتوانند مصداق حملات بیتمایز و جنایت جنگی باشند. این هیأت اعلام کرده آمریکا در انجام اقدامات ممکن برای اطمینان از نظامی بودن هدف کوتاهی کرده و این کوتاهی فراتر از سهلانگاری صرف بوده است. یافته هیأت حقیقتیاب به معنای صدور حکم قضایی علیه افراد یا دولت آمریکا نیست. گزارشهای سازمان ملل نیز پیشتر درباره حمله به مدرسه میناب و تلفات گسترده غیرنظامیان ابراز نگرانی کرده بودند.
واشنگتن مسئولیت حمله را بهطور عمومی نپذیرفته است. دونالد ترامپ در اسفند گفته بود براساس اطلاعاتی که دیده، معتقد است ایران مسئول حمله بوده و چند ماه بعد نیز گفت احتمالاً هیچکس هرگز نمیتواند با قطعیت بگوید چه اتفاقی افتاده است. یک مقام ارشد دولت آمریکا نیز به بلومبرگ گفته «ایالات متحده غیرنظامیان را هدف قرار نمیدهد». با این حال، همین حمله براساس بررسی بلومبرگ تعداد زیادی کشته بر جا گذاشت که دستکم 168 نفر آنها کودک بودند و برخی کارکنان پنتاگون نیز طبق منابع این گزارش ظرف چند ساعت از نقش آمریکا در حمله مطلع شده بودند.
خطاهای مشابه در استفاده از هوش مصنوعی
گزارش اصلی در پایان پرونده میناب را در کنار موارد دیگری قرار میدهد که اتکای زیاد به سامانههای هوش مصنوعی در حوزههای نظامی و انتظامی به تصمیمهای نادرست منجر شده است. در یکی از موارد اخیر، یک تحلیلگر عملیات ویژه آمریکا از یک چتبات استفاده کرد که به اشتباه اعلام کرده بود یک کشتی با پرچم چین در خاورمیانه قطعات مرتبط با سلاح هستهای را برای ایران حمل میکند. ارتش آمریکا برای سوار شدن به کشتی آماده شد، اما پس از بررسی دوباره اطلاعات در آخرین لحظه عملیات را متوقف کرد.
نمونههای دیگری نیز در استفاده نیروهای انتظامی از تشخیص چهره ثبت شده است. در فلوریدا یک تطبیق خودکار چهره به بازداشت فردی منجر شد که هنگام وقوع جرم صدها کیلومتر دورتر در محل کار خود حضور داشت و ماهها در زندان ماند تا در نهایت اتهامات وی کنار گذاشته شود. پرونده دیگری نیز به بازداشت فردی انجامید که بیش از ۴۸۰ کیلومتر با محل جرم فاصله داشت. منبع گزارش با اشاره به این موارد تأکید میکند که پیامد اعتماد بدون بررسی به خروجی سامانههای خودکار در حوزههایی مانند عملیات نظامی و اجرای قانون میتواند بسیار سنگینتر از کاربردهای معمول هوش مصنوعی باشد، زیرا تصمیم نادرست در این محیطها مستقیماً با آزادی یا جان انسانها ارتباط پیدا میکند.
انتهای پیام/
