معاون پژوهش و فناوری دانشگاه آزاد اسلامی بجنورد اعلام کرد
دانشجوی دپارتمان علوم رایانه و اطلاعات دانشگاه پنسیلوانیا در گفتوگو با آناتک:
خطای چتبات هوش مصنوعی ارتش آمریکا را تا آستانه توقیف کشتی چینی کشاند
به گزارش خبرگزاری آنا؛ ماجرا در بهار امسال و همزمان با جنگ آمریکا با ایران رخ داد و جزئیات آن را CNN با استناد به ۴ منبع آگاه منتشر کرده است. یک تحلیلگر وابسته به فرماندهی عملیات ویژه آمریکا مجموعهای از اطلاعات محرمانه و منابع عمومی، از جمله اطلاعات مربوط به محموله کشتی چینی، را در اختیار یک چتبات قرار داد. ابزار هوش مصنوعی پس از تحلیل این دادهها به اشتباه نتیجه گرفت کشتی حامل قطعات مربوط به یک برنامه تسلیحات هستهای است و همین نتیجه وارد گزارشی شد که در بخشهای مختلف ارتش آمریکا گردش پیدا کرد. CNN نتوانسته مشخص کند تحلیلگر از یک چتبات تجاری استفاده کرده یا یکی از سامانههای داخلی دولت آمریکا.
ارتش برای ورود به کشتی آماده شده بود
گزارش نادرست با توجه به حساسیت محموله ادعایی، واکنش سریع مقامهای نظامی را در پی داشت و برنامهریزی برای رهگیری کشتی آغاز شد. به گفته منابع، نیروهای مسلح برای ورود به شناور آماده شده بودند و هواپیماهای نظامی نیز در آسمان قرار داشتند که تحلیلگران باتجربهتر اطلاعات اولیه پشت گزارش را دوباره بررسی کردند. آنها در این مرحله دریافتند چتبات ماهیت محموله را اشتباه تشخیص داده و ادعای مربوط به قطعات برنامه هستهای پایه معتبری ندارد، بنابراین عملیات پیش از ورود نیروهای آمریکایی به کشتی متوقف شد. یکی از منابع آگاه این گزارش اطلاعاتی را «کاملاً نادرست» توصیف کرده است.
خطای چتبات بدون بررسی کافی وارد گزارش اطلاعاتی شد
مسئله فقط تولید پاسخ اشتباه از سوی هوش مصنوعی نبود و روند استفاده انسانی از آن نیز نقش مهمی داشت. تحلیلگر ابتدا از چتبات برای تشخیص محموله استفاده کرد و براساس گزارش CNN، هوش مصنوعی بار دیگر در تهیه گزارش استاندارد اطلاعاتی نیز به کار گرفته شد. گزارش سپس در ساختار نظامی توزیع شد و مقامها پیش از بررسی دقیق دادههای پایه، آماده اقدام عملیاتی شدند. در نهایت همین بررسی انسانی در مرحله پایانی باعث شد اشتباه پیش از اجرای عملیات شناسایی شود.
مشخص نیست چه مدلی اطلاعات اشتباه را تولید کرده است
CNN نام چتبات یا شرکت سازنده آن را مشخص نکرده و فقط گزارش داده که سامانه مورد استفاده، اطلاعات مربوط به محموله را به اشتباه تفسیر کرده است؛ بنابراین نمیتوان این حادثه را به یک مدل تجاری یا شرکت مشخص نسبت داد. آنچه تأیید شده، استفاده یک تحلیلگر نظامی از ابزار هوش مصنوعی برای ترکیب و بررسی اطلاعات و سپس وارد شدن نتیجه نادرست آن به روند تصمیمگیری نظامی است.
نگرانی درباره نقش هوش مصنوعی در تصمیمهای نظامی بیشتر شده است
برخی منابع CNN گفتهاند این حادثه را نمیتوان صرفاً یک مورد منفرد دانست و استفاده از هوش مصنوعی در بخشهای مختلف ارتش آمریکا با سرعت در حال گسترش است. همزمان کارشناسان امنیتی آمریکایی و چینی نیز در روزهای اخیر خواستار حفظ نظارت انسانی بر کاربردهای حساس نظامی هوش مصنوعی و ایجاد سازوکارهایی برای جلوگیری از تشدید ناخواسته بحرانها شدهاند. پیشنهادهای مطرحشده شامل محدود کردن نقش سامانههای خودکار در تصمیمهای مرتبط با تسلیحات و ایجاد مسیرهای ارتباطی مستقیم میان کشورها در حوادث مرتبط با هوش مصنوعی است.
حادثه کشتی چینی در نهایت بدون درگیری پایان یافت، اما فاصله کوتاه میان یک خروجی نادرست هوش مصنوعی و آغاز یک عملیات واقعی، اهمیت بررسی مستقل اطلاعات تولیدشده با این ابزارها را در تصمیمهای نظامی برجسته کرده است. CNN گزارش داده که عملیات تنها زمانی لغو شد که تحلیلگران انسانی در آخرین مرحله دوباره به منابع اصلی مراجعه کردند و متوجه اشتباه چتبات شدند.
انتهای پیام/
