یک متخصص هوش مصنوعی در گفت‌وگو با آناتک:
شرکت‌های بزرگ هوش مصنوعی برای مدیریت بحران‌های احتمالی آماده می‌شوند
به گزارش خبرگزاری آنا؛ نگرانی درباره پیامدهای توسعه سریع هوش مصنوعی باعث شده بعضی از بزرگ‌ترین شرکت‌های این صنعت برنامه‌ریزی برای شرایط بحرانی را جدی‌تر دنبال کنند. بر اساس گزارش آکسیوس، شماری از مدیران و پژوهشگران فعال در حوزه هوش مصنوعی معتقدند احتمال وقوع یک حادثه بزرگ مرتبط با این فناوری در ۶ تا ۱۲ ماه آینده وجود دارد. سناریو‌های مورد بررسی شامل حملات سایبری گسترده‌ای هستند که ممکن است دسترسی مردم به خدمات مالی، اینترنت یا زیرساخت‌هایی مانند شبکه برق و تأمین آب را مختل کنند. منشأ چنین حوادثی می‌تواند سوءاستفاده مهاجمان از ابزار‌های پیشرفته هوش مصنوعی یا عملکرد خارج از کنترل سامانه‌های خودکار باشد. البته این ارزیابی‌ها پیش‌بینی‌های برخی فعالان صنعت هستند و تاکنون شواهدی منتشر نشده که وقوع یک بحران مشخص را در بازه زمانی یادشده تأیید کند.
آمادگی برای روز پس از بحران
برنامه‌ریزی برای مدیریت بحران در شرکت‌های بزرگ موضوع تازه‌ای نیست، اما تفاوت شرایط فعلی صنعت هوش مصنوعی به گستردگی پیامد‌هایی مربوط می‌شود که بعضی مدیران آن را محتمل می‌دانند. به گفته منابع آکسیوس، نگرانی تنها به اختلال در عملکرد یک محصول یا افشای اطلاعات کاربران محدود نیست و سناریوهایی بررسی می‌شوند که در آن یک حمله مبتنی بر هوش مصنوعی می‌تواند فعالیت بخش‌های مهمی از جامعه را مختل کند. برای نمونه، مهاجمانی که از ایجنت‌های هوش مصنوعی برای شناسایی آسیب‌پذیری‌ها و اجرای حملات استفاده می‌کنند، ممکن است بتوانند عملیات پیچیده‌تری را با سرعت و مقیاس بالاتر انجام دهند. سناریوی دیگر به سامانه‌های خودکاری مربوط می‌شود که رفتار آن‌ها از محدوده مورد انتظار سازندگان خارج می‌شود و اقدامات پیش‌بینی‌نشده‌ای انجام می‌دهند.
شرکت‌های توسعه‌دهنده هوش مصنوعی انتظار دارند در صورت وقوع حادثه‌ای بزرگ، بخش قابل توجهی از مسئولیت آن در افکار عمومی متوجه سازندگان مدل‌ها شود، حتی اگر عامل مستقیم حادثه یک مهاجم خارجی باشد. به همین دلیل آماده‌سازی برای شرایط بحرانی علاوه بر واکنش فنی و امنیتی، مدیریت ارتباطات عمومی و پاسخ‌گویی به نهاد‌های قانون‌گذار را نیز در بر می‌گیرد. گزارش آکسیوس حاکی از آن است که بعضی مدیران ارشد و پژوهشگران وقوع حادثه‌ای بزرگ را تقریباً اجتناب‌ناپذیر می‌دانند، هرچند درباره زمان، شکل و شدت آن اتفاق‌نظر وجود ندارد. این دیدگاه در شرایطی مطرح شده که برخی پژوهشگران طی سال جاری هشدار‌های شدیدتری درباره خطرات بلندمدت هوش مصنوعی، از جمله احتمال تهدید بقای انسان در دهه آینده، مطرح کرده‌اند؛ هشدار‌هایی که میزان احتمال تحقق آن‌ها همچنان محل اختلاف است.
بررسی سناریو‌های خطرناک و ارتباط با کنگره
بخشی از اقدامات شرکت‌های هوش مصنوعی شامل اجرای آزمایش‌هایی با عنوان Red Teaming است که در آن گروه‌هایی تلاش می‌کنند با شبیه‌سازی رفتار مهاجمان یا شرایط نامطلوب، نقاط ضعف سامانه‌ها و شیوه واکنش سازمان را شناسایی کنند. این آزمایش‌ها می‌توانند سناریوهایی مانند سوءاستفاده از مدل‌ها برای حملات سایبری، اختلال در سامانه‌های حیاتی یا از کنترل خارج شدن بعضی فرایند‌های خودکار را در بر بگیرند. هدف آن است که شرکت‌ها پیش از مواجهه با حادثه واقعی، پیامدهای احتمالی را بررسی کنند و مشخص شود در شرایط اضطراری چه اقداماتی باید انجام شود. البته جزئیات فنی تمرین‌های داخلی شرکت‌ها و نتایج ارزیابی‌های آن‌ها به‌صورت عمومی منتشر نشده است.
آماده‌سازی‌ها به مسائل فنی محدود نیست و شرکت‌ها تلاش می‌کنند ارتباط نزدیک‌تری با اعضای کنگره آمریکا برقرار کنند. بر اساس گزارش آکسیوس، مدیران صنعت هوش مصنوعی می‌خواهند قانون‌گذاران از پیش با ویژگی‌ها و خطرات این فناوری آشنا شوند تا اگر حادثه بزرگی رخ داد، تصمیم‌گیری درباره مقررات جدید تنها تحت تأثیر واکنش فوری به بحران نباشد. این رویکرد همچنین به شرکت‌ها فرصت می‌دهد دیدگاه خود را درباره مسئولیت سازندگان مدل‌ها، محدودیت‌های احتمالی و سازوکار‌های نظارتی در اختیار سیاست‌گذاران قرار دهند. با این حال حضور مستقیم شرکت‌های فناوری در فرایند شکل‌گیری مقررات، پرسش‌هایی درباره میزان تأثیر منافع تجاری آن‌ها بر قوانین آینده ایجاد می‌کند.
توافق داوطلبانه شرکت‌ها با دولت آمریکا
بحث درباره مدیریت خطرات هوش مصنوعی اندکی پس از نشست ۷ مهر در کاخ سفید شدت گرفته است. در این جلسه که با حضور دونالد ترامپ، رئیس‌جمهور آمریکا، و مدیران شرکت‌هایی مانند گوگل، متا، آنتروپیک، اوپن‌ای‌آی، ایکس‌ای‌آی و انویدیا برگزار شد، طرفین توافقی داوطلبانه درباره رعایت مجموعه‌ای از اصول ایمنی هوش مصنوعی امضا کردند. بر اساس این توافق، شرکت‌ها متعهد شده‌اند اقدامات نظارتی مشخصی را در داخل سازمان‌های خود اجرا کنند و با ارزیابان مستقل برای بررسی عملکرد سامانه‌های هوش مصنوعی همکاری داشته باشند. موضوعاتی مانند جلوگیری از دسترسی غیرمجاز به مدل‌ها و اطمینان از عملکرد آن‌ها مطابق اهداف تعیین‌شده نیز از محور‌های توافق هستند.
توافق اخیر سازوکار الزام‌آور قانونی ندارد و اجرای تعهدات آن تا حد زیادی به همکاری داوطلبانه شرکت‌های امضاکننده وابسته است. ترامپ این توافق را از نظر اخلاقی الزام‌آور توصیف کرده، اما هنوز مشخص نیست در صورت رعایت نشدن تعهدات، چه پیامد حقوقی مشخصی متوجه شرکت‌ها خواهد شد. همین مسئله باعث شده بعضی فعالان و پژوهشگران حوزه ایمنی درباره کافی بودن نظارت داوطلبانه تردید داشته باشند. اختلاف اصلی بر سر این موضوع است که آیا شرکت‌های سازنده مدل‌های قدرتمند می‌توانند به‌تنهایی خطرات محصولات خود را کنترل کنند یا برای کاهش احتمال حوادث گسترده، مقررات دولتی و نظارت مستقل بیشتری لازم است.
احتمال سخت‌گیرانه‌تر شدن قوانین
نگرانی شرکت‌ها درباره آینده مقررات هوش مصنوعی با تحولات سیاسی آمریکا نیز ارتباط دارد. بر اساس گزارش آکسیوس، بعضی مدیران صنعت انتظار دارند در صورت افزایش قدرت دموکرات‌ها پس از انتخابات میان‌دوره‌ای امسال، فشار برای وضع قوانین سخت‌گیرانه‌تر افزایش پیدا کند. وقوع یک حادثه بزرگ مرتبط با هوش مصنوعی نیز می‌تواند چنین مطالباتی را تشدید کند و زمینه بررسی محدودیت‌های تازه برای توسعه یا عرضه مدل‌های پیشرفته را فراهم سازد. با این حال نوع واکنش کنگره و دولت به شرایط سیاسی و جزئیات حادثه احتمالی وابسته خواهد بود و نمی‌توان از هم‌اکنون درباره مقررات آینده نتیجه‌گیری قطعی کرد.
این نگرانی‌ها در حالی مطرح می‌شوند که مدیران بعضی شرکت‌های پیشرو نیز درباره سرعت توسعه مدل‌های قدرتمند هشدار داده‌اند. شماری از مدیران و پژوهشگران اوپن‌ای‌آی و آنتروپیک پیش‌تر خواستار احتیاط بیشتر در توسعه سامانه‌های پیشرفته شده بودند و برخی متخصصان نیز معتقدند افزایش توانایی مدل‌ها باید با ارزیابی دقیق‌تر خطرات همراه باشد. سم آلتمن، مدیرعامل اوپن‌ای‌آی، نیز در گفت‌وگوی اخیر خود با پولیتیکو اظهار کرده بود که جهان باید در کنار بهره‌مندی از مزایای هوش مصنوعی، احتمال وقوع بعضی پیامدهای نامطلوب را نیز بپذیرد. این اظهارنظر در شرایطی مطرح شده که شرکت‌های سازنده مدل‌ها با پرسش‌های فزاینده‌ای درباره مسئولیت خود در قبال سوءاستفاده از محصولاتشان روبه‌رو هستند.
واکنش اوپن‌ای‌آی به گزارش آمادگی برای بحران
اوپن‌ای‌آی در پاسخ به آکسیوس تأیید کرده که تمرین‌هایی برای آمادگی در برابر شرایط مختلف انجام می‌دهد. سخنگوی این شرکت توضیح داده است که تیم‌های داخلی طی این تمرین‌ها مجموعه‌ای از سناریو‌های احتمالی را بررسی می‌کنند و درباره شیوه مواجهه با آن‌ها تصمیم می‌گیرند. وی تأکید کرده که شرکت این سناریو‌ها را اتفاقاتی حتمی در نظر نمی‌گیرد و هدف از اجرای آن‌ها، افزایش آمادگی برای شرایط متفاوت است. این توضیح با ادعای بعضی منابع صنعت که وقوع حادثه‌ای بزرگ را اجتناب‌ناپذیر می‌دانند تفاوت دارد و به معنی تأیید پیش‌بینی وقوع بحران در ماه‌های آینده نیست.
آنتروپیک نیز تا زمان انتشار گزارش اولیه، پاسخ رسمی به درخواست اظهارنظر ارائه نکرده بود. با این حال اطلاعات منتشرشده حاکی از آن است که موضوع آمادگی برای حوادث گسترده، از سطح ارزیابی‌های فنی به برنامه‌ریزی مدیریتی و تعامل با نهاد‌های قانون‌گذار گسترش یافته است. شرکت‌ها اکنون علاوه بر تلاش برای کاهش احتمال سوءاستفاده از مدل‌های خود، پیامدهای سیاسی و حقوقی حوادث احتمالی را نیز بررسی می‌کنند؛ موضوعی که می‌تواند بر نحوه تدوین مقررات آینده و میزان مسئولیت‌پذیری سازندگان سامانه‌های هوش مصنوعی تأثیر بگذارد.
انتهای پیام/
