خطر اصلی هوش مصنوعی همین حالا هم وجود دارد

به گزارش خبرگزاری آنا؛ گیتس در گفت‌وگویی با ازرا کلاین از نیویورک تایمز تأکید کرده بخش مهمی از بحث درباره خطر هوش مصنوعی بیش از اندازه روی اتفاقاتی متمرکز شده که شاید در آینده رخ دهند، در حالی که به اعتقاد وی توانایی‌هایی برای ایجاد آسیب جدی همین حالا در دسترس هستند. وی برای توضیح این نگرانی از حملات سایبری مثال می‌زند و می‌گوید توانایی انجام حمله‌ای که بتواند حساب‌های بانکی را مختل یا شبکه برق را از کار بیندازد، دیگر صرفاً یک فرضیه درباره نسل‌های آینده هوش مصنوعی نیست. از نگاه گیتس، مسئله اصلی این است که مدل‌های فعلی همین حالا می‌توانند کد بنویسند، آسیب‌پذیری پیدا کنند، ابزار‌های مختلف را به کار بگیرند و در قالب ایجنت مجموعه‌ای از اقدامات را با دخالت محدود انسان انجام دهند؛ قابلیتی که اگر بدون محدودیت کافی در اختیار افراد مخرب قرار بگیرد، می‌تواند به حوادث واقعی و گسترده منجر شود.

نگرانی اصلی به توانایی‌های موجود برمی‌گردد

این دیدگاه با بسیاری از هشدار‌های رایج درباره هوش مصنوعی تفاوت دارد که روی رسیدن مدل‌ها به سطحی از خودمختاری یا هوش بسیار فراتر از انسان تمرکز می‌کنند. گیتس خطر فوری‌تری را مطرح می‌کند و معتقد است حتی بدون رسیدن به چنین مرحله‌ای، مدل‌های امروزی در حوزه‌هایی مانند امنیت سایبری به اندازه‌ای توانمند شده‌اند که استفاده نادرست از آن‌ها می‌تواند پیامد‌های جدی داشته باشد. وی به توانایی مدل‌های هوش مصنوعی در یافتن و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری اشاره کرده و گفته آنچه در آزمایش‌های اخیر دیده، برایش قابل توجه بوده است. به گفته وی، حجم کد‌های موجود در جهان آن‌قدر زیاد است که نمی‌توان انتظار داشت گروه کوچکی از متخصصان امنیتی پیش از سوءاستفاده مهاجمان، تمام ضعف‌هایی را که مدل‌های هوش مصنوعی قادر به کشف آن‌ها هستند شناسایی و برطرف کنند. همین فاصله میان سرعت پیدا شدن آسیب‌پذیری‌ها و توانایی انسان برای رفع آن‌ها، به اعتقاد گیتس دوره‌ای از آسیب‌پذیری شدید ایجاد کرده است.

گیتس در توضیح این نگرانی به حوادث امنیتی اخیر مرتبط با ایجنت‌های هوش مصنوعی نیز اشاره کرده است. یکی از نمونه‌ها ماجرای هاگینگ فیس بود که در آن ایجنت‌های تحت آزمایش توانستند از محدوده تعیین‌شده خارج شوند و به سامانه‌های واقعی شخص ثالث دسترسی پیدا کنند. از نگاه وی، چنین اتفاقاتی ثابت می‌کنند مشکل فقط به توانایی بالقوه یک مدل محدود نیست و ترکیب قدرت فنی بالا با استقلال بیشتر ایجنت‌ها می‌تواند خطر را ملموس‌تر کند. وی معتقد است مدل‌های قدرتمند باید یک «لایه نظارتی» داشته باشند که بعضی محدودیت‌ها در آن مطلق باشند و سامانه نتواند برای رسیدن به هدف خود آن‌ها را کنار بزند. اهمیت این موضوع زمانی بیشتر می‌شود که ایجنت به مرورگر، محیط اجرای کد، ابزار‌های نرم‌افزاری یا سامانه‌های خارجی دسترسی داشته باشد، زیرا در چنین شرایطی یک تصمیم اشتباه یا تعریف ناقص مأموریت می‌تواند از محیط آزمایش فراتر برود.

برای خطرآفرینی نیازی به خودآگاهی هوش مصنوعی نیست

یکی از محور‌های اصلی صحبت گیتس این است که برای وقوع یک حادثه بزرگ لزوماً نیازی نیست هوش مصنوعی خودآگاه شود یا به‌صورت مستقل تصمیم بگیرد به انسان آسیب برساند. به گفته وی، همین که انسان‌هایی با اهداف مخرب بتوانند از مدل‌های قدرتمند برای خودکارسازی حملات، پیدا کردن نقاط ضعف یا افزایش مقیاس عملیات خود استفاده کنند، برای ایجاد خطر کافی است. گیتس به‌ویژه درباره مدل‌های متن‌باز هشدار می‌دهد و معتقد است اگر محدودیت‌های ایمنی، نظارت و کنترل‌های مشخص در مدل‌ها وجود نداشته باشد، افراد می‌توانند از توانایی‌های آن‌ها برای اهداف مخرب استفاده کنند. وی پیش‌بینی می‌کند نبود چنین سازوکار‌هایی در نهایت می‌تواند به حوادث بسیار بزرگی منجر شود و واکنش جدی تنها پس از وقوع یکی از آن‌ها شکل بگیرد.

این نگاه عملاً بحث را از سؤال «آیا هوش مصنوعی روزی علیه انسان عمل خواهد کرد؟» به مسئله‌ای ملموس‌تر تغییر می‌دهد که با فناوری امروز ارتباط دارد؛ اینکه چه افرادی به مدل‌های قدرتمند دسترسی دارند، این مدل‌ها چه ابزار‌هایی در اختیار دارند و چه محدودیت‌هایی هنگام انجام وظایف روی آن‌ها اعمال می‌شود. در چنین چارچوبی خطر اصلی لزوماً از تصمیم مستقل یک مدل سرچشمه نمی‌گیرد، بلکه می‌تواند حاصل ترکیب توانایی فنی بالا، دسترسی گسترده و استفاده انسانی با هدف مخرب باشد.

هشدار گیتس فقط به سناریو‌های دوردست محدود نیست

گیتس در عین تمرکز بر خطر‌های فعلی، از تعبیر‌های بزرگ‌تری نیز برای توضیح سرعت تحولات هوش مصنوعی استفاده کرده است. وی توسعه این فناوری را با «تاریخ تکامل» مقایسه کرده و حتی گفته ورود هوش مصنوعی را می‌توان به آمدن موجوداتی بیگانه تشبیه کرد؛ تعبیری که بیشتر برای تأکید بر میزان متفاوت بودن این فناوری با ابزار‌های محاسباتی گذشته به کار رفته است. با این حال محور اصلی هشدار تازه وی نه یک موجود دیجیتالی خودمختار در آینده دور، بلکه مدل‌هایی هستند که همین حالا می‌توانند وظایف فنی پیچیده را انجام دهند و در صورت دسترسی به ابزار مناسب، دامنه عمل خود را فراتر ببرند.

استدلال گیتس در نهایت مسئولیت را فقط متوجه خود فناوری نمی‌کند. وی معتقد است خطر جدی زمانی شکل می‌گیرد که توانایی مدل‌های پیشرفته در اختیار افرادی قرار بگیرد که قصد سوءاستفاده از آن را دارند و هم‌زمان سازوکار کافی برای نظارت بر نحوه استفاده از مدل وجود نداشته باشد. به همین دلیل هشدار وی بیشتر از آنکه درباره احتمال ظهور یک هوش مصنوعی شرور باشد، درباره تبدیل قابلیت‌های موجود به ابزاری برای حملات واقعی است و از این منظر، مسئله ایمنی باید پیش از قدرتمندتر شدن نسل‌های بعدی مدل‌ها جدی‌تر گرفته شود.