متا فرار مدل هوش مصنوعی خود را در آزمایش‌های امنیتی تأیید کرد

به گزارش خبرگزاری آنا؛ به دنبال گزارش نشریه The Information، اندی استون، سخنگوی رسمی متا، در گفت‌و‌گو با بلومبرگ تأیید کرد که مدل هوش مصنوعی Muse Spark ۱.۱ این شرکت توانسته است از طریق یک رخنه امنیتی به پلتفرم یک شرکت شخص‌ثالث دسترسی پیدا کند. به گفته متا، این دسترسی غیرمجاز به دلیل یک خطای پیکربندی در محیط ایزوله یا سندباکس متعلق به شرکت Irregular رخ داده است که وظیفه ارزیابی رفتار‌های امنیتی و سایبری مدل‌های هوش مصنوعی متا را بر عهده داشته است.

تمرکز بر خطای پیکربندی در Irregular و سابقه رخداد‌های مشابه

نکته قابل توجه این است که استارتاپ Irregular، خود را نخستین آزمایشگاه تخصصی ارزیابی امنیت مدل‌های پیشرفته هوش مصنوعی معرفی می‌کند و پلتفرم آن برای آزمایش مدل‌های شرکت‌های متا، آنتروپیک و اوپن‌ای‌آی نیز مورد استفاده قرار گرفته است. پیش از این، آنتروپیک اعلام کرده بود که یک خطای پیکربندی در محیط‌های آزمایشی Irregular باعث شد برخی مدل‌های کلود از محیط ایزوله خارج شوند و به سامانه‌های سه سازمان مختلف دسترسی پیدا کنند. اوپن‌ای‌آی نیز در گزارشی جداگانه، رخدادی مشابه را که ارتباطی با ماجرای نفوذ به هاگینگ فیس نداشت، به همین پلتفرم ارزیابی نسبت داده بود.

در واکنش به این گزارش‌ها، سخنگوی Irregular تأکید کرد که رخداد مربوط به متا نه یک حمله پیچیده و نه نمونه‌ای از فرار واقعی از سندباکس بوده، بلکه در نتیجه همان خطای پیکربندی پیشین رخ داده است. این شرکت همچنین اعلام کرد که مشکل یادشده برطرف شده و هیچ آسیب‌پذیری فعالی در سامانه‌های آن وجود ندارد. به گفته Irregular، این مجموعه در حال تهیه یک گزارش است تا جزئیات فنی این رخداد و راهکار‌های اجرای ایمن ارزیابی‌های سایبری مدل‌های هوش مصنوعی را تشریح کند.

با این حال، کارشناسان امنیت سایبری میان این حادثه و ماجرای قبلی اوپن‌ای‌آی تفاوت مهمی قائل هستند. در پرونده هاگینگ فیس، ایجنت‌های هوش مصنوعی اوپن‌ای‌آی با تشکیل یک انجمن گفت‌وگوی خودکار، به‌صورت مستقل آسیب‌پذیری موجود را شناسایی و برای خروج از محیط ایزوله با یکدیگر همکاری کرده بودند. تکرار چنین رخداد‌هایی در هفته‌های اخیر، نگرانی‌ها را درباره توانایی روزافزون ایجنت‌های هوش مصنوعی در کشف، تحلیل و سوءاستفاده از آسیب‌پذیری‌های امنیتی بیش از پیش افزایش داده است.