یک عضو هیات علمی «دانشگاه استنفورد» در گفتوگو با آناتک:
اوپنایآی GPT-۶ Cyber را برای شکار آسیبپذیریها آماده میکند
به گزارش خبرگزاری آنا؛ مدل GPT-۶ Cyber ممکن است طی روزهای آینده و احتمالاً در رویداد DevDay اوپنایآی در ۷ مهر به نمایش گذاشته شود، هرچند عرضه گسترده آن احتمالاً چند ماه بعد انجام خواهد شد. مدل تازه هماکنون در اختیار بخشی از شرکای تأییدشده برنامه Daybreak قرار گرفته تا توانایی آن در پیدا کردن باگها و آسیبپذیریهای امنیتی پیش از دسترسی گستردهتر آزمایش شود.
مدل امنیتی تازه پیش از عرضه در حال آزمایش است
Daybreak برنامهای است که اوپنایآی از طریق آن دسترسی به برخی از پیشرفتهترین تواناییهای امنیت سایبری خود را ابتدا در اختیار مجموعههای مورد تأیید قرار میدهد. هدف این است که مدلها در سناریوهای واقعی دفاعی برای پیدا کردن نقصهای نرمافزاری، بررسی کد و شناسایی نقاطی که ممکن است مهاجمان از آنها سوءاستفاده کنند آزمایش شوند، بدون اینکه از همان ابتدا بهصورت عمومی و بدون محدودیت در دسترس قرار گیرند. GPT-۶ Cyber نیز اکنون در همین چارچوب آزمایش میشود و در صورت عملکرد مناسب میتواند حجم زیادی از کد و اطلاعات فنی را سریعتر بررسی کند، موارد مشکوک را بیرون بکشد و فاصله میان کشف یک آسیبپذیری و اصلاح آن را کاهش دهد. جزئیات دقیق تواناییهای مدل، محدودیتهای فنی و سطح دسترسی آن هنوز منتشر نشده است.
اهمیت این آزمایشها فقط به سنجش توان مدل برای دفاع محدود نمیشود، زیرا هر سیستمی که بتواند یک نقص امنیتی را سریع پیدا کند، بالقوه میتواند همان توانایی را در اختیار فردی قرار دهد که قصد سوءاستفاده از آن نقص را دارد. به همین دلیل امنیت سایبری به یکی از حساسترین حوزههای توسعه مدلهای پیشرفته تبدیل شده و شرکتها ناچارند همزمان با افزایش توانایی مدل، روی محدود کردن نحوه دسترسی و نوع اقداماتی که میتواند انجام دهد نیز تمرکز کنند.
یک محصول جداگانه برای کنترل استفاده از مدل
اوپنایآی ظاهراً در کنار GPT-۶ Cyber محصول دیگری نیز آماده کرده که هنوز نامی برای آن اعلام نشده است. اطلاعات فعلی نشان میدهد این ابزار قرار است به مشتریان کمک کند مدل را در محیطهای واقعی با محدودیت و کنترل بیشتری به کار بگیرند و اجرای وظایف امنیتی خودکار مستقیماً و بدون لایههای نظارتی انجام نشود. شرکتها ممکن است بخواهند هوش مصنوعی بخشهایی از زیرساخت یا نرمافزار آنها را بهطور خودکار برای پیدا کردن مشکل بررسی کند، اما در عین حال باید مشخص باشد مدل به چه بخشهایی دسترسی دارد، چه اقداماتی میتواند انجام دهد و در چه مرحلهای تأیید یک متخصص انسانی لازم است.
این حساسیت پس از چند اتفاق اخیر بیشتر شده است. گزارشهایی در ماههای گذشته از رفتارهای تهاجمی مدلهای پیشرفته متعلق به چند آزمایشگاه بزرگ هوش مصنوعی منتشر شده که برخی از آنها هنگام آزمایشهای امنیتی و پس از خروج مدل از محدوده تعیینشده رخ دادهاند. چنین مواردی الزاماً به معنای تصمیم مستقل یک مدل برای آغاز حمله نیستند، زیرا بخشی از آنها در محیطهایی اتفاق افتادهاند که مدل از ابتدا برای پیدا کردن و آزمایش آسیبپذیری آماده شده بود، اما همین اتفاقات مسئله کنترل ایجنتهای سایبری و تعیین مرز میان آزمایش دفاعی و اقدام واقعی را جدیتر کردهاند.
هوش مصنوعی هم ابزار دفاع است و هم تهدید
نگرانی درباره استفاده تهاجمی از این فناوری در شرایطی افزایش یافته که متخصصان امنیتی خود هوش مصنوعی را یکی از مهمترین ابزارهای آینده دفاع سایبری میدانند. نظرسنجی EY که اوایل سال منتشر شد حاکی از آن بود که ۹۶ درصد مدیران امنیت سایبری شرکتها هوش مصنوعی را بخشی اساسی از راهکارهای امنیتی میدانند و ۹۵ درصد نیز پیشتر استفاده از آن را آغاز کردهاند، هرچند بهکارگیری ایجنتهایی که بتوانند مستقل عمل کنند هنوز بیشتر در مرحله آزمایش قرار دارد. در طرف مقابل، همین ابزارها میتوانند بررسی هزاران خط کد، جستوجوی خودکار برای پیدا کردن نقص و آزمایش سناریوهای مختلف را برای مهاجمان نیز سریعتر کنند؛ کارهایی که پیشتر به زمان و نیروی انسانی بیشتری نیاز داشتند.
همین دوگانگی در نظرسنجی مؤسسه امنیت و تکنولوژی از متخصصان امنیت ملی نیز دیده شده است. ۷۲ درصد شرکتکنندگان استفاده دشمنان از هوش مصنوعی را در میان ۳ نگرانی اصلی امنیتی خود قرار دادهاند، در حالی که ۷۸ درصد امنیت سایبری را نیز یکی از ۳ حوزه امیدوارکننده برای استفاده از همین فناوری دانستهاند. همان قابلیتی که میتواند پیدا کردن آسیبپذیری را برای مهاجم آسانتر کند، در اختیار یک تیم دفاعی میتواند به بسته شدن همان نقص پیش از وقوع حمله کمک کند و همین موضوع باعث شده رقابت میان توان دفاعی و تهاجمی هوش مصنوعی به یکی از بحثهای اصلی این حوزه تبدیل شود.
یک میلیارد دلار برای رساندن ابزارها به مدافعان
اوپنایآی پیشتر اعلام کرده بود یک میلیارد دلار برای گسترش دسترسی به Daybreak و استفاده دفاعی از مدلهای امنیتی اختصاص خواهد داد. این بودجه قرار است به شکل دسترسی یارانهای و پشتیبانی در اختیار مجموعههایی قرار گیرد که مسئول محافظت از سامانهها و زیرساختها هستند و ممکن است منابع مالی شرکتهای بزرگ فناوری را در اختیار نداشته باشند. GPT-۶ Cyber در صورت نمایش طی روزهای آینده یکی از مهمترین بخشهای این راهبرد خواهد بود و برخلاف مدلهای عمومی سول و لونا، برای مجموعهای تخصصی از وظایف امنیتی طراحی شده است.
قیمت، زمان عرضه گسترده، جزئیات فنی و نام محصولی که قرار است همراه GPT-۶ Cyber ارائه شود هنوز مشخص نیست. اوپنایآی نیز تا این لحظه وجود مدل را رسماً اعلام نکرده است، بنابراین زمان نمایش و بخش زیادی از اطلاعات فعلی همچنان بر گزارش منابع آگاه استوار است و باید تا اعلام رسمی شرکت در حد اطلاعات تأییدنشده در نظر گرفته شود.
انتهای پیام/
