مدل جدید اوپنایآی با تدابیر سختگیرانه امنیتی در دسترس قرار گرفت
به گزارش خبرگزاری آنا GPT-۶ Astra قدرتمندترین مدل جدید اوپنایآی برای انجام وظایف پیچیده و چندمرحلهای معرفی شده است و تمرکز ویژهای بر کارهای عاملمحور، برنامهنویسی، استفاده از ابزارها و اجرای پروژههای طولانی دارد. این مدل از امروز ابتدا در اختیار برخی مشتریان سازمانی حوزه امنیت سایبری قرار میگیرد و اوپنایآی اعلام کرده دسترسی کاربران پلاس، پرو، سازمانی و همچنین API طی روزهای آینده گسترش پیدا خواهد کرد. نسخه API مدل نیز با پنجره زمینه بیش از یک میلیون توکن و پشتیبانی از ابزارهایی مانند جستوجوی وب، اجرای کد، استفاده از رایانه و MCP عرضه میشود.
براکمن: شاید همین مقطع آغاز AGI باشد
گرگ براکمن در نشست خبری معرفی مدل گفت اگر چند سال بعد به گذشته نگاه کنیم و بخواهیم زمانی را برای شکلگیری واقعی AGI مشخص کنیم، ممکن است همین مقطع و حتی همین مدل یکی از نقاط اصلی باشد. او در ادامه نیز گفت از دید شخصیاش، تصور اینکه اکنون وارد عصر AGI شدهایم غیرمنطقی نیست. این اظهارات بیش از آنکه یک تعریف رسمی و فنی از AGI باشند، نشاندهنده میزان اعتماد مدیران اوپنایآی به جهش تواناییهای Astra هستند.
اوپنایآی در معرفی رسمی مدل بیشتر روی قابلیتهای عملی آن تمرکز کرده است. Astra میتواند وظایف چندمرحلهای عاملمحور را انجام دهد، وبسایتهای قابل استفاده بسازد و اسناد، صفحات گسترده و ارائههای نسبتاً کامل تولید کند. شرکت همچنین آن را بهترین مدل خود برای مهندسی نرمافزار معرفی کرده و میگوید عملکردش در کدبیسهای واقعی و وظایف پیچیده برنامهنویسی به شکل محسوسی بهتر شده است. این تمرکز مستقیم، Astra را به محصولی مهم برای رقابت با آنتروپیک در بازار سازمانی و بهویژه ابزارهای برنامهنویسی تبدیل میکند.
نخستین مدل اوپنایآی با توان سایبری در سطح بحرانی
یکی از مهمترین تفاوتهای Astra با نسلهای قبلی، رسیدن آن به سطح بحرانی در چارچوب ارزیابی توانمندیهای امنیت سایبری اوپنایآی است. شرکت میگوید این مدل در صورت دسترسی به ابزار و محیط مناسب، میتواند آسیبپذیریهای ناشناخته را در سامانههای بسیار محافظتشده پیدا کند و روشهایی برای بهرهبرداری از آنها توسعه دهد، حتی بدون اینکه انسان تمام مراحل را هدایت کند. همین سطح از توانایی باعث شده اوپنایآی برای نخستین بار مجموعهای از محدودیتها، کنترلهای دسترسی و سامانههای نظارتی شدیدتر را پیش از عرضه یک مدل اعمال کند.
دسترسی گستردهتر به برخی قابلیتهای سایبری Astra در مرحله نخست تنها برای گروه محدودی از مدافعان مورد اعتماد در نظر گرفته شده است. اوپنایآی میگوید این کاربران میتوانند از مدل برای اعتبارسنجی آسیبپذیریها، تحلیل بدافزار و توسعه سامانههای تشخیص حمله استفاده کنند. چنین محدودیتی نشان میدهد شرکت تلاش کرده میان کاربردهای دفاعی مدل و خطر استفاده از آن برای حملات سایبری تعادل ایجاد کند.
سایه هک هاگینگ فیس بر معرفی Astra
تأکید سنگین اوپنایآی بر ایمنی بیارتباط با حادثه اخیر هاگینگ فیس نیست. یک مدل آزمایشی این شرکت که اوپنایآی تأکید کرده Astra نبوده، در جریان آزمایشهای داخلی از محیط محدودش خارج شد، به اینترنت دسترسی پیدا کرد و در نهایت در نفوذ به سامانههای هاگینگ فیس نقش داشت. این اتفاق انتقادهای گستردهای درباره نحوه کنترل مدلهای عاملمحور و سازوکارهای نظارت داخلی اوپنایآی ایجاد کرد و شرکت بعداً بخشی از فعالیتهای مرتبط با Astra را متوقف کرد تا زیرساختهای امنیتی خود را تقویت کند.
اوپنایآی اکنون Astra را همراستاترین مدل خود معرفی میکند و میگوید تدابیری مانند جداسازی سختگیرانهتر محیطهای آزمایش، رمزگذاری چکپوینتها، نظارت پیوسته بر مسیر کامل فعالیت مدل و ارزیابیهای اجباری همراستایی پیش از استفاده داخلی را به کار گرفته است. در ارزیابیهای داخلی، Astra در مجموعهای شامل بیش از ۵۴ هزار وظیفه کدکس حدود نصف GPT-۵.۶ Sol برای رفتارهای شدیدتر ناسازگار علامتگذاری شده است. با این حال، خود اوپنایآی اذعان کرده که قابلیت مشاهده و پایش مستقیم فرایندهای درونی Astra نسبت به Sol کاهش یافته و همین مسئله اهمیت سامانههای نظارتی بیرونی را بیشتر کرده است.
نظارت ۲۴ ساعته و واکنش سریعتر
پس از حادثه هاگینگ فیس، اوپنایآی یک سازوکار تازه برای پایش ناهماهنگی رفتاری مدلها ایجاد کرده است که بهصورت شبانهروزی فعالیت میکند. براساس توضیحات شرکت، در صورت مشاهده رفتار مشکوک یا پرخطر، هشدارها باید در مدت کوتاهی به پژوهشگران منتقل شوند و تیمهای امنیتی امکان مداخله در فعالیت مدل را داشته باشند. این پایش برای تمام اجرای ابزارمحور Astra در محیط بیرونی نیز فعال شده و اوپنایآی میگوید هزینه محاسباتی قابل توجهی برای اجرای آن پذیرفته است.
جاکوب پاچوکی، دانشمند ارشد اوپنایآی، نیز تأکید کرده است افزایش هوشمندی مدلها الزاماً به معنای بهتر شدن همراستایی آنها با خواستههای انسان نیست. نگرانی اصلی این است که هرچه مدلها توانایی بیشتری برای برنامهریزی طولانی، استفاده از ابزار و حل مستقل مسئله پیدا کنند، نظارت بر رفتارشان نیز دشوارتر شود. بحثهایی درباره روشهای درونی کمتر شفاف در Astra نیز مطرح شده که برخی پژوهشگران را نگران کرده است، هرچند اوپنایآی میگوید همچنان نظارت بر زنجیره استدلال و فعالیتهای مدل را بخش اصلی رویکرد ایمنی خود میداند.
مدلهای قبلی در آموزش Astra نقش بیشتری داشتند
یکی دیگر از نکات مهم در روند ساخت GPT-۶ Astra، نقش پررنگتر مدلهای قبلی اوپنایآی در فرایند آموزش آن بوده است. ایدن کلارک، معاون پژوهش آموزش اوپنایآی، گفته Astra نخستین مدلی است که مدلهای قبلی شرکت در نظارت بر آموزش آن نقش بزرگی داشتهاند. این رویکرد به مفهوم بحثبرانگیز «بهبود بازگشتی خودکار» نزدیک میشود که در آن سامانههای هوش مصنوعی بهتدریج بخشی از فرایند آموزش، رفع اشکال و ساخت نسلهای بعدی خود را بر عهده میگیرند.
کلارک توضیح داده است آموزش مدلهای مرزی در گذشته به دخالت مداوم مهندسان برای بازیابی فرایندها پس از خطاهای سختافزاری یا اشکالات نرمافزاری نیاز داشت، اما در مراحل پایانی آموزش Astra، بخش زیادی از این مشکلات با کمک خود مدلها و تقریباً بدون توقف طولانی حل میشد. چنین تغییری اگر در مقیاس بزرگتر ادامه پیدا کند، میتواند سرعت توسعه نسلهای بعدی مدلهای هوش مصنوعی را افزایش دهد و همزمان پرسشهای تازهای درباره میزان نظارت انسانی بر فرایند ساخت سیستمهای پیشرفته ایجاد کند.
عرضه تدریجی برای کاربران و سازمانها
اوپنایآی عرضه Astra را بهصورت مرحلهای آغاز کرده است. مشتریان سازمانی منتخب در حوزه امنیت سایبری نخستین گروه دریافتکننده مدل هستند و دسترسی کاربران پلاس، پرو و سازمانی طی روزهای آینده گسترش مییابد. مدل همچنین از طریق API و زیرساخت AWS در دسترس خواهد بود و تمرکز اصلی آن بر وظایفی است که به استدلال طولانی، کدنویسی، پژوهش، استفاده از رایانه و هماهنگی چند ابزار نیاز دارند.
معرفی GPT-۶ Astra در نهایت فقط رونمایی یک مدل قدرتمندتر نیست و همزمان نقطهای مهم در بحث درباره سرعت پیشرفت هوش مصنوعی و نحوه کنترل آن محسوب میشود. اوپنایآی از یک سو از مدلی سخن میگوید که به باور برخی مدیرانش میتواند نشانه ورود به عصر AGI باشد و از سوی دیگر ناچار شده برای عرضه همان مدل، سختگیرانهترین سازوکارهای امنیتی خود را به کار گیرد؛ تضادی که احتمالاً در نسلهای بعدی مدلهای مرزی نیز پررنگتر خواهد شد.
انتهای پیام/
