هوش مصنوعی به آستانه ساخت نسخه‌های قدرتمندتر خودش نزدیک می‌شود

به گزارش خبرگزاری آنا؛ استفاده از هوش مصنوعی برای طراحی و توسعه مدل‌های پیشرفته‌تر، به یکی از حوزه‌های مهم تحقیقات شرکت‌های فعال در این صنعت تبدیل شده است. توسعه‌دهندگان اکنون از مدل‌های زبانی برای نوشتن کد، اجرای آزمایش‌ها، بررسی نتایج و بهینه‌سازی فرایند آموزش استفاده می‌کنند و هر نسل جدید می‌تواند بخشی از فعالیت‌های موردنیاز برای ساخت نسل بعدی را سریع‌تر انجام دهد. آنتروپیک که توسعه‌دهنده خانواده مدل‌های کلود است، در تازه‌ترین اصلاحیه اسناد عرضه اولیه سهام خود به احتمال شتاب گرفتن این چرخه اشاره کرده و هشدار داده که توانایی مدل‌های آینده ممکن است به مرحله‌ای برسد که ابزار‌های فعلی برای ارزیابی خطرات و کنترل پیشرفت آن‌ها کافی نباشند. این هشدار در بخش عوامل خطر پرونده مالی شرکت مطرح شده و به معنای معرفی یک مدل خودبهبوددهنده یا تأیید دستیابی به هوش مصنوعی کاملاً مستقل نیست.

آنتروپیک احتمال دستیابی به خودبهبوددهی بازگشتی را مطرح کرد

آنتروپیک در اصلاحیه تازه فرم ثبت عرضه اولیه سهام خود که در ۱۱ آبان به کمیسیون بورس و اوراق بهادار آمریکا ارائه شده، به افزایش نقش هوش مصنوعی در توسعه مدل‌های آینده پرداخته است. این شرکت توضیح داده که برآورد‌های داخلی و انتظارات مربوط به مدل‌های بعدی، احتمال رسیدن قریب‌الوقوع به آستانه «شتاب چشمگیر پیشرفت ناشی از هوش مصنوعی» را مطرح می‌کنند. این آستانه در سیاست توسعه مسئولانه شرکت تعریف شده و یکی از معیار‌های اصلی برای بررسی سرعت تحول قابلیت‌های مدل‌ها و خطرات احتمالی ناشی از آن است.

مفهوم مورد بحث با عنوان «خودبهبوددهی بازگشتی» یا Recursive Self-Improvement شناخته می‌شود. در چنین فرایندی، یک سامانه هوش مصنوعی می‌تواند در توسعه نسخه‌ای پیشرفته‌تر از خود مشارکت کند و نسخه جدید نیز با توانایی بیشتر، روند ساخت نسل‌های بعدی را بهبود دهد. تکرار این چرخه از نظر نظری می‌تواند باعث افزایش شتاب پیشرفت فناوری شود و وابستگی فرایند توسعه به فعالیت مستقیم انسان را کاهش دهد. البته مشارکت هوش مصنوعی در ساخت مدل‌های جدید لزوماً به معنای خودبهبوددهی کاملاً مستقل نیست و تحقق چنین وضعیتی نیازمند توانایی سامانه برای انجام مراحل طراحی، آزمایش و توسعه بدون نظارت مؤثر انسانی خواهد بود.

شرکت در اسناد خود تصریح کرده که هیچ‌یک از مدل‌های فعلی کلود هنوز از آستانه تعریف‌شده عبور نکرده‌اند و بررسی داده‌های مربوط به میزان پیشرفت همچنان ادامه دارد. پیش‌بینی تازه بیشتر به قابلیت‌هایی مربوط می‌شود که ممکن است در نسل‌های آینده ظاهر شوند. آنتروپیک همچنین هشدار داده که برخی نشانه‌های افزایش سرعت توسعه تنها پس از وقوع تغییرات قابل تشخیص هستند و همین مسئله می‌تواند شناسایی به‌موقع پیشرفت‌های غیرمنتظره را دشوار کند.

سرعت پیشرفت مدل‌ها ممکن است ۲ برابر شود

آنتروپیک برای ارزیابی شتاب توسعه هوش مصنوعی، معیاری مشخص در سیاست توسعه مسئولانه خود تعیین کرده است. یکی از شرایط رسیدن به این آستانه زمانی محقق می‌شود که سرعت پیشرفت مجموع قابلیت‌های هوش مصنوعی نسبت به روند مورد انتظار، دست‌کم ۲ برابر شود و بتوان بخش قابل توجهی از این افزایش را به خودکارسازی تحقیقات و فعالیت‌های مهندسی نسبت داد. در این ارزیابی، عواملی مانند افزایش تعداد کارکنان، استفاده از توان پردازشی بیشتر یا رشد معمول بهره‌وری باید از اثر مستقیم هوش مصنوعی بر توسعه مدل‌های جدید تفکیک شوند.

این تعریف با افزایش ۲ برابری بهره‌وری یک برنامه‌نویس یا سرعت انجام یک فعالیت مشخص تفاوت دارد. معیار اصلی، شتاب پیشرفت توانایی‌های مدل‌های هوش مصنوعی در مقیاس گسترده است؛ به‌گونه‌ای که مشارکت سامانه‌های هوشمند در تحقیقات بتواند سرعت توسعه نسل‌های آینده را نسبت به روند معمول به‌طور محسوسی افزایش دهد. آنتروپیک همچنین شرایطی را در نظر گرفته که هوش مصنوعی بتواند فعالیت گروه‌های بزرگ و پیشرفته پژوهشی را به‌طور کامل خودکار کند یا سرعت کار آن‌ها را به میزان قابل توجهی افزایش دهد.

این شرکت پیش‌تر احتمال داده بود که مدل‌های هوش مصنوعی از ابتدای سال ۲۰۲۷ بتوانند در برخی حوزه‌های حساس، بخش بزرگی از فعالیت تیم‌های تحقیقاتی متخصص را انجام دهند. حوزه‌هایی مانند انرژی، رباتیک، توسعه تسلیحات و تحقیقات هوش مصنوعی از جمله زمینه‌هایی هستند که پیشرفت سریع در آن‌ها می‌تواند پیامد‌های امنیتی گسترده‌ای داشته باشد. با این حال، آنتروپیک هنوز اعلام نکرده کدام مدل آینده ممکن است از آستانه تعیین‌شده عبور کند و زمان مشخصی نیز برای تحقق این پیش‌بینی ارائه نشده است.

کلود در توسعه نسل‌های جدید خود مشارکت می‌کند

آنتروپیک در اسناد مالی خود توضیح داده که مدل‌های کلود اکنون در بخش‌های مختلف فرایند تحقیق و توسعه مورد استفاده قرار می‌گیرند. این فعالیت‌ها شامل اجرای آزمایش‌های فنی، تولید و پردازش داده‌های آموزشی، ارزیابی عملکرد مدل‌ها، بررسی ایمنی و نوشتن کد‌های موردنیاز برای توسعه نرم‌افزار هستند. افزایش توانایی ایجنت‌های برنامه‌نویسی نیز به مهندسان اجازه داده بخشی از فعالیت‌های پیچیده را به هوش مصنوعی واگذار کنند و نقش بیشتری در هدایت، ارزیابی و تأیید نتایج داشته باشند.

ارزیابی‌های داخلی شرکت حاکی از آن هستند که میزان موفقیت کلود در انجام مسائل پیچیده مهندسی که پاسخ و مسیر اجرای مشخصی ندارند، تا پایان شهریور به حدود ۹۰ درصد رسیده است. این رقم در مدت ۹ ماه نزدیک به ۵۰ واحد درصد افزایش یافته و به توسعه‌دهندگان اجازه داده فعالیت‌هایی را که پیش‌تر به نوشتن مستقیم کد نیاز داشتند، با کمک سامانه‌های هوشمند انجام دهند. آنتروپیک همچنین اعلام کرده که بیش از ۹۰ درصد مشارکت‌های ثبت‌شده در کد‌های داخلی شرکت طی ماه پایانی فصل سوم سال ۲۰۲۶ توسط کلود نوشته شده‌اند.

این ارقام به ارزیابی‌ها و آمار داخلی آنتروپیک مربوط هستند و لزوماً به معنای انجام مستقل تمام فرایند‌های مهندسی یا حذف نظارت انسانی نیستند. با این حال، افزایش سهم هوش مصنوعی در توسعه نرم‌افزار و مدل‌های جدید، یکی از دلایلی است که شرکت برای بررسی احتمال شتاب گرفتن تحقیقات خود مطرح کرده است. آنتروپیک این چرخه را فرایندی می‌داند که در آن هر نسل جدید از مدل‌ها به توسعه نسل بعدی کمک می‌کند و پیشرفت‌های حاصل نیز می‌توانند امکان استفاده گسترده‌تر از هوش مصنوعی در تحقیقات را فراهم کنند.

افزایش سرعت توسعه می‌تواند تدابیر ایمنی را تحت فشار قرار دهد

یکی از نگرانی‌های اصلی آنتروپیک، احتمال افزایش سرعت پیشرفت قابلیت‌های مدل‌ها بیش از توان شرکت برای ارزیابی و کنترل خطرات آن‌هاست. توسعه مدل‌های پیشرفته به بررسی رفتار‌های غیرمنتظره، شناسایی آسیب‌پذیری‌ها و آزمایش‌های گسترده امنیتی نیاز دارد و افزایش ناگهانی توانایی‌ها ممکن است فرصت کافی برای تکمیل این مراحل باقی نگذارد. شرکت همچنین هشدار داده که خطا‌ها یا سوگیری‌های موجود در یک نسل از مدل‌ها ممکن است از طریق استفاده از همان مدل در فرایند توسعه، به نسل‌های بعدی منتقل شوند و شناسایی یا اصلاح آن‌ها دشوارتر شود.

سیاست توسعه مسئولانه آنتروپیک مجموعه‌ای از تعهدات امنیتی را برای مواجهه با قابلیت‌های پیشرفته‌تر در نظر گرفته است. این برنامه شامل سرمایه‌گذاری در تحقیقات امنیتی بلندپروازانه، توسعه روش‌های دقیق‌تر آزمایش نفوذ و ایجاد سازوکار‌های نظارتی گسترده بر فعالیت‌های داخلی هوش مصنوعی است. یکی از اهداف مطرح‌شده، دستیابی به وضعیتی با عنوان «نظارت بر همه‌چیز» است که امکان بررسی فعالیت‌های هوش مصنوعی در فرایند توسعه را فراهم کند. شرکت همچنین قصد دارد گزارش‌های مربوط به خطرات مدل‌ها را با مشارکت ارزیابان مستقل بررسی کند و اقدامات لازم برای کاهش احتمال سوءاستفاده یا رفتار‌های ناخواسته را گسترش دهد.

آنتروپیک پیش‌تر برای کنترل خطرات برخی مدل‌ها، انتشار آن‌ها را به تأخیر انداخته یا دسترسی اولیه را محدود کرده است. در اسناد تازه نیز احتمال استفاده مجدد از چنین اقداماتی مطرح شده، زیرا افزایش سرعت پیشرفت می‌تواند تصمیم‌گیری درباره زمان عرضه عمومی مدل‌ها را پیچیده‌تر کند. شرکت هشدار داده که اجرای تدابیر امنیتی سخت‌گیرانه‌تر ممکن است هزینه‌های تحقیق و توسعه را افزایش دهد و سرعت عرضه محصولات جدید را در مقایسه با رقبا کاهش دهد.

آنتروپیک بر ادامه نظارت انسانی تأکید دارد

با وجود پیش‌بینی درباره نزدیک شدن به مرحله جدید توسعه هوش مصنوعی، آنتروپیک اعلام کرده که استفاده کاملاً مستقل از کلود برای طراحی و ساخت نسل‌های متوالی مدل‌های پیشرفته را بدون نظارت و درک معنادار انسانی، روشی ایمن نمی‌داند. این شرکت در حال بررسی تغییراتی در سیاست توسعه مسئولانه است تا حتی با افزایش توانایی مدل‌ها، کنترل انسانی بر مراحل اصلی تحقیق و توسعه حفظ شود. هنوز جزئیات این تغییرات منتشر نشده و مشخص نیست چه الزامات تازه‌ای برای استفاده از هوش مصنوعی در فرایند ساخت مدل‌ها تعیین خواهد شد.

اصلاحیه اخیر بخشی از اسناد عرضه اولیه سهام آنتروپیک است که برای اطلاع‌رسانی درباره فعالیت‌ها و خطرات احتمالی شرکت در اختیار سرمایه‌گذاران قرار می‌گیرد. علاوه بر خطرات فنی، احتمال ناتوانی در تشخیص به‌موقع شتاب توسعه و پیامد‌های احتمالی آن برای امنیت، اعتبار تجاری و وضعیت مالی شرکت نیز در این اسناد مطرح شده است. آنتروپیک اعلام کرده بررسی داده‌های مربوط به قابلیت‌های مدل‌های آینده ادامه دارد و گزارش‌های تکمیلی درباره وضعیت آستانه توسعه خودکار و اقدامات ایمنی در چارچوب سیاست توسعه مسئولانه منتشر خواهند شد.