سرمایه‌گذار نامدار حوزه فناوری راهکار تازه‌ای برای مهار خطرات هوش مصنوعی پیشنهاد کرد

به گزارش خبرگزاری آنا؛ وینکلواس در واکنش به بحث‌های تازه درباره خطرات هوش مصنوعی نوشته است برای ایمن کردن این فناوری لزوماً نیازی نیست دولت نحوه انجام کار را مشخص کند و آزمایشگاه‌های سازنده مدل‌های پیشرفته می‌توانند قوانین رباتیک آسیموف را در محصولاتشان اعمال کنند. آسیموف این قوانین را در داستان‌های علمی‌تخیلی خود مطرح کرد و نخستین بیان صریح سه قانون در داستان «سرگردانی» (Runaround) در سال ۱۹۴۲ دیده شد. اصل کلی آن‌ها این است که ربات نباید به انسان آسیب برساند، باید تا جایی که دستور انسان با اصل نخست در تضاد نباشد از او اطاعت کند و در صورتی که دو قانون قبلی نقض نشوند از موجودیت خود نیز محافظت کند. آسیموف بعد‌ها قانونی گسترده‌تر درباره جلوگیری از آسیب به کل بشریت نیز به این مجموعه اضافه کرد.

مشکل از تعریف «آسیب» شروع می‌شود

اجرای چنین قوانینی روی یک سامانه هوش مصنوعی به این نیاز دارد که مدل ابتدا بفهمد دقیقاً چه چیزی آسیب محسوب می‌شود. صدمه جسمی نمونه روشنی است، اما بسیاری از کار‌هایی که یک هوش مصنوعی قادر به انجام آن‌هاست مستقیماً به بدن انسان مربوط نیستند. دستکاری حساب بانکی، افشای اطلاعات شخصی، ایجاد اختلال در یک سامانه رایانه‌ای یا ارائه توصیه‌ای نادرست می‌تواند پیامد جدی داشته باشد، بدون اینکه در لحظه نخست به کسی صدمه فیزیکی وارد شود. یک دستور کلی مانند «به انسان آسیب نزن» به‌تنهایی مشخص نمی‌کند مدل در چنین موقعیت‌هایی باید چه تصمیمی بگیرد و چگونه میان پیامد‌های مختلف یک اقدام مقایسه انجام دهد.

موضوع زمانی پیچیده‌تر می‌شود که جلوگیری از آسیب به یک فرد ممکن است برای فرد دیگری پیامد منفی داشته باشد یا اجرای یک دستور با قانون دیگری در تضاد قرار گیرد. خود آسیموف نیز از همین تعارض‌ها برای شکل دادن داستان‌هایش استفاده می‌کرد و «سرگردانی» درباره روباتی است که میان اطاعت از دستور انسان و محافظت از خودش گرفتار می‌شود؛ بنابراین این قوانین حتی در جهان داستانی آسیموف نیز به‌عنوان مجموعه‌ای ارائه نشده‌اند که با اضافه شدن به یک ماشین، تمام تصمیم‌های دشوار را بدون ابهام حل کنند.

مدل هوش مصنوعی فقط یک ربات فیزیکی نیست

قوانین آسیموف در اصل برای ربات‌های داستانی نوشته شده بودند، اما مدل‌های هوش مصنوعی امروزی می‌توانند بدون داشتن بدن فیزیکی به ابزار‌های نرم‌افزاری، پایگاه‌های داده و سامانه‌های آنلاین متصل شوند. یک ایجنت هوش مصنوعی ممکن است به‌جای حرکت در محیط واقعی، فایل ایجاد کند، کد اجرا کند، در وب جست‌و‌جو کند یا در صورت دریافت دسترسی مناسب با سرویس‌های دیگر ارتباط داشته باشد. در چنین شرایطی ایمنی فقط به جلوگیری از برخورد یک ربات با انسان محدود نیست و باید مشخص شود مدل به چه ابزار‌هایی دسترسی دارد، چه اقداماتی بدون تأیید انسان مجاز هستند و در چه شرایطی باید اجرای یک دستور را متوقف کند.

همین تفاوت باعث شده سازندگان مدل‌های پیشرفته به‌جای اتکا به چند دستور ثابت از مجموعه بزرگ‌تری از روش‌ها استفاده کنند. آزمایش‌های ایمنی، محدود کردن دسترسی مدل به ابزار‌های حساس، بررسی رفتار آن در موقعیت‌های مختلف، نظارت انسانی و تعیین سیاست‌هایی برای درخواست‌های پرخطر از جمله روش‌هایی هستند که برای کاهش خطا یا سوءاستفاده به کار می‌روند. چنین تدابیری نیز تضمین نمی‌کنند یک مدل هیچ‌گاه اشتباه نکند، اما تلاش می‌کنند دامنه رفتار‌های خطرناک را محدودتر و امکان مشاهده مشکلات پیش از استفاده گسترده را بیشتر کنند.

بحث بر سر سرعت توسعه هوش مصنوعی ادامه دارد

پیشنهاد وینکلواس هم‌زمان با بحث گسترده‌تری درباره سرعت پیشرفت مدل‌های هوش مصنوعی مطرح شده است. داریو آمودی، مدیرعامل آنتروپیک، اخیراً از شرکت‌های فعال در این حوزه خواسته سرعت افزایش توان مدل‌ها را کاهش دهند و پیشنهاد کرده ارزیابان مستقل به‌صورت مستمر سامانه‌های پیشرفته را بررسی کنند. سم آلتمن و ایلان ماسک نیز از اصل کاهش سرعت در شرایطی که خطرات از توان کنترل پیشی می‌گیرند حمایت کرده‌اند، هرچند درباره شکل دقیق مقررات و نحوه اجرای نظارت بر صنعت همچنان اختلاف نظر وجود دارد.

قوانین آسیموف می‌توانند نمونه‌ای ساده برای توضیح هدف کلی ایمنی باشند، اما تبدیل همین اصول به رفتار واقعی یک مدل مسئله دشوارتری است. سامانه باید نه‌فقط جمله «آسیب نزن» را دریافت کند، بلکه بتواند موقعیت‌های مبهم، پیامد‌های غیرمستقیم و تعارض میان چند هدف را نیز به شکلی قابل اعتماد مدیریت کند. همین فاصله میان یک قانون ساده و اجرای آن در هزاران موقعیت متفاوت، بخش مهمی از مسئله‌ای است که پژوهش ایمنی هوش مصنوعی امروز با آن روبه‌رو است.