حجت الاسلام و المسلمین پناهیان:
برنده جایزه مغز و استاد علوم اعصاب دانشگاه نیویورک در گفت‌وگو با آناتک:
پاپ لئو چهاردهم خواستار ممنوعیت سلاح‌های خودمختار هوش مصنوعی شد
به گزارش خبرگزاری آنا؛ گسترش توانایی‌های هوش مصنوعی در تصمیم‌گیری، تحلیل اطلاعات و اجرای فعالیت‌های پیچیده، پرسش‌های تازه‌ای درباره جایگاه این فناوری در جامعه و میزان مسئولیت انسان‌ها در قبال عملکرد آن ایجاد کرده است. استفاده از سامانه‌های هوشمند در حوزه‌هایی مانند تشخیص اهداف نظامی، کنترل مرز‌ها و مدیریت اطلاعات شهروندان، نگرانی‌هایی درباره واگذاری تصمیم‌های حساس به الگوریتم‌ها به همراه داشته و بحث درباره ضرورت تدوین مقررات بین‌المللی را گسترش داده است. پاپ لئو چهاردهم در تازه‌ترین سخنرانی خود در جمع پژوهشگران و متخصصان هوش مصنوعی، ضمن اشاره به فرصت‌های این فناوری، هشدار داده که پیشرفت فنی نباید به کاهش مسئولیت انسانی یا واگذاری تصمیم‌های حیاتی به ماشین‌ها منجر شود. این سخنرانی در جریان نشستی با موضوع آینده هوش مصنوعی برگزار شد که آکادمی پاپی زندگی و مؤسسه آینده زندگی در برگزاری آن مشارکت داشتند و محور اصلی آن بررسی پیامد‌های اخلاقی و اجتماعی فناوری‌های هوشمند بود.
پاپ هوش مصنوعی را ابزار دانست نه موجودی دارای شخصیت مستقل
یکی از محور‌های اصلی سخنان رهبر کاتولیک‌های جهان، مخالفت با نسبت دادن ویژگی‌های انسانی به سامانه‌های هوش مصنوعی بود. او با اشاره به اینکه ماشین‌ها ابزار هستند و نه اشخاص، تأکید کرد که توانایی تولید متن، پاسخ‌گویی به پرسش‌ها یا شبیه‌سازی رفتار انسان به معنای برخورداری از تجربه درونی و آگاهی انسانی نیست. به اعتقاد او، سامانه‌های فعلی بدن ندارند، شادی و رنج را مانند انسان تجربه نمی‌کنند و نمی‌توانند مفاهیمی مانند عشق، دوستی، کار و مسئولیت را از طریق تجربه زیسته درک کنند. این موضع در ادامه دیدگاه‌هایی مطرح شده که او پیش‌تر در سند کلیسایی خود درباره کرامت انسانی و جایگاه هوش مصنوعی بیان کرده بود و اکنون بار دیگر بر ضرورت تفکیک توانایی پردازش اطلاعات از ویژگی‌های انسانی تأکید دارد.
پاپ لئو چهاردهم همچنین نسبت به پیشنهاد‌هایی که برای اعطای حقوق یا شخصیت حقوقی مستقل به سامانه‌های هوش مصنوعی مطرح می‌شوند، هشدار داده است. از دیدگاه او، چنین رویکردی می‌تواند مرز مسئولیت انسانی را مبهم کند و در شرایطی که یک سامانه خودکار به افراد آسیب می‌رساند، شناسایی مسئول واقعی تصمیم‌ها را دشوار سازد. برای نمونه، اگر یک ابزار هوش مصنوعی تصمیمی اشتباه بگیرد که بر زندگی یا حقوق شهروندان تأثیر بگذارد، نباید مسئولیت آن به موجودیتی دیجیتال نسبت داده شود که از نظر حقوقی و اخلاقی همان جایگاه انسان را ندارد. این اظهارات در حالی مطرح شده‌اند که موضوع احتمال آگاهی هوش مصنوعی همچنان در حوزه‌های فلسفه ذهن و پژوهش‌های علمی محل بحث است و دیدگاه پاپ بیش از هر چیز بر ضرورت حفظ جایگاه و مسئولیت انسان در استفاده از فناوری تمرکز دارد.
تصمیم درباره جان انسان‌ها نباید به الگوریتم‌ها واگذار شود
بخش مهم دیگری از سخنرانی به کاربرد هوش مصنوعی در تجهیزات نظامی و سامانه‌های تصمیم‌گیری دولتی اختصاص داشت. پاپ تأکید کرد برخی تصمیم‌ها به دلیل پیامد‌های مستقیم آن‌ها بر جان، آزادی و حقوق انسان‌ها، هرگز نباید به‌طور کامل به ماشین‌ها سپرده شوند. او از سامانه‌های تهیه فهرست اهداف نظامی و پایگاه‌های داده کنترل مرزی به‌عنوان نمونه‌هایی یاد کرد که ممکن است افراد را به مجموعه‌ای از داده‌ها و شاخص‌های محاسباتی تقلیل دهند. چنین فرایندی می‌تواند شرایط فردی و انسانی اشخاص را نادیده بگیرد و در صورت بروز خطا، پیامد‌هایی جدی برای زندگی آن‌ها ایجاد کند. به همین دلیل، از نظر او تصمیم‌هایی که به استفاده از زور یا محدود کردن آزادی افراد مربوط می‌شوند، باید همواره تحت نظارت مؤثر، آگاهانه و مسئولانه انسان باقی بمانند.
رهبر کاتولیک‌های جهان با تکیه بر همین استدلال، خواستار «خلع سلاح هوش مصنوعی» شد و از کشورهای حاضر در نشست آبان‌ماه ژنو خواست برای ممنوعیت سلاح‌های خودمختار مرگبار گام‌های عملی بردارند. منظور از این تجهیزات، سامانه‌های تسلیحاتی هستند که می‌توانند با استفاده از حسگر‌ها و الگوریتم‌های پردازشی، اهداف را شناسایی کرده و بدون دخالت مستقیم انسان در هر مرحله، درباره حمله تصمیم بگیرند. نگرانی اصلی درباره چنین فناوری‌هایی به امکان واگذاری تصمیم نهایی برای استفاده از نیروی مرگبار به سامانه‌هایی مربوط می‌شود که عملکرد آن‌ها ممکن است برای اپراتور‌ها نیز به‌طور کامل قابل توضیح نباشد. پاپ معتقد است حتی اگر این تجهیزات از نظر سرعت پردازش و شناسایی اهداف پیشرفته باشند، تصمیم درباره گرفتن جان انسان‌ها نباید از مسئولیت مستقیم انسان خارج شود.
این درخواست ادامه مواضع پیشین واتیکان درباره استفاده نظامی از هوش مصنوعی محسوب می‌شود. پاپ فرانسیس، رهبر پیشین کلیسای کاتولیک، نیز در سال ۲۰۲۴ خواستار ممنوعیت سلاح‌های خودمختار مرگبار شده و تأکید کرده بود که هیچ ماشینی نباید اختیار تصمیم‌گیری برای گرفتن جان انسان را داشته باشد. لئو چهاردهم اکنون با تکرار این موضع تلاش می‌کند موضوع را از سطح هشدار‌های اخلاقی فراتر ببرد و آن را به اقدامات عملی دولت‌ها و توافق‌های بین‌المللی پیوند دهد. با این حال، سخنان او به معنای تصویب ممنوعیت جهانی چنین سلاح‌هایی نیست و تحقق این درخواست به مذاکرات دولت‌ها و پذیرش تعهدات مشخص از سوی کشورهای توسعه‌دهنده و استفاده‌کننده از سامانه‌های تسلیحاتی وابسته خواهد بود.
توسعه هوش مصنوعی باید در خدمت منافع عمومی باشد
پاپ در بخش دیگری از سخنان خود تأکید کرد آینده هوش مصنوعی از پیش تعیین نشده و به تصمیم‌هایی وابسته است که انسان‌ها در مسیر توسعه و استفاده از آن اتخاذ می‌کنند. از دیدگاه او، پیشرفت فناوری نباید صرفاً به رقابتی برای دستیابی به مدل‌های قدرتمندتر تبدیل شود و لازم است هدف نهایی توسعه سامانه‌های هوشمند مورد توجه قرار گیرد. او هشدار داد تمرکز بیش از اندازه بر پیروزی در رقابت فناوری ممکن است نیاز‌های گروه‌هایی را که از مزایای این پیشرفت محروم می‌مانند، به حاشیه ببرد. به همین دلیل، سامانه‌ای قابل اعتماد که بتواند در خدمت انسان‌ها قرار گیرد، از نظر او ارزش بیشتری نسبت به فناوری بسیار قدرتمندی دارد که پیامد‌های عملکرد آن به‌درستی قابل پیش‌بینی یا کنترل نیست.
این رویکرد همچنین به نحوه توزیع منافع هوش مصنوعی در جامعه مربوط می‌شود. رهبر کاتولیک‌های جهان معتقد است فناوری‌های هوشمند باید به افزایش دسترسی عمومی به خدمات درمانی، دانش و فرصت‌های اقتصادی کمک کنند و توسعه آن‌ها نباید تنها منافع گروه محدودی از شرکت‌ها یا افراد را تأمین کند. او بر ضرورت توجه به گروه‌های آسیب‌پذیر و جوامعی تأکید کرده که ممکن است از پیشرفت‌های فناوری سهم کمتری داشته باشند. چنین دیدگاهی استفاده از هوش مصنوعی را به مسئله‌ای فراتر از افزایش بهره‌وری یا سودآوری شرکت‌ها تبدیل می‌کند و بر پیامد‌های اجتماعی تصمیم‌های مرتبط با توسعه این فناوری تمرکز دارد.
واتیکان خواستار نظارت مستقل و مقررات بین‌المللی شد
پاپ لئو چهاردهم در پایان سخنرانی خود، ایجاد نهاد‌های بین‌المللی مؤثر برای نظارت بر توسعه هوش مصنوعی را یکی از فوری‌ترین نیاز‌های جهان توصیف کرد. به گفته او، بسیاری از اصول اخلاقی موردنیاز برای استفاده مسئولانه از فناوری‌های هوشمند پیش‌تر مطرح شده‌اند، اما مشکل اصلی به نبود سازوکار‌هایی بازمی‌گردد که بتوانند اجرای این اصول را تضمین کنند. او خواستار تدوین استاندارد‌های مشترک، ایجاد نظام‌های نظارتی مستقل و مشخص شدن مسئولیت توسعه‌دهندگان و استفاده‌کنندگان از سامانه‌های هوش مصنوعی شد تا تصمیم‌های مهم این فناوری قابل بررسی و در صورت لزوم قابل اعتراض باشند. چنین چارچوبی باید امکان رسیدگی به خسارت‌های احتمالی و جبران آسیب‌های واردشده به افراد را نیز فراهم کند.
از نگاه رهبر کاتولیک‌های جهان، مسئولیت هدایت هوش مصنوعی نباید تنها برعهده شرکت‌های سازنده یا دولت‌های پیشرو در این حوزه باقی بماند و همکاری بین‌المللی برای جلوگیری از سوءاستفاده و حفظ منافع عمومی ضروری است. او تأکید کرده که انسان‌ها باید اختیار هدایت، اصلاح و در صورت لزوم کنار گذاشتن کاربرد‌های زیان‌بار این فناوری را حفظ کنند. مجموعه این مواضع نشان می‌دهد واتیکان ضمن پذیرش ظرفیت‌های هوش مصنوعی برای پیشرفت علمی و اجتماعی، خواستار محدود کردن کاربرد‌هایی است که می‌توانند جان و آزادی انسان‌ها را بدون نظارت مسئولانه تحت تأثیر قرار دهند. درخواست ممنوعیت سلاح‌های خودمختار نیز بخشی از همین رویکرد گسترده‌تر است که تلاش می‌کند توسعه فناوری را با مسئولیت‌پذیری انسانی و قواعد الزام‌آور بین‌المللی همراه کند.
انتهای پیام/
