آیا هوش مصنوعی پایان دنیا را رقم خواهد زد؟

زمانی که هوش مصنوعی به‌تازگی راه‌اندازی شد و به‌صورت گسترده در قالب چت‌بات‌ها در اختیار مردم جهان قرار گرفت، ابتدا همه هیجان‌زده بودند؛ اما حالا، پس از گذشت چند سال، این هیجان جای خود را به نگرانی داده است. امروز نه‌تنها مردم، بلکه پژوهشگران و مهندسان حوزه هوش مصنوعی نیز نسبت به این فناوری ابراز نگرانی می‌کنند. اما این نگرانی تا چه حد درست و واقعی است؟ آیا واقعاً هوش مصنوعی دنیا را از بین خواهد برد؟ سیدمهدی شریعت‌زاده، پژوهشگر و متخصص حوزه هوش مصنوعی و علوم کامپیوتر، در ادامه در گفت‌و‌گو با آناتک به این سؤالات پاسخ داده است.

به نظر شما هوش‌مصنوعی می‌تواند پایان دنیا را رقم بزند؟

هوش مصنوعی به توانایی ماشین‌ها در تولید، به‌روزرسانی و به‌کارگیری دانش گفته می‌شود؛ به‌گونه‌ای که بتوانند در مسائلی مانند تصمیم‌گیری، تولید محتوا، طبقه‌بندی و پیش‌بینی، توانمندی‌هایی مشابه موجودات هوشمند از خود نشان دهند. اینکه آیا هوش مصنوعی می‌تواند به پایان دنیا منجر شود یا نه، شبیه این است که بپرسیم آیا انرژی هسته‌ای می‌تواند پایان دنیا را رقم بزند یا خیر. مشخصاً افرادی که بخواهند با استفاده نادرست از یک پدیده فیزیکی، ابزار یا روش فناورانه به دیگران آسیب بزنند، ممکن است از هر ابزاری برای این کار استفاده کنند. بنابراین، چندان صحیح نیست که بگوییم انرژی هسته‌ای، فناوری هوش مصنوعی یا هر فناوری دیگری به‌خودی‌خود می‌تواند پایان دنیا را رقم بزند.

پروفسور یان لی‌کان اخیراً در مطلبی اعلام کرده است که مطالب مطرح‌شده درباره آخرالزمان و ویرانی تمدن بشری در اثر هوش مصنوعی، کاملاً غلط و نادرست هستند

از سوی دیگر، اگر بخواهیم درباره شدت آثار مخرب احتمالی صحبت کنیم، هرچند در رسانه‌ها اخبار مختلفی در این زمینه منتشر می‌شود، دانشمندان اصلی حوزه فناوری و علم هوش مصنوعی در جهان چنین اعتقادی ندارند. به‌عنوان مثال، پروفسور یان لی‌کان اخیراً در مطلبی اعلام کرده است که مطالب مطرح‌شده درباره آخرالزمان و ویرانی تمدن بشری در اثر هوش مصنوعی، کاملاً غلط و نادرست هستند. در اظهارنظر‌های دانشمندان اصلی هوش مصنوعی در جهان نیز معمولاً چنین دیدگاهی دیده نمی‌شود.

البته افرادی مانند استیون هاوکینگ و بیل گیتس درباره این موضوع صحبت کرده‌اند، اما در حقیقت این افراد متخصص حوزه هوش مصنوعی محسوب نمی‌شوند.

شمارش معکوس برای آغاز جنگ سرد فناوری

چرا احتمال این اتفاق وجود دارد و درصورت وقوع چه سناریو‌های احتمالی رخ خواهد داد؟

اینکه چگونه ممکن است هوش مصنوعی به پایان تمدن بشری منجر شود، بیش از آنکه موضوعی مورد پذیرش و بحث در مجامع علمی و تخصصی باشد، از سوی شرکت‌ها و گاهی سیاستمداران مطرح می‌شود. اگر بخواهیم سناریو‌های چنین اتفاقی را بررسی کنیم، شاید بتوانیم به فیلم‌های سینمایی رجوع کنیم، فیلم‌های متعددی در این باره ساخته شده‌ است، آثار علمی‌تخیلی مختلفی به موضوع از بین رفتن تمدن بشری در اثر هوش مصنوعی پرداخته‌اند. فارغ از بحث علمی، سناریو‌های مختلفی درباره این موضوع در فیلم‌های علمی‌تخیلی مطرح شده است.

 هوش مصنوعی می‌تواند به عاملی برای قدرت و تسلط تبدیل شود. در صورتی که این قدرت در اختیار کشور‌های استعمارگر قرار گیرد، ممکن است به تعبیر پوتین، شاهد شکل‌گیری جهانی باشیم که در آن کشور‌های دنیا به دو دسته کشور‌های قدرتمندِ صاحب فناوری هوش مصنوعی و کشور‌های برده تقسیم شوند

به نظر من، موضوعی که در این زمینه جدی و واقعاً نگران‌کننده است، مجهز شدن قدرت‌های بزرگ و استعمارگر به هوش مصنوعی پیشرفته است. در حقیقت، هوش مصنوعی می‌تواند به عاملی برای قدرت و تسلط تبدیل شود. در صورتی که این قدرت در اختیار کشور‌های استعمارگر قرار گیرد، ممکن است به تعبیر آقای پوتین، شاهد شکل‌گیری جهانی باشیم که در آن کشور‌های دنیا به دو دسته کشور‌های قدرتمندِ صاحب فناوری هوش مصنوعی و کشور‌های برده تقسیم شوند.

به نظر من، این خطر جدی است. ما پیش از این نیز در انقلاب صنعتی، در اوایل قرن هجدهم، به شکل دیگری شاهد چنین پدیده‌ای بودیم؛ اما با خودکار شدن ماشین‌ها در اثر فناوری هوش مصنوعی، این مسئله می‌تواند تشدید شود.

زمانی که مسئولیت تدوین سند ملی هوش مصنوعی را بر عهده داشتم، بعضی از مدیران مباحث مختلفی را درباره این موضوع مطرح می‌کردند؛ از جمله اینکه لزوماً نباید اختیار تصمیم‌گیری به هوش مصنوعی سپرده شود یا اینکه هوش مصنوعی نباید به جای انسان تصمیم بگیرد.

در واقع، این جمله چندان معنای دقیقی ندارد، زیرا هر سیستم خودکار به نوعی و به شکلی به جای انسان تصمیم می‌گیرد. حتی سیستم‌های بسیار قدیمی، مانند یک سیستم کنترل دمای اتاق، در واقع تصمیم می‌گیرند که چه زمانی سیستم‌های تهویه روشن یا خاموش شوند.

حتی همین سیستم ترموستات ساده برای تنظیم دمای اتاق نیز ممکن است، برای مثال، در شرایطی باعث مرگ یک فرد شود؛ مثلاً اگر دمای اتاق را بیش از حد سرد یا گرم کند و فردی بیمار در آن اتاق حضور داشته باشد.

اساساً هر جا از یک ابزار خودکار، هرچقدر هم ساده، استفاده می‌کنیم، آن ابزار تا حدی به جای انسان تصمیم می‌گیرد. در حقیقت، مسئولیت خطا بر عهده ماشین نیست؛ بلکه ممکن است افرادی که اختیار و توانایی تنظیم آن ماشین را دارند مرتکب خطا شوند و این خطا تبعاتی برای انسان‌ها داشته باشد و به برخی از آنها آسیب برساند.

آیا شواهد واقعی از رفتار خطرناک مدل‌ها و ایجنت‌های هوش‌مصنوعی وجود دارد؟

در چند ماه اخیر، اخبار مختلفی درباره فرار عامل‌های هوش مصنوعی از سندباکس‌ها یا هک کردن ناخواسته سایت‌های مختلف منتشر شده است؛ اتفاقاتی که ظاهراً به‌صورت پیش‌بینی‌نشده و خارج از کنترل رخ داده‌ است. با این حال، نظر بعضی از کارشناسان این است که این اخبار بیشتر جنبه تبلیغاتی دارند و با هدف نمایش بیش از حد قدرت عامل‌های هوش مصنوعی شرکت‌های سازنده منتشر می‌شوند تا ارزش اقتصادی این شرکت‌ها نیز در سطح بالاتری برآورد شود.

این موضوع، به‌ویژه با نزدیک شدن زمان عرضه اولیه سهام دو شرکت اصلی تولیدکننده فناوری عامل‌های هوشمند، بیشتر مورد توجه قرار گرفته است. برآورد من این است که این دیدگاه کارشناسی درست است و در خصوص غیرقابل‌مهار بودن قدرت عامل‌های هوشمند، اغراق می‌شود.

اساساً هر جا از یک ابزار خودکار، هرچقدر هم ساده، استفاده می‌کنیم، آن ابزار تا حدی به جای انسان تصمیم می‌گیرد. در حقیقت، مسئولیت خطا بر عهده ماشین نیست؛ بلکه ممکن است افرادی که اختیار و توانایی تنظیم آن ماشین را دارند مرتکب خطا شوند و این خطا تبعاتی برای انسان‌ها داشته باشد و به برخی از آنها آسیب برساند

چطور می‌توان از اقدامات خطرناک هوش‌مصنوعی که ممکن است منجر به آسیب‌های گسترده و جدی به انسان‌ها شود جلوگیری کرد؟

در این زمینه، موضوع «هوش مصنوعی قابل اتکا» نیز طی چند سال اخیر مطرح شده است. این موضوع هم از بُعد حقوقی و تقنینی و هم از بُعد فنی و فناورانه، به‌صورت موازی در حال بررسی و تکامل است.

هوش مصنوعی قابل اتکا باید ابعاد مختلفی داشته باشد و در زمینه‌هایی مانند شفافیت، توضیح‌پذیری، عدالت و امنیت مدل‌های هوشمند، قوانین و اصول مشخصی را تعیین کند. به‌طور خاص، درباره برخی از ابعاد هوش مصنوعی مولد، مانند چت‌بات‌ها، پیشرفت در این زمینه هنوز محدود است. با این حال، در سال‌های آینده و با تکمیل و بلوغ بیشتر مفهوم هوش مصنوعی قابل اتکا، شاهد تغییراتی هم در فناوری و هم در کاربرد مدل‌های هوش مصنوعی خواهیم بود.

این تغییرات می‌تواند به ارائه تضمین‌هایی درباره جلوگیری از ایجاد مشکل، محدود بودن مشکلات ایجادشده توسط سیستم‌های خودمختار و قابل‌کنترل بودن آنها منجر شود. همچنین باید تضمین‌هایی درباره امکان رفع مشکلاتی که یک‌بار توسط این سیستم‌ها ایجاد شده‌ است، از سوی کاربران یا مدیران سامانه‌ها ارائه شود.