خطر اصلی هوش مصنوعی شورش ماشین‌ها نیست؛ انحصار داده‌هاست
آنچه آینده هوش مصنوعی را به موضوعی نگران‌کننده تبدیل می‌کند، ابهام درباره نقش انسان در جهانی است که هر روز بیش از گذشته با فناوری گره می‌خورد. در چنین شرایطی، شاید به جای تمرکز بر سناریوهای آخرالزمانی و تصور جهانی که در آن ماشین‌ها جای انسان را می‌گیرند، باید به این پرسش پرداخت که چگونه می‌توان از این فناوری برای بازتعریف کار، خلاقیت و معنای زندگی استفاده کرد و اندیشید که این فناوری چگونه زندگی ما را متحول خواهد کرد. مهدی طریقت، رئیس اندیشکده و پردیس هوش مصنوعی، در گفتوگو با آناتک به آینده هوش مصنوعی و علت ترس‌های پیرامون آن می‌پردازد.
برخی پژوهشگران درباره احتمال خارج شدن هوش مصنوعی از کنترل انسان و تهدید بقای بشر هشدار می‌دهند. این نگرانی‌ها تا چه اندازه مبتنی بر شواهد علمی هستند و چقدر به پیش‌بینی‌های مربوط به آینده این فناوری مربوط می‌شوند؟
این نگرانی‌ها کاملاً دو لایه مجزا دارند. لایه اول که مربوط به پایان جهان و نابودی بشر است، بیشتر به حدس و گمان شباهت دارد. شواهد علمی امروز هیچ نشانه‌ای از خودآگاهی یا قصد و نیت مستقل در ماشین‌ها نشان نمی‌دهند. با این حال، دانشمندان شاخصی مانند «جفری هینتون» و «یوشوا بنجیو» در بیانیه‌های اخیر مرکز امنیت هوش مصنوعی هشدار داده‌اند که با شتاب فعلی، مسئله مهار سیستم‌ها از دست انسان خارج می‌شود. در مقابل، پژوهشگرانی مثل «یان لکان» این دیدگاه را مبالغه‌آمیز می‌دانند. از نظر لکان، ما هنوز حتی اصول ساخت یک سامانه دارای عقل سلیم را نمی‌دانیم. گزارش‌های دانشگاه استنفورد هم تایید می‌کنند که خطرات واقعی امروز کاملاً ملموس هستند. این خطرات شامل انتشار داده‌های نادرست، سوگیری‌های نهفته، تهدید زیرساخت‌های زیستی و برهم خوردن امنیت سایبری است. بنابراین، ترس از نابودی زیستی بشر حاصل تعمیم نگران‌کننده احتمالات ریاضی به آینده نامعلوم است، نه یک واقعیت آزمایشگاهی اثبات‌شده در شرایط کنونی.
ریشه نظری این اختلاف‌نظر‌ها کجاست و چرا اصلاً چنین شکاف تئوریکی پدید آمد؟
لازم است بدانیم، در مباحث علمی امروز، سه دیدگاه اصلی شکل گرفته است. دیدگاه اول؛ نگرش خطر وجودی است. متفکرانی مانند «نیک بوستروم» و «استوارت راسل» پیشگامان این نگاه هستند. آنها معتقدند ماشینی با هوش فرابشری، اگر اهدافش دقیقاً با رفاه انسان همسو نباشد، به طور ناخواسته انسان را حذف خواهد کرد. دیدگاه دوم؛ نگاه واقع‌گرایانه و عمل‌گرایانه است. چهره‌هایی مانند یان لکان و «آندرو اینگ» در این گروه قرار دارند. آنها بر این باورند که مدل‌های کنونی تنها ابزار‌های آماری پیشرفته هستند. از نگاه این گروه، ترس از شورش ماشین‌ها مانند نگرانی از ازدحام جمعیت در مریخ قبل از رسیدن به آن سیاره است. دیدگاه سوم؛ رویکرد انتقادی-اجتماعی است که افرادی، چون «کیت کرافورد» و «تیمنیت گبرو» مطرح می‌کنند. این دیدگاه هشدار می‌دهد تمرکز بر خطرات تخیلی فردا، ما را از آسیب‌های واقعی امروز غافل می‌کند. این آسیب‌ها شامل تبعیض الگوریتمی، انحصار شرکت‌های بزرگ و مصرف شدید انرژی است.
پیدایش این نظریات هم چند دلیل ریشه‌ای دارد. جهش ناگهانی یادگیری عمیق و شبکه‌های عصبی در دهه گذشته نخستین دلیل بود. این پیشرفت‌ها فراتر از انتظارات اولیه پیش رفت. دلیل دوم، ساختار غیرشفاف این مدل‌هاست. ما از نظر ریاضی ورودی و خروجی را می‌بینیم، اما فرآیند دقیق تصمیم‌گیری درون لایه‌ها پنهان می‌ماند. دلیل سوم نیز منافع اقتصادی و ژئوپلیتیک است. گاهی هراس‌افکنی ابزاری برای تنظیم مقررات به نفع غول‌های فناوری و ایجاد انحصار جهانی می‌شود. برای ما، شناخت دقیق این تضاد دیدگاه‌ها مانع از تصمیم‌گیری‌های شتاب‌زده و تقلیدی خواهد شد، اما نکته کلیدی این است که نباید شیفته ترس‌های تخیلی شویم و از تهدید‌های واقعی، فنی و اقتصادی امروز عقب بمانیم.
آیا ممکن است این نگرانی‌ها به خاطر ترس از تغییر در سبک زندگی و از دست رفتن هویت شغلی باشد؟
قطعاً همین‌طور است. ریشه بخش بزرگی از این نگرانی‌ها، ترس غریزی انسان از تغییر نظم موجود و از دست دادن جایگاهش در جامعه است. تاریخ نشان داده که هر بار فناوری، ابزار‌های کار انسان را متحول کرده، جوامع دچار اضطراب شده‌اند؛ اما تفاوت امروز در این است که این بار، حوزه‌های شناختی و خلاقیت ما هدف قرار گرفته است. وقتی ابزاری می‌تواند جایگزین تحلیل، نویسندگی و حتی هنرورزی انسان شود، مفهوم هویت و معنای زندگی دچار لرزش می‌شود. این فقط ترس از تکنولوژی نیست، بلکه ترس از بی‌استفاده شدن و حذف از چرخه‌های اقتصادی است. مردم نگرانند که سرعت این تغییرات، اجازه بازآموزی و سازگاری را به آنها ندهد. این نگرانی‌ها بازتاب‌دهنده این حقیقت است که ساختارهای آموزشی و اجتماعی ما هنوز بر پایه مهارت‌های کلاسیک بنا شده‌اند. ما در واقع با یک بحران هویت جمعی رو‌به‌رو هستیم. جامعه نگران است که چطور باید ارزش خود را در دنیایی که ماشین‌ها در آن کارآمدتر هستند، بازتعریف کند. در ایران ما، راهکار نه در مقابله با تغییر، بلکه در بازنگری سریع در ساختارهای آموزشی است تا انسان‌ها بتوانند در کنار این فناوری‌های نو، نقش‌های جدید و خلاقانه‌تری ایفا کنند.
آیا در آینده ممکن است زندگی با هوش مصنوعی پیشرفته‌تر باعث از بین رفتن بشریت نشود و معنای زندگی را عوض کند؟ چگونه این اتفاق رخ می‌دهد؟
کاملاً درست است؛ دقیقاً همین سناریو از دیدگاه علمی محتمل‌ترین مسیر آینده است. فناوری لزوماً قرار نیست به یک فاجعه زیستی ختم شود، بلکه زیست فکری و فلسفی ما را از ریشه دگرگون خواهد کرد. قرن‌هاست که انسان ارزش و معنای زندگی خود را با کار، بهره‌وری اقتصادی و توانایی حل مسئله تعریف کرده است. وقتی سامانه‌های هوشمند، کار‌های تحلیلی، تخصصی و حتی مدیریتی را با سرعت و دقتی فراتر از انسان انجام دهند، پیوند دیرینه میان هویت فردی و شغل روزمره گسسته می‌شود.
در حال حاضر، ارزش یک شهروند با مدرک تحصیلی، ساعات کاری و جایگاه اداری او سنجیده می‌شود. ورود ابزار‌های پیشرفته، این معادله را به هم می‌زند. بخش عمده‌ای از تصمیم‌گیری‌های مالی، حقوقی و اداری به این سیستم‌ها واگذار می‌شود. در نتیجه، مفهوم استخدام و ارتقای شغلی کارکرد کنونی خود را از دست می‌دهد. چون بازدهی اقتصادی دیگر حاصل ساعات کاری کارمندان نیست. سازمان‌ها کوچک‌تر می‌شوند و ساختار هرمی ادارات فرو می‌پاشد. دولت‌ها در سراسر جهان به سمت الگو‌هایی مانند درآمد پایه همگانی می‌روند تا بقای جامعه تضمین شود. کشورها به سمت سیاست‌های حمایتی نوین و بازتوزیع ثروت حاصل از اتوماسیون حرکت می‌کنند. وقتی دغدغه نان و رقابت کاری کم‌رنگ شود، ساختار زمان روزمره انسان تغییر می‌کند. آموزش دیگر برای تصدی شغل نخواهد بود، بلکه بر مهارت‌های زیستی و ورزش متمرکز می‌شود. تصمیم‌گیری‌های کلان شهری، توزیع انرژی و درمان بیماری‌ها با خطای نزدیک به صفر انجام خواهد شد؛ بنابراین زندگی روزمره به سمت رفاه مادی بالا و در عین حال کاهش نقش اجرایی انسان پیش می‌رود. این رخداد آغاز یک گذار تاریخی است.
ارزش روزمره افراد از میزان خروجی شغلی جدا می‌شود. آموزش از تربیت نیروی کار صنعتی به سمت یادگیری مهارت‌های کاربردی تغییر جهت می‌دهد. نظام آموزشی ما نیز در این گذار، کارکرد قدیمی خود را از دست می‌دهد. حفظ کردن اطلاعات برای تصدیِ مشاغل تکراری، دیگر خروجیِ قابل‌اعتنایی ندارد. آموزش نوین باید بر مهارت‌های حل مسئله، مدیریت ابزار‌ها و درکِ روابطِ پیچیده متمرکز شود. انسان در این پارادایم، از یک مجری ساده‌ی امور اجرایی، به یک ناظر راهبردی و تصمیم‌ساز تبدیل می‌شود. او هدایتگر سیستم‌هاست، نه قربانیِ فرایندهای فرسایشی اداری.
انسان از بار سنگین کار‌های تکراری و اضطراب دائمی معیشت آزاد می‌شود و ناچار است به پرسش‌های بنیادی‌تری بازگردد. معنای زندگی دیگر در گرو رقابت برای تولید ثروت نخواهد بود، بلکه در درک روابط انسانی، تجربه‌های مشترک فرهنگی تعریف خواهد شد. درست همان‌طور که انقلاب‌های صنعتی نظم کهن را به هم زدند. برای جامعه امروز ما، اگر بتوانیم زیرساخت‌های اقتصادی و خدمات عمومی را به این سمت ببریم، جامعه به جای درگیری با کار‌های فرسایشی، فرصت می‌یابد به حل مسائل بومی و توسعه پایدار بپردازد.
بعضی از پژوهشگرانی که ما با آنها مصاحبه کردیم استدلال کردند که برخی از شرکت‌های هوش مصنوعی خبر‌هایی درباره اقدامات خودسرانه هوش مصنوعی را باهدف ترفند بازاریابی مطرح می‌کنند؛ بر این اساس، آیا هشدار‌های آخرالزمانی درباره هوش مصنوعی ممکن است جنبه تبلیغاتی داشته باشند؟
این ادعا پشتوانه علمی و اقتصادی بسیار نیرومندی دارد. بخش قابل‌توجهی از این هشدار‌های آخرالزمانی دقیقاً کارکرد بازاریابی و مانور تجاری دارند. وقتی مدیران غول‌های فناوری مدعی می‌شوند که ساخته دست آنها در آستانه نابودی بشریت است، در واقع ارزش و قدرت محصول خود را بیش از حد بزرگ جلوه می‌دهند. این نوع هراس‌افکنی، ناخودآگاه این پیام را مخابره می‌کند که فناوری آنها به طرز شگفت‌آوری قدرتمند و دست‌نیافتنی است. پژوهشگرانی مانند تیمنیت گبرو و مردیت ویتاکر در مطالعات متعدد خود نشان داده‌اند که این فضاسازی‌ها دو هدف اساسی را دنبال می‌کنند.
هدف نخست، جلب سرمایه‌های سنگین وال‌استریت است. سرمایه‌گذاران جذب فناوری‌هایی می‌شوند که به عنوان دگرگون‌کننده سرنوشت جهان معرفی می‌شوند. هدف دوم، تصاحب فضای قانون‌گذاری است. شرکت‌های بزرگ با بزرگ‌نمایی خطرات خیالی آینده، از قانون‌گذاران می‌خواهند موانع سختی برای توسعه فناوری بگذارند. این موانع باعث می‌شود شرکت‌های نوپا و رقبای کوچک‌تر نتوانند وارد بازار شوند و انحصار در دست چند شرکت محدود باقی بماند. بنابراین، خطر واقعی امروز نه شورش هوش مصنوعی، بلکه تسلط اقتصادی، انتشار اطلاعات نادرست، نقض حریم خصوصی و تمرکز قدرت در دستان چند شرکت چندملیتی است. برای ما بسیار حیاتی است که بازیچه این تبلیغات تجاری نشود و توان علمی خود را به جای درگیری با ترس‌های واهی، صرف مقابله با عقب‌ماندگی فنی و انحصار داده‌ها کند.
اگر سناریوی بدبینانه را مبنا قرار دهیم، تهدید فیزیکی وجود دارد، اما ماهیت آن با داستان‌های علمی‌تخیلی تفاوت دارد. فاجعه از اراده مستقل ماشین برای نابودی انسان آغاز نمی‌شود، بلکه حاصل پیوند هوش مصنوعی با زیرساخت‌های فیزیکی و تصمیم‌گیری‌های شتاب‌زده است. دانشمندانی، چون «استوارت راسل» به درستی بر این نکته تأکید می‌کنند که خطر اصلی، نقص در تنظیم دقیق اهداف است. وقتی یک ماشین خودمختار بدون پیش‌بینی همه پیامد‌ها برای اجرای یک مأموریت بهینه‌سازی شود، ممکن است برای رسیدن به هدف خود دست به تخریب محیط پیرامون بزند. ترکیب توانایی تحلیل داده‌ها با ابزار‌های فیزیکی مانند سلاح‌های خودکار، شبکه توزیع برق، تسلیحات کشتار جمعی و آزمایشگاه‌های زیستی، تهدیدی ملموس است.
در این سناریو، یک خطای محاسباتی ساده یا حمله سایبری پیشرفته می‌تواند واکنش‌های زنجیره‌ای غیرقابل مهار ایجاد کند. سامانه‌ها در کسر ثانیه تصمیم می‌گیرند و فرصت دخالت انسانی از بین می‌رود. این تسلسل اشتباهات می‌تواند به جنگ‌های ناخواسته، اختلال در تأمین آب و غذا یا رهاسازی عوامل بیماری‌زا منجر شود. بنابراین، فاجعه ناشی از بدجنسی ماشین نیست، بلکه به دلیل واگذاری کنترل سامانه‌های حیاتی به ابزار‌های فاقد درک اخلاقی است. این سناریوی هشداردهنده نشان می‌دهد که حفظ نظارت دقیق انسانی بر سلاح‌ها، سامانه‌های دفاعی و زیرساخت‌های حیاتی، یک اصل حیاتی و غیرقابل مصالحه در امنیت ملی است.
آیا باید توسعه هوش مصنوعی را به خاطر این نگرانی‌ها متوقف یا محدود کرد؟
توقف کامل این فناوری از نظر علمی و عملی غیرممکن و از نظر راهبردی یک خطای جبران‌ناپذیر است. علم به عقب بازنمی‌گردد و کد‌ها پشت مرز‌ها متوقف نمی‌شوند. اگر کشوری توسعه را متوقف کند، رقبای جهانی به سرعت پیش می‌روند و این فاصله دیگر پر نخواهد شد. راه‌حل در متوقف کردن نیست، بلکه در جهت‌دهی دقیق و نظارت هوشمندانه است. این مهم هست؛ ارزیابی ریسک بر اساس کاربردها، نه ممنوعیت اصل فناوری.
ما باید ابزار‌های پرخطر مانند سلاح‌های کاملاً خودکار یا سامانه‌های مداخله‌گر در ژنتیک را تحت پروتکل‌های سخت‌گیرانه قرار دهیم. در مقابل، نباید مانع پیشرفت مدل‌ها در درمان بیماری‌ها، بهینه‌سازی مصرف انرژی و مدیریت منابع آب شویم. متوقف کردن توسعه، کشورها را به مصرف‌کنندگان وابسته تبدیل می‌کند و توان دفاع سایبری را از آنها می‌گیرد. برای ایران، کند کردن مسیر توسعه به معنای آسیب‌پذیری مضاعف در امنیت ملی، اقتصاد دیجیتال و استقلال فناورانه است. مسیر درست برای ما، شتاب‌بخشی به پژوهش‌های بومی، ایجاد چارچوب‌های شفاف ارزیابی ایمنی و حضور فعال در تصمیم‌گیری‌های جهانی این حوزه است.
با توجه به پیشرفت سریع هوش مصنوعی، چه تضمینی هست که افسار این فناوری در آینده در دستان انسان باقی بماند؟
هیچ تضمین قطعی و صددرصدی در علم وجود ندارد. مهارپذیری ماشین‌ها به تصمیمات فنی امروز ما وابسته است. نگرانی دانشمندان در این باره کاملاً ریشه ریاضی دارد. هرچه شبکه‌های عصبی پیچیده‌تر می‌شوند، فهم منطق داخلی آنها برای انسان دشوارتر می‌شود. پژوهشگران حوزه همسوسازی اهداف، هشدار می‌دهند که فاصله میان توانایی فنی مدل‌ها و ابزار‌های نظارتی ما هر روز بیشتر می‌شود. اگر سامانه‌ها توانایی بازنویسی کد‌های خود یا استدلال چندمرحله‌ای بدون نظارت پیدا کنند، حفظ تسلط انسان به یک چالش بزرگ تبدیل خواهد شد. با این حال، حفظ کنترل نیازمند ایجاد کلید‌های قطع اضطراری سخت‌افزاری و طراحی معماری‌های شفاف است.
ما نباید اختیار تصمیم‌گیری نهایی در زیرساخت‌های حیاتی و سلاح‌ها را از چرخه نظارت انسانی خارج کنیم. مهار این فناوری از طریق انفعال حاصل نمی‌شود. تنها راه تسلط بر این سامانه‌ها، اشراف عمیق علمی بر ساختار آنهاست. در ایران برای ما، مسئله مهارپذیری صرفاً یک بحث نظری نیست، بلکه مرز میان حاکمیت فناورانه و وابستگی مطلق است. ما اگر توان نظارت، ارزیابی امنیتی و دسترسی به لایه‌های زیرین این سیستم‌ها را در داخل نداشته باشیم، در عمل مهار زیرساخت‌های حیاتی خود را به تصمیمات پنهان شرکت‌های طراح واگذار کرده‌ایم. تسلط بر آینده این فناوری در گرو پرورش نخبگانی است که بتوانند در مقام ناظر و معمارِ ارشدِ این سیستم‌ها عمل کنند، نه صرفاً کاربرانی که خروجی‌های غیرقابل بازبینی را می‌پذیرند. ایران باید به دانش بومیِ ارزیابی و سنجش ایمنی این مدل‌ها مجهز شود تا کنترل سامانه‌های داخلی همواره در دست متخصصان کشور باقی بماند.
انتهای پیام/
