کدام تصمیمهای زندگی را نباید به AI سپرد
بیتا بهرامی، روانشناس بالینی و استاد دانشگاه آزاد واحد پزشکی تهران، در گفتوگو با آناتک درباره مرز میان استفاده از هوش مصنوعی و وابستگی به آن توضیح میدهد و معتقد است هوش مصنوعی میتواند در بسیاری از تصمیمها نقش مشاور داشته باشد، اما در حوزههایی که پای ارزشهای شخصی، روابط انسانی و مسئولیت فردی در میان است، نباید جایگزین تصمیمگیرنده انسانی شود.
کدام تصمیمهای زندگی را نباید به هوش مصنوعی سپرد؟
به نظر من هر تصمیمی که مستقیم با هویت، ارزشها، روابط عاطفی، اخلاق و معنای زندگی ما ارتباط دارد، بهتر است به طور کامل به هوش مصنوعی سپرده نشود. AI میتواند اطلاعات بدهد، گزینهها را مقایسه کند و حتی پیامدهای احتمالی هر انتخاب را نشان دهد، اما در نهایت این انسان است که باید تصمیم بگیرد چه چیزی برای خودش ارزشمند است.
در این مسائل، فقط اطلاعات و محاسبه اهمیت ندارند؛ بلکه تجربه زیسته، ارزشهای فردی، احساسات و مسئولیت شخصی نیز دخیل هستند. هوش مصنوعی میتواند اطلاعاتی درباره یک موقعیت در اختیار ما قرار دهد، اما نمیتواند به جای ما زندگی کند و پیامد تصمیم را تجربه کند.
آیا هوش مصنوعی میتواند درباره انتخاب شریک زندگی یا مسیر شغلی توصیه قابل اعتمادی ارائه دهد؟
AI میتواند به جمعآوری اطلاعات و بررسی برخی جنبههای یک انتخاب کمک کند، اما نباید تصمیم نهایی را به آن واگذار کرد. برای مثال، ممکن است یک سیستم براساس مجموعهای از ویژگیها، فرد یا شغلی را گزینه مناسبتری معرفی کند، اما آنچه برای یک انسان اهمیت دارد در قالب داده قابل اندازهگیری نیست.
بهرامی: AI میتواند به جمعآوری اطلاعات و بررسی برخی جنبههای یک انتخاب کمک کند، اما نباید تصمیم نهایی را به آن واگذار کرد
ممکن است فردی شغلی را انتخاب کند که از نظر منطقی بهترین گزینه نباشد، اما با ارزشها و معنای شخصی زندگی او هماهنگ باشد. برای مثال، انتخاب شغل را میتوان از نظر درآمد، بازار کار، میزان ریسک و آینده حرفهای با کمک هوش مصنوعی بررسی کرد؛ اما اینکه فرد چه نوع زندگیای میخواهد و حاضر است چه میزان از زندگی شخصی خود را برای کار صرف کند، یک مسئله محاسباتی نیست و این بخش از تصمیم را نمیتوان فقط به یک الگوریتم سپرد. در مورد روابط عاطفی نیز همین مسئله وجود دارد. ممکن است هوش مصنوعی بتواند بر اساس اطلاعات موجود، ویژگیهای یک فرد را تحلیل کند و حتی سازگاری دو نفر را تخمین بزند، اما رابطه انسانی چیزی فراتر از مجموعهای از دادههاست.
یعنی هرچه تصمیم شخصیتر باشد، نقش AI باید محدودتر شود؟
بله دقیقا، هرچه یک تصمیم بیشتر به ارزشها و هویت فرد مربوط باشد، لازم است سهم تصمیمگیری مستقیم خود انسان بیشتر شود. هوش مصنوعی میتواند نقش مشاور داشته باشد، اما نباید به جای فرد تصمیم بگیرد.
مشکل زمانی آغاز میشود که انسان از مرحله «بررسی پیشنهاد» عبور کند و به مرحله «اجرای پیشنهاد» برسد. یعنی دیگر از خودش نپرسد آیا این انتخاب با خواستهها و ارزشهای من هماهنگ است یا نه و فقط چون ماشین آن را بهترین گزینه معرفی کرده، آن را بپذیرد.
چرا تصمیمهای اخلاقی جای مناسبی برای واگذاری کامل به AI نیستند؟
زیرا تصمیم اخلاقی فقط پیدا کردن پاسخ درست نیست؛ فرد باید مسئولیت انتخاب خود را نیز بپذیرد. AI دیدگاههای مختلف را مطرح میکند و پیامدهای احتمالی یک تصمیم را توضیح میدهد، اما مسئولیت اخلاقی تصمیم همچنان متعلق به انسان است.
اگر فرد برای هر موقعیت اخلاقی فقط به پاسخ آماده یک سیستم مراجعه کند، بهتدریج فرصت مواجهه مستقل با مسائل پیچیده اخلاقی را از دست میدهد.
به نظر شما اعتماد بیش از حد به پیشنهادهای AI میتواند مسئولیتپذیری انسان را کاهش دهد؟
به نظر من بله، وقتی فرد تصمیم را به یک عامل بیرونی واگذار میکند، ممکن است در صورت شکست، احساس کند مسئولیت اصلی متوجه خودش نیست. این مسئله میتواند بهخصوص در تصمیمهای مهم زندگی مشکلساز شود.
فرض کنید فردی براساس پیشنهاد یک سامانه هوشمند شغلی را انتخاب کند و بعد از مدتی متوجه شود از آن زندگی رضایت ندارد. اگر انتخاب توسط خودش انجام شده باشد، تجربه شکست میتواند به شناخت بهتر خود و اصلاح مسیر کمک کند؛ اما اگر همیشه بگوید «هوش مصنوعی این گزینه را پیشنهاد کرده بود»، بخشی از مسئولیت شخصی و فرصت یادگیری از تجربه نیز کمرنگ خواهد شد.
در روابط انسانی آیا AI میتواند جای مشاور یا قضاوت شخصی ما را بگیرد؟
AI میتواند به فرد کمک کند یک مسئله را از زاویه دیگری ببیند، اما روابط انسانی بسیار پیچیدهتر از مجموعهای از دادهها هستند. لحن، تجربه مشترک، تاریخچه رابطه، احساسات و حتی سکوت و رفتارهای غیرکلامی در این روابط اهمیت دارند.
بنابراین میتوان از AI برای فکر کردن به یک مسئله کمک گرفت، اما نباید تحلیل آن را حقیقت نهایی درباره یک انسان یا یک رابطه در نظر گرفت.
اگر هوش مصنوعی در یک تصمیم مهم چند گزینه پیش روی ما بگذارد، بهترین روش استفاده از این پیشنهادها چیست؟
بهتر است پیشنهادها را بهعنوان نقطه شروع بررسی کنیم، نه پاسخ نهایی. فرد میتواند از AI بخواهد مزایا و معایب گزینهها را مطرح کند، اما بعد خودش اطلاعات را ارزیابی کند و تصمیم بگیرد.
در واقع، AI میتواند نقش یک ابزار تحلیلی را داشته باشد؛ اما ارزشها و اولویتهای زندگی را نباید از آن دریافت کرد.
آیا ممکن است پیشنهادهای به ظاهر منطقی AI ما را به سمت انتخابهایی ببرد که واقعا برایمان مناسب نیستند؟
بله، هر الگوریتمی براساس دادهها، معیارها و اطلاعاتی که دریافت کرده است پیشنهاد میدهد. اگر بخشی از واقعیت زندگی فرد در دادهها وجود نداشته باشد، نتیجه نیز ممکن است ناقص باشد.
ضمن اینکه «بهینهترین» گزینه از نگاه یک سیستم الزاما «مناسبترین» گزینه برای یک انسان نیست. زندگی فقط مسئله رسیدن به یک نتیجه بهینه نیست؛ گاهی تجربه کردن، ریسک کردن و حتی انتخاب مسیری که از نظر محاسباتی بهترین نیست، بخشی از زندگی انسان است.
حتی اگر AI بتواند با دقت بالا پیشبینی کند که چه تصمیمی برای ما بهتر است، باز هم باید تصمیم نهایی را خودمان بگیریم؟
بله، حتی اگر یک سامانه بتواند براساس دادههای موجود احتمال موفقیت یک انتخاب را بسیار دقیق پیشبینی کند، باز هم انتخاب نهایی باید متعلق به خود فرد باشد.
انسان فقط به دنبال بیشترین احتمال موفقیت نیست و گاهی آگاهانه ریسک میکند، مسیر دشوارتر را انتخاب میکند یا تصمیمی میگیرد که از نظر محاسباتی بهترین گزینه نیست، اما با ارزشها و خواستههای او هماهنگ است. همچنین انسان میتواند برخلاف پیشبینیها رفتار کند و تصمیم خود را تغییر دهد. این امکان که فرد بتواند مسیر متفاوتی را انتخاب کند، بخش مهمی از استقلال اوست.
پس آیا بهتر است برای بعضی حوزهها اصلا از AI استفاده نکنیم؟
من حذف کامل این ابزار را پیشنهاد نمیکنم. مسئله این است که جایگاه آن را درست تعریف کنیم. در تصمیمهای حساس، میتوان از AI برای جمعآوری اطلاعات، بررسی گزینهها و دیدن زوایایی که شاید به ذهنمان نرسیده استفاده کرد، اما تصمیم نهایی باید با خود فرد باقی بماند.
به خصوص در مسائل عاطفی، اخلاقی و روابط انسانی، بهتر است AI نقش مشاور داشته باشد و نقش قاضی یا تصمیمگیرنده را ایفا نکند.
چگونه بفهمیم در یک تصمیم بیش از حد به AI تکیه کردهایم؟
یک معیار ساده این است که از خودمان بپرسیم اگر پاسخ AI را نداشتیم، آیا میتوانستیم درباره این موضوع فکر کنیم و تصمیم بگیریم یا نه؟ اگر پاسخ منفی باشد و فرد احساس کند بدون نظر AI قادر به حرکت نیست، باید در شیوه استفاده خود تجدیدنظر کند.
آیا میتوان بدون کنار گذاشتن هوش مصنوعی، استقلال در تصمیمهای مهم را حفظ کرد؟
بله، لازم نیست فناوری را حذف کنیم. کافی است مسئولیت تصمیم را همچنان برای خودمان نگه داریم. میتوان از AI سوال پرسید و پاسخهایش را بررسی کرد و حتی با آن مخالفت کرد و در نهایت براساس ارزشها و شرایط واقعی زندگی تصمیم گرفت.
به نظر من مهمترین نکته این است که هوش مصنوعی هرچقدر هم قدرتمند شود، نباید جای تجربه انسانی را بگیرد. ماشین میتواند به ما بگوید کدام گزینهها وجود دارند، اما اینکه کدام مسیر با زندگی، ارزشها و معنای شخصی ما سازگار است، همچنان یک پرسش انسانی است.
انتهای پیام/
