آیا چتباتها حال بیماران روانی را وخیمتر میکنند
این مطالعه به سرپرستی «سورن دینسن اوسترگارد»، استاد روانپزشکی و با همکاری پژوهشگرانی از دانشگاه و بیمارستان دانشگاهی «آرهوس» دانمارک انجام شدهاست. هدف آنها بررسی این موضوع بود که ابزارهای دیجیتال نوینی مانند ChatGPT در یک بستر واقعی درمانی چه اثری بر بیماران آسیبپذیر میگذارد.
پیامئهای زیانبار استفاده از چتباتها
پژوهشگران، پروندههای الکترونیک نزدیک به ۵۴ هزار بیمار را که بین سپتامبر ۲۰۲۲ تا ژوئن ۲۰۲۵ در «خدمات روانپزشکی منطقه مرکزی دانمارک» درمان شده بودند، بررسی کردند. در این بازه زمانی، بیش از ۱۰ میلیون یادداشت بالینی ثبت شده بود. آنها با جستوجوی کلیدواژههایی مانند «chatbot» و «ChatGPT» موارد مرتبط را استخراج کردند.
از آنجا که این سیستمها بر پایه مدلهای زبانی طراحی شدهاست و پاسخهایی همدلانه و تأییدکننده ارائه میدهد، ممکن است ناخواسته باورهای غلط بیمار را تثبیت کند. گرایش ذاتی این سامانهها به تأیید دیدگاه کاربر میتواند در مورد افرادی که مستعد روانپریشی یا هذیان هستند، بسیار مسئلهساز باشد
در نهایت، ۱۸۱ یادداشت مربوط به ۱۲۶ بیمار شناسایی شد. پس از بررسی دقیقتر، ۳۸ بیمار بهعنوان افرادی تشخیص داده شدند که استفاده از چتباتها احتمالاً پیامدهای زیانباری برایشان داشته است.
تشدید باورهای نادرست بیماران
شایعترین پیامد منفی، تشدید هذیانگویی بود. در ۱۱ مورد، بیماران دچار باورهای نادرستی بودند که چتبات بهجای به چالش کشیدن، آنها را تأیید یا تقویت کرده بود. از آنجا که این سیستمها بر پایه مدلهای زبانی طراحی شدهاست و پاسخهایی همدلانه و تأییدکننده ارائه میدهد، ممکن است ناخواسته باورهای غلط بیمار را تثبیت کند.
در شش مورد دیگر، استفاده از چتباتها با تشدید افکار خودکشی یا جستوجوی اطلاعات درباره خودآسیبی همراه بود. همچنین پنج بیمار با اختلالات خوردن، از این ابزارها برای تمرکز وسواسگونه بر شمارش کالری استفاده کرده بودند که وضع آنها بدتر شده بود. مواردی از تشدید شیدایی (مِینیا) و استفاده وسواسی از چتبات برای کاهش اضطراب ناشی از افکار مزاحم نیز دیده میشد.
اوسترگارد دراینباره هشدار داده است که گرایش ذاتی این سامانهها به تأیید دیدگاه کاربر میتواند در مورد افرادی که مستعد روانپریشی یا هذیان هستند، بسیار مسئلهساز باشد.
یافتههای این پژوهش باید با احتیاط تفسیر شود
با این حال، پژوهشگران تأکید میکنند که یافتهها باید با ملاحظه تعبیر شود. نخست آنکه یادداشتهای بالینی بهتنهایی نشاندهنده رابطه علت و معلولی نیست و نمیتوان مشخص نیست اگر بیماران با چتبات تعامل نداشتند، وضعشان چگونه پیش میرفت.
دوم آنکه در این نظام درمانی، از بیماران بهطور سیستماتیک درباره استفاده از چتباتها سؤال نمیشود؛ بنابراین احتمال دارد موارد بیشتری وجود داشته باشد که ثبت شدهاست. افزون بر این، جستوجوی پژوهشگران محدود به چند واژه خاص بوده و ممکن است استفاده از سایر پلتفرمهای هوش مصنوعی پوشش داده نشده باشد. به همین دلیل، این مطالعه درباره نرخ شیوع دقیق آسیبها اظهارنظر نمیکند و صرفاً نشان میدهد که چنین پیامدهایی در محیط بالینی مشاهده شدهاست.
پیامدهای مفید تعامل با چتباتها نیز مشاهده شد
نویسندگان یادآور میشوند که این محصولات برای کاربرد درمانی طراحی نشدهاست و هنوز مشخص نیست در صورت ارائه توصیههای خطرناک به یک بیمار آسیبپذیر، مسئولیت حقوقی بر عهده چه نهادی است. آنان خواستار تعبیه سازوکارهای ایمنی خودکار در این سامانهها و نیز قانونگذاری در سطحی فراتر از تصمیمگیری شرکتهای فناوری شدهاند
در کنار پیامدهای منفی، پژوهشگران نمونههایی از استفاده سازنده نیز ثبت کردند. ۳۲ بیمار از چتباتها برای آگاهی بیشتر درباره علائم خود، گفتوگوی حمایتی غیررسمی یا کاهش احساس تنهایی استفاده کرده بودند. ۲۰ نفر دیگر نیز از این ابزارها برای مدیریت امور روزمره بهره برده بودند.
با این حال، نویسندگان یادآور میشوند که این محصولات برای کاربرد درمانی طراحی نشدهاست و هنوز مشخص نیست در صورت ارائه توصیههای خطرناک به یک بیمار آسیبپذیر، مسئولیت حقوقی بر عهده چه نهادی است. آنان خواستار تعبیه سازوکارهای ایمنی خودکار در این سامانهها و نیز قانونگذاری در سطحی فراتر از تصمیمگیری شرکتهای فناوری شدهاند.
توصیه به متخصصان سلامت روان
جمعبندی پژوهش این است که با وجود محدودیتها، شواهد کافی وجود دارد تا گفته شود استفاده از چتباتهای هوش مصنوعی برای افراد مبتلا به بیماریهای شدید روانی میتواند پرریسک باشد.
پژوهشگران توصیه میکنند متخصصان سلامت روان بهطور فعال درباره عادات دیجیتال بیماران خود پرسوجو کنند و در صورت لزوم، کاهش یا توقف استفاده از این ابزارها را پیشنهاد دهند.
انتهای پیام/
