سخنگوی قوه قضائیه در گفتوگو با آنا مطرح کرد
در گفتوگو با آنا مطرح شد
حجتالاسلاموالمسلمین کاشانی:
درگیری عاطفی میتواند باورپذیری تصاویر هوش مصنوعی را تقویت کند
«مارک میسکولچی» (Márk Miskolczi) در پژوهشی با عنوان «توهم واقعیت: چگونه تصاویر تولیدشده با هوش مصنوعی (AIGIs) کاربران شبکههای اجتماعی را فریب میدهند» (The illusion of reality: How AI-generated images (AIGIs) are fooling social media users)، برای بررسی تأثیرگذاری تصاویر ساخته شده با هوش مصنوعی به سراغ فیسبوک رفته است. او ۱۴۶ تصویر تأییدشده بهعنوان محتوای تولیدشده با هوش مصنوعی و ۸۹۲۲ نظر کاربران درباره این تصاویر را بررسی کرده است تا ببیند کاربران هنگام رویارویی با چنین محتوایی چگونه واکنش نشان میدهند و چه عواملی میتواند بر قضاوت آنها درباره واقعی بودن تصاویر اثر بگذارد.
یافتههای این پژوهش نشان میدهد تصاویر مصنوعی بیشتر حول پنج موضوع شکل گرفتهاند: احساسات و نوستالژی، برانگیختن همدلی و دلسوزی، دستاوردهای خارقالعاده، تولدها و مسائل اجتماعی و مضامین دینی و معنوی. بررسی واکنش کاربران نیز نشان داده است که درگیری عاطفی میتواند با سوگیریهایی مانند سوگیری تأییدی، لنگراندازی (Anchoring)، اثر آشنایی (Familiarity effect) و تفکر گروهی همراه شود. این عوامل ممکن است فرصت بررسی انتقادی تصویر را کاهش دهند.
البته از واکنش عاطفی کاربران نمیتوان بهطور قطعی نتیجه گرفت که آنها تصویر را واقعی دانستهاند. پژوهشگر نیز تأکید میکند که نظرات کاربران تنها شواهدی رفتاری برای استنباط باور آنها فراهم میکنند و سنجش مستقیم میزان باورپذیری تصاویر به مطالعات آزمایشی و پیمایشی نیاز دارد. با این حال، این یافتهها نشان میدهد که در مواجهه با محتوای تولیدشده با هوش مصنوعی، تنها تشخیص نشانههای فنی یک تصویر کافی نیست و توجه به شیوه اثرگذاری عاطفی محتوا نیز اهمیت دارد.
مارک میسکولچی، دانشیار مؤسسه توسعه پایدار دانشگاه کوروینوس بوداپست در مجارستان که در زمینه هوش مصنوعی و رفتار انسان و تعاملات روانی-اجتماعی میان انسان و هوش مصنوعی پژوهش میکند، در گفتوگو با آناتک درباره اینکه چرا برخی تصاویر تولیدشده با هوش مصنوعی برای کاربران باورپذیر میشوند، نقش احساسات و سوگیریهای شناختی در این فرایند، تأثیر برچسبگذاری محتوای مصنوعی و راهکارهای افزایش سواد دیجیتال توضیح داد.
چرا فیسبوک را برای این مطالعه انتخاب کردید؟
فیسبوک را انتخاب کردم، زیرا محیط مناسبی برای مطالعه نحوه گردش تصاویر تولیدشده با هوش مصنوعی فراهم میکند. این شبکه اجتماعی یکی از بزرگترین پلتفرمهای اجتماعی است و سازوکار آن بر تعامل کاربران استوار است که درنتیجه باعث میشود محتوای بصری که از نظر عاطفی تأثیرگذار است، بیشتر دیده میشود.
در مشاهدات اولیهام نیز با الگوهای تکرارشوندهای از تصاویر تولیدشده با هوش مصنوعی در صفحات عمومی فیسبوک مواجه شدم که همین مسئله، این پلتفرم را برای انجام یک تحلیل کیفی نظاممند مناسب کرد. با این حال، فیسبوک را نقطه شروع این پژوهش میدانم، زیرا این سازوکارها باید در سایر پلتفرمها نیز بررسی شوند.
کدام گروه از کاربران در برابر تصاویر تولیدشده با هوش مصنوعی آسیبپذیرتر هستند و چرا؟
مطالعه من با هدف شناسایی آسیبپذیری بر اساس سن، جنسیت یا سایر ویژگیهای جمعیتشناختی طراحی نشده بود، بنابراین در نسبت دادن این آسیبپذیری به یک گروه جمعیتی خاص محتاط هستم. به نظر من، بهتر است آسیبپذیری را بر اساس عواملی مانند سواد دیجیتال، درگیری عاطفی و نحوه پردازش اطلاعات آنلاین در نظر بگیریم. زمانی که یک تصویر ارتباط عمیقی با خاطرات یا باورهای قبلی افراد برقرار میکند، ممکن است آنها بیشتر تحت تأثیر قرار بگیرند، زیرا در چنین شرایطی انگیزه برای بررسی اصالت تصویر کاهش مییابد. به همین علت، سواد دیجیتال را موضوعی مهم برای همه نسلها میدانم، نه مسئلهای که تنها به یک گروه سنی خاص مربوط باشد.
مزارع محتوا یا Content Farms چه هستند و چه نقشی در تولید و انتشار محتوای تولیدشده با هوش مصنوعی دارند؟
«مزارع محتوا» یا «Content Farms» به مجموعههایی گفته میشود که حجم زیادی از محتوای دیجیتال کمهزینه تولید میکنند تا توجه کاربران را جلب و در نهایت از طریق تبلیغات درآمد کسب کنند.
هوش مصنوعی مولد، امکان تولید محتوا در مقیاس بسیار گستردهتر را برای این مجموعهها فراهم کرده است، زیرا تصاویر و متون را میتوان با سرعت زیادی تولید و از طریق وبسایتها یا حسابهای متعدد در شبکههای اجتماعی منتشر کرد. این صفحات اغلب به محتوای احساسی یا محتوایی با هدف افزایش کلیک متکی هستند تا کاربران را به واکنش و اشتراکگذاری آن ترغیب کنند. از این منظر، مزارع محتوا میتوانند به زیرساختی مهم برای تولید انبوه و انتشار گسترده محتوای گمراهکننده تولیدشده با هوش مصنوعی تبدیل شوند.
چرا برخی کاربران بیشتر احتمال دارد تصاویر واقعگرایانه و احساسی تولیدشده با هوش مصنوعی را باور کنند؟ آیا این موضوع بیشتر به عوامل شناختی مربوط است یا روانشناختی؟
به نظر من، این مسئله حاصل تعامل میان واکنشهای عاطفی و فرایندهای شناختی است. یک تصویر واقعگرایانه میتواند در همان نگاه نخست، حس باورپذیری ایجاد کند. از سوی دیگر، موضوعات عاطفی مانند نوستالژی، تنهایی، روابط خانوادگی یا همدلی میتوانند باعث شوند افراد پیش از آنکه تصویر را بهصورت انتقادی بررسی کنند، با داستانی که تصویر روایت میکند ارتباط برقرار کنند.
پس از آن نیز عواملی مانند لنگرگیری (Anchoring)، سوگیری تأییدی (Confirmation Bias) و احساس آشنایی میتوانند برداشت اولیه افراد را تقویت کنند. یافتههای من نشان میدهد قدرت تأثیرگذاری این تصاویر اغلب از ترکیب باورپذیری بصری و درگیری عاطفی ناشی میشود.
شما باور کاربران را از روی نظرات آنها استنباط کردید و مستقیماً از آنها درباره واقعی بودن تصاویر نپرسیدید. چگونه اطمینان حاصل کردید که واکنشهای عاطفی کاربران بیش از حد تفسیر نشده و بهعنوان نشانهای از باور آنها به واقعی بودن تصاویر در نظر گرفته نشده است؟
این یک تمایز روششناختی مهم است. من صرفاً واکنش عاطفی یک کاربر را مدرکی مستقیم برای باور او به واقعی بودن تصویر در نظر نگرفتم. در این تحلیل، نحوه بیان نظرات و زمینهای که این نظرات در آن مطرح شده بودند مورد توجه قرار گرفت. بهطور مشخص، بررسی کردم که آیا واکنش کاربران به موقعیت نشاندادهشده در تصویر، حاکی از آن بود که آن را مربوط به یک فرد یا رویداد واقعی میدانستند یا خیر. در مقابل، واکنشهای تردیدآمیز و انتقادی نیز بهصورت جداگانه کدگذاری شدند.
به همین علت، در این مطالعه از مفهوم «فریب مفروض» (Presumed Deception) استفاده شده است. نظرات کاربران شواهد رفتاری هستند که میتوان بر اساس آنها باور کاربران را استنباط کرد، اما این دادهها امکان سنجش مستقیم قضاوت و برداشت واقعی آنها را فراهم نمیکنند. انجام یک مطالعه آزمایشی یا پیمایشی در ادامه این پژوهش میتواند برای سنجش مستقیمتر ادراک کاربران از اصالت تصاویر مفید باشد.
آیا تفکر گروهی میتواند باعث شود کاربرانی که تصاویر جعلی را تشخیص دادهاند، به علت نخواستنِ به چالش کشیدن نظر غالب، سکوت کنند؟ این مسئله چه معنایی برای گفتمان عمومی و اعتماد در فضای آنلاین دارد؟
بله، به نظرم این مسئله میتواند بسط قابلقبولی از سازوکار تفکر گروهی باشد، هرچند مطالعه من تنها امکان مشاهده کاربرانی را داشت که واقعاً نظر خود را ثبت کرده بودند. اگر بخش نظرات یک محتوا عمدتاً شامل واکنشهای مثبت یا پذیرشگرایانه باشد، ممکن است این تصور ایجاد شود که درباره واقعی بودن آن محتوا توافق گستردهای وجود دارد. در چنین شرایطی، کاربرانی که تشخیص دادهاند تصویر مصنوعی است ممکن است تصمیم بگیرند وارد بحث نشوند و در نتیجه، اجماع ظاهری حتی قویتر به نظر برسد. تداوم این وضعیت میتواند در طول زمان، گفتوگوهای اصلاحکننده را تضعیف و برداشت نادرستی از باور واقعی سایر کاربران ایجاد کند.
آیا برچسبگذاری محتوای تولیدشده با هوش مصنوعی میتواند تأثیر فریبنده آن را کاهش دهد؟ آیا برچسبگذاری بهتنهایی کافی است یا افزایش سواد رسانهای نیز ضروری است؟
به نظر من، برچسبگذاری شفاف میتواند تأثیر فریبندگی محتوا را کاهش دهد، زیرا پیش از آنکه کاربران تصویر را بازنمایی واقعیت تلقی کنند، اطلاعات زمینهای مهمی در اختیار آنها قرار میدهد. با این حال، برچسبگذاری باید در کنار تقویت سواد دیجیتال و سواد رسانهای قرار گیرد. کاربران باید درک کنند که تصاویر مصنوعی چگونه میتوانند از واکنشهای عاطفی آنها بهره بگیرند و همچنین یاد بگیرند نشانههای هشداردهنده رایج را در این تصاویر تشخیص دهند.
یکی از اهداف گستردهتر پژوهش من نیز تقویت همین نوع آگاهی است تا افراد بتوانند محتوای تولیدشده با هوش مصنوعی را راحتتر تشخیص دهند یا دستکم هنگام مواجهه با محتوایی که احتمال میدهند مصنوعی باشد، عادت به بررسی و تفکر انتقادی داشته باشند. در عین حال، معتقدم این آگاهی باید در کنار رویکردی باز نسبت به کاربردهای سودمند و مسئولانه هوش مصنوعی قرار گیرد. ایجاد همین تعادل موضوعی است که تلاش میکنم از طریق پژوهشهایم از آن حمایت کنم.
اگر بخواهید یک مطالعه تکمیلی انجام دهید، تمرکز خود را بر چه موضوعی قرار میدهید؟
مایلم در ادامه به سمت پژوهشهای آزمایشی حرکت کنم که باور کاربران به تصاویر تولیدشده با هوش مصنوعی را بهصورت مستقیمتری اندازهگیری کنند. برای مثال، میتوان از شرکتکنندگان خواست تصاویر واقعی و مصنوعی مشابهی را در شرایط مختلف ارزیابی کنند تا بررسی شود چارچوببندی عاطفی یا وجود برچسب هوش مصنوعی چگونه بر ادراک آنها از اصالت تصویر تأثیر میگذارد.
همچنین علاقهمندم بررسی کنم که سواد دیجیتال و تفاوتهای فردی چگونه این واکنشها را شکل میدهند. گام بعدی میتواند مقایسه این سازوکارها در پلتفرمهای مختلف شبکههای اجتماعی باشد، زیرا مطالعه کنونی به محتوای عمومی فیسبوک محدود بود. من از همکاریهای بینالمللی در این حوزه بسیار استقبال میکنم و خوشحال میشوم با پژوهشگرانی که به بررسی مشترک این پرسشها علاقهمند هستند، ارتباط داشته باشم.
انتهای پیام/
