مرز بین انسان و ماشین در حال پاک شدن است

کمتر از چند ساعت پس از اینکه شرکت Snapchat ربات هوش مصنوعی «My AI» را به تمام کاربران معرفی کرد، لیندسی لی، که یک مادر اهل پریری در منطقه جنوب شرقی ایالت میزوری است، به دختر ۱۳ ساله‌اش گفت که از استفاده از این قابلیت خودداری کند.

او اضافه : «این یک راه‌حل موقت است تا من بیشتر درباره آن بدانم و بتوانم مرز‌ها و خطوط مناسبی برای استفاده از آن تعیین کنم.» لی، که در یک شرکت نرم‌افزاری کار می‌کند، نسبت به نحوه ظاهر شدن «My AI» در برابر کاربران جوانی مانند دخترش نگران است.

هوش مصنوعیِ به‌ظاهر دوست

این قابلیت با استفاده از ابزار معروف هوش مصنوعی ChatGPT قدرت می‌گیرد و همانند آن، می‌تواند پیشنهادات و به سوالات پاسخ دهد و با کاربران گفت‌و‌گو کند اما نسخه‌ای که در Snapchat هستف تفاوت‌‌های مهمی دارد، کاربران می‌توانند نام ربات هوش مصنوعی را شخصی‌سازی و یک تصویر نمادین (Bitmoji) برای آن طراحی کنند و آن را به گفت‌وگوهایشان با دوستان خود بیاورند؛ در مجموع، صحبت کردن با ربات هوش مصنوعی Snapchat ممکن است در مقایسه با بازدید از وب‌سایت ChatGPT، کمتر شبیه به یک تعامل صرف باشد و بنظر نرسد که در حال صحبت با یک ماشین هستید.

لی گفت: «من فکر نمی‌کنم آماده باشم که به فرزندم یاد بدهم چطور از نظر عاطفی انسان‌ها را از ماشین‌ها تشخیص دهد، وقتی که از دید او عملاً یکسان به نظر می‌رسند. فکر می‌کنم خط بسیار مشخصی وجود دارد که Snapchat درحال عبور از این حد و مرز است.»

هوش‌مصنوعی در اتاق درمان فروید؛ روان‌کاوی یا تقلید؟

از نگرانی‌های خانوادگی تا واکنش‌های عمومی

این ابزار جدید تنها از سوی والدین بلکه از سوی برخی کاربران Snapchat نیز بازتاب منفی داشته است. افراد زیادی در فروشگاه اپلیکیشن‌ها و شبکه‌های اجتماعی به دلیل نگرانی‌های مربوط به حریم خصوصی، مبادلات «وحشتناک» و عدم امکان حذف این قابلیت از جریان گفت‌وگوهایشان مگر اینکه یک اشتراک ویژه بپردازند، نقد و انتقاد‌های زیادی را مطرح کرده‌اند.

در حالی که برخی ممکن است از این ابزار سود ببرند، واکنش‌های گوناگون نشان می‌دهد که شرکت‌ها در معرض چه خطراتی قرار دارند وقتی فناوری‌های هوش مصنوعی تولیدکننده را به محصولات خود اضافه می‌کنند، به‌ویژه در محصولاتی مانند Snapchat که کاربران جوان‌تری دارند.

Snapchat؛ اولین قدم در دنیای هوش مصنوعی

Snapchat یکی از شرکت‌های پیشگام در همکاری با OpenAI بود وقتی دسترسی به ChatGPT برای شرکت‌های ثالث باز شد و انتظار می‌رفت شرکت‌های بیشتری دنباله‌روی کنند، تقریباً یک‌شبه، Snapchat برخی خانواده‌ها و نمایندگان قانون‌گذار را مجبور کرده است تا درباره سوالاتی که قبلًا فقط فرضی بودند، جدی فکر کنند.

به گزارش edition،‌ در نامه‌ای که ماه گذشته سناتور دموکرات مایکل بنِت به مدیران عامل Snap و دیگر شرکت‌های فناوری نوشت، چند هفته پس از اینکه «My AI» برای مشتریان اشتراکی Snapchat منتشر شد، نگرانی‌هایی را درباره تعاملاتی که این ربات با کاربران جوان دارد، مطرح کرد. به‌ویژه، او به گزارش‌هایی اشاره کرد که ربات می‌تواند به کودکان پیشنهاد دهد چگونه به والدین خود دروغ بگویند.

بنِت نوشت: «این مثال‌ها برای هر شبکه اجتماعی نگران‌کننده است، اما برای Snapchat به‌ویژه آزاردهنده است، چون تقریباً ۶۰ درصد از نوجوانان آمریکایی از آن استفاده می‌کنند. اگرچه شرکت Snap می‌گوید «My AI» امتحانی است، اما با این حال آنقدر زودهنگام عمل کرده که نقش آمریکایی‌های جوان و نوجوان را در این آزمایش اجتماعی فراموش کرده است.»

واکنش‌های غیرمنتظره کاربران

در یک نوشته در بلاگ هفته گذشته، شرکت گفت: «My AI از سطح عالی دور است، اما پیشرفت‌های زیادی داشته است.»

در روز‌های بعد از راه‌اندازی رسمی، کاربران Snapchat نسبت به این ابزار ابراز نگرانی کردند. یکی از کاربران تعاملش را «ترسناک» خواند، زیرا گفت ربات درباره محل موقعیت جغرافیایی او دروغ گفته بود. وقتی کاربر موضوع را سبک‌تر کرد، ربات به‌درستی گفت که کاربر در کلرادو زندگی می‌کند.

در یک ویدئوی دیگر در TikTok با بیش از ۱.۵ میلیون بازدید، کاربری به نام آریل یک آهنگ را ضبط کرد که بخش‌هایی از آن شامل سُرآهنگ، شعر و آکورد پیانو توسط «My AI» نوشته شده بود. وقتی او آهنگ ضبط‌شده را دوباره برای ربات فرستاد، گفت ربات رد کرد که در نوشتن آن دخیل بوده است و گفت: «متاسفم، اما به عنوان یک مدل زبانی هوش مصنوعی، من آهنگ نمی‌نویسم.» آریل این تبادل را «وحشتناک» نامید.

کاربران دیگر نگرانی‌هایی را درباره نحوه درک، تعامل و جمع‌آوری اطلاعات از تصاویر توسط این ابزار مطرح کردند. یکی از کاربران Snapchat در فیسبوک نوشت: «من یک عکس گرفتم … و ربات گفت "کفش‌های خوبی داری" و از من پرسید افراد موجود در عکس چه کسانی هستند.»

غیرفعال کردن My AI؛ فقط با پرداخت

شرکت Snapchat به خبرگزاری CNN گفت که بهبود «My AI» را بر اساس بازخورد‌های کاربران ادامه می‌دهد و در حال کار روی قواعد بیشتری است تا امنیت کاربران را تضمین کند. شرکت همچنین گفت که همانند ابزار‌های دیگرش، کاربران موظف نیستند با «My AI» تعامل داشته باشند، اما امکان حذف «My AI» از جریان گفت‌و‌گو‌ها وجود ندارد، مگر اینکه کاربر اشتراک ماهانه پولی Snapchat+ را بخرد. برخی از نوجوانان گفتند که پیش از لغو فوری این اشتراک، هزینه ۳٫۹۹ دلاری آن را پرداخت کرده‌اند تا بتوانند این قابلیت را غیرفعال کنند.

هوش مصنوعی دیگر فقط گوش نمی‌دهد؛ دست به کار می‌شود

دیدگاهی مثبت در میان انبوه نظرات منفی

اما همه کاربران نسبت به این قابلیت منفی نیستند؛ یکی از کاربران در فیسبوک نوشت که از «My AI» برای کمک به تکالیفش استفاده کرده است. «همه سوالات را درست جواب می‌دهد.» یکی دیگر که از آن برای یاری گرفتن و مشورت استفاده کرده است و گفت «من از همصحبتی با دوست کوچکم لذت می‌برم، می‌توانید Bitmoji آن را تغییر دهید و البته به طور شگفت‌آوری مشورت‌های واقعاً خوبی درباره موقعیت‌های واقعی زندگی می‌دهد. از حمایتی که ارائه می‌دهد خوشم می‌آید.»

نگرانی‌های روان‌شناختی و اجتماعی

ChatGPT که با استفاده از حجم انبوهی از داده‌های آنلاین آموزش دیده است، قبلاً به دلیل گسترش اطلاعات نادرست، پاسخ‌های نامناسب به کاربران و تسهیل تقلب دانش‌آموزان تحت انتقاد قرار گرفته بود. اما ادغام این ابزار در Snapchat ممکن است بعضی از این مشکلات را بدتر کند و مشکلات جدیدی را نیز ایجاد کند.

الکساندرا هملت، یک روانشناس بالینی در شهر نیویورک، گفت که والدین برخی از بیمارانش نگرانی‌هایی را نسبت به نحوه تعامل نوجوانانشان با این ابزار Snapchat ابراز کرده‌اند، همچنین نگرانی‌هایی درباره اینکه ربات‌ها چگونه می‌توانند به عنوان مشاور عمل کنند و در زمینه سلامت روان وجود دارد، چون ابزار‌های هوش مصنوعی می‌توانند سوگیری تأییدی کاربران را تقویت کنند و کاربران را در تعامل با محتوا‌هایی که باور‌های ناسالمشان را تقویت می‌کند، تشویق کنند.

او گفت: «اگر یک نوجوان در حالت خلقی منفی باشد و تمایلی به بهتر شدن احساساتش نداشته باشد، ممکن است به دنبال گفت‌و‌گو با یک ربات هوش مصنوعی باشد که می‌داند این گفت‌و‌گو باعث بدتر شدن احساساتش می‌شود. در طول زمان، این نوع تعاملات می‌توانند باعث کاهش احساس ارزش یک نوجوان شوند، حتی اگر بداند که در واقع با یک ربات صحبت می‌کند. وقتی فرد در وضعیتی عاطفی است، کمتر قادر به درک این نوع منطق است.»

آماده‌سازی خانواده‌ها برای مقابله با آینده هوش مصنوعی

اکنون، بر عهده والدین است که شروع به گفت‌و‌گو‌های معناداری با نوجوانانشان درباره شیوه‌های مناسب ارتباط با هوش مصنوعی کنند، به‌ویژه وقتی که این ابزار‌ها شروع به ظاهر شدن در اپلیکیشن‌ها و خدمات متداول‌تری کنند.

سیناد بوول، بنیانگذار شرکت WAYE، یک استارت‌آپ که به آماده‌سازی جوانان برای آینده با فناوری‌های پیشرفته کمک می‌کند، گفت که والدین باید به‌خوبی مشخص کنند «ربات‌های هوش مصنوعی دوست شما نیستند.»

او افزود: «آن‌ها در واقع یک مشاور قابل اعتماد هم نیستند و هر کسی که با آنها در تعامل باشد باید بسیار مراقب باشد، به‌ویژه نوجوانانی که ممکن است بیشتر تحت تأثیر آنچه ربات می‌گوید قرار بگیرند؛ لام به ذکر است به وضع مقررات فدرال نیاز است تا شرکت‌ها را ملزم کند پروتکل‌های خاصی را دنبال کنند تا با سرعت فزاینده توسعه هوش مصنوعی همراه باشند.»