در گفتوگو با آناتک بررسی شد
نسخه جدید چتجیپیتی برای نوجوانان با بدبینی کارشناسان مواجه شد
به گزارش خبرگزاری آنا؛ اوپنایآی نسخه چتجیپیتی برای نوجوانان را عرضه کرد؛ نسخهای که با هدف ایجاد محیط ایمنتر برای کاربران زیر ۱۸ سال طراحی شده است. این شرکت نخستین بار در شهریور سال گذشته اعلام کرده بود که روی سامانهای برای شناسایی خودکار نوجوانان و اعمال محدودیتهای ویژه برای آنها کار میکند. این تصمیم پس از مرگ آدام رین، نوجوان ۱۶ ساله آمریکایی و طرح ادعاهایی علیه چتجیپیتی در پرونده قضایی گرفته شد.
چتجیپیتی از قبل در میان نوجوانان رواج داشته است
اوپنایآی میگوید نوجوانان از پیش در مقیاس گسترده از چتجیپیتی استفاده میکنند و نسخه جدید قرار نیست آنها را به ایجاد حساب جداگانه یا انجام تنظیمات پیچیده وادار کند. لورن جوناس، مدیر بخش جوانان و خانوادههای اوپنایآی، گفته است اگر سامانه تشخیص دهد کاربر زیر ۱۸ سال است یا خود کاربر این موضوع را اعلام کند، تجربه مخصوص نوجوانان بهصورت پیشفرض برای او فعال خواهد شد.
گزارش مرکز پژوهشی پیو در ابتدای سال گذشته میلادی نیز نشان میداد حدود یکچهارم نوجوانان آمریکایی از چتجیپیتی برای انجام تکالیف مدرسه استفاده میکنند. اوپنایآی در نسخه مخصوص نوجوانان قصد دارد کاربران را بیشتر به سمت قابلیتهای آموزشی مانند حالت مطالعه و ابزارهای تجسم داده هدایت کند تا استفاده از چتبات صرفاً به دریافت پاسخهای آماده برای تکالیف محدود نشود.
محدودیتهای جدید برای مکالمات حساس و اطلاعرسانی به والدین
اوپنایآی همزمان با عرضه نسخه نوجوانان، سازوکار اطلاعرسانی به والدین را نیز گسترش داده است. بر اساس این تغییر، اگر کاربر نوجوان در مکالمات مرتبط با اختلالات وارد وضعیتهای خطرناک شود، در صورت اتصال حساب والدین، هشدار ایمنی برای آنها ارسال خواهد شد.
این شرکت همچنین مشخصات مدل مخصوص کاربران زیر ۱۸ سال را بهروزرسانی کرده است. طبق دستورالعمل جدید، چتجیپیتی نباید از زبان عاشقانه استفاده کند، وابستگی عاطفی کاربر به هوش مصنوعی را تشویق کند یا بهگونهای صحبت کند که نشان دهد احساسات یا آگاهی مستقل دارد. هدف اعلامشده اوپنایآی از این محدودیتها، تقویت روابط واقعی نوجوانان با خانواده، دوستان و دیگر افراد حاضر در زندگی آنهاست. با وجود این اقدامات، کارشناسان بر این باورند که این قابلیتها پیش از آنکه به والدین و نوجوانان توصیه شوند، به آزمایش مستقل و گسترده نیاز دارند.
آیا اوپنایآی واقعاً میتواند نوجوانان را شناسایی کند؟
یکی از مهمترین نقاط ابهام، سامانه تشخیص خودکار سن است. رابی تورنی، مدیر هوش مصنوعی و ارزیابیهای دیجیتال در مؤسسه Common Sense Media، میگوید اوپنایآی هنوز داده عمومی مشخصی درباره میزان موفقیت این سامانه، نرخ تشخیص اشتباه کاربران بزرگسال و همچنین نرخ شناسایی نشدن نوجوانان منتشر نکرده است.
به گفته او، سامانه خودکار نمیتواند تمام نوجوانانی را که از چتجیپیتی استفاده میکنند شناسایی کند و همین موضوع میتواند یکی از نقاط ضعف اصلی مدل ایمنی جدید باشد. از طرف دیگر، نوجوانان ممکن است برای دور زدن تشخیص سنی از ابزارهایی مانند ویپیان یا روشهای دیگر استفاده کنند؛ مسئلهای که نمونههای مشابه آن در سرویسهای دیگر و هنگام اجرای سامانههای احراز سن نیز مشاهده شده است.
جاش گولین، مدیر اجرایی سازمان غیرانتفاعی Fairplay، نیز معتقد است اتکا به وعده شرکتها برای حفاظت از کودکان کافی نیست. او با اشاره به تجربه شبکههای اجتماعی و حتی محدودیتهای قبلی چتجیپیتی میگوید برخی سازوکارهای ایمنی ممکن است در ابتدا درست کار کنند، اما با گذشت زمان دقت خود را از دست بدهند یا در مواجهه با روشهای جدید دور زدن محدودیتها ناکارآمد شوند.
وعده بررسی انسانی مکالمات پرخطر زیر یک ساعت
یکی از مهمترین وعدههای اوپنایآی این است که تمام محتوای علامتگذاریشده پیش از اطلاع والدین توسط کارکنان تماموقت شرکت بررسی انسانی خواهد شد و هدف این است که والدین حداکثر ظرف یک ساعت پس از مکالمه هشدار دریافت کنند؛ اما کارشناسان نسبت به امکان عملی شدن این وعده تردید دارند. تورنی میپرسد اگر سامانههای خودکار وظیفه شناسایی مکالمات مشکوک را بر عهده داشته باشند، چه تضمینی وجود دارد که همین سامانهها محتوای حساس را درست تشخیص دهند و برای بررسی انسانی ارسال کنند.
گولین نیز خواستار انتشار آمار دقیق درباره تعداد مکالماتی است که روزانه علامتگذاری میشوند، تعداد ناظران انسانی اوپنایآی و میانگین زمانی است که هر ناظر برای بررسی یک مکالمه صرف میکند. از نگاه او، تصور اینکه نیروی انسانی کافی برای بررسی دقیق تمام مکالمات بالقوه خطرناک وجود داشته باشد، دشوار است.
این نگرانی زمانی جدیتر میشود که اوپنایآی درباره نمونههای مشخصی که میتوانند باعث فعال شدن هشدار مربوط به اختلالات شوند، جزئیات محدودی ارائه کرده است. این شرکت تنها اعلام کرده مکالماتی که احتمال خودآسیبرسانی جدی را نشان دهند، میتوانند باعث ارسال هشدار شوند.
سابقه هشدارهای والدین به نفع اوپنایآی نیست
تردید کارشناسان تا حدی به عملکرد قبلی ابزارهای نظارت والدین اوپنایآی بازمیگردد. مؤسسه Common Sense Media در آبان سال گذشته این سیستم را آزمایش کرد و در برخی آزمایشها، حتی پس از ارسال پیامهای صریح درباره خودکشی و خودآسیبرسانی، بین ۲۴ تا بیش از ۴۸ ساعت طول کشید تا هشدار به حساب والدین ارسال شود؛ در برخی موارد نیز هشدار مورد انتظار اصلاً دریافت نشد.
تورنی میگوید از زمان آن آزمایش ممکن است پیشرفتهای قابلتوجهی در سیستم رخ داده باشد، اما سابقه قبلی نشان میدهد بهبود چنین سامانهای نیازمند سرمایهگذاری بیشتر و استفاده از نیروی انسانی گستردهتر است. او همچنین تأکید میکند که برخورد با مکالمات مربوط به ناراحتی روانی یا اختلالات خوردن به تفسیر فرهنگی و درک ظرافتهای زبانی نیاز دارد و نمیتوان برای نوجوانان کشورهای مختلف یک پاسخ یکسان در نظر گرفت.
چرا اختلالات خوردن به یکی از نگرانیهای اصلی تبدیل شده است؟
الن فیتزسیمونز-کرافت، استاد روانشناسی و علوم مغز در دانشگاه واشنگتن در سنتلوئیس، معتقد است توجه ویژه به اختلالات خوردن ضروری است. او به یک فراتحلیل انجامشده در سال ۲۰۲۳ اشاره میکند که بر اساس آن، حدود ۲۲ درصد کودکان و نوجوانان در غربالگریها نشانههایی از رفتارهای تغذیهای ناسالم یا اختلالات خوردن داشتهاند. او همچنین میگوید دسترسی به درمان برای این گروه محدود است و کمتر از ۲۰ درصد افراد مبتلا به اختلالات خوردن اعلام کردهاند که برای این مشکل درمان تخصصی دریافت کردهاند. از نگاه او، هر پلتفرمی که نوجوانان بتوانند در آن با هوش مصنوعی گفتوگو کنند یا محتوای خود را در اختیار سیستم قرار دهند، باید احتمال بروز چنین مشکلاتی را جدی بگیرد.
تورنی نیز معتقد است برخی اختلالات خوردن، بهویژه بیاشتهایی عصبی، میتوانند پیامدهای بسیار جدی برای نوجوانان داشته باشند و در شرایطی که مداخله نکردن میتواند جان فرد را به خطر بیندازد، اطلاع دادن به یک بزرگسال مورد اعتماد اقدامی ضروری است.
اتصال حساب والدین همچنان یک نقطه ضعف است
کارشناسان همچنین درباره یکی از پیششرطهای سیستم جدید اوپنایآی نگرانی دارند: والدین و فرزندان باید حسابهای خود را به یکدیگر متصل کنند تا امکان دریافت برخی هشدارها فراهم شود.
گولین معتقد است بسیاری از والدین اساساً از ابزارهای نظارت والدین استفاده نمیکنند؛ بخشی از مشکل نیز به این موضوع برمیگردد که این قابلیتها در بسیاری از پلتفرمها بهسادگی قابل پیدا کردن یا فعالسازی نیستند. به گفته او، رویکرد مؤثرتر، ایمنی بهصورت پیشفرض و ایمنی در طراحی است؛ یعنی امنترین تنظیمات از ابتدا فعال باشند و والدین در صورت نیاز بتوانند محدودیتها را تغییر دهند، نه اینکه مسئولیت کامل تنظیمات ایمنی بر عهده آنها گذاشته شود.
اوپنایآی در پاسخ به این نگرانی اعلام کرده است که در حال حاضر هشدارهای والدین به حسابهایی محدود میشوند که به قابلیتهای نظارت والدین متصل هستند و این شرکت قصد دارد سازوکارهای حفاظتی خود را با همکاری کارشناسان، خانوادهها و نوجوانان بهطور مستمر آزمایش و تقویت کند. با این حال، اوپنایآی درباره اینکه اگر یک حساب نوجوان به حساب والدین متصل نباشد و سیستم مکالمهای خطرناک درباره اختلالات را شناسایی کند، چه اقدامی انجام خواهد داد توضیح روشنی ارائه نکرده است؛ ابهامی که میتواند یکی از مهمترین نقاط ضعف نسخه جدید چتجیپیتی برای نوجوانان باقی بماند.
انتهای پیام/
