برچسبگذاری محتوای هوش مصنوعی اینستاگرام دوباره به مشکل خورد
به گزارش خبرگزاری آنا برچسبهای هوش مصنوعی اینستاگرام قرار بود به کاربران کمک کنند تصاویر تولیدشده یا ویرایششده با مدلهای مولد را سریعتر تشخیص دهند، اما گزارشهای چند هفته اخیر نشان میدهد این سیستم همچنان نمیتواند مرز روشنی میان ویرایش معمولی و تولید محتوای مصنوعی برقرار کند. برخی کاربران میگویند تنها پس از حذف پسزمینه یا اصلاح جزئی یک عکس، کل تصویر با برچسب «AI Content» مشخص شده است، درحالیکه آزمایشهای دیگر نشان دادهاند تصاویر کاملاً تولیدشده توسط هوش مصنوعی نیز ممکن است بدون هیچ هشداری از سامانه عبور کنند.
حذف ساده پسزمینه هم میتواند برچسب هوش مصنوعی فعال کند
بخش قابل توجهی از گزارشهای کاربران به ابزارهای ویرایش «کنوا» مربوط میشود. برخی افراد گفتهاند استفاده از قابلیت «حذف پسزمینه تصویر» باعث شده اینستاگرام تصویر نهایی را بهعنوان محتوای هوش مصنوعی شناسایی کند و حتی مواردی گزارش شده که حذف یک لکه کوچک از عکس نیز برای فعال شدن این برچسب کافی بوده است. چنین ابزارهایی ممکن است از یادگیری ماشین استفاده کنند، اما عملکرد آنها لزوماً مشابه مدلهای مولد متنبهتصویر نیست و اغلب فقط بخش موجود در تصویر را انتخاب یا حذف میکنند.
کنوا در توضیحی به یکی از کاربران اعلام کرده بود برخی ابزارهای کمکی مبتنی بر هوش مصنوعی این پلتفرم به اشتباه بهعنوان ابزار مولد برچسبگذاری میشدند و این مشکل اکنون اصلاح شده است. صفحه راهنمای حذف پسزمینه کنوا نیز میگوید استفاده از این ابزار، فراداده مربوط به محتوای تولیدشده با هوش مصنوعی را به طرح اضافه نمیکند. با این حال، برخی کاربران همچنان پس از استفاده از همین قابلیت با برچسب هوش مصنوعی در اینستاگرام مواجه شدهاند و مشخص نیست مشکل دقیقاً در کدام مرحله ایجاد میشود.
مشکل مشابه قبلاً هم برای متا رخ داده بود
این نخستین بار نیست که سیستم برچسبگذاری متا عکسهای واقعی را به اشتباه محتوای هوش مصنوعی تشخیص میدهد. در سال ۲۰۲۴ نیز برچسب «Made by AI» روی تعدادی از عکسهایی ظاهر شد که تنها ویرایشهای محدودی با نرمافزارهایی مانند فتوشاپ روی آنها انجام شده بود. متا در آن زمان اعلام کرد روش برچسبگذاری را تغییر میدهد تا میزان استفاده واقعی از هوش مصنوعی در یک تصویر بهتر منعکس شود.
این شرکت برای تشخیص محتوای مصنوعی به نشانههایی مانند فراداده IPTC و استاندارد C۲PA تکیه میکند که میتوانند اطلاعاتی درباره ابزار و فرایند ایجاد یا ویرایش تصویر ثبت کنند. متا همچنین گفته است از شاخصهای استانداردی استفاده میکند که شرکتهای دیگر در فایلهای تولیدشده توسط ابزارهای خود قرار میدهند، اما جزئیات دقیق درباره اینکه چه سیگنالهایی بررسی میشوند و هر سیگنال چه زمانی باعث فعال شدن برچسب میشود، همچنان روشن نیست.
حتی عکسهای معمولی آیفون هم برچسب خوردهاند
مشکل فقط به کنوا محدود نشده است. برخی تصاویر منتشرشده توسط برند لوازم آرایشی About Face نیز با برچسب محتوای هوش مصنوعی مواجه شدند، درحالیکه مدیر شبکههای اجتماعی این برند اعلام کرد تصاویر با آیفون ثبت شدهاند و تنها کمی در برنامه Photos ویرایش شدهاند. به گفته این برند، برای تولید تصاویر از هوش مصنوعی مولد استفاده نشده است.
برخی قابلیتهای تازه ویرایش تصویر در iOS میتوانند از اپل اینتلیجنس برای افزودن یا حذف عناصر استفاده کنند و در صورت بهکارگیری آنها نشانههایی برای شناسایی محتوای مولد در فایل قرار میگیرد. با این حال، بررسی تصاویر مورد بحث نشانه SynthID گوگل را نشان نداده و حتی اگر یکی از ابزارهای مولد اپل استفاده شده باشد، همچنان مشخص نیست چرا توضیح اینستاگرام آن را به شکلی نمایش داده که معمولاً به محتوای «کاملاً تولیدشده توسط هوش مصنوعی» اشاره دارد.
تصاویر کاملاً تولیدشده با جمینای بدون برچسب باقی ماندهاند
تناقض بزرگتر زمانی دیده میشود که سیستم در شناسایی محتوایی که واقعاً با هوش مصنوعی ساخته شده نیز شکست میخورد. در آزمایشهای انجامشده، تصاویر ویرایششده با کنوا، ابزار حذف پسزمینه فتوشاپ، قابلیتهای مولد Adobe Firefly، مدل نانو بنانا در جمینای و امکانات اپل اینتلیجنس روی اینستاگرام بارگذاری شدند، اما بیشتر آنها هیچ برچسبی دریافت نکردند.
برخی از تصاویر آزمایشی بهطور کامل با جمینای تولید شده بودند و علاوه بر C۲PA، نشان نامرئی SynthID نیز در آنها وجود داشت. با وجود این نشانهها، اینستاگرام آنها را بهعنوان محتوای هوش مصنوعی علامتگذاری نکرد. در مقابل، تنها تصاویری که در این آزمایش بهطور قابل اعتماد برچسب خوردند، مواردی بودند که با ابزارهای خود متا تولید یا ویرایش شده بودند.
متا دقیقاً دنبال چه نشانهای میگردد؟
یکی از مشکلات اصلی این است که متا جزئیات کافی درباره منطق سیستم تشخیص خود ارائه نمیکند. مخفی نگه داشتن بخشی از سازوکارهای نظارتی میتواند برای جلوگیری از دور زدن سیستم توسط کاربران سوءاستفادهگر ضروری باشد، اما وضعیت فعلی باعث شده حتی کاربران عادی نیز ندانند چه نوع ویرایشی ممکن است تصویرشان را با برچسب هوش مصنوعی مواجه کند.
نمونههای گزارششده نشان میدهند وجود C۲PA یا SynthID بهتنهایی تضمین نمیکند که اینستاگرام تصویر را شناسایی کند و در مقابل، نبود استفاده جدی از هوش مصنوعی مولد نیز مانع ظاهر شدن برچسب نیست. همین بیثباتی باعث شده برچسبی که قرار بود اعتماد کاربران را افزایش دهد، خود به منبع تازهای از ابهام تبدیل شود.
برچسبی که فعلاً نمیتوان کاملاً به آن اعتماد کرد
متا طی هفتههای اخیر از اقدامات تازه برای مقابله با حسابها و محتوای بیکیفیت تولیدشده با هوش مصنوعی خبر داده، اما عملکرد سیستم فعلی نشان میدهد شناسایی دقیق چنین محتواهایی همچنان چالش بزرگی است. حتی یک حساب تازه اینستاگرام که مجموعهای از تصاویر تولیدشده و ویرایششده با ابزارهای مختلف هوش مصنوعی را پشت سر هم منتشر کرده بود، پس از حدود دو هفته نه بهعنوان حساب تولیدکننده محتوای هوش مصنوعی مشخص شد و نه بیشتر تصاویر آن برچسب گرفتند.
نتیجه فعلی مجموعهای از خطاهای مثبت و منفی است. عکسهای واقعی گاهی به اشتباه هوش مصنوعی تشخیص داده میشوند و تصاویر کاملاً مصنوعی نیز ممکن است بدون هشدار منتشر شوند. تا زمانی که متا روش تشخیص و برچسبگذاری خود را دقیقتر نکند، کاربران نمیتوانند صرف وجود یا نبود برچسب «محتوای هوش مصنوعی» را معیار قابل اعتمادی برای تشخیص واقعی بودن تصاویر اینستاگرام بدانند.
انتهای پیام/
