یادداشت؛
گوگل سایتی برای تشخیص محتوای ساخته‌شده با هوش مصنوعی راه‌اندازی کرد
به گزارش خبرگزاری آنا؛ گوگل فناوری SynthID را نخستین بار در سال ۲۰۲۳ معرفی کرد تا تصاویر تولیدشده با ابزار‌های هوش مصنوعی این شرکت به علامتی نامرئی مجهز شوند که با چشم دیده نمی‌شود، اما نرم‌افزار‌های سازگار می‌توانند آن را تشخیص دهند. این واترمارک هنگام تولید محتوا در تصویر قرار می‌گیرد و به شکلی طراحی شده که حتی پس از تغییراتی مانند برش تصویر یا بعضی ویرایش‌های معمول نیز باقی بماند. گوگل ابتدا امکان بررسی مستقیم این علامت را در اختیار کاربران قرار نمی‌داد، اما در اواخر سال ۲۰۲۵ قابلیت شناسایی آن را به جمینای اضافه کرد و حالا با راه‌اندازی وب‌سایت مستقل، بررسی تصاویر و ویدئوها را ساده‌تر کرده است. کاربران می‌توانند فایل موردنظر را بارگذاری کنند و بدون نیاز به درخواست توضیح از چت‌بات، نتیجه بررسی واترمارک را دریافت کنند.
ابزار گوگل همه تصاویر مصنوعی را تشخیص نمی‌دهد
محدودیت اصلی SynthID به نحوه شناسایی محتوا مربوط می‌شود. این ابزار به‌جای بررسی ظاهر تصویر و جست‌وجوی ایراد‌هایی مانند انگشت‌های غیرطبیعی، نورپردازی نامناسب یا جزئیات ساختگی، به دنبال واترمارک مشخصی می‌گردد که سازنده هنگام تولید فایل در آن قرار داده است. در حال حاضر این فناوری از محتوای تولیدشده با ابزار‌های شرکت‌هایی مانند گوگل، اوپن‌ای‌آی، انویدیا و کاکائو (Kakao) پشتیبانی می‌کند، اما بسیاری از ابزار‌های دیگر تولید تصویر هنوز از آن استفاده نمی‌کنند؛ بنابراین ممکن است تصویری کاملاً با هوش مصنوعی ساخته شده باشد، اما هنگام بررسی در سایت گوگل هیچ علامتی در آن پیدا نشود.
گوگل نیز این محدودیت را در پاسخ‌های سایت توضیح می‌دهد. هنگامی که واترمارکی شناسایی نشود، ابزار اعلام می‌کند احتمالاً فایل با محصولات یکی از شرکت‌های همکار ساخته نشده است، اما احتمال تولید آن توسط سرویس‌های دیگر یا ابزار‌هایی که پیش‌تر از SynthID پشتیبانی نمی‌کردند همچنان وجود دارد. برای درک بهتر می‌توان این فناوری را به بررسی مهر مخصوص یک تولیدکننده تشبیه کرد. پیدا شدن مهر می‌تواند اطلاعاتی درباره منشأ محصول بدهد، اما نبود آن به معنی واقعی یا غیرمصنوعی بودن محتوا نیست.
جمینای برای یک تصویر ساختگی عکس اصلی اختراع کرد
در آزمایشی، تصویری که به‌طور کامل با ابزار‌های هوش مصنوعی گوگل ساخته شده بود، برای بررسی در اختیار جمینای قرار گرفت. این تصویر دونالد ترامپ و کن پکستون، سیاستمدار آمریکایی، را در یک زمین گلف در کنار گریمیس، شخصیت تبلیغاتی مک‌دونالد، نمایش می‌داد. جمینای به‌درستی متوجه شد که تصویر مصنوعی یا دستکاری‌شده است، اما سپس توضیح داد که عکس اصلی در مارس ۲۰۲۴ در باشگاه گلف ترامپ در فلوریدا گرفته شده و شخصیت گریمیس بعداً به آن اضافه شده است. مشکل اینجا بود که کل صحنه با هوش مصنوعی تولید شده بود و تصویر اصلی مورد ادعای جمینای وجود نداشت.
برای بررسی این ادعا، از جمینای خواسته شد عکس اصلی را بدون شخصیت گریمیس پیدا کند. مدل لینکی ارائه کرد که ظاهراً باید به تصویر موردنظر مربوط می‌بود، اما در عمل به محتوایی نامرتبط درباره ترامپ و پکستون می‌رسید و عکس ادعاشده را در بر نداشت. این آزمایش یکی از مشکلات مهم استفاده از چت‌بات‌ها برای راستی‌آزمایی تصاویر را آشکار کرد. یک مدل ممکن است به‌درستی متوجه مصنوعی بودن تصویر شود، اما هنگام توضیح منشأ آن، جزئیاتی مانند زمان، مکان و سابقه انتشار را بدون داشتن مدرک معتبر تولید کند. به همین دلیل باید میان شناسایی واترمارک فنی و توضیحاتی که مدل زبانی درباره تاریخچه تصویر ارائه می‌دهد تفاوت قائل شد.
تصویر تولیدشده با گراک شناسایی نشد
در آزمایش دیگری تصویری مشابه با استفاده از گراک ساخته شد و سپس در وب‌سایت SynthID.com بارگذاری شد. این بار ابزار هیچ واترمارکی پیدا نکرد و اعلام کرد بعید است تصویر با سامانه‌های هوش مصنوعی یکی از شرکت‌های همکار SynthID تولید شده باشد. پاسخ سایت البته این احتمال را نیز مطرح می‌کرد که تصویر متعلق به یک شرکت غیرهمکار باشد. نتیجه از نظر عملکرد فنی دور از انتظار نبود، زیرا گراک در فهرست ابزار‌های پشتیبانی‌کننده از این واترمارک قرار نداشت، اما برای کاربری که از تفاوت فناوری‌های تشخیص هوش مصنوعی اطلاع ندارد، چنین پاسخی ممکن است گمراه‌کننده باشد.
گراک نیز هنگام بررسی همان تصویر مصنوعی تشخیص داد که احتمالاً با یکی از مدل‌های تولید تصویر ساخته شده است، اما نتوانست مشخص کند که سازنده آن خود گراک بوده است. آزمایش‌های دیگری با تصاویر ساختگی از چهره‌های شناخته‌شده نیز نتایج متفاوتی داشتند. برای نمونه، در بررسی تصویری مصنوعی از ایلان ماسک در مراسم شام رسمی کاخ سفید، گراک تصویر را واقعی ارزیابی کرد و کوپایلت مایکروسافت نیز اعلام کرد شواهد کافی برای تشخیص قطعی در اختیار ندارد. این تفاوت پاسخ‌ها نشان‌دهنده محدودیت روش‌هایی است که از مدل‌های زبانی می‌خواهند صرفاً با بررسی تصویر درباره واقعی بودن آن قضاوت کنند.
گسترش همکاری شرکت‌های هوش مصنوعی
به گفته گوگل، SynthID در حال تبدیل شدن به فناوری مشترکی میان تعداد بیشتری از سازندگان مدل‌های هوش مصنوعی است. این فناوری ابتدا توسط گوگل دیپ‌مایند توسعه یافت و اکنون شرکت‌هایی مانند اوپن‌ای‌آی، انویدیا و کاکائو نیز به مجموعه استفاده‌کنندگان از آن اضافه شده‌اند. همکاری شرکت‌های بیشتر می‌تواند تعداد تصاویر و ویدئو‌هایی را که امکان بررسی واترمارک آن‌ها وجود دارد افزایش دهد و تشخیص منشأ محتوای مصنوعی را برای کاربران و پلتفرم‌های اینترنتی آسان‌تر کند. با این حال هنوز استاندارد واحدی وجود ندارد که تمام ابزار‌های تولید تصویر ملزم به استفاده از آن باشند.
مشکلات تشخیص نیز تنها به گوگل محدود نیست. بر اساس بررسی رویترز، سامانه شناسایی محتوای هوش مصنوعی متا نیز در بعضی موارد نتوانسته فایل‌هایی را که با ابزار‌های خود این شرکت ساخته شده‌اند به‌درستی علامت‌گذاری کند. این موضوع اهمیت همکاری میان سازندگان و بهبود روش‌های شناسایی را بیشتر می‌کند، زیرا کاربران هنگام مشاهده تصاویر مشکوک در شبکه‌های اجتماعی معمولاً نمی‌دانند فایل با چه ابزاری تولید شده است. بررسی واترمارک می‌تواند یکی از راه‌های به دست آوردن اطلاعات بیشتر باشد، اما برای راستی‌آزمایی کامل همچنان باید منبع انتشار، تصاویر مشابه و شواهد مرتبط بررسی شوند.
استفاده از SynthID به حساب کاربری نیاز دارد
کاربران برای استفاده از وب‌سایت تازه گوگل باید ابتدا با حساب گوگل، اپل یا چت‌جی‌پی‌تی وارد شوند و سپس تصویر یا ویدئوی موردنظر را بارگذاری کنند. الزام ورود به حساب کاربری یکی از تفاوت‌های این ابزار با سرویس‌هایی است که امکان بررسی فوری و بدون ثبت‌نام را فراهم می‌کنند و می‌تواند استفاده سریع از آن را برای بعضی افراد دشوارتر کند. پس از ورود، فرایند بررسی بر شناسایی واترمارک متمرکز است و سایت بر اساس وجود یا نبود این علامت نتیجه را نمایش می‌دهد.
راه‌اندازی SynthID.com دسترسی عمومی به فناوری واترمارک‌گذاری گوگل را گسترش داده و امکان بررسی مستقیم فایل‌ها را بدون مراجعه به محیط گفت‌وگوی جمینای فراهم کرده است. کاربرد اصلی این سایت در تشخیص محتوایی است که هنگام تولید به واترمارک سازگار مجهز شده باشد، نه بررسی تمام تصاویر موجود در اینترنت؛ بنابراین نتیجه آن بیش از هر چیز اطلاعاتی درباره وجود یک علامت فنی مشخص در فایل ارائه می‌کند و باید در کنار دیگر روش‌های راستی‌آزمایی مورد استفاده قرار گیرد.
انتهای پیام/
