آیا سیستم جدید واترمارک هوش مصنوعی متا می‌تواند جایگزین SynthID گوگل شود؟

به گزارش خبرگزاری آنا؛ متا پس از انتقاد‌های شورای نظارتی خود در اسفند ۱۴۰۴ درباره نحوه مقابله با محتوای گمراه‌کننده و تولیدشده با هوش مصنوعی، Content Seal را معرفی کرد. این شورا از شرکت خواسته بود برای عمل به تعهداتش، ابزار‌های مؤثرتری برای شناسایی چنین محتوا‌هایی ارائه کند، اما بررسی‌های کارشناسان نشان می‌دهد راهکار جدید این شرکت هنوز تا تبدیل شدن به یک استاندارد قابل اتکا فاصله قابل توجهی دارد.

عملکردی مشابه SynthID، اما با محدودیت‌های بیشتر

Content Seal از نظر عملکرد شباهت زیادی به فناوری SynthID گوگل دارد. در هر دو روش، یک سیگنال نامرئی در ساختار پیکسل‌های تصویر قرار می‌گیرد تا بعد‌ها با استفاده از ابزار‌های مخصوص، امکان تشخیص تصاویر تولیدشده توسط هوش مصنوعی فراهم شود. متا ادعا می‌کند این واترمارک حتی پس از برش تصویر، تغییر اندازه، فشرده‌سازی یا گرفتن اسکرین‌شات نیز باقی می‌ماند و همچنان قابل شناسایی خواهد بود.

با این حال، نتایج آزمایش‌های اولیه تصویر متفاوتی را نشان می‌دهد. بر اساس بررسی‌های منتشرشده، از جمله گزارش خبرگزاری رویترز، Content Seal در تشخیص بخش قابل توجهی از تصاویر تولیدشده توسط Muse که تنها مقدار کمی برش خورده بودند، موفق عمل نکرده و در بیش از نیمی از موارد نتوانسته وجود واترمارک را تشخیص دهد. این موضوع باعث شده کارشناسان درباره میزان مقاومت این فناوری در برابر ویرایش‌های ساده و استفاده روزمره تردید داشته باشند.

چرا متا مسیر جداگانه‌ای را انتخاب کرد؟

یکی از پرسش‌های مهم این است که چرا متا با وجود عضویت در ائتلاف C۲PA و همکاری با شرکت‌هایی مانند گوگل، تصمیم گرفته سامانه‌ای مستقل توسعه دهد. این در حالی است که فناوری SynthID به تدریج در حال تبدیل شدن به یکی از استاندارد‌های رایج صنعت است و حتی برخی شرکت‌های رقیب نیز از آن برای نشانه‌گذاری محتوای تولیدشده با هوش مصنوعی استفاده می‌کنند.

بررسی قابلیت‌های Content Seal نشان می‌دهد این سامانه در حال حاضر تنها برای تصاویر تولیدشده توسط مدل Muse فعال است و تصاویر یا ویدیو‌های تولیدشده توسط مدل‌های قدیمی‌تر متا را پوشش نمی‌دهد. علاوه بر این، کاربران برای بررسی وجود واترمارک باید از یک ابزار وب مستقل استفاده کنند، در حالی که گوگل قابلیت شناسایی SynthID را مستقیماً در برخی از سرویس‌های خود، از جمله جمینای، در اختیار کاربران قرار داده است.

چالش‌های فنی و آینده نامشخص Content Seal

محدودیت‌های این فناوری به همین جا ختم نمی‌شود. متا برای ابزار تشخیص خود سقف مشخصی از تعداد استعلام‌های روزانه در نظر گرفته که می‌تواند استفاده گسترده از آن را با مشکل مواجه کند. از سوی دیگر، آزمایش‌ها نشان داده‌اند تصاویر دارای Content Seal در ابزار‌های تشخیص رایج مانند سامانه‌های مبتنی بر C۲PA یا ابزار‌های گوگل قابل شناسایی نیستند و همین مسئله، کارایی آن را خارج از اکوسیستم متا به شکل محسوسی کاهش می‌دهد.

در کنار این چالش‌های فنی، اظهارنظر‌های مدیران متا نیز نشان می‌دهد این شرکت هنوز به جمع‌بندی مشخصی درباره بهترین راهکار مقابله با محتوای جعلی نرسیده است. آدام موسری، مدیر اینستاگرام، از یک سو بر ضرورت آگاه‌سازی کاربران نسبت به محتوای تولیدشده با هوش مصنوعی تأکید کرده و از سوی دیگر، احراز اصالت محتوای واقعی را راهکاری عملی‌تر از برچسب‌گذاری محتوای مصنوعی دانسته است. مجموعه این عوامل باعث شده برخی تحلیلگران، Content Seal را نه یک راهکار نهایی، بلکه نسخه‌ای اولیه از فناوری‌ای بدانند که برای تبدیل شدن به یک استاندارد قابل اعتماد، همچنان به توسعه و هماهنگی بیشتری با سایر بازیگران صنعت نیاز دارد.