آخرین اخبار:
18:34 30 / 08 /1405

سیگنال دسترسی ایجنت‌های هوش مصنوعی به پیام‌های خصوصی کاربران را محدود کرد

پیام‌رسان سیگنال
پیام‌رسان سیگنال با اعمال محدودیت‌های جدید در نسخه‌های iOS و اندروید، دسترسی ایجنت‌های هوش مصنوعی به محتوای گفت‌وگوهای خصوصی کاربران را محدود کرد. این شرکت هشدار داد گسترش دستیارهای هوشمند در سطح سیستم‌عامل می‌تواند با ثبت و ذخیره اطلاعات نمایش‌داده‌شده روی صفحه، حفاظت‌های رمزنگاری پیام‌ها را دور بزند و حریم خصوصی کاربران را حتی بدون نفوذ مستقیم به پیام‌رسان به خطر بیندازد.

به گزارش خبرگزاری آنا؛ گسترش قابلیت‌های هوش مصنوعی در سیستم‌عامل‌های موبایل، اختلاف تازه‌ای میان توسعه‌دهندگان پیام‌رسان‌های امن و شرکت‌های بزرگ فناوری ایجاد کرده است. سیگنال که بخش مهمی از اعتبار خود را بر حفاظت از مکالمات کاربران بنا کرده، اکنون با چالشی روبه‌رو شده که منشأ آن نه ضعف در رمزنگاری پیام‌ها، بلکه دسترسی گسترده دستیار‌های هوشمند به اطلاعات دستگاه است. ایجنت‌های جدید می‌توانند محتوای صفحه را مشاهده کنند، اطلاعات موردنیاز خود را از برنامه‌های مختلف به دست آورند و براساس آن‌ها اقداماتی مانند پاسخ دادن به پیام‌ها، تنظیم قرار ملاقات یا مدیریت فعالیت‌های روزانه را انجام دهند. همین قابلیت‌ها باعث شده اطلاعاتی که در محیط امن یک پیام‌رسان نمایش داده می‌شوند، در معرض پردازش توسط سامانه‌هایی قرار بگیرند که خارج از کنترل توسعه‌دهنده آن برنامه فعالیت می‌کنند.

مردیت ویتاکر، مدیر سیگنال، در یادداشتی رسمی هشدار داده که ادغام عمیق ایجنت‌های هوش مصنوعی با سیستم‌عامل‌ها، توانایی برنامه‌های مستقل برای تضمین حریم خصوصی کاربران را تضعیف می‌کند. به گفته وی، زمانی که یک دستیار هوشمند محتوای صفحه را دریافت می‌کند، اطلاعات ممکن است در پایگاه داده محلی دستگاه یا سرور‌های مورد استفاده آن سامانه ذخیره شوند و دیگر تحت حفاظت مستقیم سیگنال قرار نداشته باشند. این وضعیت تنها اطلاعات صاحب دستگاه را تهدید نمی‌کند، زیرا پیام‌های دریافتی از دیگران نیز ممکن است بدون اطلاع یا رضایت فرستنده در اختیار سامانه هوش مصنوعی قرار بگیرند. سیگنال چنین شرایطی را تهدیدی اساسی برای مأموریت خود می‌داند و معتقد است ادامه این روند می‌تواند تضمین محرمانگی مکالمات را برای پیام‌رسان‌های امن دشوارتر کند.

رمزنگاری پیام‌ها مانع دسترسی هوش مصنوعی به صفحه نمی‌شود

سیگنال برای محافظت از مکالمات کاربران از رمزنگاری سرتاسری استفاده می‌کند؛ روشی که محتوای پیام را در مسیر انتقال رمزگذاری می‌کند تا تنها دستگاه‌های مجاز طرفین گفت‌و‌گو بتوانند آن را بخوانند. این ساختار مانع از آن می‌شود که حتی سرور‌های خود پیام‌رسان به متن مکالمات دسترسی مستقیم داشته باشند. با این حال، پس از دریافت پیام و نمایش آن روی صفحه گوشی، محتوا برای کاربر به حالت خوانا تبدیل می‌شود. اگر یک ایجنت هوش مصنوعی در همین مرحله امکان مشاهده صفحه یا دریافت اطلاعات برنامه را داشته باشد، می‌تواند متن پیام را از محیط نمایش استخراج کند. در چنین وضعیتی، مهاجم یا سامانه هوشمند نیازی به شکستن الگوریتم‌های رمزنگاری ندارد، زیرا اطلاعات را پس از رمزگشایی و در نقطه‌ای دریافت می‌کند که برای کاربر قابل مشاهده شده‌اند.

این تفاوت برای ارزیابی خطر اهمیت زیادی دارد. رمزنگاری سرتاسری همچنان از انتقال پیام‌ها محافظت می‌کند، اما به‌تنهایی نمی‌تواند تعیین کند که سیستم‌عامل یا برنامه‌های دارای مجوز گسترده با اطلاعات نمایش‌داده‌شده چه رفتاری داشته باشند. برای مثال، دستیار هوشمندی که قرار است پیام‌های خوانده‌نشده کاربر را خلاصه کند، ابتدا باید به متن آن‌ها دسترسی پیدا کند. اگر این اطلاعات برای پردازش به سرور دیگری منتقل شوند یا در پایگاه داده‌ای جداگانه ذخیره شوند، ممکن است نسخه‌ای از محتوای مکالمه خارج از محیط امن پیام‌رسان باقی بماند. ویتاکر تأکید کرده که چنین دسترسی‌هایی می‌توانند تضمین‌های امنیتی برنامه را بی‌اثر کنند، حتی اگر زیرساخت اصلی رمزنگاری آن هیچ آسیب‌پذیری شناخته‌شده‌ای نداشته باشد.

سیگنال ثبت تصویر صفحه را در iOS ۲۷ به‌طور پیش‌فرض مسدود کرد

سیگنال در نسخه جدید برنامه خود برای iOS ۲۷، قابلیت محافظتی تازه‌ای با عنوان «Block Siri AI» ارائه کرده که به‌صورت پیش‌فرض فعال است. این ویژگی مانع ثبت تصویر و ضبط محتوای صفحه در محیط پیام‌رسان می‌شود و در نتیجه، یکی از مسیر‌های اصلی دسترسی دستیار هوشمند سیری به مکالمات را محدود می‌کند. سونی؟ نه، اپل در نسل جدید سیستم‌عامل خود قابلیت‌هایی برای آگاهی دستیار هوشمند از محتوای صفحه توسعه داده تا سیری بتواند اطلاعات موجود در برنامه‌ها را درک کند و وظایف بیشتری را به نمایندگی از کاربر انجام دهد. سیگنال معتقد است استفاده از همین توانایی در برنامه‌های حساس می‌تواند اطلاعات خصوصی را در اختیار سامانه‌هایی قرار دهد که شیوه پردازش و نگهداری داده‌های آن‌ها کاملاً در کنترل پیام‌رسان نیست.

این قابلیت برای نسخه ۸٫۳۷ یا جدیدتر سیگنال روی iOS ۲۷ و نسخه‌های بعدی در نظر گرفته شده است. کاربران در صورت نیاز می‌توانند از بخش تنظیمات حریم خصوصی، محدودیت را غیرفعال کنند یا برای مدت ۱۰ دقیقه اجازه ثبت تصویر صفحه را بدهند. گزینه موقت برای شرایطی طراحی شده که کاربر واقعاً به تهیه اسکرین‌شات از یک مکالمه نیاز دارد و نمی‌خواهد محافظت را برای مدت نامحدود کنار بگذارد. در صورت تلاش برای ثبت تصویر هنگام فعال بودن محدودیت، برنامه پیامی نمایش می‌دهد و امکان تغییر موقت تنظیمات را فراهم می‌کند. البته سیگنال هشدار می‌دهد که غیرفعال کردن این قابلیت ممکن است مسیر دسترسی دستیار‌های هوشمند به محتوای گفت‌و‌گو‌ها را دوباره باز کند. این محدودیت تنها به شیوه ثبت محتوای صفحه مربوط است و تغییری در سازوکار رمزنگاری یا نحوه ارسال و دریافت پیام‌ها ایجاد نمی‌کند.

محافظت در اندروید هنگام شناسایی دسترسی هوش مصنوعی فعال می‌شود

روش سیگنال برای مقابله با این تهدید در اندروید متفاوت است، زیرا نسخه‌های مختلف این سیستم‌عامل و رابط‌های کاربری شرکت‌های سازنده گوشی، امکانات یکسانی برای شناسایی ثبت تصویر صفحه ندارند. سیگنال از قابلیت موجود «Screen Security» استفاده می‌کند که می‌تواند ثبت اسکرین‌شات و نمایش محتوای پیام‌رسان در فهرست برنامه‌های اخیر را محدود کند. در نسخه ۸٫۳۵٫۱ و جدیدتر، اگر برنامه تلاش یک دستیار هوشمند برای خواندن صفحه را شناسایی کند، این قابلیت به‌صورت خودکار فعال می‌شود و پیامی درباره علت تغییر تنظیمات به کاربر نمایش داده خواهد شد. در نتیجه، محافظت جدید برای همه کاربران اندروید الزاماً از لحظه نصب برنامه فعال نمی‌شود، بلکه در دستگاه‌های پشتیبانی‌شده با شناسایی تلاش هوش مصنوعی برای دسترسی به صفحه فعال خواهد شد.

محدودیت‌های فنی اندروید باعث شده این راهکار نتواند تمام دستگاه‌ها را به یک اندازه پوشش دهد. سیگنال توضیح داده که در بعضی نسخه‌های سفارشی اندروید، تشخیص تلاش برای ثبت تصویر صفحه به شکل قابل‌اعتمادی امکان‌پذیر نیست. به همین دلیل، شرکت به‌جای مسدود کردن همیشگی اسکرین‌شات در تمام گوشی‌ها، تصمیم گرفته محافظت خودکار را بر مواردی متمرکز کند که تلاش دستیار هوشمند برای مشاهده صفحه شناسایی می‌شود. کاربران همچنین می‌توانند بدون انتظار برای چنین رویدادی، از مسیر تنظیمات حریم خصوصی و امنیت برنامه، گزینه Screen Security را به‌صورت دستی فعال کنند. این تصمیم تلاش می‌کند میان حفظ حریم خصوصی و جلوگیری از ایجاد محدودیت‌های غیرضروری برای کاربران تعادل برقرار کند، هرچند سیگنال می‌پذیرد که تفاوت‌های فنی دستگاه‌ها همچنان مانع ارائه محافظتی یکسان در سراسر اکوسیستم اندروید است.

مقابله با قابلیت ریکال مایکروسافت تجربه پیشین سیگنال بود

اقدام جدید نخستین رویارویی سیگنال با قابلیت‌های هوش مصنوعی سیستم‌عامل‌ها نیست. این پیام‌رسان در سال ۲۰۲۵ نیز برای جلوگیری از دسترسی قابلیت ریکال مایکروسافت به مکالمات کاربران، ثبت تصویر صفحه را در نسخه ویندوز خود به‌صورت پیش‌فرض محدود کرده بود. ریکال در ویندوز ۱۱ با ثبت دوره‌ای تصاویر صفحه و استخراج متن موجود در آن‌ها، پایگاه داده‌ای قابل جست‌و‌جو از فعالیت‌های کاربر ایجاد می‌کند. این قابلیت برای کمک به بازیابی اطلاعات و پیدا کردن فعالیت‌های گذشته طراحی شده، اما می‌تواند محتوای حساس برنامه‌ها را نیز ثبت کند. برای نمونه، پیامی که قرار است پس از مدت مشخصی در سیگنال حذف شود، ممکن است پیش از حذف در تصویر ثبت‌شده توسط سامانه دیگری باقی بماند و هدف استفاده از پیام‌های ناپدیدشونده را تحت تأثیر قرار دهد.

سیگنال اکنون رویکرد مشابهی را برای مقابله با قابلیت‌های هوشمند گوگل و اپل دنبال می‌کند، اما در سیستم‌عامل macOS هنوز نتوانسته محافظت معادلی ارائه دهد. به گفته ویتاکر، ابزار‌های فنی موجود در macOS امکان مسدود کردن قابل‌اعتماد ثبت اسکرین‌شات را در اختیار توسعه‌دهندگان قرار نمی‌دهند. بعضی قابلیت‌های محافظت از تصویر تنها برای محتوای ویدئویی یا آثار دارای محدودیت کپی طراحی شده‌اند و کاربرد مناسبی برای پیام‌رسان‌های خصوصی ندارند. سیگنال می‌گوید تغییرات رابط‌های برنامه‌نویسی اپل نیز پیاده‌سازی چنین محدودیتی را دشوارتر کرده است. این شرکت فعلاً به کاربران macOS ۲۷ توصیه می‌کند برای جلوگیری از دسترسی پیش‌دستانه سیری به پیام‌ها، سیگنال را در فهرست برنامه‌های مستثناشده از دسترسی این دستیار در تنظیمات سیستم قرار دهند. با این حال، چنین اقدامی جایگزین کامل محافظت در برابر تمام روش‌های ثبت اطلاعات نیست.

دسترسی ایجنت‌های شخص ثالث نگرانی‌ها را افزایش داده است

نگرانی سیگنال تنها به دستیار‌های پیش‌فرض سیستم‌عامل محدود نمی‌شود و ایجنت‌هایی که توسط شرکت‌های دیگر توسعه یافته‌اند نیز می‌توانند از مجوز‌های گسترده دستگاه استفاده کنند. بسیاری از این ابزار‌ها هنگام راه‌اندازی از کاربران می‌خواهند اجازه مشاهده صفحه، کنترل بخش‌هایی از رابط کاربری یا دسترسی به امکانات ویژه سیستم‌عامل را صادر کنند. این مجوز‌ها به ایجنت اجازه می‌دهند میان برنامه‌های مختلف جابه‌جا شود، اطلاعات را بخواند و بعضی فعالیت‌ها را بدون دخالت مستقیم کاربر انجام دهد. مشکل زمانی ایجاد می‌شود که همین دسترسی‌ها برای خواندن اطلاعات خصوصی برنامه‌ای استفاده شوند که کاربر انتظار نداشته محتوای آن در اختیار یک سامانه هوش مصنوعی قرار بگیرد. به‌ویژه در پیام‌رسان‌ها، چنین دسترسی‌هایی می‌توانند اطلاعات افرادی را نیز در بر بگیرند که هیچ مجوزی به ایجنت نداده‌اند و تنها با صاحب دستگاه مکاتبه کرده‌اند.

سیگنال در این زمینه به ایجنت Muse شرکت متا اشاره کرده که براساس بررسی‌های رویترز، توانسته با استفاده از مجوز‌های سطح سیستم‌عامل به محتوای پیام‌های سیگنال دسترسی پیدا کند. در یکی از نمونه‌های بررسی‌شده روی macOS، این ابزار از امکانات دسترس‌پذیری و ثبت تصویر صفحه برای ورود به محیط پیام‌رسان، تصویربرداری از مکالمات و استخراج متن آن‌ها استفاده کرده بود. متا در واکنش تأکید کرده که فعالیت چنین ایجنت‌هایی به مجوز‌هایی وابسته است که کاربران هنگام راه‌اندازی صادر می‌کنند. با این حال، سیگنال معتقد است دریافت مجوز کلی برای کمک به انجام کار‌های روزمره نباید به معنای دسترسی نامحدود به اطلاعات حساس تمام برنامه‌ها باشد. این شرکت همچنین هشدار داده که برخی امکانات دسترس‌پذیری، که در اصل برای کمک به افراد دارای محدودیت‌های جسمی طراحی شده‌اند، ممکن است به راهی برای دسترسی گسترده ایجنت‌ها به محتوای دستگاه تبدیل شوند.

جلوگیری از اسکرین‌شات تمام مسیر‌های دسترسی را مسدود نمی‌کند

سیگنال با وجود اعمال محدودیت‌های تازه، تأکید کرده که جلوگیری از ثبت تصویر صفحه راهکاری کامل برای محافظت از اطلاعات کاربران نیست. ایجنت‌های هوش مصنوعی ممکن است از مسیر‌های دیگری مانند دسترسی به فایل‌های ذخیره‌شده روی دستگاه، خواندن اعلان‌ها یا استفاده از امکانات ارتباطی سیستم‌عامل به اطلاعات برنامه‌ها دست پیدا کنند. برای مثال، اگر بخشی از متن یک پیام در اعلان گوشی نمایش داده شود، دسترسی یک سامانه هوشمند به اطلاعات اعلان‌ها ممکن است بدون نیاز به باز کردن محیط سیگنال، همان بخش از پیام را در اختیار آن قرار دهد. همچنین مسدود کردن اسکرین‌شات لزوماً مانع دسترسی برنامه‌ای با مجوز‌های گسترده به فایل‌ها یا اطلاعاتی که پیش‌تر در دستگاه ذخیره شده‌اند، نخواهد شد. به همین دلیل، محافظت از صفحه تنها یکی از لایه‌های دفاعی در برابر دسترسی ناخواسته هوش مصنوعی محسوب می‌شود.

مشکل دیگر به نبود شفافیت کافی درباره نحوه عملکرد ایجنت‌های جدید مربوط است. ویتاکر اعلام کرده که تیم فنی سیگنال طی ماه‌های گذشته زمان و منابع قابل‌توجهی را صرف بررسی رفتار سامانه‌های هوش مصنوعی در اندروید و iOS کرده تا مشخص شود این ابزار‌ها هنگام دسترسی به برنامه‌ها دقیقاً چه اطلاعاتی را دریافت و پردازش می‌کنند. به گفته وی، کمبود مستندات فنی و توضیحات روشن درباره مسیر‌های دسترسی، توسعه‌دهندگان را مجبور می‌کند برای شناخت عملکرد این سامانه‌ها آزمایش‌های مستقلی انجام دهند. این وضعیت برای برنامه‌هایی که حفاظت از اطلاعات کاربران بخش اصلی کارکرد آن‌هاست، چالش‌برانگیزتر می‌شود، زیرا توسعه‌دهنده ممکن است نتواند تمام روش‌های دسترسی سیستم‌عامل به محتوای برنامه را شناسایی یا کنترل کند.

سیگنال از اپل، گوگل و مایکروسافت ابزار‌های حفاظتی مستقل خواست

سیگنال از شرکت‌های سازنده سیستم‌عامل خواسته ابزار‌های مشخص و مستندی در اختیار توسعه‌دهندگان قرار دهند تا بتوانند دسترسی ایجنت‌های هوش مصنوعی به اطلاعات برنامه‌های خود را کنترل کنند. این شرکت معتقد است توسعه‌دهنده باید امکان داشته باشد برنامه خود را بدون مختل شدن عملکرد اصلی آن، از فرایند جمع‌آوری و پردازش اطلاعات توسط هوش مصنوعی مستثنا کند. چنین قابلیتی باید تنها به ثبت تصویر صفحه محدود نباشد و مسیر‌هایی مانند خواندن فایل‌ها، دریافت اعلان‌ها، استفاده از رابط‌های برنامه‌نویسی و دیگر امکانات سیستم‌عامل را نیز پوشش دهد. برای یک پیام‌رسان امن، این موضوع می‌تواند به معنای حفظ قابلیت نمایش عادی پیام‌ها برای کاربر و در عین حال جلوگیری از استخراج همان محتوا توسط ایجنت‌های دارای دسترسی گسترده باشد.

درخواست دیگر سیگنال، انتشار مستندات شفاف درباره نحوه دسترسی و پردازش اطلاعات توسط دستیار‌های هوشمند است. این شرکت می‌خواهد توسعه‌دهندگان بدانند ایجنت‌ها چه داده‌هایی را دریافت می‌کنند، اطلاعات در کجا پردازش می‌شوند و چه سازوکار‌هایی برای محدود کردن دسترسی وجود دارد. ویتاکر تأکید کرده که حتی استفاده از فناوری‌های پردازش محرمانه نیز به‌تنهایی این مسئله را حل نمی‌کند، زیرا همچنان شرکت سازنده سیستم‌عامل درباره محدوده دسترسی و نوع تضمین‌های حریم خصوصی تصمیم می‌گیرد. سیگنال اعلام کرده که گفت‌و‌گو‌هایی را با فعالان صنعت آغاز کرده و از تعامل اولیه گوگل و اپل برای بررسی راهکار‌های تازه استقبال می‌کند. با این حال، هنوز مشخص نیست شرکت‌های سازنده سیستم‌عامل چه زمانی امکانات استانداردی برای جلوگیری از دسترسی ایجنت‌های هوش مصنوعی به داده‌های حساس برنامه‌های مستقل ارائه خواهند کرد.

انتهای پیام/

ارسال نظر