هشدار امنیتی دانشگاه تهران درباره استفاده از ابزار هوش مصنوعی Gemini

به گزارش آنا، در پی رصد و تحلیل‌های فنی صورت‌گرفته از عملکرد ابزار هوش مصنوعی Gemini، توسعه‌یافته توسط شرکت Google، مراجع تخصصی امنیت اطلاعات نسبت به تهدیدات بالقوه این سامانه و نقض حریم خصوصی کاربران هشدار داده‌اند. 

 نکات کلیدی امنیتی:

ذخیره‌سازی داده‌های کاربران

Gemini ممکن است ورودی‌های کاربران را در سرور‌های خود نگهداری و در آموزش نسخه‌های آتی مدل‌ها به کار گیرد.

دسترسی‌های گسترده در نسخه‌های سازمانی

در صورت اتصال به Google Workspace، این ابزار می‌تواند به‌ایمیل‌ها، فایل‌های Drive، موقعیت مکانی، تقویم و مخاطبین دسترسی یابد. این سطح دسترسی، در صورت نبود کنترل دقیق، می‌تواند منجر به افشای اطلاعات کلیدی سازمان شود.

ابهام در سیاست‌های نگهداری و حاکمیت داده‌ها

نبود شفافیت در سیاست‌های مربوط به زمان نگهداری، حذف یا کنترل داده‌ها از سوی Google، نگرانی‌هایی را در خصوص امنیت اطلاعات و حقوق داده ایجاد کرده است.

توصیه‌های تخصصی:

-- از استفاده این ابزار برای پردازش اطلاعات حساس (شخصی، مالی یا سازمانی) خودداری کنید.

-- تنظیمات حریم خصوصی و سطح دسترسی در Google Workspace را پیش از استفاده، بازبینی و محدود نمایید.

-- سیاست امنیتی \"Zero Trust\" را در قبال سامانه‌های مبتنی بر هوش مصنوعی خارجی به کار گیرید.

-- از نسخه‌هایی استفاده کنید که امکان غیرفعال‌سازی ذخیره‌سازی داده‌ها یا اجرای محلی (On-Prem) را دارند.

با توجه به روند فزاینده استفاده از ابزار‌های هوش مصنوعی در سازمان‌ها و فضای عمومی، بی‌توجهی به ریسک‌های امنیتی این فناوری‌ها می‌تواند تهدیدی جدی برای حریم خصوصی و داده‌های حیاتی باشد.

اتخاذ رویکرد‌های آگاهانه، تدوین سیاست‌های شفاف و اعمال کنترل مستمر بر ابزار‌های AI، ضرورتی حیاتی در فضای دیجیتال امروز است.