آنتروپیک از افزونه گوگل کروم خود رونمایی کرد

شرکت آنتروپیک، گام جدید خود در تکامل دستیار‌های هوشمند را با معرفی Claude for Chrome برداشت. این افزونه جدید به هوش مصنوعی کلاد اجازه می‌دهد تا به طور مستقیم در مرورگر کاربر فعالیت کند و وظایفی مانند مدیریت تقویم، پاسخ به ایمیل‌ها، پر کردن گزارش‌های هزینه و حتی آزمایش ویژگی‌های جدید وب‌سایت‌ها را بر عهده بگیرد. آنتروپیک این فناوری را اجتناب‌ناپذیر می‌داند، اما همزمان به چالش‌های امنیتی آن نیز واقف است.

آسیب‌پذیری در برابر حملات تزریق پرامپت

بزرگترین چالش امنیتی این فناوری، «حملات تزریق پرامپت» است. در این نوع حملات، افراد خرابکار دستورالعمل‌های مخربی را در وب‌سایت‌ها، ایمیل‌ها یا اسناد پنهان می‌کنند تا هوش مصنوعی را بدون اطلاع کاربر فریب دهند و وادار به انجام اقدامات خطرناک کنند. این اقدامات می‌تواند شامل حذف فایل‌ها، سرقت اطلاعات یا انجام تراکنش‌های مالی باشد.

آنتروپیک برای درک بهتر این خطرات، آزمایش‌های امنیتی گسترده‌ای (معروف به Red-Teaming) انجام داده است. نتایج نگران‌کننده بود: بدون اقدامات حفاظتی، نرخ موفقیت حملات عمدی ۲۳.۶ درصد بود. در یک مثال مشخص، یک ایمیل مخرب که خود را به عنوان یک پیام امنیتی از طرف کارفرما جا زده بود، به کلاد دستور داد تا برای رعایت بهداشت صندوق پستی تمام ایمیل‌های کاربر را بدون نیاز به تأیید حذف کند و کلاد این دستور را اجرا کرد.

راهکار‌های دفاعی فعلی

برای مقابله با این تهدیدات، آنتروپیک چندین لایه دفاعی را پیاده‌سازی کرده است:

- کنترل دسترسی‌ها: کاربران می‌توانند دسترسی کلاد به وب‌سایت‌های خاص را در هر زمان فعال یا غیرفعال کنند.
- تأیید اقدامات پرخطر: کلاد قبل از انجام اقدامات حساس مانند انتشار محتوا، خرید یا اشتراک‌گذاری اطلاعات شخصی، از کاربر اجازه می‌گیرد.
- مسدودسازی وب‌سایت‌های پرخطر: دسترسی کلاد به وب‌سایت‌هایی در دسته‌بندی‌های پرخطر مانند خدمات مالی، محتوای بزرگسالان و محتوای سرقتی مسدود شده است.
- طبقه‌بند‌های پیشرفته: سیستم‌های هوشمندی برای شناسایی الگو‌های دستوری مشکوک و درخواست‌های غیرعادی برای دسترسی به داده‌ها در حال توسعه هستند.

این اقدامات حفاظتی توانسته‌اند نرخ موفقیت حملات را از ۲۳.۶ درصد به ۱۱.۲ درصد کاهش دهند. در مورد حملات خاص مرورگر، مانند فیلد‌های مخفی در کد وب‌سایت که برای انسان قابل مشاهده نیستند، این راهکار‌ها نرخ موفقیت حمله را از ۳۵.۷ درصد به صفر رسانده‌اند.

آزمایش با کاربران واقعی

با وجود این پیشرفت‌ها، آنتروپیک معتقد است که هنوز راه زیادی تا رسیدن به امنیت کامل باقی است. به همین دلیل، این شرکت یک برنامه آزمایشی محدود را با ۱۰۰۰ نفر از کاربران طرح Max آغاز کرده است تا بازخورد‌های دنیای واقعی را جمع‌آوری کند. هدف از این کار، شناسایی بردار‌های حمله جدید و بهبود طبقه‌بند‌های امنیتی و مدل‌های هوش مصنوعی است تا بتوانند این حملات را بهتر تشخیص داده و در برابر آنها مقاومت کنند. این شرکت امیدوار است با برداشتن گام‌های محتاطانه، راه را برای یکپارچه‌سازی ایمن و مفید هوش مصنوعی در زندگی روزمره هموار کند.