دولت سوئد دسترسی کارکنان به چت‌جی‌پی‌تی و کلود را مسدود کرد

به گزارش خبرگزاری آنا؛ گسترش استفاده از ابزار‌های هوش مصنوعی مولد در سازمان‌های دولتی، چالش‌های تازه‌ای درباره نحوه پردازش اطلاعات محرمانه و مدیریت دسترسی کارکنان به سرویس‌های خارجی ایجاد کرده است. بسیاری از این ابزار‌ها برای پاسخ‌گویی به درخواست‌ها، اطلاعات واردشده توسط کاربران را به سرور‌های ارائه‌دهنده منتقل می‌کنند و همین ویژگی در محیط‌هایی که با اسناد حساس و داده‌های اداری سروکار دارند، نیازمند نظارت و مقررات مشخص است. دفاتر دولتی سوئد که دفتر نخست‌وزیری و وزارتخانه‌های این کشور را دربرمی‌گیرند، در تازه‌ترین اقدام خود محدودیت‌هایی برای استفاده مستقیم از چت‌بات‌های عمومی اعمال کرده‌اند. این تصمیم به معنای ممنوعیت کامل استفاده از مدل‌های اوپن‌ای‌آی و آنتروپیک در ساختار دولت نیست، بلکه با هدف هدایت کارکنان به ابزار‌هایی اتخاذ شده که قرارداد‌های سازمانی و کنترل‌های امنیتی مشخصی برای آن‌ها وجود دارد.

نگرانی از افشای اطلاعات حساس به محدودیت چت‌بات‌ها منجر شد

میکائیل وترکرانتس، مدیر دیجیتال‌سازی دفاتر دولتی سوئد، در اطلاعیه‌ای داخلی توضیح داده که استفاده از خدمات هوش مصنوعی بدون قرارداد رسمی می‌تواند پیامد‌هایی برای امنیت اطلاعات سازمان داشته باشد. به گفته او، بررسی‌های انجام‌شده نمونه‌هایی از استفاده نامناسب از ابزار‌های هوش مصنوعی عمومی را آشکار کرده که هم به حساسیت داده‌های واردشده در این سامانه‌ها و هم به نحوه استفاده از پاسخ‌های تولیدشده مربوط بوده‌اند. مقام‌های سوئدی نگران هستند که کارکنان هنگام انجام وظایف روزمره، اطلاعات سازمانی یا جزئیات مرتبط با فعالیت‌های دولتی را بدون آگاهی کافی از شرایط پردازش و نگهداری داده‌ها در اختیار سرویس‌های خارجی قرار دهند. چنین رفتاری می‌تواند کنترل سازمان بر چرخه انتقال و ذخیره اطلاعات را دشوار کند و احتمال استفاده نامناسب از داده‌های حساس را افزایش دهد.

محدودیت جدید به‌طور مشخص نسخه‌های تحت وب چت‌جی‌پی‌تی و کلود را هدف قرار داده و از روز ۴ آبان اجرایی شده است. براساس توضیحات رسمی، کارکنان دیگر نمی‌توانند از طریق مرورگر رایانه‌های سازمانی خود مستقیماً به این ۲ سرویس دسترسی داشته باشند، اما محدودیت یادشده شامل تمام کاربران اینترنت در سوئد نمی‌شود و شهروندان عادی همچنان امکان استفاده از این خدمات را دارند. همچنین تصمیم دولت به معنای ممنوعیت استفاده از فناوری یا مدل‌های زبانی توسعه‌یافته توسط اوپن‌ای‌آی و آنتروپیک نیست، زیرا برخی کارکنان همچنان از مسیر‌های سازمانی تأییدشده به آن‌ها دسترسی خواهند داشت. این تفاوت نشان می‌دهد مسئله اصلی برای مقام‌های مسئول، شیوه استفاده و میزان کنترل بر اطلاعات است، نه صرفاً شرکت سازنده یک مدل هوش مصنوعی.

کوپایلت مایکروسافت پس از بررسی امنیتی مجوز استفاده گرفت

دفاتر دولتی سوئد به کارکنان توصیه کرده‌اند از کوپایلت مایکروسافت به‌عنوان ابزار جایگزین استفاده کنند. این سرویس پیش‌تر از نظر امنیتی مورد بررسی قرار گرفته و تنظیمات حفاظتی آن نیز پس از ارزیابی‌های داخلی تقویت شده است. برخلاف خدمات عمومی که کاربران معمولاً براساس شرایط استاندارد ارائه‌دهنده از آن‌ها استفاده می‌کنند، ابزار‌های سازمانی می‌توانند تحت قرارداد‌های مشخصی قرار بگیرند که نحوه پردازش اطلاعات، سطح دسترسی مدیران و الزامات امنیت داده‌ها را تعیین می‌کنند. مقام‌های سوئدی جزئیات تغییرات انجام‌شده در تنظیمات کوپایلت را منتشر نکرده‌اند و به دلیل ماهیت امنیتی موضوع، از ارائه توضیحات فنی بیشتر خودداری کرده‌اند.

انتخاب کوپایلت به معنای برتری ذاتی مدل‌های هوش مصنوعی مایکروسافت از نظر امنیت نیست، زیرا این شرکت در برخی محصولات خود از مدل‌های توسعه‌یافته توسط دیگر شرکت‌ها نیز استفاده می‌کند. تفاوت اصلی در این پرونده به چارچوب قراردادی، بررسی‌های امنیتی و امکان مدیریت تنظیمات سرویس بازمی‌گردد. برای نمونه، قرارداد‌های سازمانی می‌توانند شرایط مشخصی درباره محل نگهداری داده‌ها، مدت ذخیره‌سازی اطلاعات و استفاده احتمالی از محتوای واردشده برای آموزش مدل‌ها تعیین کنند. البته وجود قرارداد به‌تنهایی تضمین‌کننده امنیت کامل نیست و نحوه پیکربندی سامانه، سطح دسترسی کارکنان و رعایت سیاست‌های داخلی نیز در حفاظت از داده‌های سازمانی اهمیت دارند.

نکته دیگر این است که دسترسی به مدل‌های چت‌جی‌پی‌تی و کلود به‌طور کامل از بین نرفته است. دفاتر دولتی سوئد تأیید کرده‌اند که کارکنان همچنان می‌توانند از طریق پلتفرم Intric به این مدل‌ها دسترسی داشته باشند. این سامانه برای ساخت و مدیریت دستیار‌های هوش مصنوعی در محیط‌های سازمانی طراحی شده و امکان استفاده از مدل‌های مختلف را در چارچوبی کنترل‌شده فراهم می‌کند. به این ترتیب، سازمان می‌تواند بدون اجازه دادن به استفاده مستقیم از وب‌سایت‌های عمومی، دسترسی موردنیاز کارکنان به قابلیت‌های هوش مصنوعی را حفظ کند. هنوز مشخص نیست چه محدودیت‌هایی برای استفاده از مدل‌ها در این پلتفرم اعمال شده یا آیا تمام کارکنان از سطح دسترسی یکسانی برخوردار هستند.

چند نهاد دولتی دیگر سوئد نیز محدودیت‌های مشابهی اعمال کرده‌اند

تصمیم جدید دفاتر دولتی سوئد نخستین نمونه از محدود کردن استفاده از چت‌بات‌های عمومی در ساختار اداری این کشور نیست. سازمان مالیاتی سوئد و هیئت ملی مراقبت‌های سازمانی که مسئول اداره مراکز نگهداری نوجوانان و برخی مراکز درمان اعتیاد است، پیش‌تر محدودیت‌های مشابهی برای دسترسی به خدمات هوش مصنوعی اعمال کرده‌اند. سازمان اجرای احکام سوئد نیز در حال بررسی اتخاذ تصمیم مشابهی است. گسترش این اقدامات نشان می‌دهد موضوع استفاده از هوش مصنوعی در محیط‌های اداری به یکی از مسائل مشترک نهاد‌های دولتی تبدیل شده و سازمان‌ها تلاش می‌کنند پیش از استفاده گسترده از ابزار‌های جدید، شرایط امنیتی و مدیریتی مشخصی برای آن‌ها ایجاد کنند.

بررسی داخلی اداره حمل‌ونقل سوئد نیز پیش‌تر نشان داده بود که حدود ۱۰ سرویس هوش مصنوعی به‌شکلی گسترده و همراه با خطرات امنیتی در این سازمان مورد استفاده قرار گرفته‌اند. گزارش حسابرسی داخلی این نهاد به مواردی اشاره کرده که کارکنان اطلاعات حساس را در ابزار‌های عمومی وارد کرده یا پاسخ‌های تولیدشده توسط هوش مصنوعی را بدون بررسی مناسب در فعالیت‌های کاری به کار گرفته‌اند. چنین مسائلی علاوه بر خطر افشای اطلاعات، احتمال تصمیم‌گیری براساس پاسخ‌های نادرست یا ناقص را نیز افزایش می‌دهند. دفاتر دولتی سوئد همچنین پیش از تصمیم تازه، استفاده از مدل چینی دیپ‌سیک را محدود کرده بودند و اکنون تلاش می‌کنند استفاده از خدمات هوش مصنوعی را به مجموعه مشخصی از ابزار‌های تأییدشده هدایت کنند.

نگرانی درباره امنیت اطلاعات در استفاده از هوش مصنوعی به سوئد محدود نیست. پارلمان اروپا نیز پیش‌تر برخی قابلیت‌های هوش مصنوعی را در تجهیزات کاری غیرفعال کرده بود، زیرا امکان اطمینان کافی از نحوه حفاظت از داده‌ها وجود نداشت. چنین تصمیم‌هایی بیانگر چالش مشترکی هستند که نهاد‌های عمومی هنگام استفاده از خدمات مبتنی بر پردازش ابری با آن مواجه می‌شوند. از یک سو، ابزار‌های هوش مصنوعی می‌توانند سرعت انجام وظایف اداری، بررسی اسناد و تولید محتوا را افزایش دهند و از سوی دیگر، انتقال اطلاعات به سامانه‌های خارج از کنترل مستقیم سازمان ممکن است با الزامات امنیتی و محرمانگی سازگار نباشد. ایجاد تعادل میان این ۲ موضوع، به تدوین سیاست‌های استفاده و بررسی مستمر خدمات وابسته است.

تفاوت حساب‌های شخصی و سازمانی اهمیت بیشتری پیدا می‌کند

تصمیم دولت سوئد بار دیگر تفاوت میان استفاده شخصی و سازمانی از چت‌بات‌های هوش مصنوعی را برجسته کرده است. کاربران حساب‌های شخصی معمولاً براساس شرایط عمومی سرویس از آن استفاده می‌کنند و تنظیمات حریم خصوصی ارائه‌دهنده مشخص می‌کند داده‌های گفت‌و‌گو چگونه ذخیره یا برای بهبود مدل‌ها استفاده شوند. در مقابل، حساب‌های تجاری و سازمانی ممکن است تحت قرارداد‌های اختصاصی قرار بگیرند و امکانات بیشتری برای مدیریت داده‌ها، تعیین مجوز‌های دسترسی و کنترل نحوه پردازش اطلاعات فراهم کنند؛ بنابراین استفاده از یک مدل هوش مصنوعی در ۲ محیط مختلف الزاماً به معنای اعمال شرایط یکسان برای حفاظت از داده‌ها نیست و نوع حساب، تنظیمات سرویس و قرارداد‌های موجود می‌توانند تفاوت‌های مهمی ایجاد کنند.

برای کاربران عادی نیز آگاهی از این تفاوت‌ها اهمیت دارد، زیرا اطلاعات واردشده در گفت‌و‌گو‌های هوش مصنوعی ممکن است شامل جزئیات شخصی، اسناد کاری یا داده‌هایی باشند که انتشار آن‌ها مطلوب نیست. بررسی تنظیمات حریم خصوصی و خودداری از وارد کردن اطلاعات محرمانه در سرویس‌هایی که شرایط پردازش داده‌های آن‌ها مشخص نیست، می‌تواند بخشی از این خطرات را کاهش دهد. با این حال، تصمیم دفاتر دولتی سوئد بیش از آنکه مخالفت با استفاده از هوش مصنوعی باشد، تلاشی برای ایجاد چارچوب مشخص در بهره‌برداری سازمانی از این فناوری محسوب می‌شود. ادامه دسترسی به مدل‌های اوپن‌ای‌آی و آنتروپیک از طریق پلتفرم تأییدشده داخلی نیز نشان می‌دهد مقام‌های این کشور به‌دنبال حذف کامل این ابزار‌ها نیستند و کنترل امنیتی بر نحوه استفاده از آن‌ها را در اولویت قرار داده‌اند.