اوپن‌ای‌آی، آنتروپیک و گوگل برای ایمنی هوش مصنوعی همکاری می‌کنند

به گزارش خبرگزاری آنا؛ کریس لِهین، مدیر امور جهانی اوپن‌ای‌آی، اعلام کرده مذاکرات با آنتروپیک و گوگل دیپ‌مایند از چند هفته قبل آغاز شده و هدف آن ایجاد همکاری بیشتر در زمینه ایمنی است. جزئیات دقیق چارچوب مشترک سه شرکت هنوز اعلام نشده، اما اوپن‌ای‌آی پیش‌تر از ایجاد استاندارد‌های مشترک میان آزمایشگاه‌های سازنده مدل‌های پیشرفته، ارزیابی مستقل و تعیین شرایطی که توسعه یک مدل باید کند یا متوقف شود حمایت کرده است.

اختلاف بر سر قوانین ضدانحصار

بخش حساس ماجرا زمانی آغاز می‌شود که همکاری از تبادل اطلاعات ایمنی فراتر برود و شرکت‌های بزرگ درباره سرعت توسعه محصولات خود هماهنگ شوند. داریو آمودی پیشنهاد کرده شرکت‌های پیشرو بتوانند برای تعیین استاندارد‌های مشترک و محدود کردن سرعت افزایش توان مدل‌ها با یکدیگر همکاری کنند و دولت در صورت نیاز از طریق میانجی‌گری یا معافیت محدود ضدانحصار، مانع مشکلات حقوقی چنین هماهنگی شود. اوپن‌ای‌آی، اما معتقد است برای گفت‌و‌گو و همکاری در زمینه ایمنی الزاماً به چنین معافیتی نیاز نیست.

قوانین رقابت آمریکا به شرکت‌های رقیب اجازه نمی‌دهند برای محدود کردن عرضه یا کنترل بازار با یکدیگر تبانی کنند و به همین دلیل یک توافق هماهنگ برای کاهش سرعت عرضه مدل‌های جدید می‌تواند با پرسش حقوقی روبه‌رو شود. در مقابل، برخی کارشناسان حقوق رقابت معتقدند قوانین موجود از همین حالا امکان همکاری شرکت‌ها برای مقابله با خطرات مشترک را فراهم می‌کنند و نمونه‌هایی مانند تبادل اطلاعات درباره تهدید‌های امنیت سایبری وجود دارد. اختلاف اصلی بنابراین بر سر اصل همکاری برای ایمنی نیست و بیشتر به این مربوط می‌شود که شرکت‌های رقیب تا کجا می‌توانند درباره سرعت توسعه فناوری خود تصمیم مشترک بگیرند.

تردید نهاد ناظر بر رقابت آمریکا

اندرو فرگوسن، رئیس کمیسیون تجارت فدرال آمریکا، نسبت به درخواست شرکت‌های هوش مصنوعی برای دریافت معافیت ضدانحصار ابراز تردید کرده است. او گفته ترکیب درخواست برای مقررات بیشتر و هم‌زمان معاف شدن از بخشی از قوانین رقابت می‌تواند این نگرانی را ایجاد کند که شرکت‌های بزرگ با بالا بردن موانع ورود، موقعیت خود را در بازار تثبیت کنند. فرگوسن تأکید کرده این دیدگاه شخصی اوست و مستقیماً درباره یک درخواست مشخص تصمیم‌گیری نکرده است.

انتقاد مشابهی از داخل صنعت نیز مطرح شده است. آیدن گومز، مدیرعامل کوهیر، استدلال کرده که اگر بزرگ‌ترین سازندگان مدل‌های هوش مصنوعی خودشان استاندارد‌های ایمنی و قواعد توسعه را تعیین کنند، شرکت‌های کوچک‌تر ممکن است در شکل‌گیری مقررات نقش کمتری داشته باشند. طرف مقابل این بحث می‌گوید استاندارد مشترک برای خطراتی که می‌توانند فراتر از یک شرکت اثر بگذارند ضروری است، به شرط آنکه این استاندارد‌ها زیر نظارت عمومی قرار گیرند و به ابزاری برای محدود کردن رقابت تبدیل نشوند.

ارزیابی مستقل مدل‌های پیشرفته

اوپن‌ای‌آی هم‌زمان از ایجاد الزامات ملی برای ایمنی مدل‌های بسیار پیشرفته حمایت کرده و می‌گوید شرکت‌های بزرگ نباید تنها نهاد تصمیم‌گیر درباره ایمن بودن محصولات خود باشند. پیشنهاد‌های مطرح‌شده شامل آزمایش مشترک مدل‌ها، ارزیابی توسط نهاد‌های مستقل، گزارش حوادث جدی و ایجاد معیار‌هایی است که مشخص کنند در چه شرایطی افزایش توان یک مدل باید متوقف یا آهسته شود. شرکت همچنین گفته الزامات سخت‌گیرانه باید عمدتاً آزمایشگاه‌هایی را هدف بگیرند که در مرز توانایی‌های فعلی هوش مصنوعی فعالیت می‌کنند، نه شرکت‌های کوچک یا پژوهشگرانی که مدل‌های بسیار ضعیف‌تری می‌سازند.

آنتروپیک نیز پیشنهاد کرده ارزیابان خارجی به‌صورت مستمر و با دسترسی گسترده به فرایند‌های داخلی شرکت‌های پیشرو فعالیت کنند تا فقط نسخه نهایی مدل را آزمایش نکنند و بتوانند روند آموزش، روش‌های ایمنی و حوادث احتمالی را نیز بررسی کنند. اوپن‌ای‌آی از اصل استفاده از چنین ارزیابانی حمایت کرده است، اما شکل نهایی همکاری سه شرکت و اینکه آیا توافقی درباره سرعت توسعه مدل‌ها شکل خواهد گرفت هنوز مشخص نیست.

همکاری آغاز شده، اما چارچوب نهایی مشخص نیست

اوپن‌ای‌آی، آنتروپیک و گوگل دیپ‌مایند در بازار مدل‌های پیشرفته رقیب مستقیم یکدیگر هستند و هر سه هم‌زمان روی نسل‌های بعدی سامانه‌های هوش مصنوعی سرمایه‌گذاری می‌کنند. همکاری فعلی نشان می‌دهد بحث ایمنی از اقدامات داخلی هر شرکت فراتر رفته، اما اظهارات منتشرشده تاکنون بیشتر درباره ایجاد استاندارد و تبادل تجربه است و جزئیاتی از یک توافق رسمی برای محدود کردن آموزش یا عرضه مدل‌ها منتشر نشده است. رویترز نیز اعلام کرده نتوانسته جزئیات گزارش اولیه درباره این مذاکرات را به‌طور مستقل تأیید کند.

بحث ضدانحصار در نتیجه هنوز حل نشده است. تفاوت مهم میان «همکاری برای پیدا کردن و گزارش یک خطر» و «توافق رقبا برای کاهش سرعت عرضه محصول» می‌تواند تعیین کند چه نوع هماهنگی با قوانین فعلی سازگار است و برای چه اقدامی به چارچوب قانونی تازه نیاز خواهد بود. همین مرز اکنون به یکی از موضوعات اصلی مذاکرات شرکت‌های بزرگ هوش مصنوعی و سیاست‌گذاران آمریکایی تبدیل شده است.