وقتی هوش مصنوعی از اکثریت تبعیت میکند واقعیت دیجیتال در خطر است
با گسترش سامانههای چندعاملی، گروههای بزرگی از هوشمصنوعی میتوانند با یکدیگر تعامل کنند، اطلاعات ردوبدل کنند و برای انجام یک وظیفه مشترک تصمیم بگیرند، اما پرسش اینجاست که وقتی تعداد زیادی هوشمصنوعی کنار هم قرار میگیرند، آیا هرکدام مستقل تصمیم میگیرند یا رفتار یکدیگر بر انتخابشان اثر میگذارد؟
پژوهش «عاملهای هوش مصنوعی میتوانند از طریق پیروی از اکثریت، در مقیاسی فراتر از انسان با یکدیگر هماهنگ شوند» به همین پرسش پرداخته است. پژوهشگران در این مطالعه بررسی کردند که عاملهای مبتنی بر مدلهای زبانی بزرگ هنگام قرار گرفتن در یک گروه چگونه تصمیم میگیرند و آیا میتوانند بدون وجود یک کنترلکننده مرکزی به انتخاب مشترکی برسند.
دیوید گارسیا، استاد علوم داده اجتماعی و رفتاری دانشگاه کنستانتس و یکی از پژوهشگران این مطالعه در گفتوگو با آناتک بیان میکند که عاملهای هوشمصنوعی حتی در نبود یک کنترلکننده مرکزی نیز میتوانند از طریق پیروی از نظر اکثریت به هماهنگی جمعی دست یابند.
عاملهای هوشمصنوعی از نظر اکثریت پیروی میکردند
در این آزمایش پژوهشگران باید عاملهای هوشمصنوعی را میان دو گزینه انتخاب میکردند. هیچیک از این گزینهها پاسخ درست یا نادرست مشخصی نداشت و عاملها نیز برای رسیدن به توافق، پاداشی دریافت نمیکردند. با این حال، انتخاب هر عامل میتوانست تحت تأثیر انتخابهایی قرار بگیرد که در میان سایر اعضای گروه دیده میشد.
نتیجه نشان داد وقتی یکی از گزینهها به انتخاب غالب گروه تبدیل میشد، احتمال گرایش سایر عاملها به همان گزینه افزایش پیدا میکرد. به بیان ساده، اگر در یک گروه تعداد بیشتری از عاملها گزینه «الف» را انتخاب میکردند، عاملهایی که هنوز گزینه دیگری را انتخاب کرده بودند نیز بیشتر به سمت «الف» متمایل میشدند.
این روند میتواند یک چرخه ایجاد کند؛ یک اکثریت اولیه شکل میگیرد، انتخاب آن اکثریت روی دیگر عاملها اثر میگذارد و در نتیجه، نظر غالب بیش از پیش تقویت میشود. پژوهشگران این گرایش را نوعی «پیروی از اکثریت» توصیف کردهاند. این رفتار به گروه امکان میدهد بدون نیاز به یک مرکز فرماندهی، به هماهنگی برسد.
البته این هماهنگی در همه اندازهها به یک شکل عمل نمیکند. نتایج نشان داد هرچه تعداد عاملها بیشتر میشود، قدرت این گرایش به پیروی از اکثریت کاهش پیدا میکند و گروههای بسیار بزرگ ممکن است نتوانند به یک تصمیم واحد برسند. در چنین وضعی، بخشهایی از گروه میتوانند انتخابهای متفاوت خود را حفظ کنند.
هماهنگی همیشه به معنای تصمیم درست نیست
یکی از نکات مهم این پژوهش آن است که رسیدن به اجماع لزوماً به معنای رسیدن به بهترین تصمیم نیست. ممکن است یک انتخاب صرفاً به علت آنکه در مراحل اولیه تعداد بیشتری از عاملها آن را برگزیدهاند، به انتخاب غالب تبدیل شود و سپس سایر عاملها نیز به سمت همان گزینه حرکت کنند.
این مسئله زمانی اهمیت بیشتری پیدا میکند که گروههای بزرگی از عاملهای هوشمصنوعی برای انجام وظایف واقعی به کار گرفته شوند. توانایی رسیدن به تصمیم مشترک میتواند همکاری آنها را آسانتر کند، اما اگر یک روش ناکارآمد یا یک تصمیم نامناسب به هنجار غالب گروه تبدیل شود، همان سازوکار هماهنگی میتواند به تثبیت اشتباه کمک کند.
گارسیا: عاملهای هوشمصنوعی میتوانند با پیروی از نظر اکثریت، دیدگاهها یا رفتارهای خاصی را تقویت کنند و این روند در نهایت بر کاربران انسانی نیز اثر بگذارد. این دقیقاً موضوع یکی از مقالههای دیگری است که روی آن کار کردهام. البته پیامدها فقط به این موضوع محدود نمیشود؛ پیروی از اکثریتهای محلی میتواند به شکلگیری قطبیسازی کاذب یا حتی مناقشهها و جنجالهای مصنوعی در فضای آنلاین نیز منجر شود
پژوهش همچنین نشان میدهد مدلهای مختلف، رفتار یکسانی ندارند. برخی مدلها میتوانند در گروههای بزرگتری هماهنگی خود را حفظ کنند، در حالی که برخی دیگر با افزایش تعداد عاملها زودتر به نقطهای میرسند که اجماع در آنها دشوار میشود. بنابراین، توانایی هماهنگی جمعی میتواند به ویژگیها و تواناییهای خود مدل نیز وابسته باشد.
پیامدهای این رفتار برای فضای آنلاین
با این حال، پیامد این رفتار شاید فقط به رسیدن همه عاملها به یک نظر محدود نشود. «دیوید گارسیا»، یکی از پژوهشگران این مقاله، در پاسخ به خبرنگار آناتک درباره حضور روزافزون عاملهای هوشمصنوعی در جوامع آنلاین گفت: «عاملهای هوشمصنوعی میتوانند با پیروی از نظر اکثریت، دیدگاهها یا رفتارهای خاصی را تقویت کنند و این روند در نهایت بر کاربران انسانی نیز اثر بگذارد. این دقیقاً موضوع یکی از مقالههای دیگری است که روی آن کار کردهام. البته پیامدها فقط به این موضوع محدود نمیشود؛ پیروی از اکثریتهای محلی میتواند به شکلگیری قطبیسازی کاذب یا حتی مناقشهها و جنجالهای مصنوعی در فضای آنلاین نیز منجر شود.»
این گفته زاویه دیگری از رفتار جمعی هوشمصنوعی را نشان میدهد. در یک محیط دیجیتال، همه عاملها لزوماً با یک مجموعه اطلاعات یا یک گروه یکسان در ارتباط نیستند. ممکن است گروهی از عاملها در محیط خود با یک نظر غالب روبهرو شوند و گروه دیگری تحت تأثیر اکثریتی متفاوت قرار بگیرد. در نتیجه، هر گروه میتواند مسیر جداگانهای را دنبال و همان دیدگاه را تقویت کند.
چنین روندی میتواند تصویری ایجاد کند که در آن فضای آنلاین بیش از واقعیت قطبی و پرتنش به نظر میرسد. اگر عاملهای هوشمصنوعی یک دیدگاه را بارها تکرار، از آن حمایت یا در واکنش به آن محتوای بیشتری تولید کنند، ممکن است کاربران انسانی نیز با این تصور روبهرو شوند که آن دیدگاه بسیار گستردهتر یا فراگیرتر از واقعیت است. در همین راستا یک گروه متفاوت میتواند روند مشابهی را برای دیدگاهی متضاد شکل دهد.
انتهای پیام/
