محققان دانشگاه تهران «توهم» در هوش مصنوعی را مهار کردند

به گزارش خبرگزاری آنا، در حالی که پدیده «توهم» (Hallucination) به عنوان جدی‌ترین نقطه ضعف مدل‌های زبانی بزرگ (LLM) اعتبار این فناوری را در حوزه‌های حساس با چالش روبه‌رو کرده است، محققان دانشگاه تهران با بررسی دقیق معماری‌های RAG، راهکار عبور از این بحران را ارائه داده‌اند.

این گزارش تحلیلی که بر پایه بررسی بیش از ۳۰۰ مرجع علمی تدوین شده، نشان می‌دهد که چگونه پیوند میان بازیابی اطلاعات و تولید متن، هوش مصنوعی را از یک سیستم احتمالی به یک ابزار مستند و قابل اعتماد تبدیل می‌کند.
شاهرخ اسدی، عضو هیأت علمی دانشکدگان فارابی دانشگاه تهران و سرپرست گروه تحقیقاتی در این تحلیل، یک ساختار طبقه‌بندی شده چهار مرحله‌ای شامل «نمایه‌سازی»، «بازیابی»، «تلفیق» و «تولید» را معرفی می‌کند. این چهارچوب به متخصصان اجازه می‌دهد تا پیچیده‌ترین معماری‌های هوش مصنوعی را رمزگشایی کرده و کارایی آن‌ها را در محیط‌های عملیاتی ارتقا دهند.

اسدی با اشاره به اینکه یکی از برجسته‌ترین بخش‌های تحلیل این تحقیق، بررسی سیر تکامل از Vector RAG به سوی Graph RAG است، گفت: «برخلاف مدل‌های قدیمی که تنها به شباهت‌های سطحی کلمات بسنده می‌کردند، معماری‌های گرافی توانایی استدلال چندمرحله‌ای را فراهم می‌آورند که برای پاسخگویی به پرسش‌های پیچیده و تحلیلی حیاتی است».

بنا به گفته اسدی این تحقیق همچنین به بررسی الگوهای نوظهوری می‌پردازد که مرزهای هوش مصنوعی را جابه‌جا کرده‌اند. وی در تحلیل خود به تبیین نقش Agentic RAG در سیستم‌های چندوجهی مدل‌های ترکیبی می‌پردازد؛ رویکردهایی که هوش مصنوعی را قادر می‌سازد به طور همزمان از متن، تصویر و پایگاه‌های داده پیچیده برای استخراج حقیقت استفاده کند.

علاوه بر مباحث تئوریک، در این تحقیق، مقایسه‌ای کاربردی میان پایگاه‌های داده‌برداری و گرافی برای استقرار در پروژه‌های بزرگ ارائه شده است.

عضو هیأت علمی دانشکده مهندسی دانشکدگان فارابی با یکپارچه‌سازی معیارها و مجموعه داده‌های ارزیابی، ابزاری دقیق در اختیار پژوهشگران و مهندسان قرار می‌دهد تا بتوانند دقت و اعتبار سیستم‌های خود را به طور استاندارد بسنجند.

اسدی در پایان تأکید می‌کند که RAG اکنون به یک الگوی طراحی بالغ برای ساخت سیستم‌های هوش مصنوعی «حسابرسی‌پذیر» تبدیل شده است. این نقشه راه، مسیر حرکت از خط‌لوله‌های ساده اطلاعاتی به سوی سیستم‌های استدلال‌گر مبتنی بر شواهد را ترسیم کرده و بستری امن برای استفاده از هوش مصنوعی در تصمیم‌گیری‌های کلان فراهم می‌سازد. این پژوهش که با همکاری دانشجو امیرعباس کمالی‌‌پور انجام شده است، در پیوند https://www.sciencedirect.com/science/article/pii قابل دسترسی است.