چرا هوش مصنوعی نمی‌تواند همه کارها را بدون خطا انجام دهد؟

این روز‌ها در هر گوشه‌ای صحبت از عامل‌های هوش مصنوعی است و بسیاری آنها را طوری توصیف می‌کنند که گویی تنها یک قدم با جایگزین شدن کامل بخش‌های مختلف سازمان فاصله دارند. این تصویر، جذاب و وسوسه‌کننده به نظر می‌رسد.

 سیستم‌هایی خودمختار که بدون نیاز به نظارت انسانی، بدون محدودیت‌های حفاظتی و تنها با دادن دسترسی کامل به منابع ابری، می‌توانند همه مشکلات را به‌تنهایی حل کنند. اما واقعیت جهان، به‌ویژه در محیط‌های سازمانی که قابلیت اطمینان یک اصل حیاتی و غیرقابل مذاکره است، بسیار متفاوت از این تصور آرمانی است.

 حتی اگر یک عامل هوش مصنوعی بتواند با دقت ۹۹ درصد کار کند، این سطح از دقت در بسیاری از کاربرد‌های تجاری کافی نیست. تصور کنید این عامل مسئول بهینه‌سازی مسیر تحویل غذا باشد؛ در چنین شرایطی، از هر ۱۰۰ سفارش، یک سفارش به آدرس اشتباهی فرستاده می‌شود. در فضای کسب‌وکار، چنین نرخ خطایی نه‌تنها غیرقابل‌پذیرش است، بلکه می‌تواند هزینه‌های مالی سنگین، ریسک‌های جدی و نارضایتی شدید مشتریان یا مجازات‌های نهاد‌های نظارتی را به همراه داشته باشد.

رویای هوش عمومی در برابر واقعیت مسائل سازمانی

به گزارش venturebeat، بخشی از مشکل از اینجا ناشی می‌شود که صنعت فناوری همواره مجذوب پروژه‌های بزرگ و جاه‌طلبانه بوده است. این روز‌ها این جاه‌طلبی در قالب رویای هوش مصنوعی دنیای باز دیده می‌شود؛ سیستمی که بتواند در برابر هر مسئله‌ای قرار گیرد، خودش را با شرایط جدید تطبیق دهد، بدون اینکه از پیش برای آن برنامه‌ریزی شده باشد، در لحظه یاد بگیرد و حتی در مواجهه با داده‌های ناقص یا مبهم هم بتواند تصمیم بگیرد. این همان رؤیای دیرینه هوش عمومی مصنوعی است؛ سیستمی که نه‌تنها استدلال می‌کند، بلکه قدرت بداهه‌پردازی و ابتکار عمل دارد.

بیشتر چالش‌های سازمانی در دنیای بسته رخ می‌دهد

اما بیشتر چالش‌هایی که سازمان‌ها روزانه با آن رو‌به‌رو هستند، در دسته مسائل دنیای بسته قرار می‌گیرند. در این نوع مسائل، محدوده مسئله روشن و مشخص است، قواعد و قوانین از قبل تعریف شده‌اند و سیستم می‌تواند فرض کند که همه داده‌های مورد نیاز در دسترس است. در این محیط‌ها اگر چیزی به‌وضوح درست اعلام نشده باشد، می‌توان فرض کرد که نادرست است؛ این همان اصل جهان بسته است. تطبیق فاکتورها، اعتبارسنجی قراردادها، شناسایی تقلب، پردازش ادعا‌های بیمه و پیش‌بینی موجودی انبار نمونه‌هایی از همین مسائل دنیای بسته هستند. برخلاف تصور رایج، اغلب مسائل سازمانی در چنین محیط‌های مشخص و قابل پیش‌بینی رخ می‌دهند و نه در جهانی پر از ناشناخته‌ها و ابهام. در چنین فضایی، استفاده از عامل‌های هوش مصنوعی بدون سازوکار‌های کنترلی و حفاظتی نه‌تنها عاقلانه نیست، بلکه می‌تواند خطرناک و پرهزینه باشد.

در چنین فضایی، استفاده از عامل‌های هوش مصنوعی بدون سازوکار‌های کنترلی و حفاظتی نه‌تنها عاقلانه نیست، بلکه می‌تواند خطرناک و پرهزینه باشد. یکی از پیامد‌های منفی این هیاهوی بی‌پایه این است که با مطرح شدن اهداف بسیار بزرگ و دست‌نیافتنی، کاربرد‌های عملی هوش مصنوعی در سازمان‌ها دور از دسترس به نظر می‌رسد.

مدیران سردرگم در برابر وعده‌های اغراق‌آمیز

مدیران سازمانی با شنیدن ادعا‌های مربوط به عاملیت همه‌کاره، دچار سردرگمی و انفعال می‌شوند، چون نمی‌دانند از کجا باید شروع کنند. مسئله به‌قدری بزرگ، پیچیده و پرریسک به نظر می‌رسد که ورود به آن را غیرممکن می‌بینند. این وضعیت شبیه طراحی خودرو‌های خودران پیش از اختراع موتور احتراق داخلی است: رؤیایی جذاب، اما بی‌توجهی به مبانی اولیه فقط شکست را در پی دارد.

در حالی که مسائل دنیای باز برای ارائه دمو‌های هیجان‌انگیز و جذب سرمایه مناسبند، ارزش واقعی امروز در حل مسائل دنیای بسته نهفته است؛ مسائلی که قابل حل، قابل آزمون و قابل اتوماسیون هستند و در هر سازمانی به‌طور ملموس وجود دارند.

عامل‌های سازمانی موفق نیاز به گفت‌و‌گو ندارند؛ خودشان عمل می‌کنند

عامل‌های هوش مصنوعی سازمانی که واقعاً کارآمد هستند، اغلب مبتنی بر مکالمه و چت نیستند. آنها به‌صورت خودکار و بدون دخالت مستقیم کاربر، به جریان داده‌ها واکنش نشان می‌دهند. برای مثال، عاملی را تصور کنید که هر بار یک فاکتور جدید به سیستم وارد می‌شود، به‌طور خودکار آن را با سفارشات تطبیق داده و هرگونه مغایرت را گزارش می‌کند.

معماری فنی چنین عامل‌هایی ترکیبی است از میکروسرویس‌های رویدادمحور، داده‌های زمینه‌ای و مدل‌های زبانی. ساخت این عامل‌ها نه از طریق آموزش مجدد مدل‌های عظیم، بلکه از راه مهندسی و یکپارچه‌سازی اجزای موجود انجام می‌شود. این رویکرد جدیدی در مهندسی نرم‌افزار نیست و شباهت زیادی به تغییر معماری‌های سازمانی در دهه‌های گذشته دارد.

هرچند مدل‌های زبانی بزرگ ذاتاً احتمالاتی و غیرقطعی عمل می‌کنند، اما سیستم‌های سازمانی به قطعیت نیاز دارند. برای حل این تضاد باید زیرساختی قطعی در اطراف این مدل‌های احتمالاتی ایجاد شود. در ابزار‌های مشخص، تصمیم‌گیری‌ها توسط خود سیستم انجام می‌شود و نه مدل.

مزیت کلیدی این معماری چندعاملی و رویدادمحور، جداسازی وظایف است. عامل‌ها به‌طور مستقل عمل می‌کنند و در صورت بروز خطا می‌توان هر عامل را جداگانه عیب‌یابی کرد. این معماری اجازه می‌دهد فرآیند‌ها به‌طور موازی اجرا شوند، بازیابی خطا‌ها به‌طور قابل ردیابی از طریق لاگ رویداد‌ها انجام شود و اجزای سیستم به‌طور مستقل تست شوند.

دنیای بسته؛ محیطی آزمون‌پذیر و قابل اعتماد

در مسائل دنیای بسته، دامنه ورودی‌ها محدود و قابل تعریف است و می‌توان برای سیستم، مجموعه‌ای از موارد مرزی و آزمون‌های معتبر طراحی کرد. برخلاف دنیای باز که امکان پوشش کامل آزمون‌ها وجود ندارد و معیار‌های صحت مبهم و متغیر هستند، در اینجا صحت عملکرد سیستم‌ها با گزاره‌های قطعی سنجیده می‌شود.

بنابراین مسیر موفقیت هوش مصنوعی در سازمان‌ها نه از هوش عمومی مصنوعی، بلکه از اتوماسیون مؤثر و حل مسائل ساختاریافته آغاز می‌شود. تمرکز باید بر روی مسائلی باشد که خروجی ملموس و قابل اتکا دارند؛ مثل مسیریابی صحیح درخواست‌ها، استخراج دقیق اطلاعات از اسناد و پیگیری به‌موقع مشتریان.