نژادابراهیمی: هوش مصنوعی در رسانهها نیازمند حکمرانی اخلاقمحور است/ کمیتههای اخلاقی و نظارت انسانی باید تقویت شود
صمدنژاد ابراهیمی، مدیرکل دفتر سیاستگذاری و برنامهریزی امور پژوهشی وزارت علوم، تحقیقات و فناوری در گفتوگو با خبرنگار آنا، اظهار کرد: به نظر میرسد هوش مصنوعی دیگر صرفاً یک ابزار فناورانه در حاشیه رسانهها نیست، بلکه بهتدریج به بخشی از منطق درونی و زیرساختی رسانههای نوین تبدیل شده است. امروزه بسیاری از تصمیمهایی که پیشتر توسط انسانها اتخاذ میشد، از انتخاب و اولویتبندی خبر گرفته تا نحوه توزیع و دیدهشدن محتوا، بهطور مستقیم یا غیرمستقیم تحت تأثیر سامانههای هوشمند قرار دارد.
وی افزود: در حال حاضر، بیشترین کاربرد هوش مصنوعی را میتوان در حوزههایی مانند تولید محتوای خودکار، تحلیل رفتار مخاطبان، شخصیسازی اخبار، مدیریت شبکههای اجتماعی و بهینهسازی فرآیندهای سردبیری مشاهده کرد؛ حوزههایی که مستقیماً بر تجربه مخاطب و جهتگیری رسانه اثر میگذارند.
کاهش محدودیتهای سنتی رسانه با کمک هوش مصنوعی
مدیرکل دفتر سیاستگذاری و برنامهریزی امور پژوهشی وزارت علوم ادامه داد: اگر بخواهیم به فرصتها و مزایای هوشمصنوعی در رسانههای نوین نگاه واقعبینانهتری داشته باشیم، باید اذعان کرد که این فناوری توانسته است بسیاری از محدودیتهای سنتی رسانهها را کاهش دهد. افزایش سرعت تولید و انتشار محتوا، امکان تحلیل حجم عظیمی از دادهها، شناسایی سریعتر علایق و نیازهای مخاطبان و حتی کمک به رسانههای کوچک برای رقابت در فضای دیجیتال، از جمله مهمترین دستاوردهای این فناوری است.
وی تصریح کرد: هوشمصنوعی میتواند بار کاری روزنامهنگاران را در امور تکراری کاهش داده و به آنها فرصت تمرکز بر تحلیل، تحقیق و تولید محتوای عمیقتر بدهد؛ البته مشروط بر آنکه این فناوری بهدرستی و آگاهانه بهکار گرفته شود.
نگرانیهای اخلاقی؛ از سوگیری الگوریتمی تا نقض حریم خصوصی
ابراهیمی با اشاره به چالشهای این حوزه بیان کرد: در کنار این فرصتها، نمیتوان از چالشها و نگرانیهای اخلاقی هوش مصنوعی در رسانهها چشمپوشی کرد. یکی از مهمترین این چالشها، خطر بازتولید یا حتی تشدید سوگیریهای اجتماعی و سیاسی از طریق الگوریتمهاست. علاوه بر این، جمعآوری و تحلیل گسترده دادههای مخاطبان، نگرانیهای جدی درباره نقض حریم خصوصی ایجاد کرده است.
وی افزود: وابستگی بیش از حد به سامانههای هوشمند میتواند استقلال حرفهای روزنامهنگاران را تضعیف کرده و تصمیمهای رسانهای را به منطقهای پنهان و غیرشفاف واگذار کند؛ امری که در نهایت اعتماد عمومی را با تهدید مواجه میسازد.
دیپفیک و اخبار جعلی؛ چهره مسئلهساز هوشمصنوعی
این مقام مسئول بیان کرد: در سالهای اخیر نمونههای متعددی از کاربرد مسئلهساز هوش مصنوعی در رسانهها مشاهده شده است. برای مثال، استفاده از سامانههای مولد برای تولید اخبار جعلی یا نیمهواقعی، گسترش ویدئوها و تصاویر دستکاریشده یا همان دیپفیکها و همچنین الگوریتمهایی که بهطور ناخواسته یا هدفمند روایتهای خاصی را برجسته و سایر صداها را حذف میکنند، همگی مصادیقی از خدشهدار شدن اصول اخلاق حرفهای هستند.
وی تأکید کرد: این تجربهها نشان میدهد که فناوری، بدون چارچوب اخلاقی و نظارت انسانی، میتواند به ابزاری برای تحریف واقعیت تبدیل شود.
«جعبه سیاه» الگوریتمها باید شفاف شود
ابراهیمی با اشاره به ضرورت شفافیت در سامانههای هوشمند اظهار کرد: واقعیت آن است که در بسیاری از رسانهها، موضوع شفافیت الگوریتمها و پاسخگویی در برابر پیامدهای آنها هنوز بهصورت جدی نهادینه نشده است. اغلب سامانههای هوش مصنوعی بهمثابه «جعبه سیاه» عمل میکنند؛ به این معنا که نه مخاطبان و نه حتی مدیران رسانهای، درک روشنی از منطق تصمیمگیری آنها ندارند.
وی افزود: این وضعیت، مسئولیتپذیری اخلاقی را دشوار میکند و در صورت بروز خطا یا آسیب، پاسخ به این پرسش که «چه کسی مسئول است؟» را به چالشی جدی بدل میسازد.
اخلاق باید از مرحله طراحی الگوریتم آغاز شود
مدیرکل دفتر سیاستگذاری و برنامهریزی امور پژوهشی وزارت علوم عنوان کرد: از منظر اخلاقی، طراحی و استفاده از هوش مصنوعی در رسانهها باید بر مجموعهای از اصول روشن استوار باشد. اصولی مانند شفافیت، پاسخگویی، قابلیت توضیحپذیری، نظارت انسانی و پرهیز از سوگیری نباید صرفاً در اسناد نظری باقی بمانند، بلکه باید در عمل و در تمامی مراحل چرخه عمر سامانههای هوشمند لحاظ شوند.
وی ادامه داد: به بیان دیگر، اخلاق باید از همان مرحله طراحی الگوریتمها آغاز شود، نه آنکه پس از بروز مشکل به آن اندیشیده شود.
عدالت، انصاف و کرامت انسانی؛ ستونهای اخلاق رسانهای
ابراهیمی با تأکید بر ارزشهای بنیادین در این حوزه گفت: ارزشهایی همچون عدالت، انصاف، احترام به کرامت انسانی و حفظ حریم خصوصی مخاطبان، ستونهای اصلی اخلاق رسانهای در عصر هوش مصنوعی به شمار میروند. نادیده گرفتن این ارزشها میتواند به تبعیض اطلاعاتی، حاشیهراندن گروههای اجتماعی خاص و نقض حقوق بنیادین افراد منجر شود.
وی یادآور شد: در مقابل، پایبندی آگاهانه به این ارزشها نهتنها به ارتقای کیفیت رسانهای کمک میکند، بلکه سرمایه اجتماعی و اعتماد عمومی را نیز تقویت میسازد.
مسئولیت اخلاقی، مشترک و چندسطحی است
این مقام مسئول در ادامه اظهار کرد: مسئولیت اخلاقی سامانههای هوش مصنوعی در رسانهها را نمیتوان بر عهده یک بازیگر واحد گذاشت. این مسئولیت، ماهیتی مشترک و چندسطحی دارد؛ توسعهدهندگان الگوریتمها در قبال طراحی مسئولانه، مدیران رسانه و سردبیران در قبال نحوه بهکارگیری و سیاستگذاری داخلی، و نهادهای حاکمیتی در قبال تنظیمگری و نظارت کلان، همگی نقش تعیینکننده دارند.
وی افزود: فقدان هر یک از این حلقهها میتواند کل نظام پاسخگویی را با اختلال مواجه کند.
کمیتههای اخلاقی و نظارت انسانی باید تقویت شود
ابراهیمی گفت: برای تقویت پاسخگویی و نظارت انسانی، لازم است سازوکارهای مشخص و عملی طراحی شود. تشکیل کمیتههای اخلاقی در سازمانهای رسانهای، انجام ارزیابیهای منظم از اثرات اخلاقی الگوریتمها، مستندسازی تصمیمهای مبتنی بر هوش مصنوعی و حفظ نقش نهایی انسان در تصمیمهای حساس رسانهای، از جمله اقداماتی است که میتواند تعادل میان فناوری و مسئولیت انسانی را حفظ کند.
چارچوبهای موجود نیازمند بومیسازی است
وی در ادامه خاطرنشان کرد: استفاده مسئولانه از هوش مصنوعی در رسانهها مستلزم رعایت الزامات اخلاقی روشنی است؛ از جمله تدوین کدهای اخلاقی اختصاصی، آموزش مستمر کارکنان رسانهای، حفاظت جدی از دادههای مخاطبان و پیشگیری فعال از سوگیریهای الگوریتمی. این الزامات نباید بهعنوان موانع فناورانه تلقی شوند، بلکه باید بخشی از راهبرد حرفهای و هویتی رسانهها به شمار آیند.
ابراهیمی اضافه کرد: نهادینهسازی این الزامات تنها در صورتی امکانپذیر است که اصول اخلاقی به سیاستها، دستورالعملها و رویههای عملی تبدیل شوند. اخلاق رسانهای زمانی معنا پیدا میکند که در ساختار سازمانی، نظام ارزیابی عملکرد و فرآیندهای تصمیمگیری روزمره رسانهها حضور واقعی داشته باشد، نه آنکه صرفاً در بیانیهها و اسناد رسمی باقی بماند.
وی تصریح کرد: چارچوبها و دستورالعملهای اخلاقی موجود در حوزه هوشمصنوعی و رسانه، اگرچه گامی رو به جلو محسوب میشوند، اما در بسیاری موارد کلی، غیرالزامآور و فاقد ضمانت اجرایی کافی هستند. افزون بر این، این چارچوبها اغلب با زمینههای فرهنگی، اجتماعی و رسانهای متفاوت سازگار نشدهاند و نیازمند بومیسازی و تکمیلاند.
اولویت منافع عمومی بر سود اقتصادی
مدیرکل دفتر سیاستگذاری و برنامهریزی امور پژوهشی وزارت علوم اظهار کرد: از جمله خلأهای مهم در این حوزه میتوان به ابهام در مسئولیت حقوقی خطاهای الگوریتمی، ضعف در سازوکارهای نظارتی مستقل و کمتوجهی به نقش قدرت اقتصادی و سیاسی پلتفرمهای بزرگ رسانهای اشاره کرد. پرداختن به این خلأها میتواند مسیر پژوهشهای آینده و سیاستگذاریهای اثربخشتر را هموار سازد.
وی افزود: آینده اخلاق رسانهای در عصر هوش مصنوعی بهشدت وابسته به نوع مواجهه امروز ما با این فناوری است. اگر هوش مصنوعی بدون چارچوب اخلاقی و نظارت مؤثر گسترش یابد، خطر تضعیف اعتماد عمومی و کاهش مسئولیتپذیری رسانهها جدی خواهد بود؛ اما در صورت حکمرانی اخلاقمحور، این فناوری میتواند به ابزاری برای ارتقای کیفیت، عدالت و شفافیت در رسانهها تبدیل شود.
ابراهیمی تأکید کرد: اگر بخواهم یک اصل اخلاقی محوری پیشنهاد دهم، آن اصل میتواند «اولویت منافع عمومی و کرامت انسانی بر کارایی فناورانه و سود اقتصادی» باشد. این اصل بهمثابه قطبنمایی اخلاقی عمل میکند که میتواند جهت تصمیمها و سیاستهای رسانهای را در مواجهه با هوش مصنوعی مشخص سازد.
هوش مصنوعی باید مکمل قضاوت انسانی باشد
وی در پایان گفت: توصیه به مدیران رسانهای آن است که هوش مصنوعی را نه جایگزین قضاوت انسانی، بلکه مکمل آن بدانند. سرمایهگذاری در آموزش، شفافیت، گفتوگوی درونسازمانی درباره پیامدهای اخلاقی و پذیرش مسئولیت اجتماعی، میتواند استفاده از این فناوری را در مسیری اخلاقمحور و پایدار قرار دهد.
نژادابراهیمی بیان کرد: نکتهای که شاید کمتر به آن پرداخته میشود، تأثیر بلندمدت هوش مصنوعی بر هویت حرفهای روزنامهنگاران، اعتماد عمومی و توزیع قدرت در زیستبوم رسانهای است؛ موضوعی که توجه به آن میتواند مسیر پژوهشهای آینده را روشنتر سازد.
انتهای پیام/
