کاربرد هوش مصنوعی در مواجهه با چالش اخبار جعلی: تحلیل روش های تشخیص، چالش های نوظهور و راهکارهای آینده

چکیده مقاله

همزمان با گسترش رسانه های اجتماعی و فناوری های تولید محتوا، انتشار اخبار جعلی به یک تهدید جدی برای اعتماد عمومی، سلامت اجتماعی و امنیت ملی تبدیل شده است این مقاله با هدف بررسی نقش دوگانه هوش مصنوعی هم به عنوان یک عامل تسهیل گر و هم یک ابزار مقابله در عصر اخبار جعلی تدوین شده است روش کار حاضر، یک مرور سیستماتیک تحلیلی است در این راستا، با جستجوی نظام مند در پایگاه های داده علمی معتبر،گردآوری و با روش تحلیل محتوای کیفی مورد بررسی قرار گرفته اند یافته ها نشان می دهد هوش مصنوعی از یک سو با امکان تولید انبوه متن، تصویر و ویدیوهای جعلی عمیقا واقع نما دیپ فیک ، ایجاد حساب های کاربری مصنوعی و بهینه سازی انتشار، چرخه تولید و انتشار اطلاعات نادرست را تسریع و پیچیده کرده است از سوی دیگر، الگوریتم های یادگیری ماشین و یادگیری عمیق مانند شبکه های عصبی پیچشی و مدل های زبانی بزرگ با دقتی بیش از ۹۰٪ در تحلیل سبک نگارش، تشخیص ناهنجاری های چندرسانه ای و شناسایی الگوهای انتشار غیرطبیعی، اصلی ترین ابزارهای تشخیص خودکار اخبار جعلی هستند بحث و نتیجه گیری مقاله بر این نکته تاکید دارد که مسابقه تسلیحاتی بین روش های تولید و تشخیص جعل، همراه با چالش های اخلاقی، حقوقی و فنی مانند تعصب الگوریتمی، نقض حریم خصوصی و تهدید آزادی بیان ، حل این معضل را پیچیده کرده است راهکار آینده، رویکردی چندوجهی شامل تقویت حکمرانی و قوانین خاص حوزه هوش مصنوعی، توسعه استانداردهای شفافیت و نشان گذاری محتوای تولیدشده، سرمایه گذاری بر سواد رسانه ای دیجیتال جامعه و تلفیق هوش مصنوعی با نظارت انسانی است تا نه تنها در تشخیص، بلکه در کاهش انگیزه تولید و انتشار اخبار جعلی موثر باشد

کلیدواژه‌ها

نویسندگان

زهرا عادلی

دانشجوی دانشکده مهندسی، دانشگاه ملی مهارت کوثر

مینا قزوینی

فعال در هوش مصنوعی، استاد دانشکده مهندسی، دانشگاه کوثر ملایر

�ادلی، زهرا و قزوینی، مینا،1404،کاربرد هوش مصنوعی در مواجهه با چالش اخبار جعلی: تحلیل روش های تشخیص، چالش های نوظهور و راهکارهای آینده،ششمین همایش بین المللی مهندسی کامپیوتر، برق و تکنولوژی،همدان

ارائه‌شده در

مجموعه مقالات ششمین همایش بین المللی مهندسی کامپیوتر، برق و تکنولوژی2 اسفند 1404 · همدان