چکیده مقاله
با پیشرفت سریع مدل های زبانی بزرگ Large Language Models – LLMs، مهاجمان اکنون قادرند «سوارم های شایعه ساز» Rumor Swarms را سازمان دهی کنند؛ یعنی موج های هماهنگ و انبوهی از اطلاعات گمراه کننده و ساختگی تولیدشده توسط هوش مصنوعی را به طور هدفمند به سمت کانال های اطلاع رسانی عمومی در زمان وقوع بحران روانه سازند این حملات می توانند اعتماد عمومی را تضعیف کرده، روند تصمیم گیری را مختل کنند و با ایجاد بار اطلاعاتی کاذب، کارایی سامانه های اطلاع رسانی بحران Crisis Information Systems – CIS را کاهش دهند در این پژوهش، یک چارچوب تاب آوری برای CIS ارائه می شود که توانایی تحمل، شناسایی و خنثی سازی این حملات را دارد در این چارچوب، مجموعه ای از شاخص های سنجش کمی و کیفی برای ارزیابی مقاومت سامانه طراحی شده است که شامل: زمان شناسایی Detection Latency؛ فاصله زمانی بین انتشار شایعه و تشخیص آن، نرخ انتشار شایعه Rumor Propagation Rate، و شاخص اعتماد عمومی Public Trust Index بر اساس تحلیل داده های شبکه اجتماعی علاوه بر این، ضد تدابیر عملیاتی متعددی ارائه شده است که ترکیبی از: شناسایی شایعه با کمک هوش مصنوعی AI assisted Rumor Detection بر مبنای مدل های پردازش زبان طبیعی و تحلیل الگوهای زبانی، محدودسازی تطبیقی محتوا Adaptive Content Throttling برای کاهش نرخ دیده شدن محتوای مشکوک تا زمان تایید، و اولویت بندی منابع معتبر Verified Source Prioritization برای تقویت دیده شدن پیام های رسمی و کاهش نفوذ منابع غیرمعتبر، را به کار می گیرد نتایج شبیه سازی ها در سه سناریوی بحران شامل زلزله، سیل، و حمله سایبری به زیرساخت های حیاتی نشان داد که پیاده سازی این چارچوب می تواند انتشار اطلاعات نادرست را تا ۶۲٪ کاهش دهد و زمان بازیابی اعتماد عمومی را تا ۴۵٪ بهبود بخشد این یافته ها نشان دهنده ضرورت ادغام راهبردهای دفاعی آگاه به هوش مصنوعی در معماری سامانه های اطلاع رسانی بحران برای حفظ اعتماد عمومی و کارایی عملیاتی در شرایط اضطراری با ریسک بالا است
کلیدواژهها
نویسندگان
بیتا روحی
رییس اداره مدیریت بحران و پدافند غیر عامل شهرداری
مهدی رضا حسینی
مشاور اداره مدیریت بحران و پدافند غیر عامل شهرداری همدان
امیرحسین حنیفی
دانشجوی مهندسی کامپیوتر دانشگاه بوعلی سینا
رزومه علمی کاربران
درباره سیویلیکاتبلیغات در سیویلیکاآمار علمی ایرانتقویم علمی ایرانداده کاوی مقالاتطرح های پژوهشی
شیوه ارجاع
در صورتی که می خواهید در اثر پژوهشی خود به این مقاله ارجاع دهید، به سادگی می توانید از عبارت زیر در بخش منابع و مراجع استفاده نمایید: روحی، بیتا و حسینی، مهدی رضا و حنیفی، امیرحسین،1404،تاب آوری سامانه های اطلاع رسانی بحران در برابر سوارم شایعه ساز LLM: طراحی شاخص های سنجش و ضدتدابیر عملیاتی،نهمین کنفرانس بین المللی پژوهش های کاربردی در علوم و مهندسی،https://civilica.com/doc/2606451
ارائهشده در
مجموعه مقالات نهمین کنفرانس بین المللی پژوهش های کاربردی در علوم و مهندسی7 اسفند 1404