امنیت مدل های هوش مصنوعی نظامی در برابر حملات تزریق داده بررسی آسیب پذیری های سیستم های تشخیص هدف و روش های محافظت از آن ها در برابر دستکاری داده های آموزشی توسط دشمن

چکیده مقاله

با گسترش روزافزون کاربرد هوش مصنوعی در سامانه های نظامی، به ویژه در سیستم های تشخیص هدف، پرسش بنیادین پیرامون امنیت و پایایی این سامانه ها در برابر تهدیدات سایبری پیچیده اهمیتی دوچندان یافته است حملات تزریق داده به عنوان یکی از مخرب ترین شیوه های جنگ سایبری، با هدف دستکاری داده های آموزشی مدل های یادگیری ماشین، می تواند منجر به رفتارهای نادرست و خطرناک سامانه های نظامی شود این مقاله به بررسی جامع آسیب پذیری های سیستم های تشخیص هدف نظامی در برابر حملات تزریق داده پرداخته و روش های نوین محافظت و دفاع را تحلیل می کند در این پژوهش، ابتدا مفاهیم بنیادین حملات تزریق داده و انواع آن ها شامل حملات هدفمند، غیرهدفمند و حملات درب پشتی تبیین می شود سپس آسیب پذیری های خاص سیستم های تشخیص هدف نظامی شامل وابستگی به داده های برچسب خورده، پیچیدگی محیط عملیاتی، و چالش های مربوط به صحه گذاری داده ها بررسی می گردد در ادامه، روش های محافظتی شامل رویکردهای پیشگیرانه مانند فیلترسازی داده ها و اعتبارسنجی منابع ، روش های تشخیص حمله مانند تحلیل آماری و یادگیری مقاوم ، و استراتژی های بازیابی و اصلاح مدل مورد بحث قرار می گیرند نتایج این پژوهش نشان می دهد که ایجاد یک چارچوب دفاعی چندلایه و تطبیقی، ترکیبی از روش های رمزنگاری، اعتبارسنجی زنجیره تامین، و تکنیک های یادگیری مقاوم، می تواند به طور قابل توجهی سطح امنیت مدل های هوش مصنوعی نظامی را ارتقا دهد

کلیدواژه‌ها

نویسندگان

طیبه نجفی

کارشناشی ارشد علوم قرآن و حدیث

منیژه امامیان توپکانلو

آموزگار

محی الدین بهمرد

کارشناسی ارشد مدیریت دفاعی

فهیمه نجفی

کارشناسی ارشد ادبیات فارسی

اعظم کنعانی

دبیر

حیدر داودی

کارشناسی ارشد مدیریت دفاعی

ابوالفضل سمیعی

مدیر آموزگار

طیبه آدینه

مدیر

�همرد، محی الدین و داودی، حیدر،1405،امنیت مدل های هوش مصنوعی نظامی در برابر حملات تزریق داده بررسی آسیب پذیری های سیستم های تشخیص هدف و روش های محافظت از آن ها در برابر دستکاری داده های آموزشی توسط دشمن،دومین همایش بین المللی تحولات نوین در نظام های آموزشی، تربیتی، روانشناسی، مهارت آموزی و مهارت محوری با محوریت آموزش و پرورش در هزاره سوم،بوشهر

ارائه‌شده در

مجموعه مقالات دومین همایش بین المللی تحولات نوین در نظام های آموزشی، تربیتی، روانشناسی، مهارت آموزی و مهارت محوری با محوریت آموزش و پرورش در هزاره سوم26 اردیبهشت 1405 · بوشهر