تحلیل جامع و سیستماتیک روش های دفاعی در مقابله با حملات خصمانه در سامانه های یادگیری عمیق

چکیده مقاله

گسترش سریع سامانه های یادگیری عمیق در کاربردهای حساس، مسئله امنیت و پایداری این مدل ها را به یکی از چالش های اساسی پژوهش های اخیر تبدیل کرده است یکی از مهم ترین تهدیدات در این حوزه، حملات خصمانه هستند که با اعمال تغییرات بسیار جزئی در داده های ورودی، می توانند رفتار مدل های عمیق را به طور قابل توجهی منحرف کنند این پژوهش به ارائه یک تحلیل جامع و سیستماتیک از روش های دفاعی در برابر حملات خصمانه در سامانه های یادگیری عمیق می پردازد ابتدا مفاهیم پایه و انواع حملات خصمانه معرفی می شوند، سپس رویکردهای دفاعی موجود در سه دسته اصلی شامل روش های پیش پردازشی، دفاع های مدل محور و آموزش خصمانه مورد بررسی قرار می گیرند در ادامه، ارزیابی تجربی این روش ها تحت سناریوهای مختلف حمله انجام شده و رفتار آن ها از نظر دقت و پایداری تحلیل می شود نتایج نشان می دهد که آموزش خصمانه در مقایسه با سایر روش ها مقاومت بالاتری ارائه می دهد، هرچند با هزینه محاسباتی بیشتری همراه است این مطالعه می تواند مبنایی برای توسعه سامانه های یادگیری عمیق امن تر فراهم کند

کلیدواژه‌ها

نویسندگان

سجاد یوسفی

گروه مهندسی برق، دانشکده مهندسی برق و کامپیوتر، دانشگاه ملی مهارت، تهران، ایران

مریم پورنجف

گروه مهندسی کامپیوتر، دانشکده مهندسی برق و کامپیوتر، دانشگاه ملی مهارت، تهران، ایران

هانیه کمری

گروه مهندسی کامپیوتر، دانشکده مهندسی برق و کامپیوتر، دانشگاه ملی مهارت، تهران، ایران

آیدا عباسی

گروه مهندسی کامپیوتر، دانشکده مهندسی برق و کامپیوتر، دانشگاه ملی مهارت، تهران، ایران

یوسفی، سجاد و پورنجف، مریم و کمری، هانیه و عباسی، آیدا،1404،تحلیل جامع و سیستماتیک روش های دفاعی در مقابله با حملات خصمانه در سامانه های یادگیری عمیق،سومین کنفرانس ملی تحول دیجیتال و سیستم های هوشمند،لارستان

ارائه‌شده در

مجموعه مقالات سومین کنفرانس ملی تحول دیجیتال و سیستم های هوشمند28 بهمن 1404 · لارستان