امنیت سایبری در عصر هوش مصنوعی: روش های نوین دفاعی در برابر حملات خصمانه به مدل های یادگیری عمیق

چکیده مقاله

با گسترش کاربرد مدل های یادگیری عمیق در سامانه های امنیت سایبری ، مسئله ی آسیب پذیری این مدل ها در برابر حملات خصمانه به یکی از چالش های نوظهور و جدی تبدیل شده است حملات خصمانه با اعمال تغییرات جزئی ولی هدفمند در داده های ورودی، می توانند باعث تولید خروجی های نادرست در مدل های هوش مصنوعی شوند، بدون آن که این تغییرات برای انسان قابل تشخیص باشند این مقاله به بررسی جامع انواع حملات خصمانه از جمله حملات جعبه سفید، جعبه سیاه، هدفمند و غیرهدفمند و تاثیر آن ها بر عملکرد سامانه های امنیتی مانند تشخیص نفوذ و شناسایی چهره می پردازد در ادامه، روش های نوین دفاعی از جمله آموزش خصمانه، پیش پردازش ورودی، اصلاح معماری مدل، آشکارسازی حملات و تایید رسمی مدل مورد تحلیل و مقایسه قرار می گیرند مقاله با تبیین نقاط قوت و ضعف این رویکرد ها، به چالش های فعلی مانند فقدان راهکار های جامع، هزینه های محاسباتی بالا و تهدید های سازگارشونده می پردازد و در نهایت، افق های پژوهشی آینده را برای توسعه سامانه های هوش مصنوعی مقاوم و ایمن ترسیم می کند

کلیدواژه‌ها

نویسندگان

امین یوسفلی

استاد گروه کامپیوتر دانشگاه ملی مهارت، تهران، ایران

سپهر رضائی

دانشجو گروه کامپیوتر دانشکده ملی مهارت تهران، ایران

امیرحسین اصفهانی ها

دانشجو گروه کامپیوتر دانشکده ملی مهارت تهران ، ایران

مهرداد حمیدزاده

دکتری مدیریت فناوری اطلاعات، گروه کامپیوتر، دانشگاه ملی مهارت ، تهران ، ایران

یوسفلی، امین و رضائی، سپهر و اصفهانی ها، امیرحسین و حمیدزاده، مهرداد،1404،امنیت سایبری در عصر هوش مصنوعی: روش های نوین دفاعی در برابر حملات خصمانه به مدل های یادگیری عمیق،اولین کنفرانس بین المللی مدیریت، علوم کامپیوتر و هوش مصنوعی،تهران

ارائه‌شده در

مجموعه مقالات اولین کنفرانس بین المللی مدیریت، علوم کامپیوتر و هوش مصنوعی30 بهمن 1404 · تهران