چکیده مقاله
با گسترش روزافزون استفاده از مدل های زبانی بزرگ LLMs در حوزه ی مهندسی نرم افزار، چالش های امنیتی ناشی از تولید کدهای آسیب پذیر یا کدهای مخرب پنهان، به یکی از تهدیدات جدی در امنیت سایبری تبدیل شده است مسئله اصلی این است که کدهای تولیدشده توسط مدل های زبانی، به دلیل ماهیت احتمالی خود، ممکن است رفتارهای مخربی را در قالب ساختارهای ظاهرا سالم یا کدهای مبهم سازی شده Obfuscated پنهان کنند چالش بنیادین در این میان، محدودیت روش های دفاعی سنتی است که یا تنها بر تحلیل های ایستا Static تمرکز دارند و در برابر حملات دورزنی معنایی Semantic Bypass آسیب پذیرند، و یا تنها بر تحلیل های پویا Dynamic تکیه می کنند که هزینه ی محاسباتی بالا و نرخ مثبت کاذب زیادی دارند این پژوهش با ارائه ی یک چارچوب هیبریدی و تفسیرپذیر XAI ، شکاف موجود میان تحلیل های معنایی و رفتاری را به طور همزمان هدف قرار می دهد راهکار پیشنهادی بر پایه ی تلفیق ویژگی های دوگانه طراحی شده است: از یک سو، ویژگی های عمیق ساختاری و معنایی کد از طریق درخت های نحو انتزاعی AST و امبدینگ های متنی استخراج می شوند و از سوی دیگر، الگوهای رفتاری زمان اجرا از طریق ردیابی فراخوانی های سیستمی Syscalls و فعالیت های شبکه تحلیل می گردند علاوه بر این، با ادغام مکانیزم های هوش مصنوعی قابل توضیح XAI ، مدل نه تنها ریسک را پیش بینی می کند، بلکه دلیل علمی و شفاف پشت هر تصمیم را نیز برای تحلیل گران امنیتی ارائه می دهد نتایج حاصل از ارزیابی های تجربی بر روی مجموعه داده ای شامل ۱۰,۰۰۰ نمونه از کدهای تولیدشده، نشان می دهد که رویکرد پیشنهادی برتری چشمگیری نسبت به مدل های تک تحلیلی دارد در این آزمایش ها، دقت Accuracy مدل به ۹۴ ۸٪ ارتقا یافته و مقدار F۱ Score از ۸۲ ۳٪ در روش های سنتی به ۹۱ ۵٪ در مدل پیشنهادی رسیده است همچنین، استفاده از قابلیت تفسیرپذیری منجر به کاهش ۱۲ درصدی نرخ مثبت کاذب شده است که نشان دهنده دقت بالای مدل در تفکیک رفتارهای عادی از فعالیت های مخرب پنهان است
کلیدواژهها
نویسندگان
صادق بیاتی اشکفتکی
گروه مهندسی کامپیوترواحدمیبددانشگاه آزاداسلامی میبدایران
محمد رضا ملاخلیلی میبدی
گروه مهندسی کامپیوترواحدمیبددانشگاه آزاداسلامی میبدایران
شیوه ارجاع
�یاتی اشکفتکی، صادق و ملاخلیلی میبدی، محمد رضا،1405،ارائه ی چارچوب هیبریدی و تفسیرپذیر (XAI) مبتنی بر تلفیق ویژگی های معنایی-رفتاری برای ارزیابی ریسک در کدهای تولیدشده توسط مدل های زبانی بزرگ،سی امین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات،بابل
ارائهشده در
مجموعه مقالات سی امین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات29 مرداد 1405 · بابل