پیش بینی ریسک تولید کد مخرب در مدل های زبانی بزرگ با استفاده از تحلیل رفتاری و معنایی مبتنی بر هوش مصنوعی توضیح پذیر

چکیده مقاله

گسترش مدل های زبانی بزرگ LLMs در حوزه توسعه نرم افزار، ریسک تولید ناخواسته یا مغرضانه کدهای مخرب را به شدت افزایش داده است روش های امنیتی سنتی مبتنی بر امضا و قواعد ایستا، به دلیل ناتوانی در تحلیل رفتارهای پویا، تفسیرپذیری پایین و دور خوردن توسط پرامپت های پیچیده Jailbreak ، کارایی لازم را ندارند در این پژوهش، یک چارچوب نوین مبتنی بر هوش مصنوعی توضیح پذیر XAI برای پیش بینی ریسک تولید کد مخرب در LLMها با تلفیق تحلیل رفتاری پرامپت و تحلیل معنایی کد خروجی ارائه شده است ما با ترکیب مدل های بازنمایی معنایی عمیق و روش های ارزش گذاری SHAP و LIME، به شناسایی و رتبه بندی شاخص های کلیدی ریسک پرداخته ایم نتایج شبیه سازی روی مجموعه داده های چالش برانگیز نشان می دهد که چارچوب پیشنهادی به نرخ دقت Accuracy ۹۴ ۶٪، امتیاز F۱ برابر با ۹۳ ۸٪ و شاخص AUC ROC معادل ۹۶ ۲٪ دست یافته است این نتایج در مقایسه با روش های یادگیری ماشین سنتی و مدل های طبقه بندی متن پایه، بهبود عملکردی بین ۴ ۲٪ تا ۷ ۵٪ را در صحت پیش بینی نشان می دهد علاوه بر این، ارائه الگوهای توضیحی در سطح تصمیم گیری مدل، زمان تحلیل امنیتی پرامپت ها را تا ۳۵٪ کاهش داده است که این امر کارآمدی چارچوب پیشنهادی را در پایش بلادرنگ سامانه های تولید کد اثبات می کند

کلیدواژه‌ها

نویسندگان

صادق بیاتی اشکفتکی

گروه مهندسی کامپیوترواحدمیبددانشگاه آزاداسلامی میبدایران

احمد حیدری شریف آباد

گروه مهندسی کامپیوترواحدمیبددانشگاه آزاداسلامی میبدایران

�یاتی اشکفتکی، صادق و حیدری شریف آباد، احمد،1405،پیش بینی ریسک تولید کد مخرب در مدل های زبانی بزرگ با استفاده از تحلیل رفتاری و معنایی مبتنی بر هوش مصنوعی توضیح پذیر،سی امین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات،بابل

ارائه‌شده در

مجموعه مقالات سی امین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات29 مرداد 1405 · بابل