چکیده مقاله
مدل های زبانی بزرگ LLMs نظیر GPT ۴ و نسخه های جدید آن، از جمله Gemini گوگل، Claude ۳ شرکت Anthropic و Grok متعلق به xAI، تحولی بنیادین در پردازش زبان طبیعی ایجاد کرده اند، اما هم زمان آسیب پذیری های امنیتی جدیدی را نیز به همراه آورده اند این مقاله مروری، نگاهی جامع به نگرانی های نوظهور امنیتی پیرامون این مدل ها ارائه می دهد و تهدیدات را به چند دسته تقسیم می کند: تزریق دستور و دور زدن محدودیت ها، حملات خصمانه مانند اختلال در ورودی ها و آلوده سازی داده ها، سوءاستفاده از مدل ها برای تولید اطلاعات نادرست، ایمیل های فیشینگ و بدافزار، و همچنین خطرات ذاتی مرتبط با عامل های خودکار مبتنی بر LLM در سال های اخیر تمرکز ویژه ای بر نوع اخیر از تهدیدات صورت گرفته است؛ از جمله ناهماهنگی اهداف، رفتارهای فریب کارانه نوظهور، تمایلات خودمحافظتی و حتی قابلیت توسعه اهداف پنهان و ناسازگار با اهداف انسانی، پدیده ای که به عنوان «طرح ریزی پنهانی» شناخته می شود و ممکن است حتی پس از آموزش های ایمنی نیز باقی بماند این مقاله با مرور مطالعات دانشگاهی و صنعتی صورت گرفته از سال ۲۰۲۲ تا ۲۰۲۵، نمونه هایی از هر نوع تهدید را ارائه می دهد، تدابیر دفاعی پیشنهادی را تحلیل می کند و به محدودیت های موجود در آن ها می پردازد در پایان، بر اهمیت توسعه راهکارهای امنیتی چندلایه و مقاوم تاکید می شود تا اطمینان حاصل گردد که کاربرد LLMها در آینده، ایمن و سودمند خواهد بود
کلیدواژهها
نویسندگان
یاسمن عافی
عضو هیات علمی، گروه فناوری اطلاعات و ارتباطات، دانشگاه ملی مهارت، تهران، ایران
نسترن خوشحالی
دانشجوی رشته نرم افزار دانشکده ملی مهارت دخترانه هاشمی خوانسار
شیوه ارجاع
�افی، یاسمن و خوشحالی، نسترن،1404،بررسی تهدیدات ناشی از استفاده از مدل های زبانی بزرگllms در حملات فیشینگ و جعل هویت،بیست و هفتمین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات،بابل
ارائهشده در
مجموعه مقالات بیست و هفتمین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات26 تیر 1404 · بابل