هوش مصنوعی به عنوان ابزار امنیتی: قابلیت ها، محدودیت ها و پیامدهای اخلاقی

چکیده مقاله

هوش مصنوعی حوزه امنیت پایدار اطلاعات را به طور بنیادین متحول کرده و با ایجاد یک دگرگونی پارادایمی، رویکردهای سنتی واکنشی و مبتنی بر قواعد را به چارچوب های پیش نگر و یادگیرنده سوق داده است قابلیت های اصلی این فناوری در تحلیل حجم عظیمی از داده ها برای شناسایی ناهنجاری ها به صورت بلادرنگ، طبقه بندی بدافزارها و تشخیص الگوهای پیچیده نفوذ نهفته است؛ به گونه ای که مطالعات تجربی نرخ موفقیت شناسایی بین ۸۵ تا ۹۹ درصد را گزارش کرده اند با وجود این مزایا، سامانه های امنیتی مبتنی بر هوش مصنوعی با محدودیت های مهمی مواجه اند که مهم ترین آن «اثر جعبه سیاه» است؛ پدیده ای که در آن فقدان شفافیت و تبیین پذیری الگوریتم ها، اعتماد عمومی را تضعیف کرده و مسئولیت پذیری حقوقی را با چالش مواجه می سازد افزون بر این، آسیب پذیری شبکه های عصبی در برابر حملات خصمانه و مسموم سازی داده ها، محدودیتی جدی به شمار می رود؛ زیرا مهاجمان می توانند از ضعف های مدل ها برای دور زدن سازوکارهای دفاعی بهره برداری کنند پیامدهای اخلاقی به کارگیری هوش مصنوعی در امنیت پایدار نیز عمیق است و شامل نگرانی هایی همچون سوگیری الگوریتمی، امکان نظارت گسترده از طریق زیست سنجی رفتاری، و «شکاف مسئولیت» در تصمیم گیری های خودکار می شود ازاین رو، پایبندی به چارچوب های حقوقی و مقرراتی — مانند مقررات عمومی حفاظت از داده ها — برای تضمین رعایت حقوق بشر و کرامت فردی امری ضروری است در نهایت، به کارگیری موثر هوش مصنوعی به عنوان ابزار امنیتی مستلزم رویکردی حکمرانی محور و چندذی نفعی است که در آن کارایی فناورانه با طراحی اخلاق محور و نظارت انسانی متوازن شود

کلیدواژه‌ها

نویسندگان

محمد صدیقی

دانشجوی کارشناسی، گروه مهندسی کامپیوتر، دانشگاه سیستان و بلوچستان، زاهدان

هادی اسماعیلی درمیان

استادیار، گروه مهندسی فناوری اطلاعات، دانشگاه سیستان و بلوچستان، زاهدان

�دیقی، محمد و اسماعیلی درمیان، هادی،1404،هوش مصنوعی به عنوان ابزار امنیتی: قابلیت ها، محدودیت ها و پیامدهای اخلاقی،سومین کنفرانس ملی تحول دیجیتال و سیستم های هوشمند،لارستان

ارائه‌شده در

مجموعه مقالات سومین کنفرانس ملی تحول دیجیتال و سیستم های هوشمند28 بهمن 1404 · لارستان