چکیده مقاله
هوش مصنوعی به عنوان یکی از فناوری های کلیدی تحول دیجیتال، کاربرد گسترده ای در حوزه های حساس نظیر سلامت، حمل ونقل هوشمند، صنایع هوشمند و سامانه های سایبر–فیزیکی پیدا کرده است با وجود مزایای چشمگیر، افزایش سطح خودمختاری و پیچیدگی مدل های یادگیری ماشین و مدل های مولد، چالش های امنیتی، ریسک های سازمانی و نگرانی های مربوط به اعتمادپذیری را به همراه داشته است حملات خصمانه، مسموم سازی داده، سرقت مدل، تزریق دستور و تهدیدات ایمنی در سامانه های رباتیک نمونه هایی از این چالش ها هستند این مقاله مروری با ادغام و تحلیل مطالعات مروری اخیر، به بررسی جامع تهدیدات امنیتی، روش های مدیریت ریسک، سازوکارهای اعتمادسازی و چارچوب AI TRiSM می پردازد نتایج این مطالعه نشان می دهد که رویکردهای یکپارچه مبتنی بر حکمرانی هوش مصنوعی می توانند نقش موثری در توسعه سامانه های هوشمند امن و قابل اعتماد ایفا کنند
کلیدواژهها
نویسندگان
رضا فلاحتی
گروه مهندسی کامپیوتر، واحد تهران غرب، دانشگاه آزاد اسلامی، تهران، ایران
عباس میرزایی
گروه مهندسی کامپیوتر، واحد اردبیل، دانشگاه آزاد اسلامی، اردبیل، ایران
بابک نوری مقدم
گروه مهندسی کامپیوتر، واحد اردبیل، دانشگاه آزاد اسلامی، اردبیل، ایران
وحید خلوصی
گروه مهندسی کامپیوتر، واحد اردبیل، دانشگاه آزاد اسلامی، اردبیل، ایران
شیوه ارجاع
فلاحتی، رضا و میرزایی، عباس و نوری مقدم، بابک و خلوصی، وحید،1405،مروری جامع بر امنیت، مدیریت ریسک و اعتماد در سامانه های هوش مصنوعی پیشرفته با تمرکز بر چارچوب AI TRiSM،بیست و نهمین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات،بابل
ارائهشده در
مجموعه مقالات بیست و نهمین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات27 فروردین 1405 · بابل