چکیده مقاله
هوش مصنوعی توضیح پذیر Explainable Artificial Intelligence: XAI به عنوان یکی از رویکردهای نوین، با هدف افزایش شفافیت، قابلیت اعتماد و تفسیرپذیری سامانه های هوشمند، نقش مهمی در توسعه کاربردهای ایمن و مسئولانه هوش مصنوعی ایفا می کند این پژوهش با رویکردی مروری و تحلیلی، به بررسی مبانی نظری، روش ها، کاربردها، چالش ها و روندهای توسعه XAI در حوزه های مختلف می پردازد در این مطالعه، روش های رایج شامل مدل های ذاتا تفسیرپذیر، تکنیک های پساتبیینی مانند LIME و SHAP، سازوکارهای مبتنی بر توجه، استخراج قوانین و سایر روش های نوین بررسی شده و نقش آن ها در افزایش قابلیت تفسیر مدل های یادگیری ماشین تحلیل شده است همچنین، ظرفیت فناوری هایی نظیر گراف دانش، مدل های زبانی بزرگ، یادگیری فدرالی و اینترنت اشیا در ارتقای شفافیت، امنیت و اعتمادپذیری سامانه های هوشمند مورد ارزیابی قرار گرفته است نتایج مطالعات نشان می دهد که XAI در حوزه هایی مانند امنیت سایبری، پزشکی، صنعت، مهندسی نرم افزار و حکمرانی هوش مصنوعی موجب بهبود کیفیت تصمیم گیری، افزایش اعتماد کاربران، تسهیل ممیزی و رعایت الزامات اخلاقی و قانونی می شود با این حال، چالش هایی همچون نبود معیارهای استاندارد ارزیابی، حفظ توازن میان دقت و تفسیرپذیری، مدیریت سوگیری های الگوریتمی و حفاظت از حریم خصوصی همچنان پابرجاست در مجموع، XAI پیش نیازی اساسی برای توسعه سامانه های هوشمند شفاف، قابل اعتماد و انسان محور در آینده به شمار می رود
کلیدواژهها
نویسندگان
مینا سپاهی سالانقوچ
دانشجوی کارشناسی مهندسی کامپیوتر دانشکده ملی مهارت انقلاب بجنورد
نساء خاندوزی قلی آباد
استاد راهنما ، مدرس دانشکده ملی مهارت دختران انقلاب بجنورد مدیر گروه کامپیوتر
شیوه ارجاع
�پاهی سالانقوچ، مینا و خاندوزی قلی آباد، نساء،1405،بررسی روش های هوش مصنوعی توضیح پذیر برای افزایش شفافیت در مدل های زبانی بزرگ،سی امین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات،بابل
ارائهشده در
مجموعه مقالات سی امین کنفرانس ملی علوم و مهندسی کامپیوتر و فناوری اطلاعات29 مرداد 1405 · بابل