چکیده مقاله
هوش مصنوعی قابل توضیح به هدف افزایش شفافیت مدل های هوش مصنوعی، قابل تفسیر و فاش کردن طبیعت جعبه سیاه شبکه های عصبی عمیق می پردازد XAI به دنبال ایجاد اعتماد به سیستم های هوش مصنوعی است، به ویژه در برنامه های پرخطر مانند مراقبت های بهداشتی و وسایل نقلیه خودران یکی از چالش های مهم در XAI یافتن تعادل بین دقت مدل و قابلیت تفسیر است علاوه بر این، کمبود معیارهای ارزیابی استاندارد و مشکلات قابلیت مقیاس پذیری فرآیند توسعه مدل های قابل توضیح را پیچیده تر می کند تکنیک های محبوب XAI مانند LIME توضیحات محلی قابل تفسیر مدل بی طرف ، SHAP توضیحات افزایشی SHapley و Grad CAM نقشه برداری فعالیت کلاس با وزن گرادیان برای ارائه توضیحات در مورد تصمیم گیری های هوش مصنوعی توسعه یافته اند تا تصمیم گیری های خود را برای انسان ها قابل فهم کنند °
کلیدواژهها
نویسندگان
Helia Abedinia
دانشجوی کارشناسی رشته مهندسی کامپیوتر، دانشکده فناوری اطلاعات و کامپیوتر، دانشگاه آزاد اسلامی واحد مرکز تهران، تهران، ایران
Atieh Khanjani
استادیار، دانشکده فناوری اطلاعات و کامپیوتر، دانشگاه آزاد اسلامی واحد مرکز تهران، تهران، ایران
Mohammad Mahdi Farokhi
دانشجوی کارشناسی رشته مهندسی کامپیوتر، دانشکده مهندسی کامپیوتر، دانشگاه آزاد اسلامی واحد اراک، اراک، ایران
شیوه ارجاع
Abedinia، Helia و Khanjani، Atieh و Farokhi، Mohammad Mahdi،1404،Mapping Mental Models of Explainable AI: An Exploratory Survey of Expert Perspectives،هفتمین کنفرانس بین المللی هوش مصنوعی و چشم انداز آینده آن در علوم مهندسی برق ، کامپیوتر ، مکانیک و مخابرات،مشهد
ارائهشده در
مجموعه مقالات هفتمین کنفرانس بین المللی هوش مصنوعی و چشم انداز آینده آن در علوم مهندسی برق ، کامپیوتر ، مکانیک و مخابرات21 مرداد 1404 · مشهد