چکیده مقاله
تفسیر پذیری و توضیح پذیری در هوش مصنوعی به چالشی کلیدی برای استقرار ایمن و مسئولانه سیستم های یادگیری ماشین در حوزه های حساس مانند مراقبت های بهداشتی خدمات، مالی عدالت کیفری و سیستم های خودران تبدیل شده است این پژوهش با رویکرد مرور نظام مند مبانی، مفهومی روش های، پسا حسابی تفسیر مکانیکی و کاربردهای عملی را بررسی می کند محورها شامل تمایز شفافیت ذاتی و توضیحات، پساحسابی ابزار هایی مانند LIME و SHAP تفسیر مکانیکی با پچینگ فعال سازی و پروب های خطی و کاربردها در حوزه های حساس است نتایج نشان می دهد که تفسیر پذیری یک سازه چندلایه و زمینه محور است که نیازمند تعادل میان وفاداری فنی و معناداری انسانی است هیچ روش واحدی کافی نیست؛ رویکردهای ترکیبی مانند ادغام SHAP با توضیحات خلاف واقع یا نقشه های برجستگی با مدل های جایگزین کارایی بیشتری دارند تفسیر مکانیکی با وجود توانایی در کشف مدارهای علی به دلیل مقیاس پذیری و چندمعنایی نورون ها به روش های پساحسابی نیاز دارد موفقیت در محیط های واقعی به همسویی توضیحات با زبان تخصصی کاربران و الزامات قانونی مانند قانون هوش مصنوعی اتحادیه اروپا وابسته است این مطالعه چارچوبی برای انتخاب روش ها ارائه می دهد و بر طراحی کاربرمحور و استانداردسازی ارزیابی ها تاکید دارد بررسی موارد واقعی مانند شکست های سیستم های پیش بینی اهمیت اقدام پذیری را نشان می دهد تفسیر پذیری به عنوان یک قرارداد اجتماعی توازن میان وفاداری، اقدام پذیری و مشروعیت نهادی را برقرار می کند و برای هوش مصنوعی پایدار ضروری است
کلیدواژه‌ها
نویسندگان
امیر فواد ابراهیمی پور
دانشجوی کارشناسی مهندسی کامپیوتر مجتمع آموزش عالی و فنی مهندسی اسفراین
زهرا کیوانلو شهرستانکی
استادیار گروه مهندسی کامپیوتر دانشکده مهندسی برق کامپیوتر و صنایع مجتمع آموزش عالی و فنی مهندسی اسفراین
میلاد عطائی رویانی
دانشجوی کارشناسی مهندسی کامپیوتر مجتمع آموزش عالی و فنی مهندسی اسفراین
شیوه ارجاع
�براهیمی پور، امیر فواد و کیوانلو شهرستانکی، زهرا و عطائی رویانی، میلاد،1404،بررسی تفسیر پذیری و توضیح پذیری در هوش مصنوعی مروری بر مبانی، روشها، تفسیر مکانیکی و کاربردهای عملی،هفتمین کنفرانس ملی دستاوردهای نوین در برق، کامپیوتر و صنایع،اسفراین
ارائه‌شده در
مجموعه مقالات هفتمین کنفرانس ملی دستاوردهای نوین در برق، کامپیوتر و صنایع19 آبان 1404 · اسفراین