چکیده مقاله
پدیده سوگیری اتوماسیون اعتماد بیش از حد انسان به توصیه های هوش مصنوعی یکی از چالش های مهم در تعامل انسان و هوش مصنوعی است برخی پژوهش ها پیشنهاد کرده اند که نمایش میزان اطمینان مدل می تواند به کاهش اعتماد بیش از حد کاربران کمک کند، با این حال هنوز نتایج تجربی روشنی درباره اثر واقعی این روش وجود ندارد این پژوهش با هدف بررسی تاثیر نمایش عددی عدم قطعیت درصد اطمینان بر نرخ سوگیری اتوماسیون در یک فرآیند تصمیم گیری ساده انجام شده است ۵۰ شرکت کننده ۲۵ نفر گروه کنترل، ۲۵ نفر گروه آزمایش به ۱۰ سوال چهارگزینه ای پاسخ دادند که به ازای هر سوال، یک پاسخ پیشنهادی ۵ پاسخ درست، ۵ پاسخ نادرست از سوی هوش مصنوعی شبیه سازی شده ارائه گردید گروه آزمایش علاوه بر سوال و پاسخ پیشنهادی، درصد اطمینان ۴۰٪، ۷۰٪و۹۰% را نیز مشاهده کردند، در حالی که گروه کنترل فقط پاسخ پیشنهادی را بدون نمایش عدم قطعیت دریافت نمودند نرخ اعتماد بیش ازحد Over trust Rate به صورت درصد پذیرش پاسخ های نادرست هوش مصنوعی محاسبه تحلیل شد نرخ پذیرش پاسخ های نادرست در گروه کنترل بدون نمایش عدم قطعیت ۲۳ ۲٪ و در گروه آزمایش همراه با نمایش عدم قطعیت ۴۰٪ بود یافته ها نشان داد که در این مطالعه مقدماتی، نمایش عددی عدم قطعیت با افزایش نرخ پذیرش پاسخ های نادرست همراه بود نمایش خام عدم قطعیت به صورت عددی بدون توجه به عوامل شناختی ممکن است اثرات منفی داشته باشد طراحی رابط های کاربری برای کالیبره کردن اعتماد نیازمند رویکردی فراتر از صرفا نشان دادن یک عدد است
کلیدواژهها
نویسندگان
سمانه غنی
عضو هیئت علمی دانشگاه آزاد اسلامی، مهندسی کامپیوتر، اراک، ایران
نگار غضنفرپور
دانشجوی کارشناسی گروه مهندسی کامپیوتر، دانشکده فنی مهندسی، دانشگاه شهید اشرفی اصفهانی، اصفهان، ایران
نازنین فاطمه سادات حسینی شریف
دانشجوی کارشناسی ارشد دانشگاه آزاد اسلامی، مهندسی کامپیوتر، اراک، ایران
معین مردانی
استاد گروه مهندسی کامپیوتر، دانشکده فنی مهندسی، دانشگاه شهید اشرفی اصفهانی، اصفهان، ایران
شیوه ارجاع
�ضنفرپور، نگار و مردانی، معین،1405،بررسی تجربی اثر نمایش عددی عدم قطعیت بر سوگیری اتوماسیون در یک محیط تصمیم گیری مبتنی بر پاسخ های هوش مصنوعی،دومین کنفرانس بین المللی مدیریت، علوم کامپیوتر و هوش مصنوعی،تهران
ارائهشده در
کنفرانس ملی مهندسی عمران، معماری و توسعه شهری31 خرداد 1405 · بابل