چالش های حقوقی و اخلاقی هوش مصنوعی: از تبعیض الگوریتمی تا حریم خصوصی و مسئولیت پذیری

چکیده مقاله

این مقاله مروری با عنوان «چالش های حقوقی و اخلاقی هوش مصنوعی: از تبعیض الگوریتمی تا حریم خصوصی و مسئولیت پذیری» برای تحلیل نظام مند ادبیات منتخب ۲۰۱۹–۲۰۲۴ نوشته شده است هدف بررسی تعاملات و تعارض های میان سه حوزه کلیدی — تبعیض الگوریتمی، حفاظت از حریم خصوصی داده ها، و مسئولیت/پاسخگویی قانونی — و استخراج پیامدهای نظری و سیاستی برای تنظیم و اداره سامانه های هوشمند است اهکارهای صرفا فنی برای کاهش تبعیض به تنهایی ناکافی اند و نیازمند چارچوب های قانونی و سازمانی اند؛ تلاش برای کاهش بایاس با جمع آوری داده بیشتر ممکن است با حفاظت از حریم خصوصی در تعارض قرار گیرد؛ مدل های مسئولیت سنتی برای پاسخگویی در اکوسیستم های هوش مصنوعی ناکافی بوده و نیازمند سازوکارهایی مانند حسابرسی مستقل و تقسیم ریسک اند مرور نشان می دهد که تبعیض الگوریتمی چندوجهی است و نیازمند راهکارهای ترکیبی فنی، نهادی و حقوقی است؛ اقدامات صرفا فنی مانند اصلاح مدل یا تعدیل داده به تنهایی برای جلوگیری از زیان های نابرابر کافی نبودند تضاد میان نیاز به داده بیشتر برای کاهش بایاس و الزام به حفاظت از حریم خصوصی برجسته است و ایجاب می کند چارچوب های میانجی قانونی فنی طراحی شوند در حوزه مسئولیت، شواهد نشانگر ناکافی بودن قواعد مسئولیت مدنی و ضرورت راه حل هایی مانند استانداردسازی حسابرسی هوش مصنوعی و تدوین پروتکل های توضیح پذیری متناسب با سطح تاثیر است نتایج بر ضرورت سیاست گذاری میان رشته ای، ایجاد استانداردهای حسابرسی و مسئولیت پذیری در سطح اکوسیستم و تداوم پژوهش میان رشته ای برای توسعه چارچوب های حقوقی و فنی تطبیقی تاکید دارند پیشنهاد می شود قانون گذاران الزام به حسابرسی های استانداردشده برای سامانه های پرخطر را در دستور کار قرار داده و پژوهش های آتی ارزیابی تجربی ابزارهای میانجی و سازوکارهای تقسیم ریسک را اولویت بندی کنند

کلیدواژه‌ها

نویسندگان

سیده یکتا مومنی

دانشجوی کارشناسی مهندسی حرفه ای نرم افزار دانشگاه آزاد تهران مرکز

مجتبی کشاورز سیاهپوش

دانشجوی دکترای مهندسی کامپیوتر نرم افزار دانشگاه آزاد تهران مرکز

سید جواد میرعابدینی

استادیار و عضو هیئت علمی دانشگاه تهران مرکز

مومنی، سیده یکتا و کشاورز سیاهپوش، مجتبی و میرعابدینی، سید جواد،1404،چالش های حقوقی و اخلاقی هوش مصنوعی: از تبعیض الگوریتمی تا حریم خصوصی و مسئولیت پذیری،بیست و هفتمین کنفرانس ملی مهندسی برق ،کامپیوتر و مکانیک،شیروان

ارائه‌شده در

مجموعه مقالات بیست و هشتمین کنفرانس ملی مهندسی برق، کامپیوتر و مکانیک25 آذر 1404 · شیروان