چکیده مقاله
مدل های زبانی بزرگ LLMs با توانایی های خارق العاده در تولید متن، ترجمه، خلاصه سازی و پاسخگویی به پرسش ها، تحولی عظیم در حوزه هوش مصنوعی ایجاد کرده اند با این حال، این مدل ها به طور سیستماتیک دچار پدیده «توهم» می شوند؛ یعنی اطلاعاتی نادرست، متناقض یا ساختگی را با اطمینان بالا ارائه می دهند این مقاله به تحلیل ماهیت شناختی این پدیده و بررسی دوگانه «ظهور هوش» در مقابل «آماری گری پیچیده» می پردازد با استفاده از روش تحقیق مروری نظام مند، مقالات شاخص بین المللی در بازه ۲۰۲۰ تا ۲۰۲۴ مورد تحلیل قرار گرفتند یافته ها نشان می دهد که مدل های زبانی بزرگ در تقلید فرم استدلال منطقی بسیار ماهرند، اما در آزمایش های کنترل شده که نیازمند درک عمیق علی و استدلال مستقل از زمینه زبانی است، عملکرد ضعیفی دارند مکانیسم های توهم در چهار سطح قابل تبیین است: سطح آماری بهینه سازی احتمال توکن ، سطح معماری محدودیت های توجه ترانسفورمر ، سطح شناختی فقدان مدل ذهنی از جهان و سطح فلسفی عدم هدفمندی و زمینه سازی نتیجه گیری کلی این است که آنچه در این مدل ها ظهور یافته، نه هوش عمومی انسان گونه، بلکه «هوش تقلیدی زمین نشده» است این سیستم ها فاقد فهم واقعی، آگاهی و تعهد به حقیقت هستند کاهش توهم نیازمند تغییر پارادایم از معماری های صرفا مبتنی بر پیش بینی متن به سمت سیستم های ترکیبی یکپارچه با دانش ساختاریافته و شاید تجربه چندحسی است این مقاله چارچوبی برای ارزیابی انتقادی قابلیت های استدلالی مدل های زبانی ارائه می دهد و هشدار می دهد که استفاده غیرانتقادی از آن ها در حوزه های حساس می تواند پیامدهای جدی داشته باشد
کلیدواژهها
نویسندگان
میلاد ارجمند
دانشجوی نرم افزار کامپیوتر دانشگاه ملی مهارت ایران
امین کیانی
مهندسی ارشد کامپیوتر گرایش رایانش امن، استاد راهنمای گروه کامپیوتر،دانشگاه ملی مهارت ایران
رزومه علمی کاربران
درباره سیویلیکاتبلیغات در سیویلیکاآمار علمی ایرانتقویم علمی ایرانداده کاوی مقالاتطرح های پژوهشی
شیوه ارجاع
در صورتی که می خواهید در اثر پژوهشی خود به این مقاله ارجاع دهید، به سادگی می توانید از عبارت زیر در بخش منابع و مراجع استفاده نمایید: ارجمند، میلاد و کیانی، امین،1404،توهم ادراک در مدل های زبانی بزرگ: تحلیل ماهیت شبه استدلال بین ظهور هوش و آماری گری پیچیده،ششمین همایش بین المللی مهندسی کامپیوتر، برق و تکنولوژی،همدان،https://civilica.com/doc/2585661
ارائهشده در
مجموعه مقالات ششمین همایش بین المللی مهندسی کامپیوتر، برق و تکنولوژی2 اسفند 1404 · همدان