کاهش توهم در مدل های زبانی بزرگ جهت تولید اطلاعات درست

چکیده مقاله

با پیشرفت مدل های زبانی بزرگ در تولید متونی مشابه با انسان یک چالش کلیدی باقی مانده به نام توهم وجود دارد توهم یعنی تولید محتوایی که ظاهرا حقیقی به نظر می رسد اما بدون پایه و اساس است این مشکل به عنوان بزرگ ترین مانع برای به کارگیری ایمن این مدل های قدرتمند در سیستم های تولیدی واقعی که زندگی مردم را تحت تاثیر قرار می دهند، شناخته می شود این موضوع زمانی نگران کننده تر می شود که ما به قابلیت های تولید زبان برای کاربردهای حساس، مانند خلاصه سازی سوابق پزشکی، گزارش های تحلیل مالی و دیگر موارد وابسته هستیم در این مقاله پس از تعریف دقیق توهم مدل های زبانی بزرگ در هوش مصنوعی مولد و بررسی انواع توهم به بررسی روش هایی که پژوهشگران جهت حل این مشکل ارائه کرده اند، پرداخته شده است از جمله روش های قابل توجه در این حوزه می توان به روش های مبتنی بر مهندسی پرامپت، تولید مبتنی بر بازیابی اطلاعات و روش خود بازتابی اشاره نمود آشنایی با این روش ها به تمایز رویکردهایی که به طور خاص برای مقابله با مشکلات توهم در مدل های زبانی بزرگ ارائه شده اند، کمک می کند و پایه ای محکم برای تحقیقات آینده در زمینه کاهش توهم فراهم می کند

کلیدواژه‌ها

نویسندگان

زهرا روزبهانی

استادیار گروه مهندسی کامپیوتر دانشکده مهندسی برق و کامپیوتر دانشگاه ملی مهارت، تهران، ایران

�وزبهانی، زهرا،1404،کاهش توهم در مدل های زبانی بزرگ جهت تولید اطلاعات درست،دومین کنفرانس ملی عصر انفجار تکنولوژی؛ هوش مصنوعی، تحولی در صنعت، تجارت و زنجیره تامین،تبریز

ارائه‌شده در

مجموعه مقالات دومین کنفرانس ملی عصر انفجار تکنولوژی؛ هوش مصنوعی، تحولی در صنعت، تجارت و زنجیره تامین17 مهر 1404 · تبریز