بهینه سازی مدل های ترانسفورمر برای کاربردهای متمرکز در پردازش زبان و فناوری های نوین

چکیده مقاله

مدل های زبانی مبتنی بر فناوری ترانسفورمر، مانند BERT و GPT، در حوزه پردازش زبان طبیعی انقلاب ایجاد کرده اند و به طور گسترده در پروژه های مختلف به کار می روند با این حال، بهره برداری موثر از این مدل ها در حوزه های تخصصی نیازمند تنظیم و بهینه سازی دقیق است در مطالعه حاضر، روش های مختلف برای بهبود عملکرد این مدل ها در حوزه های خاص مورد بررسی قرار گرفته است روش هایی نظیر آموزش مجدد Fine tuning ، انتقال دانش Transfer Learning ، فشرده سازی مدل و اصلاح ساختاری بررسی و تحلیل شده اند، تا اثر هر یک بر کارایی مدل در کاربردهای خاص مشخص گردد نتایج آزمایش ها نشان می دهند که بهره گیری از این تکنیک ها می تواند میزان دقت و سرعت پردازش را در پروژه های تخصصی به طور قابل توجهی ارتقاء دهد در نهایت، با مقایسه نتایج، راهکارهای بهینه ای برای توسعه و کاربرد مدل های ترانسفورمر در حوزه های متمرکز ارائه می شود، که می تواند نقش مهمی در پیشبرد فناوری های زبانی و هوشمندسازی سیستم های مبتنی بر زبان ایفا کند

کلیدواژه‌ها

نویسندگان

کاوه کاویانپور

کارشناسی ارشد مهندسی کامپیوتر، دانشگاه امیرکبیر

بهنام برزگر

استادیار دانشگاه آزاد واحد بابل

رزومه علمی کاربران

درباره سیویلیکاتبلیغات در سیویلیکاآمار علمی ایرانتقویم علمی ایرانداده کاوی مقالاتطرح های پژوهشی

در صورتی که می خواهید در اثر پژوهشی خود به این مقاله ارجاع دهید، به سادگی می توانید از عبارت زیر در بخش منابع و مراجع استفاده نمایید: کاویانپور، کاوه و برزگر، بهنام،1404،بهینه سازی مدل های ترانسفورمر برای کاربردهای متمرکز در پردازش زبان و فناوری های نوین،دومین کنفرانس بین المللی رویکردهای نوین در مهندسی و علوم پایه،https://civilica.com/doc/2606511

ارائه‌شده در

مجموعه مقالات دومین کنفرانس بین المللی رویکردهای نوین در مهندسی و علوم پایه7 اسفند 1404