دانشگاه آزاد اسلامی واحد تهران جنوب

صفحه اصلی / نخستین همایش هوش مصنوعی و پژوهش های نوظهور: همگرایی انسان و سیستم های هوشمند

ملاحظات اخلاقی و سوگیری در مدل‌های زبانی بزرگ

نویسندگان :

علیرضا نورانی¹ راضیه فرازکیش²

1- دانشگاه آزاد اسلامی واحد تهران جنوب 2- دانشگاه آزاد اسلامی واحد تهران جنوب

کلمات کلیدی :

پردازش زبان طبیعی،کاهش سوگیری،لاحظات اخلاقی

چکیده :

این مقاله مروری نظام‌مند به بررسی ملاحظات اخلاقی و سوگیری‌های موجود در مدل‌های زبانی بزرگ (LLMs) می‌پردازد. هدف از این پژوهش، ارائه تحلیلی انتقادی از پژوهش‌های جاری، شناسایی چالش‌های کلیدی، و پیشنهاد یک چارچوب جدید برای کاهش سوگیری در LLMs چندزبانه با تأکید ویژه بر زبان فارسی است. این مقاله با بررسی فرآیند نظام‌مند جستجو و انتخاب مقالات، به تشریح انواع اصلی سوگیری‌ها، ریشه‌های آن‌ها، و ملاحظات اخلاقی مهم مرتبط با LLMs می‌پردازد. همچنین، محدودیت‌های راهکارهای فعلی برای کاهش سوگیری مورد بحث قرار می‌گیرد. در نهایت، یک چارچوب نوآورانه برای کاهش سوگیری در LLMs چندزبانه پیشنهاد شده است که شامل معیارهای انصاف، روش‌های فنی، نظارت انسانی و سیاست‌گذاری، و تمرکز ویژه بر زبان فارسی و چالش‌های فرهنگی منطقه می‌باشد.