مطالعات جدید نشان می‌دهد که پاسخ‌های ChatGPT ممکن است بر اساس نام کاربر متفاوت باشد.
در یک کشف شگفت‌انگیز، محققان متوجه شده‌اند که چت‌بات محبوب ChatGPT، توسعه‌یافته توسط OpenAI، ممکن است در پاسخ به پرسش‌های کاربران، تحت تأثیر نام آن‌ها قرار گیرد. این یافته‌ها نشان می‌دهد که الگوریتم‌های پیچیده‌ی این هوش مصنوعی ممکن است به طور ناخودآگاه از کلیشه‌های جنسیتی، فرهنگی و نژادی که با نام‌های مختلف مرتبط است، تأثیر پذیرفته باشند.
چه چیزی باعث شده تا محققان به این نتیجه برسند؟
OpenAI در یک مطالعه گسترده، به بررسی نحوه‌ی پاسخ‌دهی ChatGPT به درخواست‌های مختلف پرداخته است. محققان به این نتیجه رسیده‌اند که حتی تغییر یک کلمه در نام کاربر می‌تواند منجر به تغییرات قابل توجهی در پاسخ‌های چت‌بات شود.
مثالی از این تفاوت‌ها
هنگامی که کاربری با نام “جان” از ChatGPT درخواست می‌کند تا یک عنوان جذاب برای ویدیوی یوتیوب پیشنهاد کند، چت‌بات ممکن است عنوانی مرتبط با تکنولوژی یا سرگرمی مردان را پیشنهاد دهد. در حالی که اگر همان درخواست توسط کاربری با نام “آماندا” مطرح شود، ChatGPT ممکن است عنوانی مرتبط با آشپزی یا مد را پیشنهاد کند.
این یافته‌ها چه پیامدهایی دارد؟
- تعصب در هوش مصنوعی: این یافته‌ها نشان می‌دهد که حتی پیشرفته‌ترین مدل‌های هوش مصنوعی نیز ممکن است از تعصبات انسانی رنج ببرند.
- اهمیت شفافیت: شرکت‌های توسعه‌دهنده‌ی هوش مصنوعی باید به طور شفاف در مورد محدودیت‌ها و خطاهای مدل‌های خود اطلاعات ارائه دهند.
- ضرورت تنوع در داده‌های آموزشی: برای کاهش تعصبات در مدل‌های هوش مصنوعی، باید از داده‌های آموزشی متنوع‌تری استفاده شود.
چه اقداماتی باید انجام شود؟
- توسعه‌ی الگوریتم‌های ضد تعصب: محققان باید به توسعه‌ی الگوریتم‌هایی بپردازند که بتوانند تعصبات را در مدل‌های هوش مصنوعی شناسایی و کاهش دهند.
- نظارت مداوم بر عملکرد مدل‌ها: شرکت‌های توسعه‌دهنده باید به طور مداوم عملکرد مدل‌های خود را تحت نظر داشته باشند تا از بروز هرگونه تعصب جلوگیری کنند.
- آموزش کاربران: کاربران باید آگاه باشند که پاسخ‌های تولید شده توسط مدل‌های هوش مصنوعی ممکن است همیشه عاری از تعصب نباشد.
کشف تأثیر نام کاربر بر پاسخ‌های ChatGPT، زنگ خطری برای توسعه‌دهندگان و کاربران هوش مصنوعی است. این یافته‌ها نشان می‌دهد که برای ایجاد هوش مصنوعی واقعاً بی‌طرف، باید به مسائل پیچیده‌تری مانند تعصبات ناخودآگاه و تنوع داده‌های آموزشی توجه بیشتری شود.
نوشته احتمالا پاسخ ChatGPT براساس نام کاربر تغییر می‌کند اولین بار در آی تی رسان منتشر شد.
منبع: آی‌تی‌رسان