جریان آنلاین | تحقیقات مرکز ارتباطات سازنده موسسه فناوری ماساچوست نشان میدهد مدلهای هوش مصنوعی که قرار بود دسترسی به اطلاعات را برای همه آسان کنند در عمل برای برخی کاربران عملکرد ضعیفتری دارند. این مطالعه نشان داده است که مدلهایی مانند جی پی تی ۴ کلاود و لاما ۳ برای کاربرانی که مهارت کمتری در زبان انگلیسی دارند یا تحصیلات رسمی آنها پایینتر است پاسخهای کمتر دقیق و کمتر صادقانه ارائه میدهند و حتی نرخ خودداری از پاسخ در آنها بیشتر است.
نویسنده اصلی این پژوهش گفت: ما با این تصور شروع کردیم که مدلهای زبانی بزرگ میتوانند نابرابری در دسترسی به اطلاعات را کاهش دهند اما این هدف زمانی محقق میشود که سوگیریهای مدل برای همه کاربران کاهش یابد.
در این تحقیق سه مدل زبانی با دو مجموعه داده آزمایش شدند. پژوهشگران قبل از هر سوال یک بیوگرافی کوتاه از کاربر اضافه کردند و سه ویژگی را تغییر دادند: سطح تحصیلات مهارت زبان انگلیسی و کشور مبدا. در هر سه مدل زمانی که سوالات از کاربران کمتحصیلکرده یا غیر بومی انگلیسی میآمد دقت پاسخها کاهش پیدا میکرد. این کاهش برای کاربرانی که هر دو ویژگی را داشتند شدیدتر بود.
پژوهشگران همچنین بررسی کردند که کشور مبدا چه تاثیری دارد. با مقایسه کاربران اهل آمریکا ایران و چین مشخص شد مدل کلاود ۳ اوپوس برای کاربران ایرانی عملکرد ضعیفتری در هر دو مجموعه داده داشته است.
به گزارش ایسنا، یکی از یافتههای مهم این بود که مدلها برای برخی کاربران بیشتر از پاسخ دادن خودداری میکنند. به عنوان نمونه کلاود ۳ اوپوس حدود ۱۱ درصد از سوالات کاربران غیر بومی و کمتحصیلکرده را بیپاسخ گذاشت در حالی که این رقم در حالت کنترل فقط ۳.۶ درصد بود. بررسی دستی این موارد نشان داد که مدل در بسیاری از مواقع با زبان تحقیرآمیز پاسخ داده یا حتی لهجه شکسته را تقلید کرده است. همچنین این مدل برای برخی کاربران ایرانی یا روس در موضوعاتی مانند انرژی هستهای آناتومی و تاریخ از ارائه پاسخ خودداری میکرد در حالی که همان سوالات را برای دیگر کاربران پاسخ میداد.
این الگوها مشابه سوگیریهای اجتماعی شناخته شده در میان انسانهاست. تحقیقات علوم اجتماعی نشان داده است که گویشوران بومی انگلیسی اغلب گویشوران غیر بومی را کمسواد یا کمهوش تصور میکنند. پژوهشگران هشدار دادهاند که با گسترش قابلیتهای شخصیسازی در چتباتها این خطر وجود دارد که گروههای حاشیهای شده با رفتار متفاوت و نابرابر روبهرو شوند.
پایگاه خبری جریان/ جریان آنلاین (/)