یه نکته‌ی خیلی جالب درباره‌ی مدل‌های هوش مصنوعی مخصوصا اونایی که تصویر تولید می‌کنن (مثل Stable Diffusion یا MidJourney) اینه که تقریباً همیشه توی یه چیز گیر می‌کنن:

فرضا بهشون بگید:

عکس یه آدمی رو بکش که با دست چپش داره می‌نویسه.

حدس می‌زنید نتیجه چیه؟!
۹۹٪ مواقع طرف رو در حال نوشتن با دست راست می‌کشه!‌ 😅😐

دلیلش هم خیلی سخت نیست:
🔹 تو دنیا فقط حدود ۱۰٪ آدم‌ها چپ‌دستن. پس دیتایی که این مدل‌ها باهاش آموزش دیدن، پر از عکس و تصویر آدم‌های راست‌دست بوده.
🔹 توی متادیتا یا توضیحات اون تصاویر هم هیچ‌وقت نوشته نشده «این آدم راست‌دسته». پس مدل یاد گرفته «نوشتن = راست دست».

یعنی وقتی شما می‌گی "left hand writing"، مدل مفهوم "چپ" رو می‌فهمه، "نوشتن" رو هم می‌فهمه، ولی باز همون الگوی غالب رو اجرا می‌کنه: نوشتن با دست راست.

این یه نمونه‌ی واضح از بایاس داده‌ها توی هوش مصنوعیه. چیزی که توی جامعه وجود داره (۹۰٪ راست‌دست)، وقتی میاد توی دیتای آموزش، تبدیل می‌شه به یه عادت سخت توی مدل.

پس همیشه مدل مقصر نیست. دیتا نداشته بنده خدا :)))

@code2_ir

کانال کد۲ رو دنبال کنید