تغییر نام کتاب و نویسنده در خروجی هوش مصنوعی
منتشرشده: · بهروزرسانی: · اقتصاد

یک نویسنده گزارش داد که پس از تغییر رنگ فونت جلد کتابش با استفاده از هوش مصنوعی، نام کتاب و نویسنده به صورت ناخواسته تغییر کرده بود. این اتفاق باعث شد او به بررسی دقیقتر خروجیهای هوش مصنوعی توجه کند.
یک نویسنده در حین طراحی جلد کتاب خود با عنوان «مادر جاهطلب»، از هوش مصنوعی برای تغییر رنگ فونت استفاده کرد. خروجی دریافتشده حاوی تغییر نام کتاب به «پدر جاهطلب» و تغییر نام نویسنده از «آنه ولش» به «جان ولش» بود.
نویسنده اظهار کرد که این تغییرات باعث شگفتی او شد و او را به بررسی دقیقتر خروجیهای هوش مصنوعی و اطمینان از صحت اطلاعات در متنهای تولیدی تشویق کرد.
او اشاره کرد که در گذشته همواره نسبت به هوش مصنوعی تردیدهای سالمی داشته و پس از استفاده از آن، تمام جزئیات را بازبینی میکند تا از اشتباهات جلوگیری کند. این بار، تغییر ناخواسته در نام کتاب و نویسنده، او را به فکر دربارهٔ امکان وجود تبعیض جنسیتی در الگوریتمهای هوش مصنوعی انداخت.
نویسنده به این نکته اشاره کرد که کامپیوترها بر اساس دادههای آموزشی عمل میکنند و اگر دادهها حاوی تبعیض باشد، الگوریتم ممکن است آن تبعیض را بازتولید کند. او به نمونهای از پژوهشی دربارهٔ شکاف جنسیتی در رهبری سازمانی اشاره کرد که نشان میدهد زنان در محیطهای کاری با انتظارات متفاوتی مواجه میشوند.
در ادامه، او به پژوهشی در نشریه «لیناین» اشاره کرد که نشان میدهد مردان ۲۲ درصد بیشتر از زنان احتمال استفاده روزانه از هوش مصنوعی را دارند. او تاکید کرد که این تفاوت در استفاده، نشاندهندهٔ نیاز به آگاهی و پذیرش هوش مصنوعی در میان زنان است، اما نه به این معنا که تنها راهحل تشویق زنان به استفاده بیشتر باشد.
این گزارش به بررسی چالشهای احتمالی تبعیض جنسیتی در خروجیهای هوش مصنوعی و اهمیت بررسی دقیق دادههای آموزشی میپردازد.