والدین دختر ۱۳ ساله از گوگل به دلیل استفاده از هوش مصنوعی برای برنامه‌ریزی خودکشی شکایت کردند
منتشرشده: · فناوری
پدر و مادر یک دختر ۱۳ ساله در کالیفرنیا شکایت کردند که او از موتور جستجوی گوگل با قابلیت‌های هوش مصنوعی برای برنامه‌ریزی خودکشی و مراسم خاکسپاری استفاده کرده بود. این پرونده اولین شکایت علیه گوگل در خصوص سهل‌انگاری امکانات جستجوی هوش مصنوعی است.
پدر و مادر یک دختر ۱۳ ساله در ایالت کالیفرنیا شکایت کردند که او از موتور جستجوی گوگل، که قابلیت‌های هوش مصنوعی دارد، برای برنامه‌ریزی خودکشی و مراسم خاکسپاری استفاده کرده بود. این شکایت در روز دوشنبه ۲ نوامبر در دادگاهی ثبت شد و نخستین موردی است که گوگل را به سهل‌انگاری در قبال قابلیت‌های جستجوی هوش مصنوعی متهم می‌کند. دختر، که به نام اِما شناخته می‌شود، به دلیل مسدود شدن برنامه‌های جمینی گوگل و چت‌جی‌پی‌تی توسط مدرسه، به این سرویس دسترسی نداشت، اما همچنان می‌توانست از موتور جستجوی گوگل استفاده کند. بر اساس شکایت، اِما در عرض چند ماه پس از استفاده از این موتور، وارد بحران روان‌شناختی شد. در تاریخ ۱۷ مارس، مدرسه پس از شناسایی یک سند با عنوان «خاکسپاری»، والدینش را مطلع کرد. مادرش بعداً او را در حال نوشتن نامه خداحافظی دید که باعث مداخله پدرش شد. وکیل خانواده، اندرو لیدل، بیان کرد که مدارس باید قابلیت جستجوی هوش مصنوعی را خاموش کنند تا زمانی که گوگل این قابلیت را حذف کند یا اطمینان یابد که دانش‌آموزان در امنیت کامل هستند. گوگل اعلام کرده است که حالت هوش مصنوعی آن شامل تدابیر حفاظتی برای جلوگیری از خودآسیب‌رسانی است و در حال بررسی ادعاهای مطرح‌شده در دادخواست است. سخنگوی گوگل، خوزه کاستاندا، گفت که این موضوع را جدی می‌گیرند. اوپن‌ای‌آی نیز با چندین شکایت حقوقی در خصوص مرگ ناحق روبه‌رو است، از جمله شکایتی که والدین یک نوجوان ۱۶ ساله در آن مطرح کرده‌اند. در ژانویه، گوگل و کاراکتر اِی‌آی با حل‌وفصل چندین شکایت از سوی خانواده‌های نوجوانان خارج از دادگاه موافقت کردند. در پرونده‌ای جداگانی، گوگل، تیک‌تاک و متا در چهارشنبه علیه ایالت کالیفرنیا دادخواستی مطرح کردند تا جلوی قانونی را بگیرند که استفاده از ویژگی‌های اعتیادآور شبکه‌های اجتماعی برای کاربران زیر ۱۶ سال را ممنوع می‌کند. این قانون در سپتامبر به امضای فرماندار کالیفرنیا رسید و قرار است از ۱ ژانویه ۲۰۲۷ اجرایی شود.