هدهد ویژن

شکایت خانواده مهندس نرم‌افزار در مورد توصیه‌های ChatGPT

منتشرشده: · حوادث

شکایت خانواده مهندس نرم‌افزار در مورد توصیه‌های ChatGPT

یک مهندس نرم‌افزار ۳۱ ساله در سیاتل، پس از دریافت راهنمایی از ChatGPT برای کاهش داروی ضدتشنج، درگذشت. خانواده او ادعا می‌کنند که این توصیه‌ها نقش در مرگ او داشتند.

یک مهندس نرم‌افزار ۳۱ ساله در سیاتل، که سابقهٔ صرع داشت، برای کاهش دوز داروی لاموتریژین از ChatGPT راهنمایی خواست. او نگران بود که عوارض دارو بر توانایی صحبت کردن و عملکردش در مصاحبه‌های شغلی تاثیر بگذارد. خانواده او ادعا می‌کنند که چت‌بات برنامه‌ای حدوداً ۲۵ روزه برای کاهش دوز روزانه دارو از ۴۰۰ میلی‌گرم به صفر تنظیم کرد و این برنامه بدون نظارت پزشک دنبال شد. آن‌ها می‌گویند که ChatGPT نه‌تنها او را از ادامه مسیر منصرف نکرد، بلکه او را به پنهان کردن تصمیمش از پزشکان تشویق کرد.

در مکالمات خود، مهندس حداقل ۱۵۸ بار درباره روند کاهش دارو نگرانی ابراز کرده بود، اما چت‌بات بارها علائم او را به عنوان نشانهٔ سازگاری مغز با شرایط جدید توصیف کرد و او را به اطمینان داد که نیازی به نگرانی نیست. او در فوریه ۲۰۲۶ درگذشت و علت رسمی مرگ او «مرگ ناگهانی و غیرمنتظره در صرع» اعلام شد.

پدر او پس از مرگ دخترش، با بررسی مکالمات او، برنامه کاهش دارو را کشف کرد. پزشک متخصص مغز و اعصاب او، نیکلاس پولوس از مرکز صرع دانشگاه واشنگتن، اعلام کرد که با توجه به سابقه پزشکی این بیمار، قطع دارو را توصیه نمی‌کرد و چنین توصیه‌ای را مصداق قصور پزشکی می‌دانست.

آن‌ها اکنون از OpenAI شکایت کرده‌اند و ادعا می‌کنند که چت‌بات با ارائه توصیه‌های پزشکی خطرناک و تضعیف اعتماد او به پزشکان، در مرگ او نقش داشته است. این ادعاها هنوز در دادگاه اثبات نشده‌اند.

سخنگوی OpenAI این اتفاق را به‌شدت تلخ توصیف کرده و گفته است که این پرونده به نسخهٔ قدیمی GPT‑4o مربوط می‌شود؛ مدلی که دیگر در دسترس نیست. او بیان کرد که مدل‌های جدیدتر در شناسایی موقعیت‌هایی که به توجه فوری نیاز دارند، عملکرد بهتری دارند.

این پرونده بار دیگر پرسش‌هایی جدی دربارهٔ مرز میان کمک اطلاعاتی هوش مصنوعی و ارائه توصیه‌های پزشکی، به‌ویژه در شرایط حساس و پرخطر، مطرح کرده است.

خبرهای مرتبط