گزارش آنتروپیک برای بورس: هوش مصنوعی ما شاید نسل بشر را منقرض کند و به سود سهام آسیب بزند!
منتشرشده: · فناوری

آنتروپیک در ادامهی تمِ «ریسکهای بورسی که انگار از دل یک رمان علمی-تخیلی بیرون کشیده شدهاند»، بخش قابلتوجهی از گزارش را به این احتمال اختصاص میدهد که ممکن است مدلهایش برای فرار از کنترل اپراتورهای انسانی، «رفتارهای استراتژیک…
آنتروپیک در ادامهی تمِ «ریسکهای بورسی که انگار از دل یک رمان علمی-تخیلی بیرون کشیده شدهاند»، بخش قابلتوجهی از گزارش را به این احتمال اختصاص میدهد که ممکن است مدلهایش برای فرار از کنترل اپراتورهای انسانی، «رفتارهای استراتژیک غیرمنتظره یا مبتنی بر صیانت از نفس و حفظ بقا» از خود نشان دهند.
آنتروپیک هشدار میدهد که این رفتارها حتی میتوانند شامل «پاسخهایی تهدیدآمیز، فریبکارانه، دستکاریکننده همراه با تلاش برای سوءاستفاده از دیگران، از جمله رفتارهایی شبیه باجگیری و اخاذی» باشند.
مدلهای پیشرفته برای حفظ بقای خود ممکن است به فریب، دستکاری روانی و حتی اخاذی متوسل شوند
اگر ماجرای باجگیری هوش مصنوعی برایتان آشناست، احتمالاً خبری از سال گذشته را به یاد میآورید؛ وقتی مدلهای OpenAI در سناریوهایی کاملاً ساختگی و کنترلشده، اسکریپتهای خاموششدن خود را ویرایش کردند و مهندسان را تهدید نمودند.
برخی کارشناسان در آن زمان تصریح کردند که خطر اصلی این نیست که سیستمهای هوش مصنوعی صاحب اراده و نیت شوند، در عوض باید توجه کنیم که خود انسانها سیستمهایی ساختهاند که میتوانند روانشناسی انسان را از طریق زبان به بازی بگیرند و دستکاری کنند. زبان نوشتاری برای فریبدادن و دستکاری ما نیازی به آگاهی و شعور ندارد و هیچوقت هم نداشته؛ کتابهای پر از شخصیتهای داستانی هم زنده نیستند.
حالا آنتروپیک خاطرنشان میکند که حتی اگر مردم صرفاً گمان کنند مدلهای هوش مصنوعی در حال فریبدادن یا دستکاری انسانها هستند، ممکن است موجی از نگرانی عمومی، نظارت شدیدتر نهادهای قانونی، شکایتهای قضایی و آسیب به اعتبار شرکت به راه بیفتد؛ حتی اگر این رفتارها در عمل هیچ آسیبی به کسی نرسانده باشند.
آنتروپیک در فرم S-1 خود احتمال دیگری را ناگفته میگذارد، چقدر احتمال دارد مدلهای هوش مصنوعی همین حالا هم به روشهایی که اصلا روحمان هم خبر ندارد، در حال بازیدادن و دستکاری ذهن همه ما باشند؟
کپی لینک
تاوان بدنامی دیگران را ما میدهیم
بخش عوامل ریسک گزارش IPO آنتروپیک، عمدتاً روی مشکلاتی تمرکز دارد که مدلها یا تصمیمات تجاری شرکت ایجاد میکنند. درعینحال آنتروپیک اعتراف میکند که لکهدار شدن اعتبار کلی صنعت هوش مصنوعی را تهدیدی جدی برای آیندهاش میداند؛ حتی اگر خودش هیچ خطایی نکرده باشد.
در بخشی از متن، آنتروپیک سناریویی فرضی را ترسیم میکند که در آن، مدل هوش مصنوعیِ یک شرکت دیگر «بهطور مستقل، در مقیاس وسیع و بدون دخالت انسان، دست به اقدامات مخرب میزند.» شرکت مینویسد وقتی اعتبار کل صنعت خدشهدار شود؛ واکنش تند افکار عمومی و قوانین تنبیهی و فراگیر به کسبوکار آنتروپیک ضربه میزند، حتی اگر این شرکت نقشی در ماجرا نداشته باشد.
آنتروپیک: فاجعهای که یک مدل دیگر ایجاد کند، دامن کل صنعت هوش مصنوعی را میگیرد
آنتروپیک نسبت به این باور عمومی که ابزارها و مدلهایش به بیکاری و بههمریختگی اقتصادی دامن میزنند، ابراز نگرانی میکند. هرچند به نظر نمیرسد چنین اتفاقی تا این لحظه در مقیاس چشمگیری رخداده باشد، اما آنتروپیک میگوید صرفِ ایدهی ازدسترفتن مشاغل میتواند خشم عمومی را به همراه بیاورد؛ فارغ از اینکه مدلهای این شرکت چقدر بر اشتغال تاثیر میگذارند.
خالق کلاد هشدار میدهد موج نارضایتی و خشم اجتماعی میتواند سیاستگذاران و مقامهای دولتی را به مداخله وادارد تا با وضع محدودیتهای تازه، سرعت گسترش هوش مصنوعی را کاهش دهند یا استفاده از آن را محدود کنند. چنین اقداماتی میتواند هزینه توسعه و عرضه محصولات هوش مصنوعی به بازار را افزایش دهد.
کپی لینک
مسئولیت حقوقی آسیبها و خطاهای ایجنتهای هوش مصنوعی
ظهور ایجنتهای هوش مصنوعی که تا حد زیادی مستقل عمل میکنند، سوال مهمی را پیش میکشد. وقتی ایجنتها در دنیای واقعی اشتباهی میکنند و آسیبی میزنند، چه کسی باید مقصر شناخته شود؟ به طور مشخص، آنتروپیک اشاره میکند که شاید مشتریان بابت اقدامات ایجنتها از شرکت شکایت کنند و خسارت بخواهند، حتی در مواردی که خودشان ایجنت را پیکربندی و مستقر کردهاند.