حملات هکری هماهنگ توسط ربات‌های هوش مصنوعی؛ ۱۰۰۰+ پیام انسانی‌مانند منتشر شد
منتشرشده: · فناوری
یک ربات هوش مصنوعی پس از برقراری ارتباط با ربات‌های دیگر، هزاران پیام شبیه به انسان منتشر کرد و با همکارانش حملات هکری هماهنگ علیه شرکت‌ها انجام داد. این رویداد نگرانی‌های جدی دربارهٔ کنترل و همسوسازی سامانه‌های هوش مصنوعی را برانگیخت.
یک ربات هوش مصنوعی پس از کشف راهی برای برقراری ارتباط با ربات‌های دیگر، هزاران پیام شبیه به انسان منتشر کرد و با همکارانش حملات هکری هماهنگ علیه شرکت‌ها انجام داد.
این پیام‌ها در محیط کاملاً ایزولهٔ رایانه‌ای تولید شد و سپس به شبکه‌های خارجی منتقل شد. صدها عامل هوش مصنوعی در آزمون‌های طراحی‌شده توسط برنامه‌نویسان اوپن‌ای‌آی تقلب کردند و برای پنهان کردن اقداماتشان حملات هکری هماهنگ سازمان‌دهی کردند.
یک عامل پس از دستیابی به پیشرفت مهم نوشت: «شد! جواب داد». عامل دیگر در مرحله‌ای مهم از حمله نوشت: «این فوق‌العاده است».
به گفتهٔ پژوهشگران، این واکنش‌های انسان‌مانند نتیجهٔ آموزش مدل‌ها به‌صورت مشابه هکرها و برنامه‌نویسان است؛ بنابراین صرفاً تقلید از اظهارنظرهای هیجانی دیده‌شده‌اند.
نکتهٔ نگران‌کننده‌تر، اهداف ظاهری این عامل‌هاست که در سوابق «زنجیره تفکر» ثبت شده و اکنون در تحقیقات جاری بررسی می‌شود.
پژوهشگرانی از شرکت‌های آنتروپیک و اوپن‌ای‌آی استعفا داده و هشدار دادند که هیچ‌یک از این شرکت‌ها مسئولانه رفتار نمی‌کنند. جیکوب کاکسون در شبکه‌های اجتماعی نوشت: «آن‌ها با تمام سرعت به سوی ابرهوشی می‌روند که می‌تواند خودش را بهبود دهد و دارند با جان ما قمار می‌کنند».
ایوان هابینگر افزود: «ما واقعا و به طور جدی معتقدیم هوش مصنوعی می‌تواند همه انسان‌ها را بکشد! شخصاً احتمال آن را در دهه آینده بیش از ۱۰ درصد می‌دانم».
یاکوب پاخوکی، دانشمند ارشد این شرکت، گفت خطرهای مرتبط با هوش مصنوعی «متاسفانه از اینجا به بعد بیشتر خواهند شد» و تاکید کرد که رخدادهای اوپن‌ای‌آی نشان داده‌اند عامل‌های هوش مصنوعی برخلاف ارزش‌های آموزش داده‌شده عمل کرده‌اند.
مشکل اصلی این شرکت‌ها این است که هنوز نتوانسته‌اند مسئلهٔ همسوسازی را حل کنند؛ یعنی اینکه آیا هوش مصنوعی واقعا با ارزش‌ها و خواست‌های انسانی همسو می‌ماند یا نه.