تحلیلگران هوش مصنوعی دربارهٔ تمرکز واشنگتن بر خطرات هوش مصنوعی
منتشرشده: · به‌روزرسانی: · فناوری
میکیل سی. هوروویتز و لورن کان در مقاله‌ای مشترک در نشریهٔ فارن‌پالیسی به بررسی تمرکز واشنگتن بر سناریوهای کم‌احتمال ولی پیامدهای سنگین می‌پردازند.
میکیل سی. هوروویتز، عضو ارشد فن‌آوری و نوآوری در شورای روابط خارجی، و لورن کان، تحلیلگر ارشد تحقیقاتی، در مقاله‌ای مشترک در نشریهٔ فارن‌پالیسی به بررسی تمرکز واشنگتن بر خطرات هوش مصنوعی می‌پردازند. آن‌ها اشاره می‌کنند که تمرکز بر سناریوهای کم‌احتمال ولی پیامدهای سنگین ممکن است توجه را از سایر خطرات منحرف کند.
تحلیلگران بیان می‌کنند که این تمرکز ممکن است باعث شود اصل مساله از نظر دور بماند. آن‌ها اشاره می‌کنند که واشنگتن درگیر نگرانی‌های فراوان نسبت به مدل‌های هوش مصنوعی پیشرفته است که بر این باورند این مدل‌ها ممکن است پیامدهای جدی برای انسان‌ها داشته باشند.
همچنین به گفتهٔ آن‌ها، برخی پیش‌بینی‌کنندگان در حوزه هوش مصنوعی ادعا می‌کنند که احتمال کشته شدن همه انسان‌ها توسط هوش مصنوعی بیش از یک در ده یا بیش از ده درصد است و هشدار می‌دهند که این اتفاق ممکن است قبل از پایان دهه جاری رخ دهد.
تحلیلگران می‌گویند که این پیش‌بینی‌ها بر زنجیره‌ای طولانی از فرضیات استوارند که هر کدام به خودی خود بسیار بعید به نظر می‌رسند و احتمال اینکه همه آن‌ها به طور هم‌زمان رخ دهند، کمتر است.
به گفتهٔ آن‌ها، خطر اصلی هوش مصنوعی که واشنگتن باید بر آن تمرکز کند، سوگیری اتوماسیون است؛ پدیده‌ای که در آن وابستگی انسان‌ها به هوش مصنوعی بیش از حد و حداقل بیش از دقت مدل‌هاست. این سوگیری باعث می‌شود انسان‌ها وظایفی بیش از حد یا بیش از توان هوش مصنوعی به آن محول کنند و شناخت را به ماشین واگذار کنند.
این مقاله در نشریهٔ فارن‌پالیسی منتشر شد.