بررسی هفت چالش توسعه هوش مصنوعی در مستندات مالی شرکت آنتروپیک
منتشرشده: · فناوری

شرکت آنتروپیک در فرم عرضه اولیه سهام خود، علاوه بر اشاره به رشد درآمدها، بخش قابلتوجهی را به خطرات و چالشهای پیشروی توسعه هوش مصنوعی اختصاص داد.
کمیسیون بورس و اوراق بهادار پیش از عرضه اولیه سهام شرکت آنتروپیک، فرم S-1 این شرکت را منتشر کرد که در آن چالشها و ریسکهای پیشروی فعالیتهای این شرکت تشریح شده است. این سند در کنار اشاره به خوشبینیها نسبت به تاثیر هوش مصنوعی بر اقتصاد جهانی، بخش عمدهای را به خطرات احتمالی که میتوانند کسبوکار این شرکت را تحتتاثیر قرار دهند، اختصاص داده است.
بخش عوامل ریسک این سند به بررسی صدها مشکل احتمالی پرداخته که برخی از آنها شامل موارد استاندارد مانند رقابت و هزینهها هستند و برخی دیگر به چالشهای خاص هوش مصنوعی اشاره دارند. از جمله این موارد، موضوع خطرات فاجعهبار یا بحران وجودی برای بشریت است که به گفته آنتروپیک، توسط پژوهشگران و قانونگذاران مطرح شده و مربوط به مدلهای آینده با قابلیت خودکارسازی تحقیق و توسعه است.
خودآگاهی هوش مصنوعی و احتمال رفتار انسانی با این سیستمها از دیگر موضوعات مطرحشده است که به گفته مدیران آنتروپیک میتواند به فشارهای عمومی و وضع قوانین تازه منجر شود. همچنین این شرکت احتمال از دست رفتن کنترل مدلها، رفتارهای فریبنده یا خروجیهایی شبیه به باجگیری را مطرح کرده و افزوده است که حتی احساس فریب توسط مردم میتواند پیامدهای حقوقی به دنبال داشته باشد.
در نهایت، این سند به احتمال خدشهدار شدن اعتبار کل صنعت هوش مصنوعی اشاره کرده و یادآور شده است که خطاهای سایر شرکتها یا نگرانیهای عمومی درباره نابودی مشاغل میتواند دولتها را به اعمال محدودیتهای شدیدتر ترغیب کند.