انتروپیک در سند عرضه اولیه به خطرات هوش مصنوعی هشدار داد
منتشرشده: · بهروزرسانی: · جهان

شرکت انتروپیک در مدارک عرضه اولیه سهام، خطرات مرتبط با سامانههای هوش مصنوعی، حملات سایبری و استفاده از این فناوری در سلاحها را به سرمایهگذاران اعلام کرد.
سامانههای هوش مصنوعی، حملات سایبری و امکان استفاده از این فناوری برای ساخت سلاحهای خطرناک، از جمله خطراتی هستند که شرکت انتروپیک هنگام آماده شدن برای ورود به بازار سهام، به اطلاع سرمایهگذاران رسانده است.
از میان ۳۳۵ صفحهای که وضعیت مالی، دستمزد مدیران، سیاست تقسیم سود و موارد مشابه را تشریح میکند، ۹۳ صفحه به «عوامل خطر» اختصاص دارد؛ یعنی مواردی که میتواند به سرمایهگذاری سهامداران بالقوه آسیب بزند. برای مقایسه، عوامل خطر رقیب این شرکت، اسپیساکس، تنها ۳۸ صفحه از بیش از ۲۵۰ صفحه را شامل میشود.
این افشاگریها بخشی الزامی از روند عرضه اولیه سهام است و به سرمایهگذاران بالقوه تصویر روشنتری از خطرهایی میدهد که با خرید سهام شرکت با آنها روبهرو میشوند.
انتروپیک هنگام معرفی خود به سرمایهگذاران، عرضه اولیه سهامش را گامی برای کاهش خطرهایی توصیف میکند که به باور این شرکت، هوش مصنوعی به همراه میآورد.
بنیانگذاران شرکت در نامهای خطاب به سهامداران بالقوه در مدارک عرضه اولیه نوشتند: «ساخت هوش مصنوعی به معنای مهار خودِ شناخت است و هر چیز به این اندازه قدرتمند میتواند هم به بدی و هم به خوبی به کار رود.» آنها در ادامه افزودند: «انتروپیک سازمانی است که عمیقا بر ارزشها استوار است و تا حد زیادی با هدف کمک به جهان برای بهرهگیری از مزایای هوش مصنوعی و پرهیز از خطرهای آن تاسیس شده است.»
با این حال، فهرست خطرها طولانی است و از مسائل روزمره، مانند احتمال ناتوانی شرکت در حفظ کارکنان کلیدی یا عبور از موانع مقرراتی، تا نقش داشتن در حملات سایبری و گسترش اطلاعات نادرست خطرناک را در بر میگیرد.
در ادامه نگاهی داریم به بخشی از خطرهایی که انتروپیک تشریح کرده است:
رشد سریع این فناوری
این شرکت اعلام کرده است که ممکن است مدلهایش آنقدر سریع پیشرفت کنند که نتواند تدابیر ایمنی کافی را اجرا کند؛ امری که به گفته انتروپیک «میتواند احتمال رخدادهای ایمنی، مداخله نهادهای ناظر یا آسیب به اعتبار را افزایش دهد و به کسبوکار ما لطمه بزند.»
داروی آمودی، مدیر عامل انتروپیک، در ماه سپتامبر هشدار داد: «ممکن است ظرف شش تا دوازده ماه، هوش مصنوعی قادر شود انبوهی از عاملها را هدایت کند که میتوانند کنترل سراسر اینترنت را در دست بگیرند.» این هشدار و اکنون تصمیم انتروپیک برای عرضه سهام در شرایطی مطرح میشود که در داخل و خارج از صنعت، نگرانیها درباره سامانههای هرچه قدرتمندتری که میتوانند مسائلی فراتر از توان انسان را حل کنند اما در عین حال قادرند به طور خودکار دست به اقدامات زیانبار بزنند، رو به افزایش است.
این شرکت در پرونده خود نزد کمیسیون بورس و اوراق بهادار آمریکا (SEC) نوشت: «هرچه سامانههای هوش مصنوعی خودگردانتر شوند و توانایی انجام اقدامات مهم با نظارت کمتر انسانی را پیدا کنند، این خطر وجود دارد که چنین سامانههایی بدون دخالت انسان، به طور مستقل و در مقیاس وسیع دست به اقدامات زیانبار بزنند.»
انتروپیک افزود: «حتی اگر مدلهای خود ما چنین آسیبی ایجاد نکنند، یک حادثه جدی ایمنی در هر سامانه پیشروی هوش مصنوعی میتواند به اعتبار کل صنعت هوش مصنوعی لطمه بزند، واکنش منفی افکار عمومی را برانگیزد و باعث موج جدیدی از مقررات شود که میتواند کسبوکار ما را تحت تاثیر منفی قرار دهد.»
اکنون که خودِ مدلهای هوش مصنوعی در پژوهش و توسعه انتروپیک نقش دارند، به گفته این شرکت ممکن است پیشرفت هوش مصنوعی «فراتر از توان ما برای ارزیابی و تامین ایمنی مدلهای جدید» باشد؛ امری که به نوشته این سند میتواند به کسبوکار انتروپیک آسیب برساند.
امکان سوءاستفاده عاملان خرابکار از این فناوری
این پرونده به نگرانیهایی اشاره میکند مبنی بر اینکه سامانههای پیشرفته هوش مصنوعی، اگر بدون تضمینهای ایمنی و نظارت کافی توسعه یابند و به کار گرفته شوند، به گفته انتروپیک «برای بشریت خطرهای فاجعهبار یا وجودی ایجاد میکنند، به ویژه اگر این سامانهها مورد سوءاستفاده قرار گیرند، نسخهبرداری شوند، به سلاح تبدیل شوند یا با درجه بالایی از خودمختاری فعالیت کنند.»
انتروپیک اعلام کرده است که در صورتی که استفاده خرابکاران از فناوری آن باعث خسارت شود یا اگر تدابیر ایمنی و محدودکننده مدلهای ما نتوانند جلوی چنین سوءاستفادهای را بگیرند، این شرکت متضرر خواهد شد.