هدهد ویژن

آنتروپیک هشدار داد که هوش مصنوعی ممکن است سرعت توسعه مدل‌های خود را افزایش دهد

منتشرشده: · به‌روزرسانی: · فناوری

آنتروپیک هشدار داد که هوش مصنوعی ممکن است سرعت توسعه مدل‌های خود را افزایش دهد

شرکت آنتروپیک در اسناد ثبت عرضه اولیه سهام خود اعلام کرد که ممکن است به مرحله‌ای نزدیک شود که در آن هوش مصنوعی می‌تواند خود را به‌صورت بازگشتی بهبود بخشد، که سرعت پیشرفت فناوری را افزایش می‌دهد. این هشدار همراه با اشاره به نگرانی‌های مربوط به نظارت انسانی است.

شرکت آنتروپیک در اسناد ثبت عرضه اولیه سهام خود در کمیسیون بورس و اوراق بهادار آمریکا اعلام کرد که احتمالاً به آستانه‌ای نزدیک شده است که در آن استفاده از هوش مصنوعی برای توسعه مدل‌های پیشرفته‌تر می‌تواند سرعت توسعه این فناوری را به‌طور چشمگیری افزایش دهد.

این مرحله با اصطلاح «خودبهبودی بازگشتی» (Recursive Self-Improvement) شناخته می‌شود. در این وضعیت، هوش مصنوعی به‌اندازه‌ای در توسعه و آموزش مدل‌ها توانمند می‌شود که بتواند به بهبود نسخه‌های بعدی خود کمک کند و در نتیجه، روند پیشرفت فناوری شتاب بگیرد.

آنتروپیک در اسناد خود اشاره کرد که استفاده فزاینده از هوش مصنوعی در پژوهش و توسعه داخلی ممکن است باعث شود توانایی مدل‌ها سریع‌تر از ظرفیت این شرکت برای تدوین، ارزیابی و اجرای تدابیر ایمنی و امنیتی افزایش یابد. این شرکت همچنین اذعان کرد که در گذشته، شتاب قابل‌توجه در پیشرفت مدل‌ها را تا پس از وقوع آن تشخیص نداده است.

برآوردهای داخلی آنتروپیک نشان می‌دهد این شرکت ممکن است به‌زودی به تعریف سیاست مقیاس‌پذیری مسئولانه خود از «پیشرفت به‌شدت شتاب‌گرفته ناشی از هوش مصنوعی» برسد. بااین‌حال، آنتروپیک تاکید کرد که هنوز هیچ‌یک از مدل‌های فعلی خود را فراتر از این آستانه ارزیابی نکرده و همچنان داده‌های مرتبط را بررسی می‌کند.

این شرکت در عین حال اعلام کرد که فعلا انتظار ندارد بتواند بدون نظارت یا درک معنادار انسانی، نسل‌های متوالی مدل‌های پیشرفته را به‌طور کاملا خودمختار طراحی و تولید کند. آنتروپیک در حال بررسی تغییراتی در سیاست‌های ایمنی خود است تا نقش انسان در توسعه مدل‌های پیشرفته حفظ شود.

با وجود این، برخی منتقدان یادآوری کردند که اسناد عرضه اولیه سهام علاوه بر افشای اطلاعات، می‌توانند جنبه تبلیغاتی نیز داشته باشند. بنابراین، نزدیک بودن به چنین مرحله‌ای هنوز به معنای تحقق خودبهبودی بازگشتی نیست.

خبرهای مرتبط