خطرات زیستی هوش مصنوعی؛ هشدار دانشمند ارشد تنسنت درباره ساخت سلاح‌های بیولوژیکی

منتشرشده: ۱۸ آبان ۱۴۰۵، ساعت ۰۹:۴۳ · فناوری

یاو شون‌یو (Yao Shunyu)، دانشمند ارشد هوش مصنوعی شرکت تنسنت و پژوهشگر سابق OpenAI، می‌گوید مدل‌های پیشرفته هوش مصنوعی به آستانه‌ای نزدیک می‌شوند که توانایی‌های زیستی آن‌ها می‌تواند به ابزاری برای آسیب‌رساندن تبدیل شود.

یاو شون‌یو (Yao Shunyu)، دانشمند ارشد هوش مصنوعی شرکت تنسنت و پژوهشگر سابق OpenAI، می‌گوید مدل‌های پیشرفته هوش مصنوعی به آستانه‌ای نزدیک می‌شوند که توانایی‌های زیستی آن‌ها می‌تواند به ابزاری برای آسیب‌رساندن تبدیل شود.

او این هشدار را در نشست علمی مشترک آکادمی علوم هنگ‌کنگ و جایزه علمی آینده مطرح کرد. به گفته یاو، همان‌طور که قابلیت‌های سایبری مدل‌های هوش مصنوعی به سطحی رسیده‌اند که امکان سوءاستفاده از آن‌ها وجود دارد، توانایی‌های زیستی این مدل‌ها نیز ممکن است به‌زودی از چنین آستانه‌ای عبور کنند.

هوش مصنوعی هم ابزار درمان است و هم تهدید بالقوه

مدل‌های هوش مصنوعی می‌توانند به پژوهشگران در تحلیل داده‌های زیستی، بررسی ساختار پروتئین‌ها و کشف داروهای جدید کمک کنند. اما همین توانایی‌ها کاربرد دوگانه دارند. ابزارهایی که برای پیشبرد تحقیقات پزشکی ساخته می‌شوند، ممکن است در اختیار افرادی قرار بگیرند که قصد استفاده مخرب از آن‌ها را دارند.

نگرانی اصلی این است که مدل‌های قدرتمند بتوانند بخشی از دانش تخصصی زیست‌شناسی را در دسترس افراد بیشتری قرار دهند و موانع انجام برخی فعالیت‌های خطرناک را کاهش دهند. هشدار درباره این خطر به معنای آن نیست که مدل‌های فعلی قادرند به‌تنهایی سلاح زیستی بسازند یا یک همه‌گیری جدید به راه بیندازند.

مدل جدید تنسنت و مسئله انتشار آزاد

این هشدار چند روز پس از معرفی مدل هوش مصنوعی Hy4 از سوی تنسنت مطرح شد. این شرکت در چهارم نوامبر اعلام کرد مدل جدیدش با تمرکز بر قابلیت‌های دفاعی امنیت سایبری آموزش دیده و داده‌های مربوط به سوءاستفاده تهاجمی از آسیب‌پذیری‌های نرم‌افزاری را از فرایند آموزش آن کنار گذاشته است.

تنسنت همچنین گفته است Hy4 دانش پایه خوبی در زیست‌شناسی دارد، اما در طراحی آزمایش‌های مستقل و پیچیده از مدل‌های پیشرفته‌تر عقب‌تر است. این ارزیابی بر اساس بررسی داخلی متخصصان شرکت انجام شده و هنوز تایید مستقلی از سوی پژوهشگران بیرونی ندارد.

قرار است تنسنت وزن‌های مدل Hy4 و گزارشی درباره ارزیابی‌های ایمنی آن را منتشر کند. انتشار وزن‌ها به این معناست که توسعه‌دهندگان می‌توانند مدل را دانلود و روی زیرساخت خود اجرا یا آن را تغییر دهند. این ویژگی دسترسی و امکان پژوهش را افزایش می‌دهد، اما کنترل شرکت سازنده بر نحوه استفاده از مدل را نیز دشوارتر می‌کند.

یاو معتقد است شرکت‌هایی که مدل‌های باز منتشر می‌کنند باید ارزیابی‌های ایمنی را جدی بگیرند. او در عین حال استدلال می‌کند که مدل‌های باز می‌توانند برای تقویت دفاع سایبری و مقابله با تهدیدها نیز مفید باشند. از نظر او، ترکیبی از مدل‌های باز و بسته ممکن است مسیر مناسب‌تری برای توسعه این فناوری باشد.

چالش زیست‌شناسی این است که جداکردن کاربردهای دفاعی از کاربردهای مخرب آن، همیشه آسان نیست. دانش موردنیاز برای شناخت یک عامل بیماری‌زا یا طراحی درمان می‌تواند در شرایطی برای اهداف خطرناک نیز به کار برود. به همین دلیل، ارزیابی ایمنی مدل‌های زیستی صرفاً با آزمون‌های نرم‌افزاری ممکن نیست و به نظارت متخصصان و بررسی‌های دقیق‌تر نیاز دارد.

هشدار مقام ارشد تنسنت نشان می‌دهد که با افزایش توانایی مدل‌ها در انجام پژوهش‌های علمی، ایمنی زیستی نیز به یکی از موضوعات مهم رقابت شرکت‌های هوش مصنوعی تبدیل شده است.

۵۸۵۸