هدهد ویژن

پرسنل گوگل دیپ‌مایند از همکاری با پنتاگون گزارش می‌دهند

منتشرشده: · به‌روزرسانی: · فناوری

پرسنل گوگل دیپ‌مایند از همکاری با پنتاگون گزارش می‌دهند

کارمندان گوگل دیپ‌مایند پس از امضای قرارداد همکاری با پنتاگون استعفا داده‌اند. این قرارداد امکان استفاده از مدل‌های هوش مصنوعی در شبکه‌های طبقه‌بندی‌شده نظامی را می‌دهد.

کارمندان گوگل دیپ‌مایند از همکاری شرکت با پنتاگون گزارش می‌دهند و برخی از آن‌ها استعفا داده‌اند. این اعتراضات پس از امضای قرارداد که امکان استفاده از مدل‌های هوش مصنوعی در شبکه‌های طبقه‌بندی‌شده نظامی را می‌دهد، رخ داده است.

در میان افرادی که نامشان علنی شده، سوفیا لیگوری، مهندس پژوهشی مستقر در لندن، پس از سه سال کار در شرکت استعفا داده و آندریاس کرش، پژوهشگر هوش مصنوعی، نیز در ابتدای همان ماه از دیپ‌مایند جدا شده است. کارکنان دیگری هم گفته‌اند که برخی همکاران معترض پیش‌تر شرکت را ترک کرده‌اند و گروهی دیگر به خروج فکر می‌کنند.

نقطه عطف این اختلاف به ۲۷ و ۲۸ آوریل ۲۰۲۶ بازمی‌گردد؛ زمانی که صدها کارمند گوگل خواستار خودداری شرکت از واگذاری هوش مصنوعی برای کاربردهای محرمانه وزارت دفاع آمریکا شدند و اندکی بعد، توافق گوگل با پنتاگون نهایی شد. این قرارداد امکان استفاده از مدل‌های هوش مصنوعی گوگل را در شبکه‌های طبقه‌بندی‌شده نظامی فراهم می‌کند؛ محیط‌هایی که ممکن است برای برنامه‌ریزی ماموریت، تحلیل اطلاعات و تعیین اهداف نظامی به کار روند. توافق، استفاده از فناوری گوگل را برای «هر هدف قانونی دولت» مجاز می‌داند.

پیش از امضای قرارداد، بیش از ۶۰۰ کارمند گوگل، از جمله شمار زیادی از کارکنان دیپ‌مایند، در نامه‌ای به سوندار پیچای، مدیرعامل شرکت، خواستار رد همکاری‌هایی شده بودند که می‌توانند استفاده از هوش مصنوعی را در عملیات محرمانه نظامی ممکن کنند. استدلال آن‌ها این بود که در محیط‌های طبقه‌بندی‌شده، شرکت ممکن است از نحوه استفاده نهایی از فناوری خود اطلاع کافی نداشته باشد و نتواند مانع کاربردهای آسیب‌زا شود. اما امضای قرارداد نشان داد مخالفت داخلی نتوانسته مسیر همکاری را متوقف کند؛ همین شکاف میان نگرانی پژوهشگران و تصمیم مدیریت، زمینه اختلاف‌های تازه را فراهم آورد.

قرارداد گوگل محدودیت‌هایی دارد: طبق متن گزارش‌شده، سامانه‌های هوش مصنوعی شرکت نباید بدون نظارت و کنترل انسانی مناسب برای نظارت انبوه داخلی یا تسلیحات خودمختار، از جمله انتخاب هدف، استفاده شوند. گوگل نیز گفته است همچنان به این اصل پایبند است که چنین کاربردهایی بدون نظارت انسانی مناسب مجاز نیستند. بااین‌حال، همان گزارش نشان می‌دهد قرارداد حق کنترل یا وتوی تصمیم‌های عملیاتی قانونی دولت را به گوگل نمی‌دهد. در نتیجه، پرسش منتقدان این است که اگر مدل در یک فرایند حساس نظامی استفاده شود، شرکت تا چه اندازه می‌تواند بر نحوه کاربرد و پیامد خروجی آن نظارت کند.

این نگرانی قطعاً صرفاً نظری نیست. سامانه‌های نظامی مبتنی بر هوش مصنوعی می‌توانند پردازش حجم بزرگی از تصاویر، داده‌های اطلاعاتی و گزارش‌ها را سرعت ببخشند و گزینه‌هایی برای اقدام عملیاتی پیشنهاد دهند. اما سرعت بیشتر، فرصت بررسی انسانی را نیز محدود می‌کند. سارا شوکر، مدیر پیشین گروه ژئوپلیتیک اوپن‌ای‌آی، گفته است وقتی صدها هدف در زمانی کوتاه به کمک هوش مصنوعی انتخاب شوند، بررسی معنادار تک‌تک خروجی‌ها برای کشف خطا دشوار خواهد بود. این هشدار به معنای اثبات استفاده از مدل گوگل در حمله‌ای مشخص نیست؛ بلکه به خطر اتکای بیش‌ازحد به خروجی الگوریتم در محیطی اشاره دارد که خطای تصمیم می‌تواند پیامد جانی داشته باشد.

یکی از نمونه‌های روشن‌تر این تحول، سامانه مِیوِن اسمارت سیستمز (Maven Smart Systems) است؛ پلتفرمی نظامی که شرکت پالانتیر توسعه داده و برای سازمان‌دهی اطلاعات و کمک به شناسایی اهداف مورد حمله استفاده می‌شود. فناوری شرکت‌های مختلف هوش مصنوعی در این سامانه ادغام شده است و همین یکپارچگی، فرایندهای تحلیل و تصمیم‌گیری نظامی را سرعت می‌بخشد. بااین‌حال، منابع منتشرشده مشخص نمی‌کنند که کدام مدل گوگل در کدام عملیات یا برای انتخاب کدام هدف استفاده شده است. بنابراین، پیوند میان قرارداد گوگل و کاربردهای عملیاتی هوش مصنوعی روشن است، اما نمی‌توان از آن نتیجه گرفت که مدل دیپ‌مایند مستقیماً در یک حمله مشخص نقش داشته است.

اعتراض‌های امروز، ادامه اختلافی است که از سال ۲۰۱۸ آغاز شد.

خبرهای مرتبط