آنتروپیک قرار است واترمارک متن را به نسخه‌های قدیمی‌تر Claude اضافه کند
منتشرشده: · فناوری
شرکت آنتروپیک اعلام کرد که فناوری واترمارک متن پنهان خود را به‌زودی برای مدل‌های قدیمی‌تر Claude فعال خواهد کرد. این اقدام در پاسخ به درخواست قانون‌گذاران اتحادیه اروپا انجام می‌شود.
شرکت آنتروپیک اعلام کرد که فناوری واترمارک متن پنهان خود را به‌زودی برای نسخه‌های قدیمی‌تر مدل‌های هوش مصنوعی Claude فعال خواهد کرد. این تصمیم در پی درخواست قانون‌گذاران اتحادیه اروپا اتخاذ شده که خواستار درج نشانه‌های پنهان در متون تولیدشده توسط هوش مصنوعی هستند تا امکان تفکیک محتوای انسانی از محتوای ماشینی در آینده فراهم شود.
در ابتدا، انتشار این فناوری تنها به جدیدترین و پیشرفته‌ترین نسخه‌های Claude محدود بود. بااین‌حال، آنتروپیک اکنون به کاربران خود اطلاع داده که از تاریخ ۳ نوامبر (۱۲ آبان)، این واترمارک را به مدل‌های Mythos 5، Opus 4.7، Opus 4.6 و Sonnet 4.6 نیز اضافه می‌کند.
به گفته این شرکت، سازوکار مورد استفاده در این نسخه‌ها همان فناوری واترمارک موجود در Opus 5.5 است. این ساختار بر پایه یک الگوی نامحسوس در انتخاب کلمات است و دقت یا خوانایی خروجی متن را تغییر نمی‌دهد. همچنین شرکت تاکید کرده که این الگو شامل هیچ‌گونه اطلاعات هویتی از کاربر یا سازمان استفاده‌کننده از Claude نخواهد بود.
در کنار مسائل فنی مربوط به عملکرد مدل‌ها، جنبه رفتاری کاربران نیز اهمیت بالایی پیدا کرده است؛ مواردی مانند ارجاعات جعلی و نامعتبر توسط وکلا، نگارش کامل کتاب توسط رمان‌نویسان و اتکای پژوهشگران به هوش مصنوعی در فرایند داوری مقالات علمی ثبت شده است. در حالی‌که ابزارهای هوش مصنوعی کارهای تکراری و وقت‌گیر را در چند ثانیه انجام می‌دهند، هم‌زمان انگیزه‌ای برای دور زدن استانداردها و پنهان‌کاری نیز ایجاد می‌کنند. در چنین شرایطی، باید دید آیا به‌کارگیری گسترده واترمارک می‌تواند به حفظ شفافیت و صداقت کاربران کمک کند یا خیر.