Claude yazdığı mətnlərə gizli nişanlar qoyacaq: kopiyalanmış mətnləri müəyyənləşdirmək mümkün olacaq

Anthropic yeni Claude modellərinin yaratdığı mətnlərə insan gözü ilə görünməyən, lakin maşın vasitəsilə müəyyən edilə bilən rəqəmsal nişanların əlavə edilməsi üzərində işləyir. Məqsəd mətnin Claude tərəfindən yaradıldığını və ya Claude vasitəsilə emal edildiyini sonradan müəyyənləşdirməyi asanlaşdırmaqdır.

Yeni yanaşma süni intellekt tərəfindən yaradılan məzmunun mənşəyinin daha şəffaf göstərilməsinə yönəlib. Bu məsələ xüsusilə Avropa İttifaqının Süni İntellekt Aktının generativ sistemlər üçün nəzərdə tutduğu şəffaflıq tələbləri fonunda aktuallaşıb. Anthropic də süni intellekt tərəfindən yaradılan məzmunun müəyyənləşdirilməsi üçün texnoloji həllər üzərində işlədiyini daha əvvəl açıqlayıb.

Nəzərdə tutulan sistemdə rəqəmsal nişan birbaşa yaradılan mətnin strukturuna daxil ediləcək. İstifadəçi onu adi şəkildə oxuyarkən görməyəcək və nişanın mətnin mənasına və oxunaqlılığına təsir etməməsi nəzərdə tutulur. Əsas üstünlüklərdən biri isə işarənin mətn başqa yerə kopyalandıqdan sonra da müəyyən şəraitdə qoruna bilməsidir.

Bu yanaşma yalnız Claude-un adi çat interfeysi ilə məhdudlaşmaya bilər. Nişanlama model səviyyəsində həyata keçirildiyi halda eyni modeldən istifadə edən Claude API, Claude Code, Claude Cowork və Claude Tag kimi xidmətlərdə yaradılan mətnlərə də tətbiq edilə bilər. Claude Tag artıq Anthropic-in rəsmi məhsullarından biridir və şirkət onu komandaların Claude ilə birgə işləməsi üçün təqdim edib.

Bununla belə, görünməz nişanın mövcudluğu hər hansı mətnin tamamilə Claude tərəfindən yazıldığını sübut edən qəti vasitə kimi qəbul edilməməlidir. Məsələn, istifadəçi özü yazdığı mətni Claude-a redaktə etdirə, tərcümə etdirə və ya yenidən formalaşdıra bilər. Belə halda mətn Claude tərəfindən emal edilsə də, ilkin müəllif insan olaraq qalır.

Eyni qaydada, nişanın aşkar edilməməsi də mətnin süni intellekt tərəfindən yaradılmadığını sübut etmir. Mətnin ciddi şəkildə redaktə edilməsi, yenidən ifadə olunması, tərcüməsi, başqa mətnlərlə birləşdirilməsi və ya mətnin çox qısa olması rəqəmsal işarənin aşkarlanmasını çətinləşdirə bilər. Buna görə texnologiya klassik mənada universal “süni intellekt detektoru”ndan daha çox məzmunun mənşəyini izləməyə kömək edən mexanizm kimi qiymətləndirilməlidir.

Anthropic mətnlə yanaşı, Claude vasitəsilə yaradılan və ya emal olunan uyğun faylların mənşəyini müəyyənləşdirmək üçün C2PA kimi standartlardan istifadəyə də yönəlir. Belə texnologiyalar fayla onun yaradılma və redaktə tarixçəsi barədə kriptoqrafik şəkildə təsdiqlənə bilən məlumat əlavə etməyə imkan verir.

Şirkətin bu addımı internetdə süni intellekt tərəfindən yaradılan məzmunun sürətlə artdığı bir dövrdə xüsusilə əhəmiyyətlidir. Belə nişanlama sistemləri gələcəkdə xəbər saytları, sosial şəbəkələr, təhsil müəssisələri və digər platformalara məzmunun süni intellekt tərəfindən yaradılıb-yaradılmadığını deyil, ən azı konkret sistem tərəfindən emal edilib-edilmədiyini müəyyənləşdirmək üçün əlavə siqnal verə bilər.