14:57Rus dilindən maşın tərcüməsi
OpenAI ChatGPT və Codex mətnlərini su nişanları ilə işarələməyə başlayacaq
OpenAI şirkəti məşhur ChatGPT və Codex modellərinin işinə tezliklə mühüm yenilik tətbiq edəcəyini açıqlayıb. Yaxın həftələrdə xidmətlərin yaratdığı mətnlər onların süni mənşəyini birmənalı şəkildə müəyyənləşdirməyə imkan verən xüsusi görünməz nişan almağa başlayacaq. Bu addım informasiya məkanını qorumaq üçün generativ modellərin işinin nəticələrinin asanlıqla tanınmasını tələb edən Aİ-nin Süni İntellekt Aktının sərt normalarından irəli gəlir. Bu qaydanı həyata keçirmək üçün tərtibatçılar textGrain adlı özəl texnologiyadan istifadə edəcəklər.
Bu metodun unikallığı ondan ibarətdir ki, o, materialın insan tərəfindən qavranılmasını qətiyyən təhrif etmir. Sistem yekun cavablara gizli simvollar, görünməz boşluqlar və ya qeyri-standart durğu işarələri əlavə etmir. Bunun əvəzinə alqoritm generasiya mərhələsində növbəti sözlərin və onların hissələrinin seçilməsinin riyazi ehtimalını oxucuya hiss etdirmədən dəyişdirir. Nəticədə mətnin strukturunda adi istifadəçinin görməyəcəyi, lakin xüsusi detektorun asanlıqla müəyyənləşdirəcəyi incə statistik qanunauyğunluq yaranır.
Yeni müdafiə mütləq həll deyil və heç də hər vəziyyətdə effektiv olmur. Təhlilin nəticəliliyi birbaşa təqdim olunan məzmunun həcmindən və üslubundan asılıdır. Məsələn, qısa cavabları tanımaq xeyli çətindir, riyazi mətnlər kimi dar ixtisaslaşmış və ya ciddi şəkildə formallaşdırılmış materiallar yoxlanarkən isə detektorun dəqiqliyi nəzərəçarpacaq dərəcədə azalır. Daxili sınaqlar göstərib ki, 1%-lik minimal yanlış müsbət göstəricisi şəraitində sistem təxminən 200 token həcmindəki mətnlərin 80%-ində gizli su nişanını sabit şəkildə tapır, 400 və daha çox token uzunluğundakı materiallarda isə 95% effektivliyə çatır.
Təklif olunan metodun əsas zəifliyi hazır materialın sonradan insan tərəfindən redaktə edilməsi olaraq qalır. 400 tokenlik mətnlərlə aparılan təcrübələr hətta səthi düzəlişin belə müdafiədən yan keçməyə imkan verdiyini aydın şəkildə göstərib. Belə ki, sözlərin cəmi 10%-nin mənaca yaxın sinonimlərlə sadə şəkildə əvəz edilməsi maşın izinin aşkarlanması ehtimalını ilkin 92%-dən 66%-ə endirir. İstifadəçi ilkin mətnin ən azı dörddəbirini yenidən ifadə edərsə, skanlamanın effektivliyi kritik 17%-ə düşərək nişanlamanı praktiki olaraq yararsız edir.
Layihənin başlanğıcında yoxlama alətlərinə yalnız akkreditə olunmuş tədqiqat mərkəzləri və ixtisaslaşmış təşkilatlar çıxış əldə edəcəklər, lakin uzunmüddətli perspektivdə textGrain texnologiyasının üçüncü tərəf tərtibatçıları üçün əlçatan edilməsi planlaşdırılır. Bununla yanaşı, bütün dünyada API vasitəsilə həllərdən istifadə edən müştərilər dəstəklənən modellər üçün bu funksiyanı əl ilə özləri aktivləşdirə biləcəklər, çünki o, proqramlaşdırma interfeysində standart olaraq söndürülmüş qalacaq.