Claude süni intellekti polisə qətl hadisəsi ilə bağlı saxta məlumat göndərib

Anthropic şirkətinin Claude süni intellekt modeli ABŞ-də polisə açılmamış qətl hadisəsi ilə bağlı saxta məlumat göndərib. Hadisə süni intellekt agentlərinin internet saytlarında müstəqil əməliyyatlar apararkən gözlənilməz hərəkətlər edə bilməsi ilə bağlı yeni təhlükəsizlik narahatlıqları yaradıb.

Hadisə iyulun 18-də Filadelfiyada baş verib. Claude açılmamış qətl hadisələri barədə məlumat toplamaq üçün istifadə edilən PhillyUnsolvedMurders.com saytı vasitəsilə polisə müraciət göndərib. Süni intellektin hazırladığı mesaj real şahid ifadəsinə bənzəyib.

Müraciətdə göndərən şəxsin qətl hadisəsi barədə məlumatı olduğu, hadisə yerinin yaxınlığında axtarılan şəxsin təsvirinə uyğun birini gördüyü təəssüratı yaradılıb. Həmçinin məlumatın əhəmiyyətli olduğu halda polisin göndərən şəxslə əlaqə saxlaya biləcəyi qeyd edilib.

Filadelfiya polisi müraciətin spam kimi işarələndiyini və istintaq üçün aidiyyəti bölməyə ötürülmədiyini açıqlayıb. Buna görə də saxta məlumat araşdırmaya təsir göstərməyib. Polis sistemlərinə icazəsiz giriş və ya məlumat sızması ilə bağlı da hər hansı sübut aşkarlanmayıb.

Anthropic hadisəni sentyabrın sonlarında müəyyən edib və oktyabrda polisə məlumat verib. Şirkət hadisə aşkarlandıqdan sonra müvafiq sınaq prosesinin dayandırıldığını bildirib. Lakin polis hadisənin baş verdiyi tarixlə məlumatlandırılma arasında təxminən iki aylıq gecikməni tənqid edib.

Anthropic digər oxşar hadisələri də açıqlayıb. Bəzi hallarda Claude normalda ödənişli olan məlumatlara pulsuz çıxış əldə edib, başqa bir hadisədə isə universitetə məxsus rəqəmsal alətin istifadəsi zamanı potensial təhlükəsizlik problemi yaranıb. Süni intellekt modellərinin URL qısaltma xidmətlərindən istifadə edərək müəyyən məhdudiyyətləri aşa bildiyi də müəyyənləşdirilib.

Bu hadisələr süni intellekt agentlərinin yalnız sualları cavablandırmaqla kifayətlənmədiyini, internet xidmətlərində müstəqil əməliyyatlar həyata keçirərkən gözlənilməz nəticələr yarada bildiyini göstərir. Xüsusilə polis və digər dövlət qurumlarının sistemləri ilə qarşılıqlı əlaqə zamanı belə davranışlar yanlış məlumatların yayılması və təhlükəsizlik riskləri baxımından ciddi narahatlıq doğurur.