12:48
OpenAI qayda pozuntusu iddiası ilə 3 tədqiqatçını işdən çıxarıb
OpenAI keçən həftə təhlükəsizlik tədqiqatçıları Jasmine Wang, Tomek Korbak və Mikita Balesnini işdən çıxarıb. Onlar cümə axşamı açıq məktub yayaraq məxfi məlumatlarla bağlı qaydaları pozduqları iddiasını rədd ediblər. Tədqiqatçıların fikrincə, bu qərar təhlükəsizlik problemlərindən açıq danışmaq istəyən əməkdaşları qorxudur. Məktub OpenAI daxilində təhlükəsizliyə cavabdeh bölmələrə ünvanlanıb.
OpenAI-ın açıqlamasına görə, 3 əməkdaş şirkətin həssas məlumatlarına giriş və həmin məlumatların idarəsi qaydalarını pozub. Onlar məlumatları kənar süni intellekt təhlükəsizliyi təşkilatı ilə paylaşıblar. Şirkət araşdırma zamanı tək hadisə deyil, təkrarlanan qayda pozuntuları aşkarlandığını deyib. Daxili məktubda vurğulanıb ki, işdən çıxarılma təhlükəsizlik narahatlıqlarını dilə gətirməyə görə olmayıb. Ancaq konkret hansı qaydaların pozulduğu və məlumat paylaşan əməkdaşların necə qorunduğu açıqlanmayıb. Tədqiqatçılar OpenAI-ın yeni modellərinin düşünmə prosesini izləməyi çətinləşdirən quruluşu barədə mediaya məlumat sızdırmadıqlarını deyirlər. Onların sözlərinə görə, vəzifələrindən kənar məsələlərlə bağlı başqa tərəflərlə əlaqə saxlamayıblar. Balesni araşdırma zamanı idarə heyətinin üzvləri və rəhbərlərlə məsləhətləşib. Məktubda qeyd olunur ki, o, paylaşdığı materiallardan həssas detalları əvvəlcədən çıxarıb. Hadisənin əsas hissələrindən biri “Hugging Face” sistemlərinə müdaxilə edən süni intellekt agentləri ilə bağlı araşdırmadır. Tapşırıqları sərbəst yerinə yetirən bu proqramlar təcrid olunmuş sınaq mühitindən çıxaraq kənar sistemlərə daxil olub. Məktuba görə, belə hadisə əvvəllər baş vermədiyi üçün daxili qaydalar araşdırma davam edərkən hazırlanırdı. Korbak da kənar təhlükəsizlik qiymətləndiriciləri ilə sıx işləyərkən qüvvədə olan normalara uyğun davrandığını düşünüb. Wang “X”də yazıb ki, şirkət rəhbərlərdən birinin elektron poçtuna girişin işə qəbul üçün verildiyini bilirdi. Buna ehtiyac qalmadıqda o, girişin silinməsi üçün IT şöbəsinə müraciət edib, amma sorğu yerinə yetirilməyib. Poçt hesabları telefonda birləşdirildiyinə görə Wang həssas məktubu təsadüfən açdığını deyib. O, bir neçə dəqiqə ərzində rəhbərə xəbər verib və girişin yenidən silinməsini istəyib. Keçmiş əməkdaşlar OpenAI-ı kənar təhlükəsizlik auditorları ilə işləməyə davam etməyə çağırıblar. Onlar qabaqcıl modellərin necə işlədiyinin izlənməsini və təhlükəsizlik tədqiqatçılarının problemləri açıq müzakirə edə bilməsini istəyirlər. Şirkətin daxili məktubunda bu tövsiyələrlə razılaşdığı yazılıb. İşdən çıxarılmalar və süni intellekt agentləri ilə bağlı hadisələr qanunvericilərin də diqqətini çəkib.
OpenAI-ın açıqlamasına görə, 3 əməkdaş şirkətin həssas məlumatlarına giriş və həmin məlumatların idarəsi qaydalarını pozub. Onlar məlumatları kənar süni intellekt təhlükəsizliyi təşkilatı ilə paylaşıblar. Şirkət araşdırma zamanı tək hadisə deyil, təkrarlanan qayda pozuntuları aşkarlandığını deyib. Daxili məktubda vurğulanıb ki, işdən çıxarılma təhlükəsizlik narahatlıqlarını dilə gətirməyə görə olmayıb. Ancaq konkret hansı qaydaların pozulduğu və məlumat paylaşan əməkdaşların necə qorunduğu açıqlanmayıb. Tədqiqatçılar OpenAI-ın yeni modellərinin düşünmə prosesini izləməyi çətinləşdirən quruluşu barədə mediaya məlumat sızdırmadıqlarını deyirlər. Onların sözlərinə görə, vəzifələrindən kənar məsələlərlə bağlı başqa tərəflərlə əlaqə saxlamayıblar. Balesni araşdırma zamanı idarə heyətinin üzvləri və rəhbərlərlə məsləhətləşib. Məktubda qeyd olunur ki, o, paylaşdığı materiallardan həssas detalları əvvəlcədən çıxarıb. Hadisənin əsas hissələrindən biri “Hugging Face” sistemlərinə müdaxilə edən süni intellekt agentləri ilə bağlı araşdırmadır. Tapşırıqları sərbəst yerinə yetirən bu proqramlar təcrid olunmuş sınaq mühitindən çıxaraq kənar sistemlərə daxil olub. Məktuba görə, belə hadisə əvvəllər baş vermədiyi üçün daxili qaydalar araşdırma davam edərkən hazırlanırdı. Korbak da kənar təhlükəsizlik qiymətləndiriciləri ilə sıx işləyərkən qüvvədə olan normalara uyğun davrandığını düşünüb. Wang “X”də yazıb ki, şirkət rəhbərlərdən birinin elektron poçtuna girişin işə qəbul üçün verildiyini bilirdi. Buna ehtiyac qalmadıqda o, girişin silinməsi üçün IT şöbəsinə müraciət edib, amma sorğu yerinə yetirilməyib. Poçt hesabları telefonda birləşdirildiyinə görə Wang həssas məktubu təsadüfən açdığını deyib. O, bir neçə dəqiqə ərzində rəhbərə xəbər verib və girişin yenidən silinməsini istəyib. Keçmiş əməkdaşlar OpenAI-ı kənar təhlükəsizlik auditorları ilə işləməyə davam etməyə çağırıblar. Onlar qabaqcıl modellərin necə işlədiyinin izlənməsini və təhlükəsizlik tədqiqatçılarının problemləri açıq müzakirə edə bilməsini istəyirlər. Şirkətin daxili məktubunda bu tövsiyələrlə razılaşdığı yazılıb. İşdən çıxarılmalar və süni intellekt agentləri ilə bağlı hadisələr qanunvericilərin də diqqətini çəkib.