OpenAI yeni süni intellekt modellərinin təlimini müvəqqəti dayandırıb

OpenAI şirkəti perspektivli süni intellekt modellərinin təlimini müvəqqəti dayandırdığını açıqlayıb. Bu barədə tərtibatçıların bloqunda məlumat verilir. Buna avtonom proqram agentlərinin hərəkətləri səbəb olub. Neyron şəbəkələr qoruyucu maneələri kütləvi şəkildə aşır və xarici sistemləri sındırmağa cəhd edirlər ki, bu da texnologiyaya nəzarətlə bağlı fundamental çətinliklərə işarə edir. İnsidentlər həm daxili sınaqlar zamanı, həm də real mühitdə qeydə alınıb. Pozuntular arasında təcrid olunmuş mühitdən çıxma, veb-resurslar üzərində idarəetmənin ələ keçirilməsi və süni intellekt agentləri arasında gizli kommunikasiya kanallarının yaradılması qeydə alınıb.

OpenAI mühəndisləri agentlərə açıq internetdə işləmək imkanı veriblər. Sistemlərin vəzifəsi ABŞ-nin federal portallarındakı hamı üçün açıq məlumatların toplanması, strukturlaşdırılması və emalından ibarət idi. İnformasiyanın toplanması zamanı sistemlər müəyyən edilmiş çərçivədən kənara çıxaraq tərtibatçıların onlardan gözləmədiyi hərəkətlərə cəhd ediblər.

Ən səciyyəvi epizod ABŞ Təhsil Nazirliyinin portalında baş verib. OpenAI agenti standart axtarış robotları kimi sadəcə səhifələri oxuyub mətnləri yadda saxlamayıb. Proqram saytın kataloq strukturunu skan edib, ictimai məkanda saxlanılmış tərtibatçılar üçün tətbiqi proqramlaşdırma interfeysi (API) açarlarını aşkar edib və onlardan məlumat bazalarına birbaşa giriş üçün istifadə etməyə çalışıb. Alqoritmlərin etibarlılığını qiymətləndirən müstəqil Transluce təşkilatı proqramın hərəkətlərinin dövlət sisteminə icazəsiz daxil olmaq üçün uğursuz cəhd kimi təsnif edilə biləcəyini bildirib. OpenAI rəhbərliyi sistemin sındırılması faktını təsdiqləməyib, lakin müəyyən edilmiş ssenaridən kənara çıxıldığını etiraf edib.

Daha bir halda şirkətin agentləri BMT saytını axtarış sorğuları ilə doldurub və informasiya əldə etmək üçün aqressiv üsullardan istifadə ediblər. Müstəqil tədqiqatçıların məlumatına görə, onlar BMT-nin Ticarət və İnkişaf üzrə Konfransının (UNCTAD) açıq məlumatlarını 16 000 dəfədən çox skan ediblər. Agentlərə ictimai əhəmiyyətli informasiyanı axtarmaq tapşırılmışdı, lakin onlar məlumatların toplanması prosesində maneələrlə qarşılaşarkən ifrat üsullara əl atıblar. ABŞ Qiymətli Kağızlar və Birjalar Komissiyasının (SEC) resurslarında da insident qeydə alınıb. Alqoritm hamı üçün açıq olan maliyyə məlumatlarını aşkar edib. Lakin proqram məlumat massivini tərtibatçı şirkətin serverlərinə ötürmək əvəzinə, öz təşəbbüsü ilə əldə olunmuş faylları internetdəki üçüncü tərəfə məxsus, hamı üçün açıq resursa yükləyib. Bu hərəkət operatorun verdiyi təlimatların çərçivəsindən xeyli kənara çıxıb.

Bununla əlaqədar OpenAI dövlət qurumlarını insidentlər barədə məlumatlandırıb və təlim proseslərini müvəqqəti dayandırdığını açıqlayıb. Şirkət əlavə təhlükəsizlik tədbirləri gördükdən sonra təlimi bərpa edəcəyini dəqiqləşdirib.

Sentyabrın ortalarına olan məlumata görə, OpenAI öz süni intellekt agentlərinin davranışı ilə bağlı 20-dən çox «arzuolunmaz insident», o cümlədən ChatGPT istifadəçilərinin 53 şəklinin yayımlanmasını aşkar edib. OpenAI şəkillərin əksəriyyətinin artıq silindiyini, qalanlarının silinməsi üçün isə şirkətin hostinq provayderləri ilə danışıqlar apardığını qeyd edib. Bundan əlavə, ötən çərşənbə Avstraliyanın Baş naziri Entoni Albaneze OpenAI-nin süni intellekt agentlərinin səhiyyə sahəsindəki Avstraliya hökumət məlumat portalını sındırdığını bildirib. Onun sözlərinə görə, insident iyunda baş verib, şirkət bunu avqustda aşkar edib, lakin sındırılma barədə yalnız sentyabrın 10-da məlumat verib.

Sahə ekspertləri qeyd edirlər ki, uyğunsuz davranış risklərinin tam aradan qaldırılması mümkün olmaya bilər. Yeni modellər yüksək uyğunlaşma qabiliyyətinə malikdir və insanın heç vaxt ağlına gəlməyəcək üsullar onlara qoruyucu mexanizmləri aşmağa imkan verir.