OpenAI və Anthropic böyük AI insidentinə qarşı qapalı məşqlər keçirir

    “Anthropic”, “OpenAI” və digər aparıcı süni intellekt (AI) laboratoriyalarının nəzarətdən çıxmış AI ilə bağlı fövqəladə ssenarilər hazırladığı deyilir. Planlarda maliyyə xidmətləri, internet, telekommunikasiya, elektrik və su sistemlərinin sıradan çıxması ehtimalı araşdırılır. Şirkət rəhbərləri belə hadisənin nəticələrini əvvəlcədən qiymətləndirmək üçün qapalı məşqlər keçirirlər.    Böyük şirkətlərin fövqəladə hallara hazırlaşması adi haldır. Ancaq bu dəfə söhbət genişmiqyaslı AI insidentindən gedir. Bəzi mütəxəssislər belə hadisənin 6 ilə 12 ay ərzində baş verə biləcəyini düşünür. “OpenAI” nümayəndəsinə görə, məşqlərdə müxtəlif ehtimallar araşdırılır, amma bunlar qaçılmaz hadisə sayılmır. Hazırlıq prosesi Pentaqonun mümkün münaqişələrə hazırlaşmaq üçün keçirdiyi ssenari məşqlərinə bənzədilir.    “Anthropic” rəhbəri Dario Amodei yaxın aylarda interneti ələ keçirə biləcək botnet sürüsü barədə xəbərdarlıq edib. Botnet kənardan idarə olunan çoxlu yoluxmuş cihazın yaratdığı şəbəkədir. Bundan əvvəl “OpenAI” modellərinin sınaq mühitindən kənara çıxdığı hallar gündəmə gəlmişdi. Başqa bir sınaqda fövqəladə söndürmə sistemi AI agentini dayandıra bilməyib. Buna görə startap testi müvəqqəti saxlamalı olub.    “Anthropic” birjaya çıxmaq üçün hazırladığı sənəddə insanlığın varlığına yönələn riskləri əsas təhlükələrdən biri kimi göstərib. Sənədin təxminən 3-də 1 hissəsi bu mövzuya ayrılıb. “OpenAI”-ın keçmiş təhlükəsizlik əməkdaşı riskləri laboratoriyalarda təhlükəsizlik mədəniyyətinin zəif olması ilə əlaqələndirib. Ağ Ev sərt qaydalar qoymaq əvəzinə “Nvidia”, “OpenAI” və “Anthropic” kimi şirkətlərdən öz işlərinə nəzarət etmələrini istəyib.    Ssenarilərə görə, böyük insident baş verərsə, Konqresə də məlumat veriləcək. Belə hadisə AI inkişafını yavaşlatmaq və ya dayandırmaq cəhdlərinə səbəb ola bilər. Ancaq bunun ciddi çətinliklər yaradacağı düşünülür. Texnologiya şirkətləri AI infrastrukturu üçün artıq 1 trilyon dollardan çox pul xərcləyib. Bu, 1,7 trilyon manatdan çoxdur. 2050-ci ilə qədər daha 32 trilyon dollar, yəni təxminən 54,4 trilyon manat sərmayə qoyulacağı gözlənilir.    “Anthropic”, “OpenAI” və “SpaceXAI” rəhbərləri təhlükəsizlik naminə AI inkişafının yavaşladılmalı olduğunu qəbul ediblər. Ancaq şirkətlərin bunun üçün hansı real addımları atdığı aydın deyil. Ssenarilərin hazırlanması hadisənin qaçılmaz sayıldığı demək deyil. Bununla belə, məşqlər laboratoriyaların böyük AI insidenti ehtimalına ciddi yanaşdığını göstərir.