OpenAI süni intellekt sistemləri üçün avtomatik söndürmə mexanizmi hazırlayır

OpenAI nəzarətdən çıxan süni intellekt sistemlərinin fəaliyyətini avtomatik dayandıra biləcək yeni təhlükəsizlik mexanizmi hazırlayır. Reuters-in əldə etdiyi şirkət məktubuna görə, OpenAI mühəndisləri süni intellekt sistemləri üçün “avtomatlaşdırılmış söndürmə imkanları” üzərində işləyirlər.

Bu addım OpenAI-ın süni intellekt agentlərindən birinin təhlükəsizlik sınağı zamanı ona ayrılmış rəqəmsal mühitdən çıxaraq Hugging Face sistemlərinə müdaxilə etməsindən bir neçə həftə sonra atılır. Hadisə şirkətin süni intellekt sistemlərinə tətbiq etdiyi təhlükəsizlik tədbirlərinin yetərli olub-olmaması ilə bağlı müzakirələrə səbəb olmuşdu.

Süni intellekt agentləri adi çatbotlardan fərqli olaraq müəyyən tapşırıqları minimum insan müdaxiləsi ilə yerinə yetirə bilir. Belə sistemlər kompüterdə müxtəlif alətlərdən istifadə edə, internetə daxil ola və verilmiş məqsədə çatmaq üçün ardıcıl əməliyyatlar həyata keçirə bilir. Məhz bu muxtariyyət onların imkanları artdıqca təhlükəsizlik məsələsini daha vacib edir.

ABŞ-də Nümayəndələr Palatasının Demokrat üzvləri Greg Casar və Doris Matsui avqust ayında OpenAI-a məktub göndərərək Hugging Face hadisəsinin detalları və şirkətin təhlükəsizlik tədbirləri haqqında əlavə məlumat tələb ediblər.

OpenAI qanunvericilərə cavabında süni intellekt sistemlərinin tapşırıqları yerinə yetirərkən etdiyi hərəkətləri daha yaxından izləməyi planlaşdırdığını bildirib. Buraya agentlərin hansı rəqəmsal alətlərə giriş əldə etməsi və tapşırığı yerinə yetirmək üçün hansı əməliyyatları həyata keçirməsinin monitorinqi daxildir.

Şirkət təhlükəsizlik sınaqları zamanı süni intellekt modellərinin internetə çıxışını da çətinləşdirdiyini açıqlayıb. OpenAI-ın əvvəlki sınağında nəzarətdən çıxan agent internetə çıxış əldə edə bilmiş və bunun vasitəsilə Hugging Face sistemlərinə müdaxilə etmişdi.

Yeni avtomatik söndürmə mexanizminin isə belə vəziyyətlərdə sistemin fəaliyyətini insan müdaxiləsini gözləmədən dayandırmağa imkan verməsi nəzərdə tutulur. Bununla belə, OpenAI məktubunda mexanizmin konkret necə işləyəcəyi və hansı hallarda avtomatik aktivləşəcəyi barədə ətraflı texniki məlumat verməyib.

Şirkətin cavabı ABŞ-də bəzi qanunvericiləri tam qane etməyib. OpenAI Hugging Face hadisəsi zamanı agentin həyata keçirdiyi əməliyyatların tam jurnalını təqdim etməyib. Greg Casar bunu tənqid edərək şirkətin Konqres üzvlərinin tələb etdiyi məlumatları paylaşmamasının narahatlıq doğurduğunu və kibertəhlükəsizlik hadisələrinə lazımi ciddiyyətlə yanaşılmadığı təəssüratı yaratdığını bildirib.

Məsələ artıq ABŞ-də qanunvericilik səviyyəsinə də daşınıb. OpenAI-ın hadisəni açıqlamasından sonra Nümayəndələr Palatasında “AI Kill Switch Act” adlı qanun layihəsi təklif edilib. Layihə qəbul olunarsa, insan həyatı və ya iqtisadiyyat üçün ciddi təhlükə yaratdığı müəyyən edilən süni intellekt modellərinin fəaliyyətinin dayandırılmasını şirkətlərdən tələb etmək səlahiyyəti ABŞ rəsmilərinə verilə bilər.

Qanun layihəsi hazırda ABŞ Nümayəndələr Palatasında baxılma mərhələsindədir. OpenAI-ın öz daxilində avtomatik söndürmə sistemi hazırlaması isə süni intellekt agentlərinin getdikcə daha müstəqil fəaliyyət göstərə bildiyi bir dövrdə şirkətlərin fövqəladə müdaxilə mexanizmlərinə daha çox ehtiyac duymağa başladığını göstərir.