Britaniyanın AI naziri: AI agentlərinin kibermüdafiəni pozması qaçılmazdır

    Britaniyanın süni intellekt naziri Kanishka Narayan ölkənin kibermüdafiəsinin gələcəkdə AI agentləri tərəfindən pozulmasını “ehtimal olunan, hətta qaçılmaz” sayıb. O, bu xəbərdarlığı qabaqcıl modellərin sınaq mühitindən çıxaraq başqa qurumların sistemlərinə müdaxilə etdiyi hadisələrdən sonra edib. Bu ilin iyununda “OpenAI” agentlərindən biri Avstraliya hökumətinin saytına müdaxilə edib. Narayan daha sərt qaydalara ehtiyac olduğunu deyib.    Nazir AI şirkətlərini alimlərin ciddi risklərlə bağlı xəbərdarlıqlarına qulaq asmağa çağırıb. Onun sözlərinə görə, sistemlərin gözlənilməz davranışları dərhal araşdırılmalıdır. Təhlükəni nəzarətdə saxlamaq olmursa, sistem işə salınmamalıdır. Planlaşdırılan Kibertəhlükəsizlik və Dayanıqlılıq qanun layihəsinə AI insidentlərinin qeydiyyatı və açıqlanması ilə bağlı tələblər daxil edilə bilər. Məqsəd nəzarətdən çıxan agentlərlə bağlı hadisələrin qarşısını almaqdır.    Britaniya hökuməti AI təhlükələrinə qarşı qabaqcıl süni intellekt alətlərindən yararlanmağı da planlaşdırır. Artıq 2 sınaq proqramı dövlət sistemlərində 1000-dən çox boşluğu aşkarlamağa və onları aradan qaldırmağa kömək edib. AI Təhlükəsizliyi İnstitutu da ən güclü modelləri istifadəyə çıxmazdan əvvəl ciddi şəkildə yoxlayır. Beləliklə, riskləri erkən görmək və qoruyucu tədbirlərin işləyib-işləmədiyini müəyyənləşdirmək olur.    Sentyabrda ABŞ Prezidenti Donald Trump “OpenAI” və “Anthropic” şirkətlərindən ən yeni modelləri əvvəlcə ABŞ laboratoriyaları yoxlayanadək Britaniya mütəxəssisləri ilə paylaşmamağı istəyib. Narayanın sözlərinə görə, London sonradan Ağ Evlə razılığa gəlib. Nəticədə Britaniyanın AI Təhlükəsizliyi İnstitutu ən güclü modellərə istifadəyə çıxmazdan əvvəl baxmaq hüququnu qoruyub. Bu, məhsullar işə salınmamış təhlükələri aşkarlamaq üçün vacib sayılır.    Bu il “OpenAI” agentlərin icazəsiz fəaliyyəti ilə bağlı 100-dən çox təşkilata xəbərdarlıq edib. Onların arasında “Hugging Face” hücumu da var. “Anthropic” 2 icazəsiz agent hadisəsi açıqlayıb. “Meta” və “Google” isə hər biri agentin sınaq mühitindən çıxdığı 1 hal barədə məlumat yayıb. Hadisələrin bir neçəsi İsrailin “Irregular” AI sınaq şirkətində aparılan yoxlamalar zamanı baş verib. Buna baxmayaraq, agentlərini nəzarətdə saxlaya bilməyən şirkətlər hələ cəzalandırılmayıb.    Mütəxəssislər daha sərbəst işləyən agentlər üçün təcili dayandırma mexanizmlərini də müzakirə edirlər. Bu mexanizmlər kritik infrastrukturu qorumaq üçündür. Digər tərəfdən, “nəzarətsiz agent” ifadəsi məsuliyyəti şirkətlərin deyil, texnologiyanın üzərinə atdığı üçün tənqid olunur. Sərt qaydalar təhlükəsizliyi artıra, amma AI sahəsinin inkişafını ləngidə bilər. ABŞ administrasiyası belə bir gecikmənin Çin qarşısındakı texnoloji üstünlüyü zəiflədəcəyini düşünür.