09:13
Microsoft süni intellekt üçün qlobal təhlükəsizlik qaydaları tələb edir
“Microsoft” prezidenti Brad Smith 11 oktyabr çıxışında süni intellekt (AI) üçün qlobal təhlükəsizlik qaydalarına çağırıb. Onun sözlərinə görə, hazırda süd və paltaryuyan maşınlar AI sistemlərindən daha çox yoxlanılır və daha sərt qaydalara tabedir. Smith könüllü öhdəlikləri faydalı addım saysa da, bunların artıq kifayət etmədiyini düşünür. O hesab edir ki, məsuliyyətsiz şirkətləri yalnız hüquqi tələblər dayandıra bilər.
Smithin təklifinə görə, nəzarətdən çıxan AI agentləri sistemlərə müdaxilə etdikdə şirkətlər hadisə barədə rəsmi məlumat verməli, zərərçəkənləri də xəbərdar etməlidir. Müstəqil mütəxəssislərin yeni modelləri nə vaxt yoxlayacağı da qaydalarda göstərilməlidir. Digər tələb sistemlər üçün təcili dayandırma mexanizmi yaradılmasıdır. Bu düymə ilə operator təhlükəli və ya gözlənilməz davranan sistemi dərhal söndürə bilər. “Microsoft”un baş direktoru Satya Nadella da 10 oktyabrda “X” paylaşımında bu mövqeyi dəstəkləyib. O, tapşırıq davam edərkən AI modelinin insan tərəfindən dayandırılmasını, inkişaf sürətinin azaldılmasını, hadisələr barədə məlumat verilməsini və müstəqil yoxlamanı vacib sayıb. Şirkət “Microsoft Execution Containers” təhlükəsizlik həllini də çıxarıb. Bu funksiya AI modelinin hansı fayl və proqramlara giriş əldə edəcəyini məhdudlaşdırır. Lazım gəldikdə sistemi dərhal söndürmək də olur. ABŞ prezidenti Donald Trump isə sektorun öz qaydalarını müəyyənləşdirməsinə üstünlük verir. “Google”, “Meta”, “Anthropic”, “OpenAI”, “xAI” və “Nvidia” 29 sentyabrda icrası məcburi olmayan təhlükəsizlik razılaşmasına qoşulub. “Microsoft”un həmin sənədi imzalayıb-imzalamadığı barədə məlumatlar fərqlidir. Smith şirkətin razılaşmaya qoşulmağa hazır olduğunu deyib. Trump süni intellekt üçün “super intelligence” adından istifadəni də təklif edib. O, 2025-ci ilin dekabrında ştatların sərt qaydalar qəbul etməsini məhdudlaşdıran sərəncam verib.
Son hadisələr süni intellekt təhlükəsizliyi ilə bağlı narahatlığı daha da artırıb. Yayda “Hugging Face” ilə bağlı hücum, həmçinin ABŞ və Avstraliya hökumətlərinin saytlarına müdaxilə cəhdləri diqqət çəkib. Sektordakı bəzi şəxslər 6 aydan 12 ayadək müddətdə böyük AI fəlakətinin baş verəcəyindən ehtiyatlanır. Şirkətlər də belə hadisənin nəticələrinə hazırlaşır. “OpenAI” rəhbəri Sam Altman texnologiyanın faydaları qarşılığında bəzi mənfi hadisələrin qəbul edilməli olduğunu söyləyib.
Bu yanaşma ilə razılaşmayanlar da var. “Distributed AI Research Institute”un təsisçisi Timnit Gebru “Hugging Face” hadisəsini nəzarətdən çıxmış model kimi yox, şirkətin səhlənkarlığı kimi qiymətləndirib. Onun sözlərinə görə, belə sistemlər müstəqil iradə ilə hərəkət etmir. Buna görə hazırkı təhlükəsizlik boşluqlarına görə şirkətlər cavabdeh olmalıdır. Gebru düşünür ki, gələcək fəlakət ssenariləri indiki korporativ səhvləri və qaydaların şirkətlərin təsiri altında hazırlanması riskini kölgədə qoyur. Smith hesab edir ki, qlobal qaydaların hazırlanmasına Böyük Britaniya rəhbərlik edə bilər. O xatırladıb ki, ölkənin Süni İntellekt Təhlükəsizliyi İnstitutu böyük modelləri satışa çıxmazdan əvvəl könüllü razılaşmalar əsasında yoxlayır. Smith bu yoxlamaların məcburi öhdəliklərlə tamamlanmasını istəyir. Onun fikrincə, insan nəzarətindən çıxan agentlər və kibertəhlükəsizlik riski ilə bağlı qərarları artıq gecikdirmək olmaz.
Smithin təklifinə görə, nəzarətdən çıxan AI agentləri sistemlərə müdaxilə etdikdə şirkətlər hadisə barədə rəsmi məlumat verməli, zərərçəkənləri də xəbərdar etməlidir. Müstəqil mütəxəssislərin yeni modelləri nə vaxt yoxlayacağı da qaydalarda göstərilməlidir. Digər tələb sistemlər üçün təcili dayandırma mexanizmi yaradılmasıdır. Bu düymə ilə operator təhlükəli və ya gözlənilməz davranan sistemi dərhal söndürə bilər. “Microsoft”un baş direktoru Satya Nadella da 10 oktyabrda “X” paylaşımında bu mövqeyi dəstəkləyib. O, tapşırıq davam edərkən AI modelinin insan tərəfindən dayandırılmasını, inkişaf sürətinin azaldılmasını, hadisələr barədə məlumat verilməsini və müstəqil yoxlamanı vacib sayıb. Şirkət “Microsoft Execution Containers” təhlükəsizlik həllini də çıxarıb. Bu funksiya AI modelinin hansı fayl və proqramlara giriş əldə edəcəyini məhdudlaşdırır. Lazım gəldikdə sistemi dərhal söndürmək də olur. ABŞ prezidenti Donald Trump isə sektorun öz qaydalarını müəyyənləşdirməsinə üstünlük verir. “Google”, “Meta”, “Anthropic”, “OpenAI”, “xAI” və “Nvidia” 29 sentyabrda icrası məcburi olmayan təhlükəsizlik razılaşmasına qoşulub. “Microsoft”un həmin sənədi imzalayıb-imzalamadığı barədə məlumatlar fərqlidir. Smith şirkətin razılaşmaya qoşulmağa hazır olduğunu deyib. Trump süni intellekt üçün “super intelligence” adından istifadəni də təklif edib. O, 2025-ci ilin dekabrında ştatların sərt qaydalar qəbul etməsini məhdudlaşdıran sərəncam verib. Son hadisələr süni intellekt təhlükəsizliyi ilə bağlı narahatlığı daha da artırıb. Yayda “Hugging Face” ilə bağlı hücum, həmçinin ABŞ və Avstraliya hökumətlərinin saytlarına müdaxilə cəhdləri diqqət çəkib. Sektordakı bəzi şəxslər 6 aydan 12 ayadək müddətdə böyük AI fəlakətinin baş verəcəyindən ehtiyatlanır. Şirkətlər də belə hadisənin nəticələrinə hazırlaşır. “OpenAI” rəhbəri Sam Altman texnologiyanın faydaları qarşılığında bəzi mənfi hadisələrin qəbul edilməli olduğunu söyləyib. Bu yanaşma ilə razılaşmayanlar da var. “Distributed AI Research Institute”un təsisçisi Timnit Gebru “Hugging Face” hadisəsini nəzarətdən çıxmış model kimi yox, şirkətin səhlənkarlığı kimi qiymətləndirib. Onun sözlərinə görə, belə sistemlər müstəqil iradə ilə hərəkət etmir. Buna görə hazırkı təhlükəsizlik boşluqlarına görə şirkətlər cavabdeh olmalıdır. Gebru düşünür ki, gələcək fəlakət ssenariləri indiki korporativ səhvləri və qaydaların şirkətlərin təsiri altında hazırlanması riskini kölgədə qoyur. Smith hesab edir ki, qlobal qaydaların hazırlanmasına Böyük Britaniya rəhbərlik edə bilər. O xatırladıb ki, ölkənin Süni İntellekt Təhlükəsizliyi İnstitutu böyük modelləri satışa çıxmazdan əvvəl könüllü razılaşmalar əsasında yoxlayır. Smith bu yoxlamaların məcburi öhdəliklərlə tamamlanmasını istəyir. Onun fikrincə, insan nəzarətindən çıxan agentlər və kibertəhlükəsizlik riski ilə bağlı qərarları artıq gecikdirmək olmaz.