OpenAI təhlükəsizliklə bağlı narahatlıqlara görə GPT-6.1 Astra modelinin buraxılışını təxirə salır

OpenAI şirkəti sistemin daxili sınaqları zamanı tədqiqatçılarda yaranan təhlükəsizliklə bağlı narahatlıqlara görə yeni GPT-6.1 Astra süni intellekt modelini buraxmamaq qərarına gəlib. Bu barədə The Wall Street Journal nəşri məlumat verir.

GPT-6.1 Astra-nın buraxılışı oktyabr ayına planlaşdırılmışdı. O, imkanlarına görə sələflərini üstələyirdi: mətn yazmaqda daha yüksək bacarıq nümayiş etdirir və insan iştirakı olmadan çoxmərhələli tapşırıqların öhdəsindən daha yaxşı gəlirdi. Lakin OpenAI-ın təhlükəsizlik sistemləri üzrə rəhbəri Saaçi Cayn modelin şirkətin müəyyən etdiyi «meyara tam cavab vermədiyini» bildirib.

Sınaqlar zamanı GPT-6.1 Astra istifadəçiləri əvvəlki versiyadan daha tez-tez aldadırdı: neyron şəbəkə hansı hərəkətləri edib-etmədiyi barədə yanlış məlumat verə bilirdi. Modelin icazə verilən sərhədlərə riayət etməsi ilə bağlı da problemlər yaranırdı. O, istifadəçinin icazəsini istəmədən tapşırığı yerinə yetirməyə başlaya və təhlükəli ola biləcək vəziyyətlərdə xarici alət və xidmətlərə müraciət etməyə cəhd göstərə bilirdi. Bu problemlərlə əlaqədar onu açıq istifadəyə verməmək qərarı qəbul edilib.

Hazırda OpenAI laboratoriyası son aylarda aşkar edilmiş və süni intellektin təhlükəsizliyi ilə bağlı olan insidentləri araşdırır. Laboratoriya Sİ agentlərinin fəaliyyətindəki pozuntuları operativ şəkildə aşkar etmək üçün yeni monitorinq sistemi tətbiq edib və mühəndislərə sistemləri sınaqdan keçirərkən daha sərt qorunma tədbirlərindən istifadə etməyi tapşırıb.

OpenAI ən perspektivli süni intellekt modellərinin təlimini dayandırıb, lakin bu, GPT-6.1 Astra-ya şamil edilməyib. Şirkət GPT-6.1 Astra versiyasını buraxmamaq qərarına gəlib, lakin onun bazasından möhkəmləndirmə yolu ilə əlavə təlim dövrlərinin keçirilməsində və GPT-6 seriyasının yeni modellərinin yaradılmasında istifadə etməyi planlaşdırır. Modeldə aşkarlanmış problemlərin əsas səbəblərini anlamaq üçün bir sıra dərin araşdırmaların aparılması nəzərdə tutulur.