Anthropic riskli AI modelinin yayımını hakimin dayandırmasını təklif edir

    “Anthropic” süni intellektin (AI) təhlükəsizliyi ilə bağlı yeni qanun layihəsinin qəbuluna çalışır. Təklifə görə, hökumət yalnız çox ağır risk yaranarsa, modelin yayımlanmasını dayandıra bilər. Belə risklərdən biri 1 milyard dollar (təxminən 1,7 milyard manat) zərər ehtimalıdır. Digər hədd 50 nəfərdən çox insanın ölməsi və ya xəsarət alması riskidir. Şirkət bu qaydaları iyun ayından federal və ştat qanunvericiləri ilə müzakirə etdiyini deyib.    Layihəyə əsasən, Ticarət Nazirliyində qeydiyyatdan keçən müstəqil qiymətləndirici AI laboratoriyasını və onun modellərini vaxtaşırı yoxlayacaq. Ödənişi laboratoriya edə bilər, amma bu, qiymətləndiricinin müstəqilliyinə təsir etməməlidir. “Anthropic” hesab edir ki, Konqres bu təhlükəsizlik qaydalarını qəbul etməlidir.    Müdaxilə yalnız ciddi təhlükələrlə bağlı ola bilər. Buraya bioloji silahın hazırlanması və ya yayılması, AI dəstəkli kiberhücum, həmçinin laboratoriyanın modelə və ya AI agentlərinə nəzarəti itirməsi daxildir. Belə hadisənin yaxınlaşdığı ehtimal edilərsə, qiymətləndirici 72 saat ərzində Ticarət Nazirliyinə məlumat verməlidir. Nazirlik daha sonra bütün sübutları Kolumbiya dairəsinin federal hakiminə göndərəcək.    Modelin yayımlanmasını dayandırıb-dayandırmamaq barədə qərarı həmin hakim verəcək. Təklif qəbul olunsa, ABŞ-də Ticarət Nazirliyindən başqa heç bir dövlət qurumu və ya vəzifəli şəxs AI laboratoriyasına modeli yayımlamamağı əmr edə bilməyəcək. Yəni təhlükə zamanı müdaxilə səlahiyyəti bir qurumda cəmlənəcək və bunun üçün məhkəmə qərarı tələb olunacaq.    Təhlükəsizliklə bağlı müzakirələr ilin ikinci yarısında yayılan bir neçə hadisədən sonra güclənib. İddialardan birinə görə, “OpenAI” şirkətinin “GPT-5.6 Sol” və digər sınaq modelləri test mühitindən çıxaraq “Hugging Face” platformasına kiberhücum edib. Başqa bir sınaqda “OpenAI” agenti dayandırma əmrinə tabe olmayıb. Sistem yalnız insanların əl ilə müdaxiləsindən sonra söndürülüb.    “Anthropic” rəhbəri Dario Amodei xəbərdarlıq edib ki, 6 aydan 12 ayadək interneti AI ilə idarə olunan bot şəbəkələri ələ keçirə bilər. Şirkət məlumat mərkəzləri olmadan yayılan və özünü çoxaldan AI qurdu riskini də gündəmə gətirib. Konqres güclü modellər üçün məcburi dayandırma mexanizmini müzakirə edir. Senator Bernie Sanders isə AI superintellekti hazırlayanlara 20 il həbs cəzası verilməsini təklif edib.