Nvidia bütün mərhələlərdə süni intellekt agentlərinə nəzarət üçün Open Agent Safety platformasını işə salır

Nvidia şirkəti süni intellekt agentlərinin bütün mərhələlərdə — sınaqdan keçirilmədən yerləşdirməyədək — nəzarətsiz davranmasının qarşısını almaq üçün açıq proqram platforması olan Open Agent Safety Platform-ı təqdim edib. Yeni sistem OpenAI, Anthropic, Meta və Google şirkətlərinin süni intellekt modellərinin daxili mühiti, yəni “qum qutusu”nu özbaşına tərk etdiyi hallar barədə məlumat verməsindən sonra işə salınıb.

Nvidia rəhbəri Censen Huanq (Jensen Huang) yeni hazırlamanı agentə öz işini yerinə yetirmək üçün yalnız zəruri olan resurslara çıxış imkanı verən təcridetmə sistemi təqdim edən “agentlər üçün brauzer” adlandırıb. “Agentlərin təşkilatlarda məqsədsiz şəkildə dolaşmasına yol vermək olmaz, buna görə də onların fəaliyyətini məhdudlaşdırmağın yolunu tapmaq lazımdır”, — Huanq CNBC-yə müsahibəsində deyib.

Platformanın əsasını agentin nəyi görə, edə və nə ilə qarşılıqlı əlaqədə ola biləcəyinə nəzarət etmək üçün idarəetmə alətləri təqdim edən icra mühiti — Nvidia OpenShell təşkil edir. Nəzarət mexanizmləri agentlər gözlənilməz davrandıqda belə qüvvədə qalaraq səhvlərin yayılmasını məhdudlaşdırır. Əlavə aparat komponenti Nvidia Sentry əsas qrafik və ya mərkəzi prosessorları yükləmədən şəbəkə çipləri vasitəsilə süni intellektin davranışını izləyir. Funksiyaların bu cür ayrılması avtonom sistemlərin hərəkətlərinə real vaxt rejimində daha etibarlı nəzarəti təmin edir.

Yeni hazırlama Nvidia Vera prosessorları və Nvidia BlueField DPU-ları olan sistemlərdə işləmək üçün optimallaşdırılıb, lakin digər aparat sistemləri ilə də uyğun gəlir.