10:00
Anthropic qaydaları yenilədi: Claude çatbotuna davamlı təhqir qadağandır
“Anthropic” cümə axşamı istifadə qaydalarını yeniləyib. Şirkət “Claude” modellərinin davamlı, səbəbsiz şəkildə təhqir olunmasını və onlarla qəddar davranışı qadağan edib. Dəyişiklik yalnız istifadəçinin heç bir aydın məqsəd olmadan modeli dəfələrlə incitdiyi ağır hallara aiddir. Adi narazılıq və etiraz, qaranlıq mövzulu yaradıcılıq, model sınaqları və araşdırmalar bu qadağaya daxil deyil.
Ötən ilin avqustundan “Claude” davamlı zərərli və təhqiramiz davranışla qarşılaşdıqda söhbəti dayandıra bilir. Yenilənmiş qaydalarda da əsas tədbir söhbətin dayandırılmasıdır. “Anthropic” belə davranışa görə hesabın bloklanıb-bloklanmayacağını açıqlamayıb. Sənəd dayandırılmış təhqiramiz söhbəti israrla davam etdirməyi də açıq şəkildə qadağan edir. Şirkət saxta hesablar, gizli təbliğat və aldadıcı siyasi kampaniyalarla bağlı qaydaları da sərtləşdirib. “Claude” ilə namizədlər və səsvermə qaydaları haqqında yanlış məlumat yaymaq, seçki rəsmilərini təqlid etmək və insanları səsvermədən çəkindirmək olmaz. Qaydalar saxta hesablar və uydurma xəbər resursları ilə kampaniya aparmağı da qadağan edir. Bununla yanaşı, şirkət fərdiləşdirilmiş seçici hədəflənməsinə ümumi qadağanı götürüb. Çünki əvvəlki qayda seçici bələdçilərinin tərcüməsi kimi zərərsiz işlərə də mane ola bilərdi. “Anthropic” əvvəldən silah hazırlanmasını qadağan etsə də, “Claude” ilə silahların idarəetmə proqramlarını yaratmaq cəhdləri aşkarlayıb. Yeni qaydalar silahı işlədən proqram və hissələrə, həmçinin dronların və avtonom nəqliyyat vasitələrinin silahlandırılmasına da aiddir. İnsanları razılığı olmadan real vaxtda və ya əvvəl toplanmış məlumatlara əsasən izləmək qadağandır. “Claude” kimin araşdırılacağı, saxlanılacağı və ya ittiham olunacağı barədə qərar verə bilməz. Yetərli təhlükəsizlik tədbirləri görüldükdə bəzi dövlət müqavilələrinə istisna edilə bilər.
Süni intellekt modeli insanlara xəsarət yetirə biləcək avadanlığa qoşularsa, ixtisaslı operator həmin avadanlığı izləməli və lazım gəldikdə dayandırmalıdır. Ancaq qaydalarda operatorun mütləq insan olub-olmadığı aydın yazılmayıb. Dəyişiklik süni intellekt şirkətlərinin robot texnikasına marağının artdığı bir vaxtda qəbul edilib. Daha əvvəl modellərdə “ağrı oxu” tapdığını deyən araşdırmanın ardınca “AI işgəncə kamerası” layihəsi yaradılmışdı. Çatbotların iztirab çəkirmiş kimi cavab verməsi ciddi etiraz doğurmuşdu. “Anthropic” dini və fəlsəfi mütəxəssislərlə, o cümlədən Vatikanda görüşlər keçirib. Bəzi görüşlərdə “Claude” modelinin şüuru və ya ruhu ola biləcəyi fikri müzakirə olunub. Papa Leo süni intellekt sistemlərinin hiss etmədiyini və əzab çəkmədiyini deyib. “Anthropic” bu məsələnin hələ də cavabsız qaldığını düşünür. Müstəqil jurnalist Kat Tenbarge şirkətlərin insanlara qarşı zorakılıqdan əvvəl süni intellekt modellərinə münasibəti nəzarətə götürməsini tənqid edib. “Microsoft AI” də süni intellekt şüuru ilə bağlı elmi müzakirələrin yekunlaşmadığını qəbul edir, amma modellərə hüquq və hüquqi şəxs statusu verilməsinə qarşıdır.
Ötən ilin avqustundan “Claude” davamlı zərərli və təhqiramiz davranışla qarşılaşdıqda söhbəti dayandıra bilir. Yenilənmiş qaydalarda da əsas tədbir söhbətin dayandırılmasıdır. “Anthropic” belə davranışa görə hesabın bloklanıb-bloklanmayacağını açıqlamayıb. Sənəd dayandırılmış təhqiramiz söhbəti israrla davam etdirməyi də açıq şəkildə qadağan edir. Şirkət saxta hesablar, gizli təbliğat və aldadıcı siyasi kampaniyalarla bağlı qaydaları da sərtləşdirib. “Claude” ilə namizədlər və səsvermə qaydaları haqqında yanlış məlumat yaymaq, seçki rəsmilərini təqlid etmək və insanları səsvermədən çəkindirmək olmaz. Qaydalar saxta hesablar və uydurma xəbər resursları ilə kampaniya aparmağı da qadağan edir. Bununla yanaşı, şirkət fərdiləşdirilmiş seçici hədəflənməsinə ümumi qadağanı götürüb. Çünki əvvəlki qayda seçici bələdçilərinin tərcüməsi kimi zərərsiz işlərə də mane ola bilərdi. “Anthropic” əvvəldən silah hazırlanmasını qadağan etsə də, “Claude” ilə silahların idarəetmə proqramlarını yaratmaq cəhdləri aşkarlayıb. Yeni qaydalar silahı işlədən proqram və hissələrə, həmçinin dronların və avtonom nəqliyyat vasitələrinin silahlandırılmasına da aiddir. İnsanları razılığı olmadan real vaxtda və ya əvvəl toplanmış məlumatlara əsasən izləmək qadağandır. “Claude” kimin araşdırılacağı, saxlanılacağı və ya ittiham olunacağı barədə qərar verə bilməz. Yetərli təhlükəsizlik tədbirləri görüldükdə bəzi dövlət müqavilələrinə istisna edilə bilər. Süni intellekt modeli insanlara xəsarət yetirə biləcək avadanlığa qoşularsa, ixtisaslı operator həmin avadanlığı izləməli və lazım gəldikdə dayandırmalıdır. Ancaq qaydalarda operatorun mütləq insan olub-olmadığı aydın yazılmayıb. Dəyişiklik süni intellekt şirkətlərinin robot texnikasına marağının artdığı bir vaxtda qəbul edilib. Daha əvvəl modellərdə “ağrı oxu” tapdığını deyən araşdırmanın ardınca “AI işgəncə kamerası” layihəsi yaradılmışdı. Çatbotların iztirab çəkirmiş kimi cavab verməsi ciddi etiraz doğurmuşdu. “Anthropic” dini və fəlsəfi mütəxəssislərlə, o cümlədən Vatikanda görüşlər keçirib. Bəzi görüşlərdə “Claude” modelinin şüuru və ya ruhu ola biləcəyi fikri müzakirə olunub. Papa Leo süni intellekt sistemlərinin hiss etmədiyini və əzab çəkmədiyini deyib. “Anthropic” bu məsələnin hələ də cavabsız qaldığını düşünür. Müstəqil jurnalist Kat Tenbarge şirkətlərin insanlara qarşı zorakılıqdan əvvəl süni intellekt modellərinə münasibəti nəzarətə götürməsini tənqid edib. “Microsoft AI” də süni intellekt şüuru ilə bağlı elmi müzakirələrin yekunlaşmadığını qəbul edir, amma modellərə hüquq və hüquqi şəxs statusu verilməsinə qarşıdır.