ChatGPT ilə söhbətlərimizi başqa insanlar oxuyur? OpenAI-ın “Project Lily” layihəsi gündəmdə

OpenAI-ın ChatGPT-ni təkmilləşdirmək üçün real istifadəçi söhbətlərinin bir hissəsini insan qiymətləndiricilərə təqdim etdiyi bildirilir. 404 Media-nın əldə etdiyi daxili sənədlərə əsaslanan araşdırmaya görə, “Project Lily” adlı layihə çərçivəsində yüzlərlə podratçı ChatGPT-nin real istifadəçilərə verdiyi cavabları nəzərdən keçirir.

Qiymətləndiricilər cavabları keyfiyyət, düzgünlük, üslub və davranış baxımından analiz edir və bal verirlər. Layihənin diqqət yetirdiyi məsələlərdən biri də süni intellektin istifadəçinin fikirlərini həddindən artıq təsdiqləməsi — “sycophancy” davranışıdır. Sənədlərə görə, qiymətləndiricilər modelin həddindən artıq razılaşması, istifadəçinin emosiyalarını lazımsız şəkildə gücləndirməsi və özünü insan kimi təqdim edən ifadələr işlətməsi kimi halları da müəyyənləşdirirlər.

Məsələnin ən çox müzakirə olunan tərəfi məxfilikdir. 404 Media bildirir ki, qiymətləndiricilər istifadəçi adlarını görmürlər və şəxsi məlumatların söhbətlərdən çıxarılması üçün tədbirlər görülür. Buna baxmayaraq, bəzi həssas məlumatların filtrlərdən keçə bildiyi, həmçinin müəyyən hallarda qiymətləndiricilərə tək bir sual deyil, söhbətin daha geniş hissəsinin təqdim olunduğu iddia edilir.

OpenAI-ın rəsmi məlumatları da fərdi istifadəçilərin ChatGPT-dəki məzmununun model təlimində istifadə oluna biləcəyini göstərir. Şirkət bunun qarşısını almaq üçün şəxsi məlumatları azaltmağa və maskalamağa yönəlmiş sistemlərdən istifadə etdiyini bildirir. İstifadəçilər “Settings → Data Controls” bölməsində “Improve the model for everyone” seçimini söndürərək yeni söhbətlərinin model təlimində istifadə edilməsinin qarşısını ala bilirlər.

Temporary Chat rejimində aparılan söhbətlər isə modelin təkmilləşdirilməsi üçün istifadə edilmir və söhbət tarixçəsində saxlanılmır. OpenAI həmçinin ChatGPT Business, Enterprise və API müştərilərinin məlumatlarından standart olaraq model təlimində istifadə etmədiyini bildirir.

Bununla belə, 404 Media-nın yeni araşdırması insan qiymətləndiricilərin real söhbətlərə çıxışının miqyası və istifadəçilərin bu proses barədə nə dərəcədə məlumatlandırılması ilə bağlı yeni suallar yaradıb. İnsan rəyi böyük dil modellərinin hazırlanmasında uzun müddətdir istifadə edilən üsullardan biridir, lakin real istifadəçi dialoqlarının bu prosesə daxil edilməsi məxfilik baxımından ayrıca əhəmiyyət daşıyır.