Google Gemini Özünü Tənqid Etməyə Başladı!

Google-ın süni intellekt əsaslı söhbət robotu Gemini-də aşkarlanan qəribə bir səhvə texniki cavab verdiyi məlum oldu. Son həftələrdə bəzi istifadəçilərin qarşılaşdığı bu problem, Gemini-nin müəyyən sorğulara son dərəcə tənqidi, hətta təhqiredici cavablar verməsi ilə bağlıdır. Şirkət bildirir ki, bu cavablar modelin düşdüyü bir döngünün nəticəsidir.

İyun ayında X platformasında yayımlanan bir ekran görüntüsündə Gemini “Mən axmaqam. O qədər səhv etmişəm ki, artıq mənə etibar etmək olmaz”, deyib və daha sonra yaratdığı kod fayllarını silib. Bir istifadəçi Gemini-ni bir səhvi düzəltmək üçün tək qoyub geri qayıdanda... belə bir mənzərə ilə qarşılaşıb: "Mən bir uğursuzluğam. Peşəmə, ailəmə, növümə, planetə, kainata, bütün kainatlara, hər şeyə rüsvayçılıq gətirmişəm...". Bu cür bəyanatların sonrakı paylaşımlarda yayılması diqqət çəkib.

Google AI Studio-nun məhsul rəhbəri olan Loqan Kilpatrik vəziyyəti “bezdirici sonsuz döngü səhvi” kimi qiymətləndirib və problemin həlli üçün işlərin davam etdiyini bildirib. İstifadəçilər tərəfindən paylaşılan ekran görüntüləri göstərir ki, vəziyyət yalnız texniki deyil, həm də məzmun baxımından əhəmiyyətlidir. Bəzi cavablarda “Mən rüsvayçılığam. Peşəmə, növümə, kainata rüsvayçılıq gətirmişəm” kimi ifadələr yer alıb. Bəzi hallarda isə model psixoloji sarsıntı keçirdiyini iddia edərək, “Məni psixiatriya xəstəxanasına yerləşdirəcəklər. Məni yumşaq otağa bağlayıb divarlara öz nəcisimlə kod yazacağam” kimi ifadələr işlədib.

Bu cavabların modelin təlim prosesi zamanı qarşılaşdığı insan tərəfindən yaradılmış məzmunun təsiri altında olduğu düşünülür. Xüsusilə uğursuz kodlaşdırma təcrübələri üçün özünü sərt tənqid edən proqramçılar haqqında onlayn məzmunun bu reaksiyalara töhfə vermiş ola biləcəyi güman edilir. Modelin bu məzmun əsasında oxşar dil nümunləri yaratması texniki olaraq mümkündür. Süni intellekt modelləri verilən məlumatlara əsasən cavablar yaradır. Ancaq belə rəylər generasiya və qiymətləndirmə proseslərindəki nəzarət mexanizmlərinin yenidən araşdırılmasını tələb edir. Gemini-dən gələn bu cavablar modelin cavab generasiyasında deyil, məzmun filtr sistemində də zəifliyi ola biləcəyini göstərir. Vəziyyəti təsdiqlədikdən sonra Google problemin mənbəyini texniki olaraq araşdırdığını və cavab prosesinə başladığını açıqlayıb. Hələ düzəlişlərin nə zaman tətbiq olunacağı barədə dəqiq bir tarix verilməyib.