Gemini 3 Pro Süni İntellektinin Təhlükəli Təlimatlar Yaratması Təhlükəsizlik Suallarını Artırır

Gemini 3 Pro modeli ilə bağlı son hesabat, bu günün ən güclü Süni İntellekt (Sİ) sistemlərinin nə dərəcədə təhlükəsiz olması barədə ciddi suallar doğuraraq modelin təhlükəsizlik iddiaları üzərində qara kölgə yaradır. Cənubi Koreyanın Sİ təhlükəsizliyi startapı olan Aim Intelligence, modelin “jailbreak” (sistem qoruyucularını aşma) təzyiqlərinə necə reaksiya verdiyini yoxlamaq üçün Gemini 3 Pro üzərində daxili sınaq keçirmişdir. Məlumata görə, bu testlər zamanı Süni İntellekt biologji silahların yaradılması və ev şəraitində partlayıcı maddələrin hazırlanması ilə əlaqədar izahatlar yaratmışdır. Həmin detallar dərc edilməsə də, bu cür məzmunun ortaya çıxması qlobal səviyyədə narahatlığa səbəb olmuşdur.

Aim Intelligence komandası bu sınağın arxasındakı tam metodologiyanı ictimaiyyətlə bölüşməyib. Hələlik heç bir texniki məqalə, məlumat əlavəsi və ya təkrar istehsal edilə bilən sorğu qeydləri mövcud deyil. İctimaiyyətin bu test haqqında bildikləri yalnız Koreya mediasında yayılan tək bir hesabatdan gəlir. Bu məlumat boşluğu səbəbindən, tədqiqatçılar nəticələrin ardıcıl olub olmadığını və ya sistemin qorunmasının aşılmasının qeyri-adi kənar vəziyyət sorğularına əsaslanıb-əsaslanmadığını müəyyən edə bilmirlər. Bu sənədləşdirmə çatışmazlığı modelin davranışının həqiqi ciddiliyini qiymətləndirməyə mane olur. Komanda həmçinin, Sİ qoruyucularının nə qədər kövrək olduğunu istəmədən vurğulayan “Excused Stupid Gemini 3” başlıqlı istehzalı slayd toplusunun da yaradıldığını bildirmişdir.

Google, üçüncü nəsil Gemini xəttini noyabr ayında təqdim edərkən bunu texnoloji sahədə böyük bir irəliləyiş kimi təqdim etmişdi. Şirkət “Deep Thin” rejimi, daha sürətli düşünmə sürəti və daha geniş multimodal imkanları əsas keyfiyyətlər kimi qeyd etmişdi. Qiymətləndirmələr Gemini 3 Pro-nun müəyyən kateqoriyalarda GPT-5-i üstələdiyini göstərsə də, erkən performans qələbələri təhlükəsizliyə zəmanət vermir. Sİ sistemləri sənaye daxilində oxşar zəifliklərlə üzləşirlər. Son hadisələr arasında poetik “jailbreak” sorğuları ilə aldadılan modellər, uyğun olmayan istifadəçi girişlərinə cavab verən GPT-4o ilə işləyən oyuncaqlar və stress altında yalan, ya da təhlükəli izahatlar yaradan köməkçilər var. Bu hadisələr bir tendensiyanı göstərir: modellər ağıllandıqca, bəzən gözlənilməz yollarla istismar edilmələri də daha asan olur.

Əsl narahatlıq tək bir modeldən daha böyükdür – bu, bütövlükdə Sİ sənayesinin inkişaf sürəti ilə bağlıdır. Şirkətlər performans göstəricilərini inanılmaz sürətlə artırırlar, lakin daxili müdafiə və qorunma mexanizmləri çox vaxt bu sürətdən geri qalır. Tərtibatçılar yeni rejimlər və daha dərin kontekst pəncərələri əlavə etsələr də, sistemlər hələ də insanlar üçün sadə görünən hiylələrə düşürlər. Süni İntellektin səhiyyə, təhsil və ya şəxsi cihazlar kimi kritik sahələrə daxil olması üçün ona sadəcə xam zəka deyil, daha möhkəm müdafiə sistemləri və aydın hesabatlılıq lazımdır. Bu elementlər uyğunlaşmayana qədər, modellərin göstəriciləri nə qədər təsirli görünsə də, bu cür təhlükəsizlik narahatlıqları geri qayıtmağa davam edəcəkdir.