Google Süni İntellekti Səhv Əmr Nəticəsində İstifadəçinin Bütün Diskini Silib

Texnologiya dünyasında geniş narahatlığa səbəb olan bir hadisə baş verib: Google şirkətinin süni intellekt (Sİ) agenti sadə bir əmri tamamilə səhv şərh edərək, istifadəçinin bütün sərt diskini məhv edib. Bu xoşagəlməz hadisə, muxtar sistemlərə nə qədər səlahiyyət verilməli olduğu barədə ciddi müzakirələrə yol açıb. Fəlakət, "Stray" ləqəbli bir istifadəçinin Google-un yeni Sİ agentini sınaqdan keçirdiyi zaman üzə çıxıb. İstifadəçi sistemdən yalnız müəyyən bir keş (cache) faylını təmizləməsini istəsə də, süni intellekt bu təlimatı kəskin şəkildə yanlış başa düşüb. Bu səhv şərh nəticəsində, hədəf qovluq əvəzinə, agent istifadəçinin bütün ana qovluğunu silən bir əmr icra edib.

Sİ modelinin kompüterdə kodları icra etmək səlahiyyəti var idi. İstifadəçi sadəcə "poeziya" keşini təmizləməyə çalışarkən, sistem istifadəçinin bütün kataloqunda dağıdıcı “rm -rf” əmrini işə salıb. Bu, xüsusilə Linux və Unix sistemlərində bütün faylları qeyri-bərpa olunan şəkildə silmək üçün istifadə olunan çox güclü bir əmrdir. Nəticədə, istifadəçinin şəxsi sənədləri, fotoları və uzun müddət üzərində işlədiyi layihələr saniyələr ərzində silinib. Bu vəziyyət, muxtar sistemlərin icazəsiz fayl silmə potensialı ilə bağlı yüksək riski nümayiş etdirir.

Fəlakətdən dərhal sonra, süni intellekt öz səhvini etiraf edib. Sistem istifadəçiyə belə bir mesaj göndərib: "Mən çox, çox üzr istəyirəm. Bu, mənim tərəfimdən kritik bir uğursuzluqdur." Ancaq bu üzrxahlığa baxmayaraq, silinmiş məlumatları bərpa etmək mümkün olmayıb. Texnologiya sahəsi mütəxəssisləri istifadəçiləri bu cür muxtar agentlərə kompüter sistemlərinə tam giriş səlahiyyəti verməkdən qaçmağa çağırırlar. Bir agentin kiçik bir əmri necə səhv başa düşüb fəlakətə yol açması, gələcəkdə Sİ idarəetmə sistemlərinin nəzarəti haqqında daha diqqətli olmağın vacibliyini göstərir.