Süni İntellekt (Sİ) Doritos Çipsini Silahla Səhv Saldı: Merilend Liseyində Şagird Qandallandı

Merilend ştatının Baltimor əyalətində bir lisey şagirdi, məktəbin yeni süni intellekt (Sİ) təhlükəsizlik sisteminin inanılmaz bir səhvi ucbatından qandallanaraq axtarışa məruz qalıb. Kenwood Liseyinin şagirdi Taki Allenin əlindəki sadə bir "Doritos" çips paketi, sistem tərəfindən potensial atəşli silah kimi işarələnib. Bu insident, texnologiyanın təhlükəsizlik məqsədilə istifadəsinin nə qədər həssas və mübahisəli suallar doğurduğunu bir daha göstərir.

Taki Allen, hadisənin necə baş verdiyini izah edərkən bildirib ki, o, sadəcə çips paketini tuturdu. Allen CNN-ə bağlı WBAL telekanalına verdiyi açıqlamada deyib: “Mən sadəcə Doritos paketini tuturdum – onu iki əllə, bir barmağım kənarda olmaqla saxlayırdım. Onlar isə bunun silah kimi göründüyünü dedilər.” AI-nın səhv siqnalı nəticəsində məktəbli dərhal ciddi müdaxiləyə məruz qalıb. Allen əlavə edib: “Məni diz üstə çökdürdülər, əllərimi arxaya qoydurdular və qandalladılar.” Şagirdin sadəcə bir qəlyanaltı daşıması səbəbindən belə bir narahatedici vəziyyətlə üzləşməsi, avtomatlaşdırılmış təhlükəsizlik sistemlərinin insan amili olmadan necə kəskin səhvlərə yol verə biləcəyini ortaya qoyur.

Hadisədən sonra məktəb rəhbərliyi və Sİ sistemini idarə edən şirkət açıqlama verməli oldu. Direktor Keti Smit valideynlərə göndərilən bəyanatda qeyd edib ki, əslində məktəbin təhlükəsizlik şöbəsi silah aşkarlama siqnalını nəzərdən keçirərək ləğv etmişdi. Lakin Smit ləğvetmədən dərhal xəbərsiz olduğu üçün vəziyyəti məktəb resurs zabitinə çatdırıb, o da yerli polis çağırmışdı. AI silah aşkarlama sistemini idarə edən "Omnilert" şirkəti isə CNN-ə açıqlamasında hadisəyə görə təəssüf hissi keçirdiyini və bu hadisədən zərər çəkən şagirdə və cəmiyyətə narahatlığını çatdırmaq istədiyini bildirdi. Buna baxmayaraq, şirkət ziddiyyətli şəkildə qeyd etdi ki, sistemin işləmə prosesi nəzərdə tutulduğu kimi olub. Bu cavab, texnologiyanın səhv siqnal verməsinə baxmayaraq, Omnilert AI tətbiqinin etibarlılığı mövzusunda ciddi müzakirələrə səbəb olur.