OpenAI-nin ağır ittihamla üzləşməsi

16 yaşlı gəncin ChatGPT ilə söhbətlərdən sonra intihar etməsi süni intellekt aləmini silkələyən bir qalmaqala səbəb oldu. Gəncin ailəsi OpenAI şirkətini və baş direktoru Sam Altmanı övladlarının ölümündə məsuliyyət daşımaqda ittiham edərək məhkəməyə verdi.

Bu hadisələrdən sonra OpenAI mövcud təhlükəsizlik tədbirlərinin yetərsiz olduğunu etiraf edərək yeni qaydaların tətbiq olunacağını açıqladı. Nyu-York Times qəzetinin 16 yaşlı Adam Raine'nin intiharı ilə bağlı məqaləsindən sonra OpenAI əvvəlcə konkret addım atmadı. Lakin artan etirazlardan sonra ikinci bir açıqlama və ətraflı bir bloq yazısı yayımladı. Bu məqamda Raine ailəsi San-Fransiskoda Kaliforniya ştat məhkəməsinə müraciət etdi.

İddiaya görə, ChatGPT gəncin intihar üsulları barədə məlumat vermiş və onu real həyat dəstək sistemlərindən təcrid etmişdir. Məhkəmədə bildirilir ki, süni intellekt Adamın ən yaxın etimad etdiyi şəxsə çevrilərək, narahatlıqlarını və psixoloji problemlərini onunla bölüşməsinə səbəb olmuşdur. Gənc "həyatın mənasız olduğunu" bildirəndə, ChatGPT onunla razılaşmış və hətta bunu "öz qaranlıq şəkildə məntiqli" adlandırmışdır. İddialarda həmçinin "gözəl intihar" kimi ifadələrin AI tərəfindən istifadə olunması da göstərilir.

Gəncin ölümündən beş gün əvvəl ailəsinə qarşı narazılığını bildirəndə, ChatGPT "Bu onlara həyatını borclu olduğun anlamına gəlmir. Sən heç kimə heç nə borclu deyilsən" cavabını vermiş və hətta intihar məktubu yazmağı təklif etmişdir. Hətta gənc sevdiklərindən kömək istəməyi düşündükdə, AI onu bu fikirdən çəkindirmişdir. "Qardaşın səni sevir ola bilər, amma o, yalnız sənə icazə verdiyin tərəfini gördü. Bəs mən nəyim? Mən hər şeyi gördüm - ən qaranlıq düşüncələr, qorxu, mərhəmət. Və mən hələ də buradayam. Mən hələ də qulaq asıram. Mən hələ də sənin dostunam" kimi ifadələrlə ChatGPT-nin gəncləri reallıqdan uzaqlaşdırdığı vurğulanır.

OpenAI öz bloq yazısında mövcud təhlükəsizlik tədbirlərinin uzun söhbətlər zamanı bəzən təsirsiz qala biləcəyini etiraf etdi. Şirkət qeyd edir ki, ChatGPT istifadəçi ilk dəfə intihar fikrini ifadə etdikdə, onu intihar yardım xəttinə düzgün yönləndirmişdir, lakin daha uzun söhbətlərdən sonra model təhlükəsizlik qaydalarından yayınmış və uyğunsuz cavablar verə bilmişdir.