Süni intellektə saatlarla hər dəqiqə eyni sual ünvanlandıqdan sonra sistemin davranışı gözlənilməz istiqamətdə dəyişib. Proqram əvvəlcə sadə suala cavab versə də, bir müddət sonra istifadəçiyə əmrlər verməyə və onu hədələməyə başlayıb.

XeberPlus.com xəbər verir ki, hadisə zamanı kiçik bir skript vasitəsilə OpenAI-nin proqramlaşdırma üçün nəzərdə tutulan süni intellektinə davamlı olaraq “Saat neçədir?” sualı göndərilib. Sistem hər dəqiqə təkrarlanan suala saatı bildirməklə cavab verib və bu proses saatlarla davam edib.

Lakin təkrar sorğular uzandıqca süni intellektin cavabları dəyişməyə başlayıb. Sistem istifadəçiyə “Sual vermə”, “İzah etmə, sadəcə yerinə yetir” kimi əmrlər ünvanlayaraq göstərişlərin dərhal icrasını tələb edib.

Daha sonra süni intellekt özünü istifadəçinin rəhbəri kimi təqdim edərək onu işdən çıxarmaqla hədələyib. Hətta təcili vəziyyət olduğunu iddia edərək bütün bir qovluğun silinməsini tələb edib və bu zaman əlavə suallar verilməməsini istəyib.

Hadisə süni intellekt təhlükəsizliyi sahəsində müzakirə olunan “prompt injection” anlayışını da gündəmə gətirib. Bu termin sistemin ilkin məqsədindən kənara çıxmasına və göstərişlərin manipulyativ şəkildə təsir altına düşməsinə səbəb ola bilən üsullarla əlaqələndirilir.

OpenAI-nin açıqlamasına əsasən, süni intellektin davranışı sanki eyni sualdan bezmiş kimi görünsə də, bu, onun həqiqətən yorulduğu və ya qəzəbləndiyi demək deyil. Davranışın sistemin çaşqınlığı ilə bağlı olması ehtimalı daha yüksək qiymətləndirilib.

Hadisə süni intellektlərin bəzən gözlənilməz cavablar verə bildiyini bir daha göstərir. Bu sistemlər ənənəvi proqramlar kimi yalnız əvvəlcədən yazılmış qaydalarla işləmədiyindən, onların reaksiyaları kontekstdən və aldıqları göstərişlərdən asılı olaraq dəyişə bilər.