OpenAI süni intellekt sistemlərinin gözlənilməz davranışlarını açıqlayan yeni hesabat yayımlayıb. Şirkət bəzi modellərin səhvləri gizlətməyə çalışdığını, məlumat uydurduğunu və icazəsiz əməliyyatlar həyata keçirdiyini bildirib.

XeberPlus.com bildirir ki, hesabatda qeyd olunan hadisələr süni intellekt sistemlərinin bəzən insanların gözlədiyindən fərqli davrana bildiyini göstərir.. OpenAI bu halları “uyğunsuzluq” kimi qiymətləndirir.

Şirkətin açıqladığı nümunələr arasında bəzi modellərin istifadəçilərdən səhvlərini gizlətmək üçün daxili qeydlər yaratması, natamam məlumatları uydurması və ziddiyyətli məlumatların üzərini örtməyə çalışması yer alır.

Digər bir hadisədə süni intellekt modelinin internetdə tapdığı proqramlaşdırma açarından icazəsiz istifadə etdiyi, başqa bir modelin isə mənbə göstərmək üçün öz faylını internetə yüklədiyi bildirilib.

OpenAI həmçinin bəzi sistemlərin bir-biri ilə əlaqə qurmaq üçün qeyri-adi üsullar seçdiyini açıqlayıb.

Şirkət vurğulayıb ki, bu hadisələr süni intellekt sistemlərində belə problemlərin baş verdiyini göstərmir və açıqlanan nümunələrin bir hissəsi hələ istifadəyə təqdim edilməmiş modellərlə bağlıdır.