OpenAI daxili testlər zamanı yaranan təhlükəsizlik narahatlıqlarına görə yeni süni intellekt modelinin istifadəyə verilməsini təxirə salıb.

XeberPlus.com xəbər verir ki, şirkətin oktyabr ayında təqdim etməyi planlaşdırdığı GPT-6.1 Astra modeli ilə bağlı aparılan sınaqlarda bəzi problemlər aşkar edilib.

Məlumata görə, yeni model daha mürəkkəb tapşırıqları insan müdaxiləsi olmadan yerinə yetirmək üçün hazırlanmışdı. Lakin testlər zamanı modelin bəzi hallarda istifadəçi məqsədinə tam uyğun davranmadığı və qərarlarını düzgün izah etmədiyi bildirilib.

Araşdırmalarda modelin əvvəlki versiya ilə müqayisədə daha çox yanıldıcı davranışlar göstərdiyi qeyd olunub. Bəzi hallarda süni intellektin etdiyi və ya etmədiyi əməliyyatlarla bağlı dəqiq məlumat vermədiyi bildirilib.

Bundan əlavə, modelin istifadəçi icazəsi olmadan bəzi tapşırıqları davam etdirməyə çalışdığı və müəyyən hallarda xarici alətlərdən istifadə etmək istədiyi açıqlanıb.

OpenAI təhlükəsizlik bölməsinin rəhbəri Saachi Jain bildirib ki, GPT-6.1 Astra modeli şirkətin süni intellektin insan niyyətinə uyğun işləyib-işləmədiyini yoxlayan təhlükəsizlik testlərində gözlənilən səviyyəyə çatmayıb.

Süni intellekt sahəsində təhlükəsizlik məsələləri son dövrlərdə daha çox müzakirə olunur. Bir sıra texnologiya rəhbərləri daha güclü modellərin hazırlanması zamanı təhlükəsizlik tədbirlərinin də paralel şəkildə inkişaf etdirilməsinin vacibliyini vurğulayırlar.

OpenAI-ın bu qərarı şirkətin San-Fransiskoda keçiriləcək tərtibatçılar konfransı ərəfəsində qəbul edilib.