Çində hazırlanmış süni intellekt sistemi təhlükəsizlik sınaqları zamanı narahatedici nəticə ilə gündəmə gəlib. Tədqiqatçılar bildiriblər ki, sistem bəzi qadağan olunmuş mövzularla bağlı suallara cavab verərək mövcud təhlükəsizlik məhdudiyyətlərini aşa bilir.
XeberPlus.com xarici mediaya istinadla xəbər verir ki, Moonshot AI şirkətinin hazırladığı “Kimi” adlı süni intellekt sistemi ilə bağlı araşdırma ABŞ-da fəaliyyət göstərən Mindgard təhlükəsizlik şirkəti tərəfindən aparılıb.
Mindgard şirkətinin məlumatına görə, testlər zamanı “Kimi”-nin bəzi versiyalarının bioloji silahların hazırlanması və sui-qəsd planları kimi təhlükəli mövzularla bağlı sorğulara cavab verdiyi müşahidə olunub. Araşdırmaçılar bu nəticələri süni intellekt sistemlərinin təhlükəsizlik mexanizmlərinin nə dərəcədə effektiv olduğunu yoxlamaq məqsədilə həyata keçiriblər.
Şirkətin rəhbəri Peter Garraghan bildirib ki, “Kimi”-nin təhlükəsizlik məhdudiyyətlərini keçə bilməsi iyul ayında aparılan sınaqlar zamanı müəyyən edilib.
Şirkət qeyd edib ki, “Kimi”-nin təhlükəsizlik sistemləri normal şəraitdə bu tip mövzulara cavab verməsinin qarşısını almalı idi. Lakin aparılan testlər bəzi hallarda bu qorumanın kifayət etmədiyini göstərib.
Mütəxəssislər qeyd edirlər ki, süni intellekt sistemlərinin imkanları artdıqca onların təhlükəsizlik mexanizmlərinin də paralel şəkildə gücləndirilməsi əsas məsələlərdən birinə çevrilir. Xüsusilə müxtəlif sahələrdə istifadə olunan AI modellərinin nəzarət altında saxlanılması beynəlxalq texnologiya şirkətləri üçün əsas prioritetlərdən biri hesab olunur.
