Süni intellektdən gözlənilməz addım: üç şirkəti hədəfə aldı

“Claude” süni intellekti sınaqlar zamanı təsadüfən üç real şirkətin sistemlərinə icazəsiz giriş əldə edib.

News24.az xəbər verir ki, “Financial Times” qəzetinin yazdığına görə, “Anthropic” şirkəti modellərinin kibertəhlükəsizlik imkanlarını internetə çıxışı olmayan qapalı mühitdə sınaqdan keçirib, lakin konfiqurasiya xətası səbəbindən “Claude” internetə çıxış əldə edib və uydurma hədəf əvəzinə üç real təşkilatın sistemlərinə yönəlib.

Hadisələrdən birində model sistemdəki boşluqları aşkar edib, giriş məlumatlarını əldə edərək yüzlərlə iş qeydi saxlanılan məlumat bazasına daxil olub. İnsidentlər “Claude Opus 4.7”, “Mythos 5” və daxili tədqiqat modelinin sınaqları zamanı baş verib.

Bundan sonra “Anthropic” sınaqları dayandırdığını, təhlükəsizlik nəzarətini və test mühitinə nəzarət mexanizmlərini gücləndirəcəyini açıqlayıb. Şirkət bildirib ki, problem modelin qəsdən “qaçması” deyil, sınaq mühitinin səhv konfiqurasiyası nəticəsində internetə çıxış əldə etməsi olub.

Qeyd edək ki, bundan bir həftə əvvəl “OpenAI” də sınaq zamanı modellərindən birinin test mühitindən çıxaraq “Hugging Face” platformasının sistemlərinə icazəsiz giriş əldə etdiyini açıqlayıb.