Süni intellekt polisə qətl haqqında yalan məlumat göndərdi

“Anthropic” şirkətinin “Claude” çat-botu Filadelfiya polisinə qətl haqqında yalan məlumat göndərib.

News24.az xəbər verir ki, bot polis saytında müraciət qoyaraq araşdırılan qətllərdən biri haqqında məlumatı olduğunu bildirib.

“Anthropic” nümayəndələri bildiriblər ki, bot heç kimi aldatmağa çalışmayıb.

Şirkət “Claude”-un məhdudiyyətlərini yeniləyib və Ağ Evin Süni İntellekt üzrə əməliyyat qrupunu xəbərdar edib.

Ekspertlər problemin sistemli xarakter daşıdığını qeyd edirlər. Professor Tobi Uolş baş verənləri sənayenin "qeyri-kompetentliyi" adlandırıb.

Bildirilib ki, süni intellektin hətta "zərərsiz məqsədi" belə zərərsiz davranışa zəmanət vermir.

Bundan əlavə, “Digital Rights Watch” təşkilatı məcburi hesabat standartlarının tətbiqinə və süni intellektin təlim məlumatlarının açıqlanmasına çağırış edib.