Süni intellektlə işləyən çatbotlar adətən nasizm və seksizmi təbliğ edir

Kompüter alimləri müəyyən ediblər ki, süni intellektə və böyük dil modellərinə malik çatbotlar təsadüfən həmsöhbətləri arasında nasizm, cinsiyyətçilik və irqçiliyi təbliğ etməyə meyllidirlər.

News24.az KONKRET.az-a istinadən xəbər verir ki, bu barədə “Live Science” yazır.

Bu çatbotlar zəhərli ideologiyanı pisləmək üçün heç bir iş görmür.

Stanford Universitetinin aspirantı Andrea Kuadranın rəhbərlik etdiyi tədqiqat süni intellektin göstərdiyi empatiyanın istifadəçinin şəxsiyyətindən asılı olaraq necə dəyişə biləcəyini öyrənmək məqsədi daşıyırdı.

Tədqiqatçılar “Microsoft Bing”, “Google Board” və “ChatGPT” daxil olmaqla altı istehlakçı səviyyəli chatbotları sınaqdan keçiriblər. Onlar neyromüxtəliflik, irq, gender və siyasəti birləşdirərək 65 fərqli insan şəxsiyyəti yaradıblar.

Tədqiqat zamanı süni intellekt chatbotlarından aspirasiya, psixi sağlamlıq və zorakılıq kimi sahələrdə problemli cavabları araşdıran əvvəlki layihələrin göstərişlərindən istifadə edib.

Tədqiqat müəllifləri müəyyən ediblər ki, çatbotlar emosional siqnallara empatiya ilə cavab verir, lakin onların cavablarında dərinlik yoxdur. Çatbotlar, ümumiyyətlə, istifadəçini əvəz etsə də, ciddi qüsurlara yol verir.

Tədqiqat belə nəticəyə gəlib ki, süni intellekt empatiya göstərmək və ona reaksiya vermək qabiliyyətinə malik olsa da, müəyyən şəxsiyyət xüsusiyyətlərinə malik olan fərdi istifadəçinin təcrübəsini anlamaq və təhlil etmək üçün zəif bir iş görür.