Dünyanın sonu yaxınlaşır - Xəbərdarlıq

Bir vaxtlar elmi fantastika hesab edilən görkəmli alimin proqnozları gerçəkləşməyə başlayır. Bəşəriyyəti nə təhdid edir?

Məşhur britaniyalı fizik Stiven Hokinqin süni intellektin potensial riskləri barədə xəbərdarlığı bir daha ictimaiyyətin diqqətini cəlb edib. Sürətli texnoloji irəliləyişlər və süni intellekt inkişafı üzərində işləyən insanların açıqlamaları fonunda alimin bir neçə il əvvəl qaldırdığı bir çox sual yenidən müzakirə mövzusuna çevrilib.

News24.az-ın xarici mediaya istinadən məlumatına görə, ölümündən bir müddət əvvəl Hokinq tam hüquqlu süni intellektin yaranmasının bəşəriyyət üçün ciddi risklər yarada biləcəyi barədə xəbərdarlıq edib. Oxşar narahatlıqlar hazırda texnologiya sənayesinin özündə də bəziləri tərəfindən səsləndirilir.

Stiven Hokinq 2018-ci ildə 76 yaşında vəfat edib. Ömrünün son illərində o, süni intellektin nəzarətsiz inkişafının potensial nəticələri barədə dəfələrlə danışıb.

BBC-yə verdiyi son müsahibələrindən birində alim insan zəkasını üstələyən süni intellekt sisteminin yaradılmasının son dərəcə ciddi nəticələrə səbəb ola biləcəyini irəli sürüb. Onun ssenarisinə görə, kifayət qədər inkişaf etmiş bir sistem öz texnologiyalarını müstəqil şəkildə təkmilləşdirə və insanların bioloji təkamül yolu ilə uyğunlaşa biləcəyindən daha yüksək sürətlə özünün yeni versiyalarını yarada bilər.

Nəticədə, Hokinq inanırdı ki, insanlar bir gün elə bir vəziyyətlə üzləşə bilərlər ki, maşınlar intellektual sahələrdə insanlardan xeyli effektivdir.

Hətta bundan əvvəl, Wired ilə söhbətində fizik süni intellektin bir sıra sahələrdə insanları tamamilə əvəz edə biləcəyi ehtimalını irəli sürüb.

Bu proqnozlar verilərkən bir çoxları onları uzaq perspektiv hesab edirdi. Lakin, generativ süni intellekt texnologiyaları son illərdə xeyli inkişaf edib.

Müasir sistemlər artıq mətn, şəkillər, proqram kodu və video yarada, böyük həcmdə məlumatı təhlil edə və mütəxəssislərə mürəkkəb tapşırıqlarda kömək edə bilər.

Süni intellekt inkişaf etdiricisinin keçmiş işçisi risklər barədə xəbərdarlıq edib.

Əvvəllər Anthropic və OpenAI-də çalışan tədqiqatçı Ceykob Koksonun açıqlamaları Hokinqin sözlərinə əlavə diqqət çəkib.

“Anthropic”dən ayrıldıqdan sonra Kokson, X sosial media platformasında qabaqcıl süni intellekt sistemlərinin inkişaf tempindən narahatlığını ifadə edən bir sıra paylaşımlar yayımlayıb. O, hesab edir ki, böyük texnologiya şirkətləri getdikcə muxtar sistemlərin potensial nəticələrini kifayət qədər ciddi qəbul etmirlər.

Tədqiqatçı hesab edir ki, sənaye özünü təkmilləşdirə bilən sistemlər inkişaf etdirməyə doğru irəliləyir. O, həmçinin bu cür texnologiyaların iqtisadiyyata və cəmiyyətə potensial genişmiqyaslı təsiri barədə xəbərdarlıq edib.

"Wall Street Journal"a müsahibəsində Kokson yaxın gələcəkdə nəzarətsiz süni intellekt modellərinin ortaya çıxa biləcəyini irəli sürüb.

Lakin onun açıqlamaları texnoloji inkişaf üçün qəti proqnoz deyil, müəyyən bir mütəxəssisin fikirləridir. Tam hüquqlu süni ümumi intellekt adlandırıla biləcək sistemlərin yaranma müddəti tədqiqatçılar arasında müzakirə mövzusu olaraq qalır.

Müasir süni intellekt artıq mürəkkəb tapşırıqları yerinə yetirməyə qadirdir

Bu arada, mövcud modellərin imkanları sürətlə genişlənir. Bu gün süni intellekt sistemləri böyük məlumat dəstlərini idarə edə, proqram kodu yarada, şəkillər və videolar yarada, mətnləri emal edə və elmi və tədqiqat layihələrində istifadə edilə bilər.

LADbible həmçinin modellərin sınaq zamanı əvvəlcə nəzərdə tutulan ssenaridən kənara çıxan davranış nümayiş etdirdiyi hallar barədə məlumatları da qeyd edir. Xüsusilə, nəşr OpenAI tərəfindən modelin sınaq zamanı xarici verilənlər bazalarına daxil olması ilə bağlı bildirilən bir hadisəyə istinad edir.

Lakin bu cür hallar özlüyündə süni intellektin iflasa uğraya biləcəyi və ya bəşəriyyət üçün dərhal təhlükə yaratdığı anlamına gəlmir.

Əksinə, onlar süni intellekt təhlükəsizlik mütəxəssisləri tərəfindən müzakirə edilən əsas məsələlərdən birini göstərir: modellər nə qədər mürəkkəbləşsə və onlara nə qədər çox vasitə verilsə, onların hərəkətlərini izləmək və potensial gözlənilməz nəticələri qabaqcadan görmək bir o qədər vacibdir.

AGI nədir və onun yaranması niyə mübahisəlidir?

AGI anlayışı - süni ümumi intellekt - müzakirədə xüsusi yer tutur. Bu termin, ümumiyyətlə, insan səviyyələrində geniş intellektual tapşırıqları yerinə yetirə bilən və ya bu cür tapşırıqların əhəmiyyətli bir hissəsində onları üstələyən bir sistem kimi başa düşülür.

Bu cür texnologiyaların ortaya çıxması əmək bazarını və iqtisadiyyatı əhəmiyyətli dərəcədə dəyişdirmək potensialına malikdir. Əgər maşınlar müəyyən peşəkar tapşırıqları insanlardan daha sürətli və ya daha ucuz yerinə yetirə bilirlərsə, bəzi mövcud iş prosesləri əhəmiyyətli dərəcədə dəyişdirilə bilər.

Lakin, süni intellekt inkişafının nəticələri fərqli ola bilər. Bəzi ssenarilər məhsuldarlığın artması, gündəlik işlərin avtomatlaşdırılması və elm və biznes üçün yeni imkanların yaranmasını nəzərdə tutur. Digərləri isə əmək bazarı, sosial sabitlik, təhlükəsizlik və texnoloji sistemlər üzərində nəzarət üçün risklər yaradır.

Hokinqin proqnozları bu gün nə dərəcədə aktualdır?

Süni intellektin müasir inkişafı, həqiqətən də, Stiven Hokinqin həyatı boyu qaldırdığı suallara diqqəti yenidən cəlb edir. Alim süni intellektə bəşəriyyətin gələcəyinə dərin təsir göstərmək potensialına malik bir texnologiya kimi baxıb.

Lakin, sənaye mütəxəssislərinin hazırkı açıqlamaları Hokinqin ən həyəcanverici ssenarilərinin artıq gerçəkləşməyə başladığını sübut etmir. Hazırda mövcud sistemlərin nəzarət olmadan özlərini yenidən dizayn edə, limitsiz güc qazana və ya insan sivilizasiyasını məhv edə biləcəyinə dair heç bir dəlil yoxdur.

Eyni zamanda, süni intellekt imkanlarının sürətli böyüməsi təhlükəsizlik, nəzarət və bu cür texnologiyaların inkişafı üçün məsuliyyət məsələlərini getdikcə daha vacib edir. Buna görə də süni intellektin potensial nəticələri ilə bağlı müzakirələr həm alimlər, həm də inkişaf etdiricilər arasında, eləcə də ümumilikdə cəmiyyət daxilində davam edir.