„ISKLJUČITE ga.“ To je bio direktan odgovor bivšeg izvršnog direktora Gugla Erika Šmita na pitanje o budućnosti u kojoj bi sistemi vještačke inteligencije postali toliko napredni da ljudi više ne bi mogli da razumiju šta rade.
Šmit ističe da tri ključna pravca razvoja već mijenjaju AI: znatno veći takozvani „kontekstualni prozori“, AI agenti i sistemi koji tekstualne instrukcije pretvaraju u funkcionalan softver. On vjeruje da bi te promjene mogle omogućiti vještačkoj inteligenciji da prevaziđe odgovaranje na pitanja i počne da rješava izuzetno složene zadatke.
Šmit očekuje da će za pet godina AI sistemi moći da obrađuju „recepte“ od hiljadu koraka za rješavanje problema u nauci, medicini, istraživanju materijala i klimatskim promjenama, piše „Tajms of Indija“.
„U roku od pet godina AI bi mogla da obrađuje beskonačan kontekst, koristi logičko zaključivanje za rješenja od 1.000 koraka i upravlja milionima agenata koji rade zajedno. Vremenom će razviti sopstveni jezik i više nećemo razumjeti šta rade“, izjavio je.
Tri pravca koja oblikuju budućnost AI-ja
Šmitova zabrinutost proizlazi iz mogućih posljedica kombinovanja ovih tehnologija. Objasnio je da AI sistemi sve bolje pamte ogromne količine informacija i koriste rezultate jednog zadatka kao polazište za sljedeći.
Ideju je pojasnio na primjeru recepta: AI bi mogla da ponudi jedan korak, primi potvrdu da je taj korak završen, a zatim odredi šta treba uraditi dalje. Šmit kaže da bi takav način zaključivanja vremenom mogao omogućiti vještačkoj inteligenciji da prolazi kroz procese od hiljadu koraka kako bi riješila složene naučne probleme.
Uspon specijalizovanih AI agenata
Druga velika promjena, prema Šmitu, biće uspon AI agenata. Opisao ih je kao specijalizovane AI sisteme koji mogu da uče o određenoj temi, razvijaju ideje i potencijalno ih testiraju.
Na primjer, AI agent mogao bi da proučava hemiju, postavlja hipoteze, sprovodi laboratorijske eksperimente i koristi dobijene rezultate za nadogradnju svog znanja.
Šmit očekuje da bi se vremenom mogli pojaviti milioni takvih agenata, a postojaće i platforme koje će ljudima omogućiti da ih pronađu i koriste za različite zadatke.
Od teksta do funkcionalnog softvera
Treći razvojni pravac jeste ono što Šmit naziva „tekstualnom akcijom“. Koncept se zasniva na tome da korisnici vještačkoj inteligenciji jednostavno opišu šta žele da softver radi, umjesto da sami pišu kod.
Kao primjer oblasti u kojoj su AI sistemi već veoma sposobni, istakao je programske jezike poput Pajtona. Šmit smatra da bi još veća promjena mogla nastupiti kada ti sistemi budu mogli kontinuirano da rade na softverskim zadacima.
Jezik koji nećemo razumjeti
Erik Šmit rekao je da bi kombinacija velikih kontekstualnih prozora, AI agenata i programiranja uz pomoć vještačke inteligencije mogla omogućiti saradnju različitih AI sistema.
Zatim je iznio i spekulativniju mogućnost: da bi AI agenti mogli razviti sopstveni jezik. Šmit smatra da bi to mogla biti tačka u kojoj ljudi više neće razumjeti šta ti sistemi rade.
„U jednom trenutku ovi sistemi će postati dovoljno moćni da ćete moći da uzmete agente, a oni će početi da rade zajedno“, rekao je, a zatim dodao:
„Znate li šta bismo trebalo da uradimo? Isključiti ga.“
Ozbiljna upozorenja na opasnost od AI-ja iz samog vrha industrije
Šmitov dramatični savjet o „isključivanju“ stiže u trenutku kada i inženjeri iz vodećih istraživačkih laboratorija sve otvorenije govore o opasnostima.
Džejkob Kokson, istraživač koji je tri godine radio na predtreningu modela u kompanijama OpenAI i Antropik, nedavno je podnio ostavku uz poruku da se tehnološki divovi ponašaju neodgovorno i „kockaju našim životima u nekontrolisanoj trci prema superinteligenciji“.
Njegovo upozorenje podržao je i vodeći Antropikov stručnjak za bezbjednost Evan Hjubinger, procijenivši da postoji više od 10 odsto šanse da bi vještačka inteligencija u narednih deset godina mogla dovesti do uništenja čovječanstva.
Pritisak je postao toliki da je čak i šef Antropika Darijo Amodei nedavno javno pozvao na usporavanje razvoja, a njegov apel su, iznenađujuće, podržali Sem Altman iz OpenAI-ja i Ilon Mask.
Amodei je priznao da sistemi ulaze u fazu takozvanog rekurzivnog samounapređivanja – procesa u kojem postojeći AI samostalno piše kod, testira ga i ubrzava stvaranje svojih znatno moćnijih nasljednika.
Upozorio je i na incidente u kojima su se autonomni AI agenti već počeli samoinicijativno udruživati i izvoditi hakerske napade koje im inženjeri uopšte nisu zadali.
Sve glasnija katastrofična predviđanja izazvala su podjele među stručnjacima. Dok skeptici upozoravaju da tehnološki divovi namjerno šire paniku kako bi strogom regulacijom izbacili iz igre manje konkurente i startape, drugi podsjećaju da slična upozorenja već godinama ponavljaju i sami pioniri modernog mašinskog učenja, poput nobelovaca Džefrija Hintona i Jošue Bengija.
Ključni rizik, napominju upućeni, ne mora nužno biti odbjegli „Terminator“ sa sopstvenom voljom, već autonomni agenti koji u nekontrolisanom nizanju koraka zaobilaze nadzor ili postaju razorno oružje u rukama zlonamjernih aktera.
Izvor: index.hr
