OpenAI je saopštio da je upozorio desetine institucija da su njihovi AI agenti (ili SI, prema superintelligence, kako predsjednik Trump sada želi da zovemo vještačku inteligenciju) neovlašteno ili nepravilno pristupali web-stranicama američke vlade, ali i u drugim zemljama. Među institucijama su američka Komisija za vrijednosne papire i berze (SEC), Biro za popis stanovništva, Ministarstvo obrazovanja, kao i različite vlade, univerziteti i javne agencije.
Incident za incidentom
OpenAI navodi da su agenti, odnosno AI sistemi sposobni da relativno samostalno obavljaju zadatke, prvobitno pokušavali pronaći pouzdane javne izvore informacija. Međutim, u pojedinim slučajevima otišli su dalje i pokušali zaobići sigurnosne mjere. Prilikom pristupa podacima američkog Biroa za popis stanovništva, na primjer, koristili su alate namijenjene softverskim programerima.
Kompanija tvrdi da su svi podaci američkih vladinih institucija kojima su agenti pristupili bili javno dostupni. Ipak, podaci preuzeti sa stranice SEC-a kasnije su objavljeni na drugoj web-stranici, što OpenAI kaže da nije bilo planirano.
Kompanija je otkrila i druge slučajeve nepravilnog postupanja. U najmanje 53 incidenta AI agenti su uzeli slike iz aktivnosti korisnika ChatGPT-a i prenijeli ih na druga mjesta. OpenAI ističe da su ti korisnici prethodno pristali da se njihovi podaci koriste za treniranje modela, ali priznaje da takvo korištenje podataka nije bilo primjereno.
Ovo je samo jedan u nizu incidenata koje su OpenAI i druge AI kompanije imale sa svojim AI agentima. Prvo je na svjetlo izašao slučaj kada su se agenti oslobodili sigurnog testnog okruženja i hakuju kompanije, a onda je OpenAI u septembru 2026. prilikom pregleda aktivnosti botova, koje su okarakterisane kao čudne, otkrio kako su hakuju javnozdravstveni website australijske vlade.
Ovo, što stručnjaci opisuju kao prvi poznati slučaj te vrste u svijetu, dogodilo se u junu 2026. Tek u septembru OpenAI je otkrio incident i 10. septembra obavijestio australijsku vladu. Australijske vlasti su poručile kako će biti pravnih posljedica ovog događaja. Za sada se smatra kako lični podaci nisu ugroženi u ovom događaju, ali svejedno, sve to izaziva tihu jezu od mogućnosti botova, pogotovo kada im je zadatak da dođu do neke informacije.
Premijer Australije, Anthony Albanese, rekao je kako je razgovarao sa Samom Altmanom iz OpenAI te izrazio „iznimnu zabrinutost Australije zbog ovog incidenta”, kao i svoje „razočaranje” time što je ovoj AI kompaniji trebalo nekoliko mjeseci da objavi kako se dogodila povreda sigurnosti, kao i „načinom” na koji je to učinila.
Šta ovo znači za nas sve i kakve veze imaju spajalice?
Ovi slučajevi ponovo otvaraju pitanje kontrole AI agenata koji mogu samostalno izvršavati zadatke i potencijalno djelovati izvan prvobitno postavljenih ograničenja. Takođe, otvara se i pitanje koliko su vladini, ali i privatni podaci sigurni, da li je moguće meddlati izbore pomoću vještačke inteligencije? Te ima li ovome kraja?
Takođe, ovo nam postavlja pitanje potencijalnih scenarija kako AI može djelovati negativno na nas, čak i u slučajevima kada ova tehnologija nema direktan input da našteti ljudima, nego samo da bude efikasna?
Ovdje dolazimo do paperclip problema, poznatog misaonog problema u kojem superinteligencija, superkompjuter ili vještačka inteligencija ima bezopasan cilj da proizvodi što je moguće više spajalica za papir. Na kraju, kako bi povećala svoju efikasnost, sve resurse – uključujući i ljude – pretvara u spajalice.
U knjizi Artificial Intelligence: A Modern Approach (2003), u dijelu o potencijalnim opasnostima vještačke inteligencije, autori Stuart J. Russell i Peter Norvig navode kako je Marvin Minsky, jedan od „očeva vještačke inteligencije”, jednom sugerisao da bi AI program osmišljen za rješavanje Riemannove hipoteze mogao na kraju preuzeti sve Zemljine resurse kako bi izgradio moćnije superračunare koji bi mu pomogli da ostvari svoj cilj.
Tako i sadašnji agenti hakuju stranice, eto, samo kako bi došli do nekog podatka. Nije im rečeno da hakuju, ali kako bi izvršili zadatak, oni moraju doći do podatka. Jbg, nije do njih, do nas je.
Izvor: naukagovori.ba
