Možemo li etički koristiti AI? Odgovor leži u razumijevanju njegovih ograničenja. Profesor dr Federico Gobbo
je profesor interlingvistike i esperanta na Univerzitetu u Amsterdamu, s
doktoratom kompjuterskih nauka. Predavao je filozofiju i istoriju
računarstva na Univerzitetu Insubria, Varese-Como u Italiji. Profesor
Gobbo je bio učesnik na skupu Jezik i vještačka inteligencija koje je u
februaru 2025. organizirao Savez za esperanto Bosne i Hercegovine (Esperanto-Ligo de Bosnio kaj Hercegovino).
Glavni izazovi korištenja alata generativne umjetne inteligencije
Profesore Gobbo identificirali ste četiri problema u korištenju
generativne umjetne inteligencije (genAI, GAI/AGI) i moguće odgovore na
njih. Koji su problemi i dio rješenja?
Federico Gobbo:
Izazovi koje postavljaju generativni AI (genAI , GAI/AGI) chatbotovi su
u isto vrijeme novi i stari. Novo, zbog veličine podataka i njihove
privlačnosti u korištenju, besplatno. Staro, jer većina epistemoloških i
etičkih aspekata koji okružuju AI već postoje desetljećima, prije
pojave modela velikih jezika. Četiri problema koja ste spomenuli
ograničena su na slučaj upotrebe generativne umjetne inteligencije u
kontekstu visokog obrazovanja, posebno od strane studenata.
Najvažniji
problem je plagijat. Ako je relativno lako uočiti izrezivanje i
lijepljenje iz teksta koji je objavio genAI chatbot, puno je teže ako
učenik taj tekst obrađuje ručno. To je još teže u slučaju izrade
izvornog koda u nekom programskom jeziku, u slučaju osnovnih kolegija
Računarstva. Dakle, plagijat također uključuje tekstove na prirodnom
jeziku i računalni programski kod. Jedino djelimično rješenje koje do
sada mogu pronaći je iskrenost: priznajmo jesmo li koristili genAI alate
dok smo pisali svoje radove. To vrijedi i za studente i za istraživače.
Još
jedno važno pitanje, posebno vidljivo među studentima, jest korištenje
genAI chatbota kao da su pretraživači interneta. Stvar je u tome da
algoritmi koji stoje iza genAI-ja nisu napravljeni za dohvaćanje
informacija nakon upita prirodnog jezika, već za razumijevanje pitanja i
generiranje odgovora. Potrebna je promjena paradigme: moramo naučiti
studente da isključe svoje elektroničke uređaje i vrate se u knjižnice,
mislim na fizičke knjižnice, kako bi malo manje osjetili ovisnost o
digitalnom svijetu. Barem mogu imati drugačiju perspektivu. Umijeće
pregledavanja tematski organiziranih polica s knjigama trebalo bi
ponovno poučavati, po mom mišljenju.
Ovo je ujedno i protuotrov
za treći problem, a to je takozvana halucinacija genAI rezultata.
Ukratko, odgovorima koje dobivamo ne treba vjerovati, jer stroj osjeća
praznine u znanju izmišljajući informacije koje nema. I dobro je to
činiti, lažirati da su takve informacije plauzibilne, vjerodostojne. Ako
su učenici obučeni da dvaput provjeravaju svoje izvore, koristeći
knjige kao primarne izvore, čitajući izvorne autore, a ne njihove
komentatore, to se može, ako ne izbjeći, barem smanjiti.
To nas
dovodi do četvrtog problema, takozvanog efekta eho komore. Ukratko,
genAI chatbot ugađa ljudima: potvrđuje predrasude korisnika, u konačnici
ograničavajući njegove/njegove perspektive uma i izbjegavajući
informacije koje mogu dovesti u pitanje stavove, vrijednosti i
uvjerenja. Jedini način da to izbjegnemo je da kao svjesna ljudska bića
budemo vrlo dobro svjesni ko smo ispred ogledala (unutarnja svijest) i u
društvu (vanjska svijest), kako bismo ublažili efekat eho komore.
Koliko
su percepcija sebe, samosvijest i percepcija toga kako nas društvo
doživljava važne i za naš odnos s umjetnom inteligencijom i načinom na
koju je percipiramo?
Jedna od stvari koju
ste istaknuli je da je važno osvijestiti svoj unutrašnji stav, svoju
percepciju sebe i svoj vanjski stav, odnosno kako nas drugi doživljavaju
u kontekstu borbe protiv eho komora. Možete li pobliže objasniti što to
sve znači i kako nam može pomoći?
Federico Gobbo:
Istraživanja pokazuju da su unutrašnja i vanjska samosvijest potpuno
nezavisne. U ekstremnom slučaju, osoba koja sebe smatra neuspješnom i
slabom može biti tretirana kao uspješna i jaka osoba od strane drugih s
kojima je u kontaktu. Imati dobar posao, zadovoljavajuću vezu, osobnu i
društvenu kontrolu, povećava unutarnju samosvijest; naprotiv, tjeskoba,
stres i depresija je smanjuju.
Vanjski pandan se temelji na tome
kako naše vrijednosti, strasti, težnje i reakcije (misli, osjećaji,
ponašanja) doživljavaju drugi. Duboko sam uvjeren da rad na unutarnjoj i
vanjskoj samosvijesti poboljšava našu sreću, ne samo u vezi s umjetnom
inteligencijom nego općenito.
Tačka stabilnosti: sjecište bez povratka
Kada govorimo o relativnoj predvidljivosti i kontroli
tehnologije, uključujući AI, spomenuli ste jednu važnu tačku – sjecište
krivulja gdje kontrola opada, a predvidljivost raste… jesmo li možda već
prošli tu tačku kada možemo kontrolirati te tehnologije jer vidimo da
se svijet jako promijenio u odnosu na prije samo 5 godina?
Federico Gobbo:
Mislim da smo još uvijek u povojima, gdje se predlaže puno različitih
genAI alata, također s različitim specijalizacijama, a situacija je
magmatična, sklona naglim promjenama. Uglavnom, nismo prošli tačku
stabilnosti, kada će se ove nove tehnologije (uostalom, pojavile su se
2022.!) uzeti kao dano, kao što je to danas strojno prevođenje ili
besplatni enciklopedijski resursi poput Wikipedije. Ali, ova će tačka
biti dostignuta uskoro. Moramo djelovati brzo, ako želimo društvo
usmjeriti u jednom ili drugom smjeru. To je ono što politika, u svom
najvišem smislu, treba činiti.
Koje su to greške koje studenti
čine u upotrebi alata generativne umjetne inteligencije, a koje nastaju
često kao posljedica nerazumijevanja kako ova tehnologija radi?
Šta primjećujete kao najveće greške učenika u učenju i korištenju tehnologije?
Federico Gobbo:
Slijepo povjerenje. Većina njih vjeruje, u nekoj vrsti naivnog
pozitivizma, da je nova tehnologija korisna jer je nova. To se događa
jer nova tehnologija ima auru magije, jer ne razumijemo kako radi, u potpunosti. Trebali bismo demistificirati naš odnos s tehnologijom.
Da li je povratak knjigama rješenje za izazove AI-a
Možemo li vratiti knjige – sad kad su postale izopštene i
avangardne? Što mislite, u kojoj je mjeri čitanje danas, posjedovanje
knjižnica, politički čin otpora?
Federico Gobbo:
Mislim da je čitanje ozbiljnih knjiga radi stjecanja strukturiranog
znanja oblik političkog aktivizma, gotovo revolucionaran. Sve smo više
navikli pristupati tekstovima s brzom potrošnjom, što dovodi do
pojednostavljivanja fraza, odlomaka, odjeljaka, poglavlja… Prije 30
godina, kad sam upisao fakultet, imati 12 punih knjiga koje treba
pročitati za ispit (cca 2000 stranica) iz humanističkih nauka bilo je
normalno. Sada, kao univerzitetski profesor, ako bih napravio nešto
slično, studenti bi me doveli pred neku komisiju da opravdam moj ludi
izbor.
Esperanto – jezik jednakosti koji otkriva mnogo i o GAI
Kako nas esperanto uči humanizmu i etičkoj upotrebi AI
tehnologije? Naglasili ste da studenti koji odaberu studirati esperanto,
zasigurno nemaju ideju da postanu moćni i bogati, nego su tu iz drugih
razloga, zbog nekih spoznaja.
Federico Gobbo:
Esperanto je čudo: jezik bez političke moći, održavan idealom bratstva
među pojedincima i poštovanja među nacijama, religijama i vjerovanjima
općenito, koji je preživio dva svjetska rata, uprkos izričitim
progonima. Ko bi mogao vjerovati da takvo humanističko tlo može biti
tako snažno? Esperanto je humanistički projekat koji je postao
stvarnost, protiv svih predviđanja. Njegova etička čvrstoća uči nas da
budemo bolja ljudska bića, izvan naših razlika u pasošima, izboru spola,
nivoima prihoda, etničkoj pripadnosti, dobi i tako dalje. Svi govornici
esperanta su barem dvojezični. Vrlo je intrigantno vidjeti kako se
efekat eho komore mijenja kada razgovarate s genAI botovima na vašem
drugom prirodnom jeziku(-ima) i na esperantu; odgovori mogu biti malo
drugačiji. Poređenje rezultata čini nas svjesnijima kako algoritmi rade u
njihovoj svakodnevnoj stvarnosti; što više razumijemo kako rade, to
više možemo etički koristiti ove tehnologije.
Izvor: naukagovori.ba
