Nauka

Udobnost s posljedicama: LLM alati i kognitivni pad

Time magazine je objavio tekst o studiji koja je postavljena na preprint platformu arXive o tome kako ChatGPT i drugi LLM-ovi (Veliki jezički modeli – Large Language models) erodiraju moć kritičkog mišljenja.

Ovaj preprint koji dolazi sa MIT (Massachussetts Institute of Technology) je podnesen 10. juna 2025. i donio je nekoliko ključnih zaključaka:
 
Upotreba LLM-a smanjuje moždanu aktivnost i angažman
Korisnici pokazuju smanjeno kognitivno angažovanje i slabiju memoriju.
Sama studija je preprint, što znači da još nije prošla rigoroznu stručnu recenziju. No podaci i metodologija zvuče uvjerljivo i dolaze sa respektabilne institucije te su vrijedni pregleda i teksta. Ono što je dodatna mana studije jeste što je bilo uključeno samo 54 osobe (18-39 godina starosti), bilo je 4 sesije, a ispitanici su podijeljeni u 3 grupe – one koji su koristili LLM, one koji su koristili pretraživač na internetu i one koju su koristili samo svoje kognitivne sposobnosti bez vanjskih resursa (Brain -only) i samo 18 osoba je završilo 4. sesiju, što je prilično mala grupa za istraživanje. Istraživači su ispitanicima dali zadatak da napišu esej. Cijelo istraživanja i metodologiju možete pronaći ovdje.
 
Mozak na pauzi: kako ChatGPT i drugi LLM – emovi utiču na učenje i pamćenje
Istraživači su koristi elektroencefalografiju (EEG) kako bi pratili moždanu aktivnost kod korisnika ovog specifičnog tipa vještačke inteligencije u toku rada s njom i kod onih koji su pisali eseje bez LLM-ova.
 
EEG mjerenja pokazuju da učesnici koji su pisali eseje bez pomoći alata (Brain-only) imaju najjaču i najrasprostranjeniju moždanu povezanost, dok su korisnici LLM-a pokazivali najslabiju aktivaciju moždanih mreža. Aktivnost mozga se smanjivala proporcionalno oslanjanju na spoljašnje alate. Ovo je prisodno jer napor koji moramo upotrijebiti da bismo formulisali sopstvenu misao je veći nego da samo promptamo ili naložimo chatu na nam nešto napiše.
 
Također, pitanje je i koliko osobe, primjerice učenici i studenti koji pomoću LLM-ova napišu određeni tekst zapravo pročitaju taj tekst, i nauče nešto iz njega ili bar prođu kritički da bi otkrili da li je on smislen ili sadrži nesuvislosti i materijalne greške. Korisnici Chata jednostavno stave „mozak na pašu”.
 
Tokom četiri mjeseca, korisnici LLM-a su dosljedno postizali slabije rezultate na neuralnim, jezičkim i ponašajnim mjerama, u poređenju sa drugim grupama. Suprotno tome, oni koji nisu koristili spoljašnje izvore za pisanje eseja imali „najjače i najrasprostranjenije moždane mreže“.
Esej koji nisi zapamtio: mozak i AI u sudaru
Kada su LLM korisnici prešli na Brain-only pisanje, pokazali su smanjenu konektivnost u alfa i beta opsezima moždanih talasa, što sugeriše nedovoljnu angažovanost. Takođe su slabije pamtili sadržaj eseja i teže prepoznavali vlastiti tekst te ga teže reproducirali. Mozak prosto mora nešto da prođe, dohvati šaka, a ne da to neko znanje samo sklizne preko njega. Mora ga dohvatiti šaka.
 
Iako je ChatGPT „efikasan i praktičan“, oni koji ga koriste za pisanje eseja ne „integrišu nijedan dio toga“ u svoje memorijske mreže, izjavila je za Time Magazine glavna autorka studije Nataliya Kosmyna. Dakle, oni jednostavni kopiraju i zalijepe odgovore Chatbotova bez dodatnog promišljanja nad ispisom. Ljudi su prerano shvatili chatbotove kao neku vrstu umjetne svijesti i ekspres pretraživača, što jednostavno nije tačno.
 
Kosmyna je posebno izrazila zabrinutost zbog uticaja koji ChatGPT može imati na djecu, čiji se mozak još uvijek razvija te kako se boji da se neko ne dosjeti da se prave ChatGPT obdaništa ili drugi vidovi integracija LLM-ova u obrazovni sistem gdje bi na udaru bile kognitivne sposobnosti mladih ljudi, djece, kod kojih se mozak tek razvija.
 
Ovo znači da mokri snovi Billa Gatesa o tome kako će nastavnici i ljekari biti nepotrebne profesije u budućnosti i kako će njihove pozicije preuzeti umjetna inteligencija (AI) prosto naprosto ne smiju da se ostvare. Korištenje LLM-ova dolazi sa određenim kognitivnim i obrazovnim troškovima i povećava kognitivne disparitete između dobrog i osrednjeg obrazovanja.
 
Čitanje i kritičke rasprave kao protuotrov
Znate, na fakultetu smo mi na nekim predmetima na komparativnom književnosti imali predavanja i vježbe tako da nam daju knjige, recenzije, poglavlja ili filmovi i dokumentarce, video materijale, pa bismo onda o tome raspravljali. Jedan dio predavanja nije bio strogi ex cathedra, nego smo se mi morali kritički osvrtati ne sve i svašta. Prva stvar koja bi morala biti sine qua non jeste čitanje analitičnijih tekstova već od osnovne škole, a pogotovo u srednjoj i na fakultetu. Jer polako kao da gubimo sposobnost razumijevanja teksta, pogotovo onih dužih.
 
Jako puno tekstova je toliko SEO optimizirano na keyword da doslovno gube smisao, jako puno tekstova ide na readability, odnosno da budu čitljivi širokoj populaciji (da ne zamaraju) pa su kratki i buletizirani, što je upravo forma koju prate i chatbotovi. Zapravo toliko su podešeni da budu čitljivi da su u potpunosti nečitljivi, i vrijeđaju zdravu pamet.
 
Nedavno sam na Axios našla tekst koji je u potpunosti buletiziran. Sve rečnice su takve. Nema niti jedne rečenice koja odgovara normalnom tekstu koji je pisao čovjek.
 
Također, ti tekstovi imaju često vrlo kratke rečenice, bez dubine, jer je za readability važan faktor da količina rečenica koje imaju više od 20 riječi bude ispod 25%. Iole intelekutalan tekst će imati više. Još nešto – primijetite kako su paragrafi na ovim tekstovima novogovora vrlo kratki. Gotovo jedna rečenica-jedan paragraf, što recimo vidimo kod BBC-ja. Prije su novinski članci pisani tako da po tri-četiri rečenice nose paragraf.
 
Profesor Federico Gobbo je također istakao važnost čitanja u borbi sa ovim kognitivnim padom i skonošću da se napamet uči a ne kritički i duboko prolazi kroz informacije.
 
Gubitak sposobnosti apstraktnog i bilo kakvog drugog mišljenja i analize?
Zapamtite što ću vam reći: namjerno nas zaglupljuju. Već sad imamo generacije koje ne mogu pročitati 10 strana knjige da se na zamore, ili da pogledaju ozbiljan film, sadržaj koji traje duže od jedne minute. I da se razumijemo – ovaj fenomen se ne događa samo među mladima, nego su i odrasli koji su izloženi ovakvim sadržajima postali jednako kognitivno urušeni i nesposobni. Kognitivne sposobnosti doista podsjećaju na nivo prikazan u filmu Idiocracy.
 
Gubi se sposobnost apstraktnog, metaforičnog i metonimijskoj mišljenja, razumijevanja alegorija, paradoksa i stilskih figura. Ljudi od informacija učitavaju samo bukvalna značenja i ne mogu čitati između redova i prenesena značenja. Poezija se ne čita, a ako se čita, ne čitaju su visokovrijedne poete i poetese, nego često samo oni koji se smatraju nacionalno prihvatljivim i patriotskim. Već znamo da se ne izučava Vasko Popa, da učenici srednjih škola nisu čuli za njega, a kamoli za TS Eliota ili Konstantina Kavafija.
Čak i tekstovi koji su prenijeli nalaze MIT studije iz Times Magazine samo su prenijeli nalaze, a nisu ušli u dubinu problema – da su chatbotovi tek novi način zaglupljivanja, a da se to odavno radi putem društvenih mreža, kratkog sadržaja koji ne ulazi u dubinu, da se ne trenira fokus i pažnja, koji su iscrpljujući, ali itekako važni za analizu i jačanje sposobnosti kritičkog mišljenje.
I da većina ljudi stotinama godina unazad ide za lakšim i kraćim sadržajem, a da danas živimo prebrzo, nemamo vremena za ostvarivanje istinskih dubokih odnosa,  za duboku analizu svijeta i informacija, da smo u gužvi.
Za kraj, nekoliko natuknica kako prepoznati tekst koji je izrađen gotovo u potpunosti pomoću chatbota:
previše je buletiziran i postoje ponavljanja riječi, kako bi se pojačao SEO;
ne sadrži stvarne reference i hiperlinkove koji bi služili da pojačaju argumentaciju ili kao primjeri, situacije nad kojima se razmišlja u tekstu;
html kod ostaje ako je samo prekopiran tekst – pokušajte ga vratiti u html i pronaći nizove vrlog dugačkog koda koji je ostao iz generiranog teksta;
probajte koristiti ZeroGPT– provucite tekst kroz ovaj alati i sve više od 70% bi moglo biti teški AI slop
ako je u pitanju učenički tekst, da li on odgovara prijašnjim radovima učenika i pismenim zadaćama koje pišu na satu? Učenici često još nisu istranirali model da imitira njihov stil;
AI generisani tekstovi nemaju kompleksnost rečenica, a često su tek ogledalo onoga ko ih koristi, pa osobe koje već neko vrijeme koriste određeni model imaju odgovore modela koji su njima prilagođeni i stilom i rječnikom – modeli su kameleoni, ne zaboravimo to;
čak i Perplexity model, kojeg neki hvale jer izbacuje reference to radi vrlo loše – njegove reference su opšta mjesta, skoro neupotrebljive, recimo wikipedia, umjesto da navodi prave članke i naučne studije, a ako i navede, vrlo je moguće da su reference produkt halucinacija:
Malo je vjerovatno da će se AI pozivati na reference iz filmova i knjiga, pop kulture. Moguće je, ali to bi moralo biti na tako formulisani prompt i trebalo bi provjeriti da li takav citat stvarno postoji.
Da, izgleda baš kao gornji tekst, samo što je gornji tekst ipak kreirao čovjek, a ne chatbot, što možete i provjeriti pomoću ZeroGPT.
 
Quo vadis, svijete? Trenutna dešavanja su ili put u kakistokratiju i idiokratiju ili wake-up call da se vratimo humanističkim vrijednostima i stavimo čovjeka, empatiju i etiku u centar. Tehnokratija ne donosi ništa dobro i razvoj nauke i tehnologije bez humanističkog okvira besmisleni su i pusto su zlo.
 
Twitter
Anketa

Da li ste zadovoljni kvalitetom osnovnog obrazovanja u školama u BiH?

Rezultati ankete
Blog