Udobnost s posljedicama: LLM alati i kognitivni pad
Time magazine je objavio tekst o studiji koja je postavljena na preprint platformu arXive o tome kako ChatGPT i drugi LLM-ovi (Veliki jezički modeli – Large Language models) erodiraju moć kritičkog mišljenja. Ovaj preprint koji dolazi sa MIT (Massachussetts Institute of Technology) je podnesen 10. juna 2025. i donio je nekoliko ključnih zaključaka: Upotreba LLM-a […] The post Udobnost s posljedicama: LLM alati i kognitivni pad appeared first on Nauka govori.
Time magazine je objavio tekst o studiji koja je postavljena na preprint platformu arXive o tome kako ChatGPT i drugi LLM-ovi (Veliki jezički modeli – Large Language models) erodiraju moć kritičkog mišljenja.
Ovaj preprint koji dolazi sa MIT (Massachussetts Institute of Technology) je podnesen 10. juna 2025. i donio je nekoliko ključnih zaključaka:
- Upotreba LLM-a smanjuje moždanu aktivnost i angažman
- Korisnici pokazuju smanjeno kognitivno angažovanje i slabiju memoriju.
Sama studija je preprint, što znači da još nije prošla rigoroznu stručnu recenziju. No podaci i metodologija zvuče uvjerljivo i dolaze sa respektabilne institucije te su vrijedni pregleda i teksta. Ono što je dodatna mana studije jeste što je bilo uključeno samo 54 osobe (18-39 godina starosti), bilo je 4 sesije, a ispitanici su podijeljeni u 3 grupe – one koji su koristili LLM, one koji su koristili pretraživač na internetu i one koju su koristili samo svoje kognitivne sposobnosti bez vanjskih resursa (Brain -only) i samo 18 osoba je završilo 4. sesiju, što je prilično mala grupa za istraživanje. Istraživači su ispitanicima dali zadatak da napišu esej. Cijelo istraživanja i metodologiju možete pronaći ovdje.
Mozak na pauzi: kako ChatGPT i drugi LLM – emovi utiču na učenje i pamćenje
Istraživači su koristili elektroencefalografiju (EEG) kako bi pratili moždanu aktivnost kod korisnika ovog specifičnog tipa vještačke inteligencije u toku rada s njom i kod onih koji su pisali eseje bez LLM-ova.
EEG mjerenja pokazuju da učesnici koji su pisali eseje bez pomoći alata (Brain-only) imaju najjaču i najrasprostranjeniju moždanu povezanost, dok su korisnici LLM-a pokazivali najslabiju aktivaciju moždanih mreža. Aktivnost mozga se smanjivala proporcionalno oslanjanju na spoljašnje alate. Ovo je prirodno jer napor koji moramo upotrijebiti da bismo formulisali sopstvenu misao je veći nego da samo promptamo ili naložimo chatu na nam nešto napiše.
Također, pitanje je i koliko osobe, primjerice učenici i studenti koji pomoću LLM-ova napišu određeni tekst zapravo pročitaju taj tekst, i nauče nešto iz njega ili bar prođu kritički da bi otkrili da li je on smislen ili sadrži nesuvislosti i materijalne greške. Korisnici Chata jednostavno stave „mozak na pašu”.
Tokom četiri mjeseca, korisnici LLM-a su dosljedno postizali slabije rezultate na neuralnim, jezičkim i ponašajnim mjerama, u poređenju sa drugim grupama. Suprotno tome, oni koji nisu koristili spoljašnje izvore za pisanje eseja imali „najjače i najrasprostranjenije moždane mreže“.
Mozak na ChatGPT-u vizualizacija veza, izvor MIT/Natalya Kosmyna
Esej koji nisi zapamtio: mozak i AI u sudaru
Kada su LLM korisnici prešli na Brain-only pisanje, pokazali su smanjenu konektivnost u alfa i beta opsezima moždanih talasa, što sugeriše nedovoljnu angažovanost. Takođe su slabije pamtili sadržaj eseja i teže prepoznavali vlastiti tekst te ga teže reproducirali. Mozak prosto mora nešto da prođe, dohvati šaka, a ne da to neko znanje samo sklizne preko njega. Mora ga dohvatiti šaka.
Iako je ChatGPT „efikasan i praktičan“, oni koji ga koriste za pisanje eseja ne „integrišu nijedan dio toga“ u svoje memorijske mreže, izjavila je za Time Magazine glavna autorka studije Nataliya Kosmyna. Dakle, oni jednostavni kopiraju i zalijepe odgovore Chatbotova bez dodatnog promišljanja nad ispisom. Ljudi su prerano shvatili chatbotove kao neku vrstu umjetne svijesti i ekspres pretraživača, što jednostavno nije tačno.
Kosmyna je posebno izrazila zabrinutost zbog uticaja koji ChatGPT može imati na djecu, čiji se mozak još uvijek razvija te kako se boji da se neko ne dosjeti da se prave ChatGPT obdaništa ili drugi vidovi integracija LLM-ova u obrazovni sistem gdje bi na udaru bile kognitivne sposobnosti mladih ljudi, djece, kod kojih se mozak tek razvija.
Ovo znači da mokri snovi Billa Gatesa o tome kako će nastavnici i ljekari biti nepotrebne profesije u budućnosti i kako će njihove pozicije preuzeti umjetna inteligencija (AI) prosto naprosto ne smiju da se ostvare. Korištenje LLM-ova dolazi sa određenim kognitivnim i obrazovnim troškovima i povećava kognitivne disparitete između dobrog i osrednjeg obrazovanja.
Čitanje i kritičke rasprave kao protuotrov
Znate, na fakultetu smo mi na nekim predmetima na komparativnom književnosti imali predavanja i vježbe tako da nam daju knjige, recenzije, poglavlja ili filmovi i dokumentarce, video materijale, pa bismo onda o tome raspravljali. Jedan dio predavanja nije bio strogi ex cathedra, nego smo se mi morali kritički osvrtati ne sve i svašta. Prva stvar koja bi morala biti sine qua non jeste čitanje analitičnijih tekstova već od osnovne škole, a pogotovo u srednjoj i na fakultetu. Jer polako kao da gubimo sposobnost razumijevanja teksta, pogotovo onih dužih.
Jako puno tekstova je toliko SEO optimizirano na keyword da doslovno gube smisao, jako puno tekstova ide na readability, odnosno da budu čitljivi širokoj populaciji (da ne zamaraju) pa su kratki i buletizirani, što je upravo forma koju prate i chatbotovi. Zapravo toliko su podešeni da budu čitljivi da su u potpunosti nečitljivi, i vrijeđaju zdravu pamet.
Nedavno sam na Axios našla tekst koji je u potpunosti buletiziran. Sve rečnice su takve. Nema niti jedne rečenice koja odgovara normalnom tekstu koji je pisao čovjek.
Također, ti tekstovi imaju često vrlo kratke rečenice, bez dubine, jer je za readability važan faktor da količina rečenica koje imaju više od 20 riječi bude ispod 25%. Iole intelekutalan tekst će imati više. Još nešto – primijetite kako su paragrafi na ovim tekstovima novogovora vrlo kratki. Gotovo jedna rečenica-jedan paragraf, što recimo vidimo kod BBC-ja. Prije su novinski članci pisani tako da po tri-četiri rečenice nose paragraf.
Profesor Federico Gobbo je također istakao važnost čitanja u borbi sa ovim kognitivnim padom i skonošću da se napamet uči a ne kritički i duboko prolazi kroz informacije.
Gubitak sposobnosti apstraktnog i bilo kakvog drugog mišljenja i analize?
Zapamtite što ću vam reći: namjerno nas zaglupljuju. Već sad imamo generacije koje ne mogu pročitati 10 strana knjige da se na zamore, ili da pogledaju ozbiljan film, sadržaj koji traje duže od jedne minute. I da se razumijemo – ovaj fenomen se ne događa samo među mladima, nego su i odrasli koji su izloženi ovakvim sadržajima postali jednako kognitivno urušeni i nesposobni. Kognitivne sposobnosti doista podsjećaju na nivo prikazan u filmu Idiocracy.
Da, izgleda baš kao gornji tekst, samo što je gornji tekst ipak kreirao čovjek, a ne chatbot, što možete i provjeriti pomoću ZeroGPT.
Quo vadis, svijete? Trenutna dešavanja su ili put u kakistokratiju i idiokratiju ili wake-up call da se vratimo humanističkim vrijednostima i stavimo čovjeka, empatiju i etiku u centar. Tehnokratija ne donosi ništa dobro i razvoj nauke i tehnologije bez humanističkog okvira besmisleni su i pusto su zlo.
Napomena: naslovna ilustracija je kreirana pomoću ChatGPT.
The post Udobnost s posljedicama: LLM alati i kognitivni pad appeared first on Nauka govori.
Koja je vaša reakcija?
