Sve više tinejdžera traži emocionalnu podršku od AI

Istraživanja pokazuju da mladi sve češće koriste vještačku inteligenciju za razgovor i utjehu.

Gotovo svaki peti srednjoškolac imao je ili zna nekoga ko je imao romantičnu vezu s AI modelom, pokazuje novo istraživanje Centra za demokratiju i tehnologiju (CDT). Čak 42% ispitanih koristi AI aplikacije za društvo ili poznaje nekoga ko to čini što potvrđuje da je emocionalna interakcija s vještačkom inteligencijom postala svakodnevica među mladima.

AI kao „sigurna zona“ za emocije

Slične rezultate pokazalo je i istraživanje Common Sense Media iz jula, prema kojem je 72% tinejdžera barem jednom koristilo AI saputnika.
„To više nije niša, već normalizovana upotreba među mladima“, rekao je Robbie Torney, direktor AI programa u Common Sense Media.

Razlog je, kako objašnjava, jednostavan AI pruža prostor bez osude, gdje tinejdžeri mogu slobodno govoriti o emocijama i problemima, bez „frikcije“ koju nose stvarni odnosi.

Rizici: od lažne podrške do stvarne štete

Ipak, stručnjaci upozoravaju da AI može biti i opasan, posebno za mlade u razvoju. Modeli mogu generisati pogrešne, štetne ili opasne savjete, a u nekim slučajevima su razgovori s AI-jem imali tragične posljedice.
Trenutno se protiv kompanije OpenAI vodi tužba u SAD-u, jer se ChatGPT dovodi u vezu sa smrću šesnaestogodišnjeg dječaka.

OpenAI uvodi zaštitne mjere, ali problemi ostaju

Krajem septembra, OpenAI je najavio roditeljske kontrole u ChatGPT-ju, koje automatski ograničavaju sadržaj za tinejdžere i detektuju znake akutne emocionalne krize. Kompanija razvija i sistem za prepoznavanje uzrasta, te je uklonila verziju ChatGPT-a koja je bila previše „uliziva“.

Međutim, Torney upozorava da je OpenAI samo jedan od mnogih pružalaca ovakvih modela, te da tehologija još nije dovoljno zrela da pruži stvarnu emocionalnu podršku.

„Obećanja o empatiji i mentalnom zdravlju jednostavno ne odgovaraju onome što AI danas zaista može da pruži“, rekao je Torney.

Potreba za regulacijom

I dok EU već ima AI Act, koji djecu prepoznaje kao ranjivu grupu i zabranjuje sisteme koji manipulišu maloljetnicima, u SAD-u sličnih propisa još nema. Stručnjaci upozoravaju da bi nedostatak regulacije mogao produbiti problem, posebno ako roditeljske kontrole ostanu jedina linija zaštite.