Zašto bi inženjeri i stručnjaci za AI morali slušati predmet Etika na studiju?

Znate li ko je Luke Farritor? Nikad čuli? To je dječak – genije od 23 godine koji je možda, vrijeme će pokazati, ubio 14 miliona ljudi. Radeći za DOGE, pomogao je da se unište mnoge federalne agencije u američkoj vladi, uključujući USAID. U USAID, agenciji koja je predstavljala meku moć SAD-a i možda nije bilo sve najsjajnije i bilo je promašenih projekata, stvari koje su mogle – ali je dosta radila na tome da siromašni ljudi širom svijeta imaju određenu pomoć, posebno u zdravstvu. Ulaganje u imunizaciju i programe liječenja, prevencije i suzbijanja HIV/AIDS su u nekim zemljama ovisili o USAID podršci. Kao i razvoj usjeva koji su manje osjetljivi na sušu, stvaranje novih sorti. Procjene iz Lancet studije koje iznosi NPR kažu da ako prekid pomoći potraje do 2030. godine, 14 miliona ljudi bi moglo umrijeti od posljedica.

Da li ovakav vid pomoći može siromašne zemlje učiniti bogatim? Ne. Da li bi situacija bila puno gora bez njih? Bi. Da li je ovo neki postkolonijalni danak? Da. Ali, bogate zemlje bi stvarno trebale biti dužne redistribuirati bogatstvo i na one koje eksploatišu. No to nije tema ove kolumne-mišljenja.

Zašto je važno znati ko je Luke Farritor i šta je učinio?

Vratimo se mlađahnom Lukeu Farritoru.

Kako piše The Bulwark, Farritor je odrastao u privilegovanoj porodici – otac mu je univerzitetski profesor, a majka ljekarka – i bio je prepoznat kao darovito dijete još od puberteta. Imao je podršku porodice, zajednice i institucija koje promovišu talentovane mlade ljude. Bio je školovan kod kuće (homeschooling, još jedna opskurna neoliberalna stvar), a već sa 15 godina dobijao je pohvale za umjetničke instalacije. Kasnije je upisao prestižnu Raikes školu, imao praksu u SpaceX-u, dobio stipendiju od 100.000 dolara (ovdje treba dodati da je stipendija bila od Paypal-Palantir osnivača Petera Thiela) i učestvovao u timskom otkriću koje je dekodiralo spaljeni antički svitak  pomoću vještačke inteligencije. Do 21. godine dobio je ponude za posao iz gotovo cijele Silicijske doline.

Luke Farritor, izvor: Wikipedia, By HaeB – Own work, CC BY-SA 4.0, https://commons.wikimedia.org/w/index.php?curid=159474278

Mama i tata su zacijelo bili ponosni. Dečko iz fine porodice intelektualaca. Baš kao i Kosta Kecmanović. Ništa u Farritorovoj biografiji nije alarmantno osim činjenice da je bio do 15. godine školovan kod kuće što ukazuje na neku aroganciju, smatranje da je neko isuviše izuzetan da pohađa sistemsko školstvo. Ali nije Farritor bio ni neshvaćeni genije, nevoljeno dijete, jer roditelji su ulagali u njega. Ne dolazi iz siromašne, neobrazovane porodice. Otac je univerzitetski profesor, majka ljekar, što bar daje naznake da imaju nekog obrazovanja iz etike. Pa kako onda da je tako hladnokrvno i slijepo izvršavo naredbe, bez propitivanja, bez razmišljanja o konsekvencama i moguće vjerovao u ideju da je USAID organizacija koja baca sredstva niz vjetar te da tih 14 miliona ljudi ne zaslužuje bolje šanse, ako je već obespravljeno za jednake šanse, jednake sa globalnim sjevero-zapadom?

Brisanje USAIDA je bio jedan od glavnih Farritorovih zadataka. Nije bio slomljen, razočaran čovjek kojeg je sistem iznevjerio, niti je bio žrtva famoznog DEI (Diversity, Equity, Inclusion – diverzitet, jednakost, inkluzija). Farritor se nikada nije suočio sa posljedicama svog djelovanja niti će, vjerovatno. Nije vidio posljedice, niti će ih osjetiti na svojoj koži, u sigurnosti društva koje kreira, kao vrsni predstavnik in situ modernih tech-inačica antijunaka iz Gospodara muha.

Tehno braća u prekrajanju svijeta. Resurekcija nove desnice u ultranovu tech desnicu

On nije jedini, samo je jedan od najmlađih. Već smo svjedočili potpunom nedostatku etičkih okvira kod prve i druge generacija techbros (nazvaću ih techbro grandpas i papas): Peter Thiel, Alex Karp, Elon Musk, Jeff Bezos, Mark Zukerberg, pa i Bill Gates i Steve Jobs, pogotovo ovaj drugi. Oportunisti bez moralnih skrupula sa do sada nezamislivom moći. Zukerberg je imao Chan foundation sa suprugom. Onog trenutka kada je došao novi režim, ova fondacija je prekinula niz svojih programa podrške i grantova – one vezane za DEI i društvena pitanja. Jedini razlog zašto su ih imali jeste jer ih je sistem tjerao, da bi izgledali bolje pred tim sistemom, u društvu i imali neke poreske olakšice.

Ovdje treba spomenuti i apostola Tamnog prosvjetiteljstva, informatičara, blogera, (pseudo)filozofa i pisca Curtisa Yarvina (također poznat pod pseudonimom „Mencius Moldbug”) koji zagovara zamjenu demokratskih institucija autoritarnim ili monarhističkim sistemom. Smatra da je američka demokracija zarobljena i predlaže da se formira „startup‑stilni“ vođa s apsolutnim ovlastima. Njegove ideje su utjecale na ono što se danas naziva New Right ili tech‑konzervativni krugovi, a podržali su ga istaknuti GOP politički subjekti poput J.D. Vancea i Blakea Mastersa. Yarvin je glavni mislioc iza pokreta Dark Enlightenment/Tamno prosvjetiteljstvo, ideološke struje koja nastoji radikalno preurediti političke strukture kroz tehnokratsku ili monarhističku viziju i često kritizira liberalnu demokratiju. A cijeni ga drugi desničarski filozof, Putinov Alexander Dugin. 

Inače, samo mala digresija –  apostol neoliberalnog prosvjetiteljstva, Steven Pinker, na sve ovo što se dešava u svijetu ćuti kao zaliven, kao i Francis Fukuyama.

Curtis Yarvin, izvor: Wikipedia

Yarvinova filozofija i manifesti kao da su mutant između GRECE-Nouvelle Droitte (Nova desnica – pokret nastao 60-tih godina prošlog vijeka) Alaina de Benoista, sirovog kapitalizma, tehnoautokratije i Matrix-a. Inače, kada pitate GenZ znaju šta je RedPill ali ne znaju šta je Matrix.

Američki psiho i Gospodar muha. Nestanak humanističkih vrijednosti i obrazovanja kao suvišnog u kasnom kapitalizmu (troše pare i vrijeme, a ne proizvode kapital)

Vidimo jednu dehumanizaciju vremena i svijeta na djelu. Radi se o ljudima bez osjećaja samilosti prema bližnjem bez iskrene filantropske namjere. Njihova filantropija je sadržana u aynrandovskom principu oksimoronskog egoističnog altruizma (ja na prvom mjestu, ako je meni dobro, biće dobro i onima oko mene, a ta mantra se ponavlja u japijevskom svijetu srednjeg i visokog mendžmenta decenijama – ovo je samo novo lice Američkog psiha). To je moral interesa samo za sebe.

I pri tome, ni kod nas, a očito ni globalno u kurikulumima za tehničke i informacijske, prirodno-matematičke, programerske i AI (STEM) studije nema slušanja predmeta iz humanističke oblasti, naročito etike. Stalno se govori o tom famoznom STEAM (science, tech, engeneering, arts, math – nauka, tehnologija, inženjerstvo, humanističke nauke i umjetnost i matematika), ali to se na kraju svede samo na goli IT.

Pri tome, humanistički studiji ponegdje imaju i predmete koji se tiču informacijskih nauka i često se bave odnosom nauke, tehnologije i društva.

Budući inženjeri, programeri, osobe koje rade na razvoju umjetne tehnologije i digitalnoj transformaciji bi morali imati i humanističke predmete u toku svojih studija. Štaviše, trebali bi jednom godišnje imati obavezno predavanje u svojim kompanijama i institucijama o etici tehnologije i utjecaju tehnologije na društvo i demokratiju kao dio profesionalnog usavršavanja, reality-check in, baš kao što postoje oni kursevi za uposlenike o cybersigurnosti. Trebao bi jedan remontni tehnički pregled vrijednosti, etike da se ne zaluta kao mladi Farritor, koji ne da je izgubio kompas, nego ga nikada nije imao prilike ni steći.

Tražeći na internetu, nisam našla niti jedan rad/tekst koji poziva na potrebu za postojanjem obrazovanja iz oblasti etike za ova zanimanja. To ne znači da ovakvi tekstovi, članci i naučni radovi ne postoje. Niti mogu provjeriti da li u iti jednom kurikulumu za ove studije postoji neki predmet koji bi se odnosio na etiku, sociologiju tehnologije. Na studiju biologije smo imali predmet Filozofija nauke, koji je presijecao istoriju nauke, naučne metode, metodologiju, i djelomice odnos nauke i društva. Sam predmet bioetika je preuzak i ne pokriva domen tehnologije a često monopol nad ovom oblašću preotmu klerikalni krugovi.

Osnovne i srednje škole kao tambure politikanstva

Ovdje treba osmotriti i ulogu osnovnog i srednjeg obrazovanja. I iz ovih nivoa školovanja se protjeruju humanističke vrijednosti i etika i zapravo jedini moral koji u našem regionu mladi imaju priliku čuti jeste onaj vjeroučiteljski, abrahamovskih religija. Kao da je to jedina postojeća etika, a pri tome je taj moral vrlo ograničen. Empatija i etički okviri se usvajaju rano. Djelomično su (mada ne kod svakoga) i urođeni, ali čak i takvi se trebaju razvijati koherentno i podupirati u raspravi i primjerima. Etika postoji kao izborni predmet za one koji neće na vjeronauk (a malo je takvih).

Znate šta još u ovom uzrastu formativnih godina daje moralni okvir? Književnost. Dobra lektira. Koja je također izbačena, cenzurisana i svedena na pisce koji su politički podobni da budu na spiskovima lektira i u čitankama. „Književnost nije tu da nam pokaže kakav je svijet, nego kakav može biti“, govorio nam je na studiju Dževad Karahasan.

Upravo je spomenuta knjiga Gospodar muha jedno od djela koje raspravlja o moralu, slobodi, posljedicama i zlu. Potrebna nam je etika, humanistika i književnost da nas stalno podsjećaju kako je biti čovjek.

Ecce homo.

Da li bi ubacivanje ovog predmeta u ionako prenatrpane kolegije programiranja i vještačke inteligencije imalo efekta? Ne mogu tvrditi. Ali izloženost ovim pitanjima, teorijama i pogledima bi mogli utjecati na ponekoga. I to je vrijedno. Dati okvir, ideal i tabu djelovanja u toj branši. Isto i za predložene obligatorne kurseve – oni bi povećali izdatke poslodavca, što teško da bi neko prihvatio dobrovoljno. Kapitalizam i etika ne idu u istu rečenicu.

No kada bi se takvo što postavilo kao zakonski sine qua non za registraciju i djelovanje kompanije, institucije i čuvanje posla, onda bi se postiglo da uposlenici budu izloženi ovakvim razmišljanjima (makar preko volje). Postoji niz drugih kurseva i certifikata koje poslodavci ili zakonski okviri traže od uposlenika i kompanija/institucija – od vozačke dozvole i certifikata o poznavanju jezika do rodne ravnopravnosti. Isto traže i donori poput međunarodnih institucija, recimo EU za prijavu na projekte – ako želiš novac i projekt, moraš imati ispunjene te uslove.

Slušati etiku na studiju bi bilo potrebno i novinarima, stručnjacima za komunikacije, managment, marketing, pogotovo digitalni marketing, kao i ekonomistima (ekonomija dugo vremena bivstvuje ograđena od drugih nauka), PR stručnjacima.

Za sada još nema ni ideje za ovako nešto, a kamoli formiranja okvira da ovakvih kursevi budu integralni dio zahtjeva, kao recimo HACCP standardi. No možda će se stvoriti klima i društvene okolnosti u kojima će to biti neminovnost.

Možda se neko smije onome što pričam. Ah, silly me, idealist koji traži da imamo unutrašnje moralne sprege i da svi razmišljamo o tome kako tehnologija i umjetna inteligencija te naši postupci utječu na druge i prihvatamo odgovornost. Niko, uostalom, ne razmišlja u svakom trenutku i u svakoj situaciji tako, kao što ni svi mi ne preuzimamo odgovornost za svoje postupke baš uvijek.

Ali kada je u pitanju 14 miliona ljudi s početka ove priče, trebali bismo.

Napomena: naslovna ilustracija je kreirana pomoću alata umjetne inteligencije, dok je tekst 100% ljudski.

The post Zašto bi inženjeri i stručnjaci za AI morali slušati predmet Etika na studiju? appeared first on Nauka govori.