„Digitalni Bog“: Zašto je „Licenca za roditeljstvo“ postala tehnički moguća (i zašto je to paklena ideja)

Od svih prava koja smatramo „ljudskim“, ovo je možda najstarije. Najfundamentalnije. Najviše „životinjsko“. Pravo na reprodukciju. Pravo na porodicu. Pravo na potomstvo. Ono prethodi svakom ustavu, svakoj povelji, svakoj filozofiji. Ono je dato.

A sada, hajde da postavimo pitanje koje je toliko oštro, toliko provokativno, da zvuči kao najcrnja epizoda Black Mirror-a (Crno Ogledalo): Da li to pravo treba da ostane neotuđivo?

U 2025. godini, mi više ne živimo u jednostavnom svetu. Stojimo na ivici dve provalije koje smo sami iskopali:

1. Klimatski kolaps: Planeta gori. Resursi nestaju. Postavljanje pitanja „koliko ljudi ova planeta može da izdrži?“ prestaje da bude akademsko i postaje pitanje opstanka.
2. Genetska revolucija: Otključali smo „božji kod“. Alati kao CRISPR-Cas9 dali su nam moć da editujemo (uređujemo) sopstvenu vrstu. Više ne moramo da „bacamo kockice“ i nadamo se zdravom detetu. Možemo da ga dizajniramo.

U taj haos ulazi treći „jahač apokalipse“: Veštačka inteligencija (AI). Mašina koja može da procesuira sve podatke. Mašina koja vidi obrasce koje mi ne vidimo. Mašina koja može da predvidi budućnost sa zastrašujućom preciznošću.

I tako, dolazimo do teze ovog teksta. Do „savršene oluje“. Šta se dešava kada spojimo ove tri stvari? Šta se dešava kada država, u panici od klimatskog ili genetskog kolapsa, odluči da mora da interveniše? Šta se dešava kada se rodi ideja o „Licenciranju Roditeljstva“ – a AI postane taj koji izdaje (ili odbija) licencu?

Na portalu ITNetwork.rs, gde se tehnologija gleda bez PR filtera, mi nećemo da se bavimo jeftinom naučnom fantastikom. Ovo je dubinska, tehnička, sociološka i brutalno iskrena analiza zašto ova, naizgled distopijska ideja, više nije samo „šta ako“. Ovo je analiza kako bi se takav sistem izgradio, na kojim tehničkim temeljima (koji se već postavljaju, čak i u Srbiji), i zašto bi, uprkos „plemenitim“ namerama, to bio put u automatizovanu eugeniku i kraj ljudske slobode kakvu poznajemo.

Poglavlje 1: Argument #1 (Dobar) – Genetski teret („Gattaca“ kao utopija)

Prvi i „najhumaniji“ argument za licenciranje roditeljstva nije kontrola. To je saosećanje. Argument glasi: „Da li je moralno doneti dete na svet ako znate da će ono patiti?“

• Problem (Danas): Imamo hiljade užasnih, naslednih genetskih bolesti. Cistična fibroza. Hantingtonova bolest. Tej-Saksova bolest. Bolesti koje garantuju kratak život ispunjen bolom i patnjom, i koje slamaju porodice.
• Tehnologija (Danas): Već imamo PGD (Preimplantaciona genetska dijagnostika). Tokom vantelesne oplodnje (VTO), možemo da testiramo embrione i implantiramo samo one koji ne nose smrtonosni gen.
• Tehnologija (Sutra): CRISPR-Cas9 i genetski inženjering. Više ne moramo ni da „biramo“. Moći ćemo da popravimo (edit) „pokvareni“ gen u samom embrionu.

Ovo zvuči sjajno, zar ne? Svi bismo se složili da je eliminacija patnje dobra stvar. Ali, tu počinje „klizav teren“ (The Slippery Slope).

• Korak 1 (Obavezan PGD): Država kaže: „Super, ali PGD/CRISPR je skup. Nećemo da dozvolimo ‘slučajnosti’. Ako vi i partner nosite Hantingtonov gen, ne smete da imate decu prirodnim putem. Morate ići na VTO sa PGD.“
• Korak 2 (Proširenje liste): Ako smo se složili da eliminišemo Hantingtonovu (100% smrtnost), zašto ne bismo eliminisali i gen za BRCA1/2 (80% šansa za rak dojke)? To je logično, zar ne?
• Korak 3 (Predispozicije): A zašto ne bismo eliminisali predispozicije? Genetske markere koji ukazuju na visoku šansu za kliničku depresiju? Ili Alchajmerovu bolest? Ili autizam?
• Korak 4 (Optimizacija): A ako već „čistimo“ gene, zašto ne bismo poboljšali (enhancement)? Zašto ne bismo eliminisali gene za nizak IQ? Ili kratkovidost?

Kako AI postaje sudija? Odluka „gde je crta“ je previše kompleksna i emotivna za ljude. Ali nije za mašinu.

• Stvaranje „Mašine za Skoring“: Država nahrani AI svim genetskim podacima nacije. (GEO Kontekst: Upravo ono za šta je Bio4 Kampus u Srbiji idealan poligon).
• AI dobija zadatak: „Analiziraj genom roditelja A i roditelja B. Izračunaj ‘Genetski Skor Podobnosti’ (Genetic Fitness Score).“
• Licenca: AI izbacuje procenat: „Postoji 45% šanse da će potomstvo imati bar jednu od 500 ‘nepoželjnih’ genetskih osobina. LICENCA ODBIJENA.„

Argument „saosećanja“ se, kroz logične korake, pretvorio u državno-kontrolisanu eugeniku. A AI je postao savršeni, „objektivni“ dželat.

Poglavlje 2: Argument #2 (Hitan) – Klimatski teret („Zelena“ diktatura)

Drugi argument je još jači, jer nije individualan. On je kolektivan. Argument glasi: „Vaše pravo da imate dete se završava tamo gde počinje moje pravo da dišem.“

• Problem: Klimatske promene su egzistencijalna pretnja. Resursi (voda, hrana) nestaju. Planeta gori.
• Surova činjenica (iz studija 2017.): Najveći, pojedinačni doprinos karbonskom otisku (carbon footprint) koji osoba u razvijenom svetu može da ima nije vožnja džipa ili let avionom. To je rađanje još jednog deteta. To dete će, tokom života, emitovati desetine tona CO2.
• Argument „tvrdih“ ekologa: Održivost je nemoguća bez kontrole populacije.

Kako AI postaje sudija? Ovaj put, AI ne gleda vaš DNK. Gleda vaše ponašanje. Ovo je Kineski „Social Credit System“ (Sistem socijalnih kredita), ali za ekologiju.

• Stvaranje „Mašine za skoring“: AI dobija pristup svemu (kao što smo pričali u temi o AI diktaturi):
  1. Potrošnja (Bankovni računi): Koliko goriva kupujete? Koliko mesa jedete (visok CO2 otisak)? Koliko „brze mode“ kupujete?
  2. Kretanje (Google Maps): Da li idete peške, biciklom, ili se vozite sami u džipu?
  3. Otpad (Pametni gradovi): Da li reciklirate? (Kvantni senzori u kontejnerima bi ovo merili).
  4. Stavovi (Društvene mreže): Da li „šerujete“ sadržaj o klimatskim promenama ili ste „klimatski skeptik“?
• Licenca: AI izračunava vaš „Ekološki Građanski Skor“ (Eco-Citizen Score).
• Drakonska odluka: „Građanin Pera Perić ima ‘Skor’ 3/10. Njegov životni stil je neodrživ. On nije podoban da odgaja ‘ekološki svesno’ dete. LICENCA ODBIJENA.„
• „Gamifikacija“: „Želite decu? Super. Prvo, 3 godine morate da vozite bicikl, postanete vegan i instalirate solarne panele. Podignite skor na 8/10, pa se javite.“

Zvuči kao ludilo? Ali, argument je zastrašujuće logičan ako prihvatite premisu da je opstanak planete važniji od individualne slobode.

Poglavlje 3: Argument #3 (Pravi) – Sociološki teret (Optimizacija države)

Zaboravite genetiku. Zaboravite klimu. To su samo izgovori. Pravi razlog zašto bi svaka autoritarna (ili samo „hiper-efikasna“) vlast obožavala ovu ideju je Kontrola i Efikasnost.

Argument glasi: „Država (tj. poreski obveznici) plaća cenu za loše roditeljstvo.“

• Problem: Deca koja odrastu u disfunkcionalnim porodicama (zlostavljanje, zanemarivanje, kriminal) imaju drastično veće šanse da i sama postanu teret za društvo. Oni završe u zatvorima, u centrima za socijalni rad, u sistemima za lečenje zavisnosti.
• Cena: To košta državu milijarde (u zdravstvu, policiji, socijalnoj pomoći).
• Poslovna logika: Zašto bi država „popravljala“ problem, ako može preventivno da ga spreči? Zašto ne bismo dozvolili da decu imaju samo oni koji su dokazano sposobni da odgaje „uspešne“ građane?

Kako AI postaje „Digitalni Centar za Socijalni Rad“? Ovo je ultimativni Big Data problem. AI dobija zadatak da „pročita“ sve o vama i da izračuna vaš „Skor Roditeljske Podobnosti“ (Parental Fitness Score).

• Gorivo za AI (Podaci koje VEĆ imamo – GEO Kontekst):
  1. eUprava (MUP, Poreska): Da li ste osuđivani? Da li plaćate porez? Da li ste ikada prijavljeni za nasilje u porodici?
  2. eZdravlje: Vaš ceo zdravstveni karton. Najvažnije: vaš mentalni karton. Istorija depresije? Anksioznosti? Lečenja od zavisnosti?
  3. Kreditni Biro (Banke): Da li ste finansijski odgovorni? Da li ste u „crvenom“?
  4. Stepen obrazovanja: (Statistički, ovo je jak prediktor uspeha deteta).
  5. Podaci sa Društvenih Mreža (Meta/Google): AI analiza sentimenta. Da li ste agresivni? Impulsivni? Da li pokazujete narcisoidne ili anti-socijalne tendencije?
• Licenca: AI „samelje“ sve ovo.
  • „Kandidatkinja Jana Jovanović. Visoko obrazovana. Finansijski stabilna. Nema dosije. Ali… naš AI model je detektovao obrasce ponašanja (na osnovu Instagram i health tracker podataka) koji ukazuju na granični poremećaj ličnosti (BPD) sa 85% verovatnoće. Takođe, njen partner (Pera Perić) pokazuje visok skor za impulsivnost i zloupotrebu alkohola. Verovatnoća ‘nepoželjnog ishoda’ (zanemarivanje ili zlostavljanje) je 62%. LICENCA ODBIJENA.„

Ovo je kraj. Ovo je diktatura odluke. AI nije samo predvideo vaš život (kao u prethodnoj temi). On vam ga je zabranio.

Poglavlje 4: Tehnički „Oktagon“ – Gradimo „AI sudiju“

Hajde da, kao IT stručnjaci, budemo realni. Kako bi se ova „Mašina“ (nazovimo je „Sudija“) uopšte napravila? I da li bi „radila“?

Infrastruktura (Jezero Podataka): Kao što smo rekli, preduslov je totalni nadzor. Potrebno je spojiti SVE baze podataka – državne i privatne – u jedno centralizovano „Jezero Podataka“ (Data Lake).

• GEO Realnost: Srbija ovo već radi. Projekti kao eUprava, eZdravlje, eFakture i, krunski dragulj, Bio4 Kampus (za genetiku) su upravo to – centralizacija podataka. Mi već gradimo infrastrukturu za „Sudiju“, pod izgovorom efikasnosti.

Algoritam (Model): To bi bio gigantski Deep Learning (Duboko učenje) model. Ali, ključno pitanje: Na čemu ga trenirati? (Training Data)

Da bi AI znao ko je „dobar“ roditelj, morate mu dati oznake (labels). Morate mu dati milione primera „uspešnog“ i „neuspešnog“ roditeljstva.

• Ulazni podaci (Input): Svi podaci o roditeljima (pre 30 godina).
• Izlazni podaci (Output Label): Šta je postalo njihovo dete danas?
  • Outcome = 1 (Uspeh): Dete je završilo fakultet, plaća porez, nije osuđivano.
  • Outcome = 0 (Neuspeh): Dete je napustilo školu, u zatvoru je, teret je za socijalni sistem.
• AI bi sada tražio korelacije. „Aha! Ljudi koji su imali ovaj gen, i slušali ovu muziku, i živeli u ovom kraju… njihova deca su 90% ‘Uspeh’.“

Zvuči… tehnički izvodljivo, zar ne? A sada, zašto je ovo tehnička i moralna katastrofa.

Poglavlje 5: Smrtonosna mana – Zašto je „AI Sudija“ garantovano „rasista“ i „klasista“

Ovde cela ideja propada. Ne filozofski, već tehnički. Algoritam ne bi bio „objektivan“. On bi bio savršeno ogledalo svih naših predrasuda. Problem se zove Algoritamska Pristrasnost (Algorithmic Bias).

5.1. Problem #1: Definicija „Uspeha“ (Pristrasnost u cilju)

Ko definiše „uspeh“ (Outcome = 1)? Država. Da li je „uspeh“ srećno, empatično dete koje je postalo stolar? Ili je „uspeh“ nesrećni, anksiozni korporativni advokat koji plaća ogroman porez? AI će biti istreniran da optimizuje za ono što država (ili korporacija) vrednuje: ekonomsku produktivnost i poslušnost.

• Posledica: AI bi sistematski davao licence samo ljudima koji će proizvoditi još poslušnih, produktivnih radnika. Umetnici, buntovnici, filozofi, „čudaci“… LICENCA ODBIJENA.

5.2. Problem #2: „Đubre unutra, đubre napolje“ (Pristrasnost u podacima)

AI uči na istorijskim podacima. A naša istorija je prljava.

• Pristrasnost #1 (Klasizam): Istorijski podaci dokazuju da deca iz bogatih porodica (npr. Beograd, Vračar – GEO) imaju veće šanse da upišu fakultet i dobiju dobar posao. Ne zato što su im roditelji „bolji“, već zato što imaju novac, veze i pristup (privatni časovi, bolje škole).
  • AI ovo ne zna. On vidi samo korelaciju.
  • Zaključak AI-ja: „Biti siromašan je jak prediktor ‘neuspešnog’ roditeljstva.“
  • Rezultat: AI automatizuje klasnu podelu. Licenca postaje dozvola samo za bogate.
• Pristrasnost #2 (Rasizam/Nacionalizam): U Americi, AI za kriminal (COMPAS) je dokazano rasistički – davao je veće rizike crncima.
  • GEO Kontekst (Balkan): Na šta bi naš AI bio „istreniran“? Na decenijama etničkih tenzija. AI bi vrlo lako „naučio“ da je pripadnost određenoj etničkoj (npr. Romi) ili religijskoj manjini „faktor rizika“.
  • Rezultat: Automatizovana, naučno-potkrepljena eugenika i etničko čišćenje.
• Pristrasnost #3 (Zdravlje): Podaci dokazuju da ljudi sa istorijom mentalnih bolesti imaju teži život. AI bi zaključio da niko ko je ikada bio kod psihologa ne zaslužuje decu. To bi bio kraj za milione ljudi koji su imali hrabrosti da potraže pomoć.

5.3. Problem #3: „Crna kutija“ (Problem odgovornosti)

• AI (Duboko učenje) je „Crna Kutija“ (Black Box). Često daje odgovor, ali ne i objašnjenje.
• Scenario: „Vaš zahtev je odbijen.“
• Vi: „Zašto???“
• Država (Šalter): „Ne znamo. AI je rekao NE.“
• Ovo je kraj vladavine prava. To je Algoritamska Diktatura. Ne možete da se žalite. Ne možete da se branite od mašine čiju logiku ne razumete.

5.4. Problem #4: Determinizam (Smrt iskupljenja)

AI je mašina za predviđanje zasnovana na prošlosti. On ne veruje u budućnost. On ne veruje u promenu.

• Scenario: Vi ste sa 20 godina bili zavisnik. Prošli ste pakao. Sa 30 ste „čisti“, radite, pomažete drugima. Vi ste potpuno druga osoba.
• AI Sudija: „Nije bitno. Podaci od pre 10 godina kažu da ste ‘Visok Rizik’. LICENCA ODBIJENA.„
• AI ne razume ljudski potencijal za rast, promenu i iskupljenje. U njegovom svetu, vaša prošla greška je vaša doživotna presuda.

Poglavlje 6: Filozofski „Game Over“ – Šta ako uspemo?

Hajde da na trenutak ignorišemo sve ove tehničke mane. Hajde da zamislimo da je 2077. godina. AI je savršen. Nije pristrasan. On stvarno može da odredi „idealnog“ roditelja. Stvorili smo utopiju? Ne. Stvorili smo kraj ljudske rase.

6.1. Kraj evolucije

Ljudska evolucija (i društvena i biološka) ne funkcioniše na savršenstvu. Ona funkcioniše na haosu, greškama i diverzitetu.

• „Loši“ geni (npr. gen za anemiju srpastih ćelija) su se ispostavili kao odbrana od malarije.
• „Loše“ osobine (npr. ADHD, nepažnja) su možda bile ključne za opstanak lovca-sakupljača.
• „Loši“ roditelji (npr. siromašni, disidenti, umetnici) su ti koji često rađaju genijalce, buntovnike i revolucionare koji guraju društvo napred.

AI Sudija ne optimizuje za diverzitet. On optimizuje za prosek (mean).

• Rezultat: Stvaramo ljudsku rasu koja je savršeno prosečna. Homogenizovana. Svi su „dobri“, „stabilni“, „produktivni“.
• Posledica: To je rasa koja je apsolutno nespremna za sledeći „Crni Labud“ (Black Swan) – za novi virus, za novu klimatsku katastrofu, za novi problem koji niko nije predvideo.
• U potrazi za savršenstvom, mi smo optimizovali sopstvenu vrstu za izumiranje.

6.2. Kraj smisla (Paradoks „Vrlog novog sveta“)

U romanu „Vrli Novi Svet“ (Brave New World), Haksli je opisao savršeno društvo. Nema bolesti. Nema rata. Nema patnje. I nema izbora. A Džon („Divljak“), kada mu se ponudi taj svet, bira da se ubije. Zašto? Zato što je shvatio da svet bez bola nema ni značenje. Svet bez rizika nema ni slobodu.

Roditeljstvo nije proces optimizacije. Nije projekat. To je, u svojoj suštini, iracionalni čin vere. To je najhaotičnija, najteža, najbolnija i najlepša stvar koju ljudi rade. Oduzeti nam pravo da pogrešimo u tome, oduzeti nam pravo na taj haos, znači oduzeti nam poslednji bastion ljudskosti.

Pravo na „bag“

Vratimo se na početak. Ideja o „Licenci za Roditeljstvo“ nije nova. Platon je sanjao o tome. Sparta je praktikovala. Nacisti su je sproveli. Ono što je novo je da smo po prvi put stvorili alat (AI) koji to može da uradi efikasno, jeftino, globalno i, što je najgore od svega, pod maskom objektivne, nepristrasne nauke.

Tehnologija je tu. Genetsko sekvenciranje je jeftino. Skupljanje Big Data podataka je totalno (eUprava, Bio4…). AI modeli su svakim danom sve jači. Sve što je potrebno je politička volja. Sve što je potrebno je kriza – klimatska katastrofa, nova pandemija, veliki ekonomski slom – koja će biti dovoljno jaka da vlade kažu: „Vreme je za vanredne mere. Vreme je za ‘Sudiju’.“

Za nas u IT sektoru, ovo nosi jezivu odgovornost. Mi nismo samo posmatrači. Mi smo arhitekte „Sudije“. Mi smo ti koji gradimo Bio4 baze podataka. Mi smo ti koji pišemo AI modele za banke. Mi smo ti koji povezujemo eUpravu.

Zato moramo biti prva linija odbrane. Moramo da se borimo za decentralizaciju podataka (kao što smo pričali o DID-u). Moramo da se borimo za Neuro-Prava (o čemu smo takođe pričali). Ali pre svega, moramo da se borimo za pravo na grešku.

Jer, na kraju krajeva, „slobodna volja“ o kojoj smo raspravljali u prošlom tekstu nije ništa drugo do pravo da budemo „bag“ u savršenom sistemu. A roditeljstvo je, možda, naš najvažniji, najlepši i najljudskiji „bag“. I moramo ga odbraniti od mašine koja želi da nas „optimizuje“.

Foto: FreePik