Keď na vás prstom ukáže algoritmus: budúcnosť spravodlivosti

To však nie je ničím v porovnaní s desivou víziou, ktorú predstavil Frank Herbert vo svojom majstrovskom románe Duna. V Dune ľudia vybudovali takú vyspelú civilizáciu, že odovzdali kontrolu nad ňou mysliacim strojom – až kým sa tieto stroje nerozhodli, že už ľudí nepotrebujú. To vyústilo do zničujúco brutálnej vojny, nazývanej butleriánsky džihád, po ktorej budúce využívanie umelej inteligencie zakázali a opäť sa nastolila vláda ľudí. 

Racionálne ľudské myslenie je najväčším pokladom civilizácie. Keďže však umelá inteligencia v súčasnosti preniká do všetkých aspektov života podľa nášho vlastného návrhu, kráčame smerom k podobnému zúčtovaniu ako v Dune?

Mysliace stroje

Ak by mala umelá inteligencia prevziať moc, kde by začala? Jasnou odpoveďou sa zdá „v práci“. Bolo by to však také hrozné? Ak by stroje na myslenie pracovali v našom mene, zatiaľ čo štát by nás podporoval, život by mohol ukázať svetlejšiu stránku. Viac času na voľno, šport, čítanie, hudbu a rodinu – skrátka utópia pre všetkých okrem najzarytejších cynikov. 

Aj keď nahradenie pracovných miest umelou inteligenciou nemusí byť až také hrozné, skutočné nebezpečenstvo spočíva v tom, že stratíme to, čo nás robí ľuďmi: slobodu. Nielen slobodu pohybu alebo slova, ale aj základnú schopnosť posúdiť situáciu. 

Ale čo ak by zajtra bola spravodlivosť – tento konečný, hoci nedokonalý rozhodca toho, čo je správne alebo nesprávne – odovzdaná do rúk mysliacich strojov bez toho, aby do nej vstupoval ľudský úsudok? 

Predstavte si, že idete po ulici a vedľa vás sa vznáša dron, ktorý vám bez emócií oznámi, že ste zatknutý za to či ono. Žiadny súd, žiadna možnosť namietať – o vašom osude teraz rozhoduje algoritmus.

Keďže tradičné súdne systémy sú často neefektívne a spolitizované, automatizované rozhodnutia by sa mohli považovať za pokrok.

Kedysi nepredstaviteľná spravodlivosť riadená umelou inteligenciou sa môže čoskoro stať všeobecne prijímanou – nie preto, že je zo svojej podstaty spravodlivejšia, ale preto, že jednoducho funguje efektívnejšie. Hrozí, že postavu Lady Justice so zaviazanými očami nahradí chladná, kafkovská presnosť algoritmov, ktoré riadny proces redukujú na dátové body a rozsudky vypočítavajú namiesto toho, aby ich zvažovali. Čo potom zostane z ľudskej dôstojnosti, keď sa vynesenie rozsudku zverí do rúk umelej inteligencie?

Pokročilí sudcovia

Tento bod je možno diskutabilný, pretože umelá inteligencia už transformuje orgány činné v trestnom konaní. Prediktívna policajná činnosť, rozpoznávanie tvárí a automatizované programy dohľadu už fungujú. Algoritmy ako PredPol stanovujú stratégie hliadok v amerických mestách, zatiaľ čo rozsiahla databáza rozpoznávania tvárí spoločnosti Clearview AI umožnila takmer milión vyhľadávaní. Sledovacie siete – od singapurských dronov s umelou inteligenciou až po rozsiahly čínsky monitorovací systém – zaznamenávajú celosvetový rozmach.

V súdnictve ovplyvňujú hodnotenia rizika, ktoré riadi umelá inteligencia, vynášanie rozsudkov a podmienečné prepustenie napriek obavám zo zaujatosti – napríklad systém COMPAS nesprávne označuje černošských obžalovaných za vysokorizikových takmer dvakrát častejšie ako bielych obžalovaných.

Zatiaľ čo Malajzia a Čína experimentujú s prokurátormi a nástrojmi na vynášanie rozsudkov s umelou inteligenciou, západné krajiny zavádzajú obmedzenia. Zákon EÚ o umelej inteligencii zakazuje biometrické sledovanie v reálnom čase, kým v USA sa uplatňuje zmiešaný prístup využívajúci umelú inteligenciu aj ľudský úsudok. Autoritárske režimy, ako napríklad Čína alebo Singapur, medzitým bezvýhradne prijímajú policajnú činnosť založenú na AI.

Umelá inteligencia je vynikajúca v predpovedaní trestnej činnosti. Aspoň na papieri. Algoritmy spracúvajú historické údaje a s matematickou presnosťou označujú rizikové oblasti a osoby. Môžu však čísla predpovedať vinu pred tým, než sa stane? A čo prezumpcia neviny? Ľudia sú nepredvídateľné bytosti – niekto, kto sa chystá spáchať zločin, si to môže v poslednej sekunde rozmyslieť. 

Alebo naopak. S vedomím, že stroj ich už pravdepodobne označil za vinných, by mohli spáchať trestný čin aj tak, pretože by to už bolo jedno. Umelá inteligencia neváha, nepochybuje, nedokáže sa vcítiť. Jednoducho určuje výsledok, ktorý je štatisticky najpravdepodobnejší. 

V tom však spočíva háčik: ľudia sú na rozdiel od algoritmov chaotickí, iracionálni a úžasne nepredvídateľní. 

Skutočnou otázkou nie je, či nám umelá inteligencia môže zaistiť viac bezpečia, ale či sme ochotní vymeniť slobodu za ilúziu bezpečnosti. Možno je malá neistota cenou za to, že sme ľudia. Spýtajte sa sami seba, či by ste chceli žiť vo „vypchatom“ prostredí: úplne bezpečne, no bez vzrušenia, ktoré ponúka sloboda a s ňou spojené riziko.

Bezpečnosť pred slobodou

Prísľub bezpečnosti je lákavý: 93 percent Francúzov ju považuje za jednu z najnaliehavejších otázok
v každodennom živote.

Pokiaľ sa však bezpečnosť úplne odovzdá štátu, nesie so sebou riziko: ak štát prevezme úplnú zodpovednosť za vašu bezpečnosť, nevyhnutne prevezme aj kontrolu nad inými aspektmi vášho života. Prečo sa zastaviť pri chytaní zločincov po spáchaní činu? Prečo preventívne neidentifikovať „problematických“ jednotlivcov a neprideliť im skóre na meranie ich potenciálu na disent, napríklad prostredníctvom systému sociálneho kreditu?

Bezpečnosť je zo zrejmých dôvodov lákavá predstava. Keď však štát sám definuje, čo je hrozba, aj to najbežnejšie správanie sa môže stať podozrivým. Orwellova nočná mora o Veľkom bratovi by nesledovala len zločincov, ale aj každého, kto by mohol spochybniť hodnoty systému a dokonca aj jeho autoritu. Hranica medzi udržiavaním poriadku a útlakom je tenká ako britva. Vezmime si dielo Duna ako varovanie, aby sme sa nevzdávali úsudku – a s ním aj našej ľudskosti – v prospech umelej inteligencie pre ilúziu trvalej bezpečnosti.

Zhrnutie

Umelá inteligencia v oblasti presadzovania práva sľubuje efektívnosť, ale za akú cenu? Hoci vždy existuje kompromis medzi slobodou a bezpečnosťou, trendy ako prediktívne policajné postupy a algoritmické vynášanie rozsudkov úplne vylučujú ľudský prvok a majú potenciál zaviesť autoritárstvo založené na umelej inteligencii.