S efektivitou však prichádzajú aj komplikácie. Algoritmy nie sú nikdy úplne neutrálne. Vytvárajú ich firmy, ktoré dokážu spracovať obrovské množstvo dát, a potom ich klienti ďalej trénujú. Existuje veľa dôkazov, že modely umelej inteligencie často preberajú zaujatosť zo svojich tréningových dát.

Automatizované? Zažalované!

Umelá inteligencia zároveň ohrozuje pracovné miesta aj vytvára nové pracovné príležitosti. Európsky verejný sektor dlhodobo využíva externé sily na doplnenie svojich intelektuálnych kapacít. Od politík po verejné obstarávanie sa konzultanti stali neoficiálnou správou kontinentu. 

Európsky poradenský sektor je obrovský. V roku 2024 dosiahol hodnotu viac ako 126 miliárd dolárov a stále rastie. Brusel sa výrazne spolieha na externé poradenstvo, a to od hodnotení až po technickú pomoc. Európsky dvor audítorov uvádza: „Komisia vo veľkej miere využíva externých konzultantov, pričom každoročne v rokoch 2017 až 2020 vyčlenila takmer jednu miliardu eur.“

Trh s umelou inteligenciou v Európe má podobne prudký rast. V roku 2024 sa očakával nárast o takmer 35 percent a do roku 2030 by mal rásť tempom nad 23 percent ročne.

Tieto dve oblasti sú prepojené: konzultačný sektor v Európe pravdepodobne porastie vďaka rozvoju umelej inteligencie, aby uspokojil dopyt podnikov a verejnej správy po efektívnosti a dodržiavaní regulácií. To zároveň poskytuje verejnému sektoru príležitosť vytvárať nové pracovné miesta ako náhradu za zanikajúce pozície.

Keďže AI začína preberať administratívnu záťaž, mohlo by to vládam pomôcť uvoľniť zdroje na rozvoj vlastných odborných tímov namiesto toho, aby sa spoliehali na externých konzultantov. Ak verejný sektor investuje do iniciatív zameraných na zvyšovanie kvalifikácie, môže pomôcť zamestnancom prejsť na strategickejšie pozície, napríklad v dátovej analytike, v dohľade nad systémami AI alebo v pokročilom finančnom modelovaní. 

Takéto riešenie by nielen znížilo dlhodobé náklady na konzultačné služby, ale by aj posilnilo inštitucionálnu kapacitu tým, že by sa kľúčové znalosti preniesli priamo na zamestnancov verejného sektora. Za každú skupinu úradníkov, ktorých nahradí algoritmus, vznikne nová, kvalifikovanejšia pozícia: na auditovanie, interpretovanie a spochybňovanie umelej inteligencie. Ak má byť verejný sektor automatizovaný, bude potrebné ho aj vysvetľovať – a v prípade potreby aj právne riešiť. 

Veľké rekvalifikačné programy si však vyžadujú silnú politickú vôľu. Odpor voči zmenám, rozpočtové limity a nerovnaké podmienky na trhu práce v rôznych regiónoch EÚ môžu brzdiť pokrok.

Je preto pravdepodobné, že túto prácu nakoniec prevezmú konkurencieschopnejšie súkromné firmy s vyššími platmi. Verejný sektor by sa tak mohol ocitnúť v situácii, keď vyškolí „odborníkov na odstraňovanie zaujatosti“, ktorých však následne zlákajú veľké poradenské spoločnosti.

Konzultačné preteky v zbrojení

Niektorí budú systémy budovať, iní ich budú rozoberať. 

Konzultanti sa začnú špecializovať na audit AI systémov, odhaľovanie skrytých predsudkov a procedurálnych nedostatkov, a to najmä v citlivých oblastiach, ako je sociálna pomoc, prideľovanie bývania či využívanie zdrojov z policajnej oblasti. 

Pokiaľ sa jednotlivci alebo záujmové skupiny budú domnievať, že rozhodnutia riadené umelou inteligenciou im spôsobili ujmu, mohli by si na vyšetrovanie a zhromažďovanie dôkazov na právne spory proti verejným orgánom najať konzultantov. Týmto sa konzultanti stanú nielen realizátormi systémov AI, ale aj odbornými strážcami a možnými sprostredkovateľmi zodpovednosti prostredníctvom súdnych sporov.

Konzultačné preteky v zbrojení už prebiehajú. Na jednej strane sú firmy, ktoré pomáhajú verejným správam budovať spravodlivú a zodpovednú umelú inteligenciu, na druhej strane sú špecialisti, ktorí pomáhajú občanom a aktivistickým skupinám pri odhaľovaní zaujatosti algoritmov. 

Vzostup „automatického štátu“

Umelá inteligencia síce ohrozuje tisíce menej kvalifikovaných pracovných miest, ale zároveň vytvára dopyt po vysokokvalifikovaných pozíciách – najmä v oblasti dohľadu, analýzy a návrhu systémov. Pre poradenský sektor je to mimoriadna príležitosť. 

S automatizáciou vo verejnom sektore rastie aj potreba kontroly ako vyvažujúceho faktora. Teda trh pre špecializovaných konzultantov a právnické firmy je pripravený expandovať.

Zhrnutie

Umelá inteligencia má automatizovať procesy vo verejnom sektore, čím sú ohrozené administratívne pozície, zatiaľ čo rastie dopyt po odborníkoch na dohľad a návrh systémov. Táto zmena podporí nové služby konzultačného sektora, ktoré budú reagovať na potrebu spochybňovania rozhodnutí AI z dôvodu zaujatosti. Ak verejný sektor výrazne neinvestuje do rekvalifikácie, môže prísť nielen o pracovné miesta, ale aj o základné kompetencie – a kľúčový dohľad sa tak môže presunúť do rúk súkromných firiem.