Nemecká AI má hodnotiť politický obsah. Projekt vyvoláva otázky

Nemecká vláda financuje vývoj systému umelej inteligencie Fake-O-Meter, ktorý má odhaľovať manipulované obrázky, videá či hlasy, ale aj analyzovať politické tvrdenia, argumentačné vzorce a takzvané naratívy. Projekt financuje Federálne ministerstvo pre výskum, technológiu a vesmír, ktorému predsedá Dorothee Bärová CSU.

Systém má porovnávať tvrdenia s dokumentmi, overenými faktami a ďalšími zdrojmi. Vývojári zdôrazňujú, že nemá fungovať ako automatizovaný „rozhodca pravdy“, ale používateľom poskytovať podklady na vlastné posúdenie.

Práve hodnotenie politických naratívov však vyvoláva otázky o transparentnosti. Kritici upozorňujú, že výsledky môžu ovplyvniť výber zdrojov, trénovacie údaje či kritériá hodnotenia.

Konzorcium vedie Nemecké výskumné centrum pre umelú inteligenciu (DFKI). Zapojené sú univerzity, Deutsche Welle, agentúra DPA či Gretchen AI. DPA dostáva na projekt 262-tisíc eur.

Technológia sa už využíva pred berlínskymi voľbami v službe „Die Gretchenfrage“, ktorá analyzuje podozrivé príspevky zo sociálnych médií. Od 26. augusta do 7. septembra zaznamenala vyše 17-tisíc dopytov.

Vývojári tvrdia, že systém má prezentovať dôkazy a neistotu, nie definitívne verdikty. Kritici však žiadajú zverejnenie používaných štandardov, vysledovateľnosť zdrojov a nezávislú kontrolu.

(statement, im)