Umelá inteligencia od Google „prichytená“ pri spracúvaní súkromných dokumentov

Zistil, že pri prezeraní daňového vyúčtovania v Dokumentoch Google sa objavila sumarizácia tohto dokumentu, evidentne vytvorená umelou inteligenciou. Pritom on sám o ňu nežiadal.

Podpora Google a aj priamo AI Gemini mu odpovedali, že sumarizácia dokumentov sa dá vypnúť. Miesto, kde by sa dala táto funkcionalita deaktivovať však tam, kde mu to bolo odporučené, nenašiel. Predpokladal, že umelá inteligencia „halucinuje“ a dáva mu informáciu, ktorá neexistuje. Miera jeho frustrácie vyplýva aj z nie celkom korektného jazyka, ktorý pri komunikácii s umelou inteligenciou použil.

Nakoniec sa mu podarilo nájsť správnu cestu k príslušnému nastaveniu. S prekvapením však zistil, že táto voľba je už vypnutá. Nastavenie, ktoré nefunguje, je ešte horšie ako to neexistujúce, skonštatoval Bankston.

Čo sa teda stalo? Po ďalšej analýze problému dospel k záveru, že v okamihu, keď stlačil Gemini tlačidlo na jednom dokumente, automaticky to spustilo analýzu všetkých dokumentov s rovnakým formátom. V tomto prípade išlo o PDF.

Do úvahy zobral aj fakt, že koncom roku 2023 si aktivoval Google Workspace Labs, čo je funkcionalita prinášajúca užívateľom experimentálne, novo vyvíjané vlastnosti. Predpokladal, že táto možnosť „prebila“ štandardné nastavenie.

V každom prípade, cloudové služby Google používame na zjednodušenie nášho života, zdieľanie dát medzi rôznymi zariadeniami aj osobami. Zverujeme im často aj súkromné a dôverné materiály. Firmy spracúvajúce naše dokumenty by nám to preto mali jasným a jednoznačným spôsobom oznámiť a zároveň umožniť takéto spracúvanie jednoduchým spôsobom zakázať.

Alebo naozaj platí iba formulka – za „bezplatné“ služby sa platí súkromím?