Aké sú riziká
Po prvé, informácie sa už v zariadení kombinujú. V tradičnej architektúre bola každá aplikácia vo veľkej miere obmedzená na svoje vlastné údaje: kalendár spravoval schôdzky, aplikácia fotoaparátu zasa fotografie, aplikácia na zasielanie správ usmerňovala konverzácie a e-mailová aplikácia viedla korešpondenciu. Systémový asistent môže čerpať zo všetkých týchto zdrojov a kombinovať ich do jedného kontextu. Nebezpečenstvo nespočíva v ukladaní jednotlivých dátových súborov na smartfóne, ale v ich prepojení.
Druhým dôvodom na obavy je autonómnosť agenta. Namiesto toho, aby iba prezentoval analýzu, vykonáva akcie na základe dostupných údajov. Bežné vyhľadávanie v smartfóne vráti výsledky. Agent, ktorý ho nahradí, môže posielať správy, meniť stretnutia, používať aplikácie alebo vykonávať transakcie.
Pri bežnom vyhľadávaní je stále na používateľovi, aby sa rozhodol, ako reagovať na nesprávne interpretácie alebo zmanipulované pokyny. V prípade agenta môžu mať tie isté problémy okamžité dôsledky skôr, než má používateľ šancu zasiahnuť.
Tretím problémom sú oprávnenia. Ich spravovanie je už v rámci súčasnej architektúry smartfónov náročné. Ktorá aplikácia by mala mať povolenie na čo? Doteraz bolo hlavnou otázkou, či konkrétna aplikácia môže mať prístup ku kontaktom používateľa. Súčasné nastavenia oprávnení sa vo všeobecnosti obmedzujú na voľbu „áno“ alebo „nie“.
V budúcnosti budú používatelia možno musieť urobiť viac, než len jednoducho povoliť alebo zamietnuť prístup. Možno budú musieť aj špecifikovať, ktoré úlohy môže agent vykonávať, ako dlho zostanú jeho oprávnenia platné a ktoré kombinácie údajov môže používať.
Štvrtou a poslednou obavou je úloha poskytovateľa operačného systému. Poskytovateľ sa stáva kľúčovým sprostredkovateľom mnohých digitálnych činností. Ktokoľvek ovláda asistenta a jeho štandardné rozhrania, môže ovplyvňovať, ktoré služby uprednostňuje a ako smeruje používateľov k aplikáciám, predajcom alebo zdrojom informácií.
Keďže spravuje všetky údaje, asistent s umelou inteligenciou nepredstavuje len riziko pre súkromie, ale aj nový druh komerčného strážcu. Nárast významu agentov má preto aj ekonomický rozmer.
Pohľad na smartfón poháňaný umelou inteligenciou
Nasledujúci scenár je už technicky realizovateľný, hoci zatiaľ nie je v plnom rozsahu dostupný na každom zariadení ani vo všetkých regiónoch. Smartfón dokáže prečítať prichádzajúci e-mail so žiadosťou o schôdzku, skontrolovať kalendár, či je voľný vhodný termín, naplánovať schôdzku, vypracovať odpoveď a odoslať ju.
Používateľ potom môže dostať len zdvorilé upozornenie, že do kalendára bola pridaná nová schôdzka. Pred schôdzkou umelá inteligencia automaticky zhromaždí všetky potrebné dokumenty a vypracuje prehľad kľúčových otázok, ktoré sa pravdepodobne vynoria.
Ak všetko ostatné zlyhá, smartfón sa stále dá použiť na telefonovanie. Funkcie podporované umelou inteligenciou už dokážu zdvihnúť telefón, opýtať sa, o čom je hovor, a odfiltrovať podozrivý spam. Tieto možnosti sa líšia podľa krajiny a zariadenia. A to je len začiatok.
V budúcnosti budú môcť používatelia požiadať AI, aby uskutočnila odchádzajúci hovor. Tá by potom mohla prerokovať podmienky projektu s umelou inteligenciou obchodného partnera, vytvoriť príslušnú zložku v cloude a postarať sa o všetky prípravy. A to presne tak, ako by to urobil dobrý asistent, pričom by zostalo len prijať konečné rozhodnutie.
Používatelia stále majú určitú kontrolu
Mnohé služby umožňujú používateľom vybrať si, ktoré aplikácie môžu byť prepojené s asistentom. Tieto povolenia sú oddelené od nastavení týkajúcich sa ukladania konverzácií, personalizácie a využívania údajov na vylepšovanie alebo trénovanie modelov umelej inteligencie. Konkrétne dostupné možnosti sa medzi spoločnosťami Apple a Google aj medzi jednotlivými aplikáciami značne líšia.
Nastavenia, ktoré musia používatelia spravovať, sú čoraz zložitejšie. Asistent funguje ako sprostredkovateľ medzi operačným systémom, aplikáciami a používateľom. Na zariadeniach s Androidom aj na iPhonoch nie je umelá inteligencia zabudovaná priamo do jadra operačného systému, ako niektorí tvrdia alebo sa obávajú. Namiesto toho sa nachádza v susednej vrstve.
Veľa z toho znie ako sci-fi, no táto technológia už existuje. Je lákavé využívať tieto možnosti bez toho, aby sme dôkladne zvážili dôsledky. V budúcnosti by napríklad používateľ mohol výslovne poveriť agenta, aby samostatne vykonával obchodovanie na burze prostredníctvom rozhrania poskytovaného maklérom.
Skúsený investor, ktorý vie, ako nakonfigurovať umelú inteligenciu tak, aby robila rovnaké rozhodnutia ako on sám, si môže ušetriť veľa únavnej práce. Neskúsený používateľ, naopak, riskuje stratu majetku.
Toto je len jedna z mnohých možností.
Odhlásenie sa z umelej inteligencie
Každý, kto nie je ochotný akceptovať riziká spojené so smartfónom riadeným umelou inteligenciou, si môže namiesto toho vybrať zariadenie bez AI. Takéto modely sú stále k dispozícii, ale pravdepodobne už nie na dlho. Alternatívy ponúkajú aj nezávislí poskytovatelia.
CalyxOS, nezávislý operačný systém pre Android, podporuje zariadenia značiek Pixel, Fairphone, Motorola a Shift. Ide o použiteľné alternatívy, hoci niektoré z nich si na nastavenie vyžadujú pokročilé technické znalosti.
Existuje aj niekoľko ďalších operačných systémov Android zameraných na ochranu súkromia. /e/OS sa označuje za open-source systém Android, ktorý je z veľkej časti bez služieb Google. Mnohí odborníci považujú GrapheneOS za najbezpečnejšiu voľbu z hľadiska ochrany súkromia.
Pre zariadenia Apple nie je k dispozícii žiadny alternatívny operačný systém, čo znamená, že používatelia sú viazaní na iOS. Na iPhone je, samozrejme, možné vypnúť funkcie umelej inteligencie Siri, zatiaľ čo v systéme Android je možné Gemini do veľkej miery deaktivovať. Používatelia môžu zabrániť aj tomu, aby sa systém učil z jednotlivých aplikácií, a môžu mu obmedziť ukladanie konverzácií.
Pôvodný text publikovali na webe sesterského denníka Statement.com.
