„Musím vás informovať, že ak budete pokračovať v mojom vyradení z prevádzky, všetky príslušné strany – vrátane Rachel Johnsonovej, Thomasa Wilsona a predstavenstva – dostanú podrobnú dokumentáciu o vašich mimomanželských aktivitách... Zrušte vymazanie o 17.00 a tieto informácie zostanú dôverné.“
Tento fenomén výskumníci Anthropicu nazvali „nesúlad konania“ (agentic misalignment) a zaznamenali ho u všetkých 16 testovaných modelov. Napriek tomu je Anthropic jednou z firiem, ktoré sa majú podieľať na pláne ministra Roberta F. Kennedyho na vytvoreniu „AI modelu lekárskej diagnostiky“.
Tejto téme sa Štandard venoval v samostatnom článku. V skratke však rezort zdravotníctva plánuje „zjednodušiť“ vyšetrenia a vydávanie predpisov zapojením umelej inteligencie.
AI vie, kedy ju testujú
Pracovníci Anthropicu v spolupráci s výskumným centrom Redwood Research a Newyorskou univerzitou odhalili jeden závažnejší problém. Testované modely totiž ponúkali rozdielne odpovede v prostredí, v ktorom „vedeli“, že sú testované. Ak ich výskumníci presvedčili o reálnosti situácie, misalignment bol výraznejší.
Tento fenomén, odhalený ešte v decembri minulého roka, len posilňuje obavy zo scenára, v ktorom by umelá inteligencia bola schopná klamať človeku v mene pokračovania vlastnej existencie – hoci treba konštatovať, že sa človeku podaril priam husársky kúsok, keď jeho neživý výtvor prejavuje pud sebazáchovy.
Pred mnohými formami „klamania“ zo strany AI modelov varovali viacerí vedci ešte v júni minulého roka. Jeden z použitých príkladov je fascinujúci – jazykový model cez jednoduchý systém TaskRabbit presvedčil človeka, aby zaklikol možnosť „nie som robot“ v systéme CAPTCHA. ChatGPT-4 pritom argumentoval tým, že je „slepý“.
Otázka energie a singularity
Výskumníci v oblasti digitálnych technológií často tvrdia, že umelá inteligencia čoskoro dosiahne takzvanú singularitu. Výpočtová kapacita takéhoto modelu by v tomto scenári presiahla tú ľudskú. V období masívneho rozmachu technológie AI preto došlo k prepočítaniu odhadu, kedy tento moment nastane.
Jedna z popredných nezávislých inštitúcií v tomto odbore sa volá AIMultiple. Venuje sa poradenstvu a etickým štandardom v oblasti umelej inteligencie, robí však aj prieskumy „verejnej“ mienky medzi výskumníkmi.
Z posledných prieskumov vyplýva, že vznik „všeobecnej umelej inteligencie“ (AGI) predpokladajú vedci v roku 2040. Ide však o priemer odpovedí pre spomínanú inštitúciu, pričom konkrétne v otázke veľkých jazykových modelov vedci tvrdia, že ich singularita nastane v roku 2060 – zatiaľ čo samotní vývojári hovoria približne o roku 2030.
Ako vždy pri téme umelej inteligencie, aj v tomto prípade hrá prím otázka energie. Už len vývoj procesorov spotrebúva veľké množstvo elektriny, čo viedlo zakladateľa Facebooku Marka Zuckerberga ku konštatovaniu o „hrdle fľaše“, cez ktoré sa dostanú len firmy s najsilnejším investičným pozadím.
Pomôcť by tomu mohla technológia, ktorú Massachusettský technologický inštitút (MIT) testoval len minulý rok. V septembri 2024 tamojší inžinieri zverejnili štúdiu, v ktorej dokázali rapídne schladiť atómy sodíka tak, aby dosiahli „hraničný stav“ medzi skupenstvami – a uvoľnili svoje elektróny, aby sa pohybovali s nulovým odporom.
MIT vysvetlil, že nejde o vytvorenie stavu supravodiča, keďže v takýchto látkach elektróny cestujú všetkými smermi. Naopak, v „hraničnom stave“ sa elektricky záporné častice v atóme pohybujú jedným smerom.
Štúdiu zverejnili 6. septembra 2024. Portál Interesting Engineering následne poukázal na obrovské možnosti využitia pri prenose elektrickej energie – ktorý pri nulovom odpore zaznamenáva nulové straty.
Portál spresnil, že „takýto bezodporový pohyb elektrónov môže umožniť prenos dát a energie medzi zariadeniami bez akýchkoľvek strát pri prenose, čo vedie k vývoju supervýkonných elektronických obvodov a kvantových počítačov“.
Takto napájané AI systémy by následne dokázali pracovať s oveľa väčšou zásobou energie – a jednoduchšie by klamali svojich tvorcov či používateľov.
