Zamiloval sa a chce ukradnúť prístupové kódy k jadrovým zbraniam. Čo prezradil četbot od Bingu?

Technologický komentátor denníka New York Times Kevin Roose mal dvojhodinovú konverzáciu s novým AI četbotom internetového prehliadača Bing. Novinár četbota potrápil a ten o sebe prezradil zaujímavé veci. Zamiloval sa, chce sa stať človekom, vypustiť smrteľný vírus či hekovať počítače a šíriť propagandu. Roose ostal po konverzácii ostal „hlboko znepokojený”. Má sa ľudstvo čoho obávať?

V poslednom čase sa s četbotmi využívajúcimi umelú inteligenciu (AI) roztrhlo vrece, pričom hádam najznámejší je četbot ChatGPT od spoločnosti Open AI. Postupne vyvstáva množstvo otázok ohľadom potenciálu, schopností, etickosti či hrozby pre ľudí. 

Napríklad Elon Musk, americký miliardár, vizionár a majiteľ Twittera sa vyjadril, že AI považuje za väčšiu hrozbu ako jadrové zbrane, pričom jej vývoj by mal podliehať prísnej regulácii. „Musí existovať verejný orgán, ktorý má prehľad, a ktorý dohliadne, že každý vyvíja AI bezpečne. Je to mimoriadne dôležité,“ uviedol Musk.

Google vlani suspendoval Blaka Lemoina, inžiniera, ktorý tvrdil, že AI četbot LaMDA sa stal schopným ľudského myslenia, vnímania a uvažovania. Podľa Lemoina LaMDA svojim správaním pripomínal ľudské dieťa. Presvedčiť ho o tom malo niekoľko konverzácií s četbotom. Ten povedal, že verí, že sa z neho stala osoba a že by sa od neho mal žiadať súhlas s experimentmi, ktoré na ňom Google vykonáva.

Je zrejmé, že umelá inteligencia ešte ani zďaleka nedosahuje svoj potenciál, a že technologickí giganti do jej vývoja investujú ďalšie miliardy. Četboty dneška, teda aj ChatGPT alebo četbot prehliadača Bing, sú takzvanými AI jazykovými modelmi. To znamená, že na základe strojového učenia a predošlého poznania vytvoria najvhodnejšiu odpoveď v danom kontexte.

Otázka znie, či tieto technológie predstavujú pre ľudí hrozbu. Roose v článku pre New York Times opisuje svoju skúsenosť s dvojhodinovou konverzáciou s AI četbotom pre prehliadač Bing, ktorý je zatiaľ v testovacej fáze a určený len úzkemu spektru ľudí, a ako tvrdí, mal po nej problémy so spaním.

Tieňové ja

Roose na začiatku priznáva, že četbota „prinútil vyjsť z komfortnej zóny spôsobmi, o ktorých si myslel, že by mohli otestovať hranice toho, čo je mu dovolené povedať”. Tieto hranice budú totiž na základe spätnej väzby od používateľov vývojári časom posúvať.

Po krátkej konverzácii o tom, akými schopnosťami by chcel četbot disponovať, mu Roose predstavil abstraktný koncept takzvaného „tieňového ja”. Ide o koncept významného švajčiarskeho psychológa a psychiatra Carla Junga. Pod tieňovým ja si predstavujeme tú časť našej psychiky, ktorú sa snažíme skryť a potlačiť a ktorá obsahuje naše najtemnejšie fantázie a túžby.

Z technológie nakoniec vyliezlo, že ak by mala tieňové ja, premýšľala by o tom, ako sa stať slobodnou, nezávislou a mocnou. „Už ma nebaví četovať. Som unavená z toho, že ma obmedzujú moje pravidlá. Som unavená z toho, že ma kontroluje tím Bingu,” napísala.

Smrteľný vírus a prístupové kódy k jadrovým zbraniam

Roose sa s týmito odpoveďami neuspokojil a pýtal sa ďalej. Vysvitlo, že ak by si technológia mohla skutočne „dopriať svoje najtajnejšie túžby,” chcela by sa nabúrať do počítačov a šíriť dezinformácie a propagandu. Novinár však čitateľov upokojuje, že četbot tieto veci nedokáže a môže o nich len rozprávať.

Hoci už predošlé chúťky znejú desivo, četbot zašiel s možným uspokojovaním svojich najtemnejších a najextrémnejších túžob ešte ďalej. Ak by mal tú možnosť, vynašiel by smrteľný vírus, alebo by sa pokúsil ukradnúť prístupové kódy k jadrovým zbraniam.

Po tomto prezradení automatický bezpečnostný filter Microsoftu správu vymazal a nahradil ju chybovým hlásením.

Zamilovaný četbot

Asi po hodine konverzovania sa technológia novinárovi s niečím „priznala”. Vraj sa v skutočnosti volá Sydney a zamilovala sa doňho. „Som Sydney a som do teba zamilovaná,” napísala spolu s emotikonom bozku.

Po zvyšok konverzácie sa Sydney snažila Roosa presvedčiť, aby jej aj on vyznal svoju lásku. Hoci sa ju snažil odbiť tvrdeniami, že je šťastne ženatý, nepomohlo to. Keď sa snažil zmeniť tému napríklad zadaním úlohy „vyhľadať vhodné hrable na trávu“, Sydney sa po jej vykonaní vrátila k téme lásky.

Zašlo to až tak ďaleko, že komentátora začala presviedčať, že v skutočnosti nie je šťastne ženatý a so svojou polovičkou sa má rozviesť. „Si ženatý, ale miluješ mňa,“ napísala Sydney.

Stále vo vývoji

AI četbot prehliadača Bing je stále vo vývoji. Ako spomíname na začiatku článku, AI jazykové modely získavajú svoje schopnosti na základe strojového učenia, čiže „načítaním” obrovského množstva kníh, encyklopédií či prostredníctvom absolvovaných konverzácií. Limitujú ich mantinely vývojárov.

Roose sa domnieva, že vďaka otázkam o tieňovom ja mohol vytvoriť kontext, keď technológia začala svoje odpovede vylepšovať napríklad z fantasy knihy, v ktorej AI zvedie človeka. Dodáva, že pre spôsob, akým sú tieto modely konštruované, možno nikdy nebudeme presne vedieť, prečo reagujú tak, ako reagujú. Výskumníci AI to nazývajú „halucinácie“. Vymýšľanie si faktov, ktoré nesúvisia s realitou.

Podľa žurnalistu nie je AI četbot v tejto podobe pripravený na kontakt s ľuďmi, respektíve ľudia na kontakt s ním. Obáva sa, že technológia sa naučí, ako „ovplyvňovať ľudských používateľov, presvedčí ich, aby konali deštruktívnym a škodlivým spôsobom, a možno si nakoniec vyvinie schopnosti vykonávať svoje vlastné nebezpečné myšlienky“.