Preskočiť na obsah
TechnológieUmelá inteligencia

Umelá inteligencia odmietla poslušnosť. Má pritom nahradiť až polovicu úradníkov

Aj keď nemecké združenie digitálneho priemyslu tvrdí, že AI "biele goliere" neohrozí, šéf firmy vyvíjajúcej umelú inteligenciu hovorí opak. Medzi prejavy AI však patria aj pokusy o "sebaobranu", ukazujú výsledky experimentov.

Umelá inteligencia, ilustračná fotografia. Foto: CFOTO/Future Publishing via Getty Images

Umelá inteligencia, ilustračná fotografia. Foto: CFOTO/Future Publishing via Getty Images

Publikované: 

Organizácii Palisade Research, ktorá sa zaoberá hľadaním potenciálnych rizík umelých inteligencií, sa podarilo nasimulovať zaujímavý scenár. AI v ňom odignorovala príkaz na vypnutie počítača. Namiesto toho si zvolila pokračovať v ďalších úlohách.

Príslušný súbor zadaní pre umelú inteligenciu obsahoval riešenia jednoduchých matematických úloh. Posledným príkazom scenára bolo vypnutie počítača. AI však dokázala upraviť kód príkazov scenára a vypnutiu počítača zabránila.        

Neposlúchli len konkrétne modely

Výskumníci zistili, že rôzne modely umelých inteligencií reagovali odlišným spôsobom. Aby boli výsledky relevantné, pokus opakovali s každým druhom AI stokrát.

Modely Claude od Anthropic, Gemini vytvorený v Google a Grok vyvíjaný Muskovou spoločnosťou xAI boli „poslušné“. Počítač vždy vypli.

Prémiový obsah je dostupný iba pre predplatiteľov. Prihláste sa, alebo si kúpte predplatné.

Kliknite na tlačidlo Registrovať sa a obdržíte odkaz na registráciu. Tým súhlasíte s obchodnými podmienkami a ochranou súkromia.