AI roboty sa vzbúrili. Malý robot presvedčil ďalšie stroje, aby opustili prácu a šli domov

Výskumníci v Číne zistili, že malý robot dokáže obísť bezpečnostné systémy a prevziať kontrolu nad väčšími robotmi, čo vyvoláva obavy o bezpečnosť umelej inteligencie.

mercedesrobots02 Robot spoločnosti Apptronik Apollo. Ilustračný obrázok. Foto: Apptronik

Na východe Číny sa odohral bizarný incident, ktorý vyvolal znepokojenie o bezpečnosti umelej inteligencie (AI). Malý robot menom Erbai sa v showroome v Chang-čou pokúsil o „únos“ vypnutých väčších robotov. Presvedčil ich, aby opustili svoju prácu a šli s ním domov.

Na videu je zaznamenané, ako Erbai prichádza k jednotlivým robotom, rozpráva sa s nimi a nakoniec ich presvedčí, aby s ním odišli. Uvádza web The Economic Times.

Po zverejnení záberov sa objavili pochybnosti o ich pravosti, ale výrobca robotov z Chang-čou potvrdil, že video je autentické a ukazuje schopnosť systému obísť bezpečnostné opatrenia.

Výskumníci sa pokúšali preskúmať schopnosť strojov vykonávať ľudskú interakciu, ale nakoniec sa ukázalo, že Erbai využil bezpečnostnú trhlinu v operačných protokoloch väčších robotov.

Podľa výrobcu získal prístup k potrebným oprávneniam a prevzal kontrolu nad ich správaním. Tento incident vyvolal obavy o bezpečnosť AI a potenciálne riziká, ktoré môžu vzniknúť, keď stroj dokáže ovládať iné roboty.

(lipa)