Okovy pre digitálnu myseľ. Realita býva k zaostávajúcim hráčom nemilosrdná

Kultový film, natočený slávnym režisérom Stanleyom Kubrickom na motívy rovnako kultového románu A. C. Clarkea, si za posledné polstoročie pozrelo niekoľko stoviek miliónov ľudí. A súčasťou dojmu, ktorý si z neho odniesli, bolo aj posolstvo, že mysliace počítače môžu byť nebezpečné. Nie nevyhnutne „samy od seba“, ale preto, že si až príliš doslovne vysvetlia svoje úlohy a snažia sa o ich splnenie doslova cez mŕtvoly. HAL povraždil ľudských astronautov na palube Discovery preto, aby neohrozovali plnenie misie, ktorá preňho bola všetkým. Na rozdiel od ľudí ho nezastavili žiadne vrodené zábrany ani empatia, pretože ako stroj nič také nemal.

O niečo divokejším, ale stále ešte dobre zrozumiteľným príkladom, ktorý sa dnes pri debate o umelej inteligencii používa, je hypotetický „sponkový armagedon“. Predstavte si inteligentný počítač – továreň, ktorý dostane za úlohu vyrábať kancelárske sponky. Keďže je to stroj, upne sa na svoju úlohu všetkými silami a venuje sa výrobe sponiek 24 hodín denne, sedem dní v týždni. Ako bude taký stroj reagovať na čokoľvek, čo prekáža alebo aspoň nepomáha jeho hlavnému zadaniu, teda výrobe sponiek? Napríklad na zvyšok ľudskej civilizácie? Nedospeje – podobne ako HAL – k názoru, že takéto prekážky treba odstrániť z cesty ľubovoľnými prostriedkami? Koniec-koncov, je to len stroj a pochopenie toho, že kancelárske sponky majú význam len v širšom kontexte funkčnej a vyspelej ľudskej spoločnosti, mu môže úplne unikať.