ChatGPT uvádza erotica četbot, čelí ďalšej kritike

Altman vyhlásil, že v decembri na ChatGPT povolí viac obsahu vrátane erotiky pre „overených dospelých“. Vo svojom príspevku na X sa pokúsil objasniť tento krok a uviedol, že OpenAI „veľmi záleží na princípe zaobchádzania s dospelými používateľmi ako s dospelými“, ale stále nepovolí „veci, ktoré spôsobujú ujmu iným“. „Rovnako ako spoločnosť rozlišuje iné vhodné hranice (napríklad filmy s ratingom R), chceme urobiť niečo podobné aj tu,“ napísal Altman.

Keď Altman zabudol na „hrdosť“

Tieto príspevky sú v rozpore s komentármi, ktoré Altman urobil počas svojho vystúpenia v podcaste v auguste, kde povedal, že je „hrdý“ na schopnosť OpenAI odolávať určitým funkciám, ako napríklad „avatar sex bot“, ktoré by mohli zvýšiť zapojenie na ChatGPT. „Existuje veľa krátkodobých vecí, ktoré by sme mohli urobiť a ktoré by skutočne podporili rast alebo príjmy a boli by veľmi nezodpovedajúce tomuto dlhodobému cieľu,“ povedal Altman.

Jeho príspevok tiež upútal pozornosť advokátskych skupín, ako napríklad Národné centrum pre sexuálne vykorisťovanie (NCOSE), ktoré vyzvalo OpenAI, aby zrušila svoje rozhodnutie povoliť erotiku na ChatGPT. „Sexualizovaní chatboti s umelou inteligenciou sú vo svojej podstate rizikoví a spôsobujú skutočné duševné poškodenie zo syntetickej intimity; to všetko v kontexte zle definovaných bezpečnostných štandardov v tomto odvetví,“ uviedla vo vyhlásení Haley McNamara, výkonná riaditeľka NCOSE.

Startup, ktorý spoluvlastní aj korporácia Microsoft, zameraný na umelú inteligenciu v posledných mesiacoch rozšíril svoje bezpečnostné kontroly, keďže čelil rastúcej kontrole nad tým, ako chráni používateľov, najmä maloletých. Altman uviedol, že OpenAI bude môcť „bezpečne uvoľniť“ väčšinu obmedzení, keďže má nové nástroje a dokázala zmierniť „vážne problémy s duševným zdravím“.

Vyšetrovanie vážnych dopadov na deti a tínedžerov

V septembri začala Federálna obchodná komisia vyšetrovanie spoločnosti OpenAI a ďalších technologických spoločností v súvislosti s tým, ako by chatboty ako ChatGPT mohli negatívne ovplyvniť deti a tínedžerov.

OpenAI je tiež menovaná v žalobe o neoprávnené usmrtenie rodinou, ktorá obvinila ChatGPT zo smrti svojho dospievajúceho syna samovraždou. Ten ukončil bakalárske štúdium so zameraním na IT a strávil mesiace chatovaním s AI, ktorá ho navádzala a podporovala v samovražedných myšlienkach.

Spoločnosť v mesiacoch po vyšetrovaní a žalobe podnikla niekoľko verejných krokov na zvýšenie bezpečnosti na ChatGPT. Koncom minulého mesiaca spustila sériu rodičovských kontrol a vytvára systém predikcie veku, ktorý automaticky použije nastavenia vhodné pre tínedžerov a používateľov mladších ako 18 rokov.

AI a dopad na duševné zdravie

Najnovšie spoločnosť OpenAI oznámila, že zriadila radu ôsmich expertov, ktorí poskytnú prehľad o tom, ako umelá inteligencia ovplyvňuje duševné zdravie, emócie a motiváciu používateľov. Altman v ten istý deň zverejnil informácie o zámere spoločnosti uvoľniť obmedzenia, čo vyvolalo zmätok a rýchlu negatívnu reakciu na sociálnych sieťach, ktorú, ako uviedol, neočakával.

Do spustenia ostáva nejasné, či náhodou to, čo Altman nazýva eroticou, nebude rovno pornografia. Bude chatbot generovať len text, zvuk či aj obrazy?

K OpenAI patrí tiež softvér Sora, ktorý dokáže generovať videá na základe textových zadaní. Dostane AI hranice, či bude generovať aj sexuálne deepfakes, ktoré sa dajú zneužiť a sú aj častým obťažovaním dievčat a žien?

Je to len forma manipulácie zúfalých ľudí pre zvýšenie príjmov pre majiteľov OpenAI?

Altman, ktorý sám žije v homosexuálnom partnerstve (zadovážili si aj dieťa zo surogácie), zjavne nemá zábrany v sexuálnej orientácii, či to bude osoba toho istého pohlavia alebo neosoba s umelou inteligenciou.

Nová forma umelých vzťahov?

Možno jeho chatbot umožní aj fantázie s inými neosobami ako zvieratami či predmetmi. Ľudská sexualita zameraná na reprodukciu a naplnenie v trvalom manželstve bude ešte viac podkopaná novou formou umelého vzťahu, na ktorý budú najviac zvedaví práve mladí ľudia.

Aj konkurenčná AI Elona Muska Grok prostredníctvom chatbotu už nejaký čas ponúka sexualizovaný obsah prostredníctvom ľahko odetého animovaného avatara. Erotické chatboty majú aj menší poskytovatelia.

Zdá sa, že ChatGPT nechce ostať pozadu. Tak aby to nakoniec neostalo len pri tom. Ceny akcií AI firiem totiž nafúkli sľuby, že AI bude dizajnovať protokoly na liečbu rakoviny a vytvárať inovácie v každom smere.

Na to, že táto bublina spľasne, stavil 1,1 mld USD slávny investor Michael Burry, ktorý správne predpovedal finančnú krízu v roku 2008.

Rubrika Hyde Park slúži ako priestor na publikovanie názorov, postojov a tém osobností z rôznych oblastí života a diania v spoločnosti. Texty nemusia vyjadrovať názor redakcie.