Používať ho zatiaľ budú môcť iba používatelia, ktorí si platia najvyššiu úroveň predplatného, ktoré v stupni „Pro“ predstavuje 200 USD (192 eur) mesačne.
Altman sľubuje, že jeho spoločnosť očakáva v blízkej dobe dodávku desiatok tisíc nových výpočtových kariet. Potom by tento model AI mohol byť sprístupnený aj pre tých, ktorí si platia stupeň „Plus“ za 20 dolárov (19 eur) mesačne.
Drahý vývoj aj prevádzka
Základným krokom vývoja AI je takzvaný „tréning“, kde sa spracúvajú kvantá dát, aby sa vytvoril „mozog“ vo forme matematického modelu neurónovej siete. V ňom sú tréningové dáta transformované do hodnôt takzvaných parametrov, ktorých sú v rozsiahlych modeloch rádovo miliardy. Čím viac parametrov model AI má, tým sa javí ako „inteligentnejší“.
Nároky na vývoj a prevádzku modelov umelej inteligencie neustále rastú. Len náklady na samotný tréning vzrástli zo stoviek dolárov na stovky miliónov.
Podľa údajov analytickej spoločnosti Epoch AI predstavuje z celkových nákladov 47 až 67-percentný podiel hardvér, 29 až 49 percent ide na výdavky spojené s ľuďmi zapojenými do výskumu a vývoja a dvoj- až šesťpercentná časť „padne“ na spotrebovanú elektrinu.
Nový model zvyšuje nároky
Tento trend potvrdzujú aj ceny nového modelu GPT-4.5 sprístupneného pre aplikácie tretích strán cez aplikačné rozhranie (API).
Tie sa vyjadrujú v takzvaných „tokenoch“, čo je najmenšia jednotka spracovávaného textu. Môže ísť o slovo, konkrétny znak alebo ich skupinu prípadne iba interpunkčné znamienko. Na presné zistenie počtu „tokenov“ v texte slúžia špeciálne softvérové nástroje.
Pri GPT-4.5 si OpenAI účtuje 75 dolárov (71,72 eur) za milión „tokenov“ na vstupe a 150 dolárov (143,44 eur) za milión tokenov, ktoré AI vyprodukuje na výstupe.
Ceny predchádzajúceho modelu GPT-4o sú pritom viac ako o rád nižšie. Za milión „tokenov“ na vstupe zaplatí zákazník iba 2,50 doláru (2,39 eur) a milión výstupných „tokenov“ ho stojí desať dolárov (9,56 eur).
Nvidia vládne trhu s AI hardvérom
Drvivý podiel na dodávkach hardvéru určeného na beh umelej inteligencie, dosahujúci až 80 percent, má spoločnosť Nvidia.
Jej produkty sú až také úspešné, že nová generácia výpočtových kariet z generácie Blackwell bola už na jeseň minulého roku vypredaná na rok dopredu. Jednotlivé firmy objednávajú karty v stovkách tisícov kusov.
Ide pritom o zariadenia, ktoré sú až štyrikrát rýchlejšie pri tréningu AI ako čipy predchádzajúcej generácie. V prípade, že na nich beží umelá inteligencie schopná logického vyvodzovania dôsledkov z nových dát (inference), tento proces dokáže bežať až 30-krát rýchlejšie.
Vlastný čip by mal odstrániť závislosť na Nvidia
Napätý stav na trhu s hardvérom na beh systémov umelej inteligencie sa OpenAI snaží vyriešiť vývojom vlastného čipu určeného na takéto účely. Spoločnosť si zriadila vlastný 40-členný vývojový tím vedený Richardom Hoom. Do projektu je zapojená aj firma Broadcom.
Návrh čipu sa nachádza v pokročilej fáze, do produkcie by mal ísť koncom tohto roku, jeho hromadná výroba sa predpokladá v roku 2026. Ako mnoho iných čipov aj tento by mal vznikať v závodoch firmy TSMC.
Tento výrobca z Taiwanu pritom dominuje so 64-percentným podielom vo výrobe mikročipov a v tých najpokročilejších technológiách dosiahol prakticky monopolnú pozíciu.
Nedá sa teda vylúčiť možnosť, že ak si OpenAI vyvinie vlastný čip, miesto o dodávky od Nvidia bude s konkurenciou súťažiť o výrobné kapacity TSMC.
