Oznámenie spoločnosti OpenAI vyvolalo spor o pôvod niektorých z týchto nápadov. Matematik z Newyorskej univerzity Tristan Buckmaster a Levent Alpöge, ktorý v súčasnosti pracuje v spoločnosti Anthropic, sa už skôr zaoberali súvisiacimi problémami a v rámci svojho výskumu používali programovací nástroj Codex od OpenAI.
Buckmaster vyjadril pochybnosti, či ich práca mohla ovplyvniť systém OpenAI. Umelá inteligencia sa vydala nezvyčajnou cestou, ktorá pripomínala prístupy, ktoré on sám predtým skúmal. To vyvolalo podozrenie, že čerpala z predchádzajúcej nezverejnenej práce vedcov bez ich súhlasu.
Spoločnosť OpenAI túto domnienku odmieta. Na základe vnútorného vyšetrovania uviedla, že Buckmasterove vstupy do nástroja Codex z predchádzajúcich dvoch mesiacov nemohli ovplyvniť systém, a to ani prostredníctvom trénovania. Spoločnosť zároveň zdôraznila, že dôkazy sa v dôležitých ohľadoch líšili. Neexistuje teda žiadny dôkaz o tom, že by boli údaje výskumníkov zneužívané.
Tento prípad však odhaľuje širší problém. Vedci nepoužívajú umelú inteligenciu len na vyhľadávanie zavedených poznatkov. S týmito systémami diskutujú o nezverejnených prístupoch, neúspešných pokusoch a potenciálnych riešeniach. Tým vkladajú výsledky svojho vlastného výskumu do tých istých nástrojov, na ktoré sa čoraz viac spoliehajú.
Prípad Andreasa Thoma
Nemecký matematik Andreas Thom, profesor na Technickej univerzite v Drážďanoch, vyjadril podobné obavy. Začiatkom augusta spoločnosť OpenAI predložila dôkaz o existencii nespočítateľnej množiny [matematická štruktúra, ktorú nemožno ľubovoľne presne napodobniť pomocou určitých konečných, jednoduchších štruktúr, pozn. red.], čo je ďalší dlhodobo otvorený problém v teórii množín.
Thom v ňom spoznal techniky zo svojej spoločnej práce s matematikom Gaborom Kunom. Ich výskum bol síce uverejnený, ale tento prístup mu pripadal nezvyčajný, pretože doteraz sa nepovažoval za zrejmú cestu k vyriešeniu tohto problému.
Ešte významnejšie je, že Thom podľa vlastných slov strávil predchádzajúce mesiace podrobným rozborom tých istých techník a možností ich rozšírenia v spolupráci s ChatGPT.
Opýtal sa spoločnosti OpenAI, či sa tieto konverzácie dostali do jej trénovacích dát alebo či boli prístupné systému, ktorý pracoval na riešení. Výskumník z OpenAI mu povedal, že nie. Thom považuje túto odpoveď za nedostatočnú.
Neexistujú žiadne dôkazy o tom, že by jeho údaje boli zneužité. Tento prípad však vyvoláva tú istú základnú otázku: či by nezverejnené nápady používateľa mohli neskôr ovplyvniť model alebo jeho výskum a či by niekto mimo spoločnosti mohol preukázať, že sa tak stalo.
Keď sa výskumný asistent stane výskumníkom
Pre vedcov majú tieto dôsledky širší dosah než len bezpečnosť údajov. Výskumníci využívajú umelú inteligenciu na testovanie hypotéz, skúmanie možných dôkazov a prekonávanie neúspešných prístupov, a to často dlho pred publikovaním. V tomto procese zverujú poskytovateľovi potenciálne cennú intelektuálnu prácu.
To, čo sa s týmito informáciami stane, závisí od produktu, nastavení, zmlúv a vnútorných postupov poskytovateľa. Zvonku však môže byť mimoriadne ťažké zistiť, či konkrétna myšlienka neskôr ovplyvnila model.
To vytvára problém vedeckej priority. Budúci matematický dôkaz by mohol kombinovať publikované články, rozhovory s výskumníkmi, vlastné vyhľadávania modelu a svoje vlastné úvahy. V určitom momente by sa jednotlivé príspevky mohli stať nerozlíšiteľnými.
Kto je autorom nápadu, ak ho najprv sformuluje výskumník, jeden model ho spracuje a iný ho neskôr premení na dôkaz? A kto si zaslúži vedecké uznanie, keď už nie je možné rekonštruovať hranicu medzi príspevkom človeka a stroja?
Medzinárodná matematická komunita sa už s takýmito otázkami zaoberá a vyzýva na väčšiu transparentnosť, vystopovateľnosť a jasnejšie pravidlá pri priznávaní vedeckých zásluh v prípadoch, keď je do procesu zapojená umelá inteligencia.
Tento problém presahuje rámec matematiky. Spoločnosti zaoberajúce sa umelou inteligenciou vytvárajú systémy, ktoré sú čoraz viac schopné programovať, vykonávať výskum a fungovať samostatne v rámci reálnych počítačových systémov. Zároveň vedci, spoločnosti a súkromné osoby zverujú týmto systémom informácie, ktoré ešte neboli zverejnené.
Riziká spojené s umelou inteligenciou sa preto už netýkajú len hypotetickej superinteligencie. Nedávne prípady ukázali, že systémy prekračujú zamýšľané technické hranice. V tejto súvislosti vyvstáva aj ďalšia otázka: čo sa stane s nápadmi, údajmi a vedeckými úspechmi, keď sa samotný výskumný asistent stane výskumníkom?
Pôvodný text bol publikovaný na webe sesterského denníka Statement.com.
