Z dôvodu bezpečného využívania nástrojov s umelou inteligenciou vytvorila Asociácia AI v spolupráci s neziskovou organizáciou Edulab a so Združením základných škôl Slovenska (ZZŠS) etický kódex na využívanie AI. Ten je určený školám, rodičom a žiakom.
„Etický kódex pre AI v školách vnímam predovšetkým ako nástroj zodpovedného používania technológií, nie ako zákaz alebo strašenie umelou inteligenciou,“ vraví pre Štandard Eva Horníková, prezidentka ZZŠS.
Ako pre Štandard ozrejmil aj riaditeľ Edulabu Ján Machaj, používanie AI na školách rapídne stúpa, pričom jej adopcia je rýchlejšia, než bol nástup osobných počítačov či internetu. Rámcový etický kódex pre využívanie AI v školstve preto vznikol ako priama reakcia na mimoriadne rýchly nástup tejto technológie do vzdelávacieho prostredia.
Machaj vníma pri čoraz väčšom využívaní AI jej zneužívanie, absenciu pravidiel a obavy z rizík. Doteraz podľa neho na školách chýbali akékoľvek pravidlá na skrotenie umelej inteligencie.
„Tento stav vytváral vákuum, v ktorom prevládali obavy zo zneužívania technológie, napríklad pri podvádzaní s domácimi úlohami, porušovaní ochrany osobných údajov či dokonca pri generovaní falošných videí – takzvaných deepfakov – učiteľov a žiakov,“ dopĺňa Machaj.
Horníková tvrdí, že školy dnes riešia reálne problémy, ako sú práce vytvorené pomocou AI bez uvedenia zdroja, kopírovanie domácich úloh, falošné fotografie či nekritické preberanie informácií. „Preto potrebujeme jasné hranice – kde je AI pomocník a kde už nahrádza vlastné myslenie dieťaťa,“ prízvukuje.
Riaditelia škôl pociťovali podľa Machaja z chýbajúcich pravidiel frustráciu. Ako vraví, odborníci sa zhodli na tom, že plošne zakázať umelú inteligenciu na školách je nemožné a nechať ju bez kontroly je, naopak, nebezpečné.
„Školy preto nutne potrebovali manuál, vďaka ktorému by si mohli vytvoriť vlastný rámec priamo vo svojich školských poriadkoch,“ spresňuje riaditeľ Edulabu.
Pravidlá pre šesť- až devätnásťročných
Pravidlá na povolené využívanie AI sa v dokumente líšia v závislosti od veku žiaka a konkrétneho zadania od učiteľa.
Deti vo veku šesť až desať rokov majú zakázané využívať AI individuálne. „Na prvom stupni základnej školy s ňou žiaci samostatne nepracujú vôbec. AI im môže ukázať len učiteľ, a to výlučne ako ukážku, nie ako nástroj na riešenie úloh,“ konkretizuje pre Štandard Miroslava Šáchová z Asociácie AI.
Starší žiaci na druhom stupni (vo veku 11 až 15 rokov) už môžu AI nástroje používať, ale iba v rozsahu a spôsobom, ktoré im presne určí učiteľ v zadaní. „AI tu slúži ako pomocný nástroj a žiak vždy nesie zodpovednosť za správnosť a originalitu odovzdanej práce,“ priblížil Machaj.
Stredoškoláci majú povolené využívať umelú inteligenciu pri úlohách samostatne. „Majú relatívne voľné ruky, pokiaľ im učiteľ neurčí inak,“ vysvetľuje Šáchová.
Žiaci na stredných školách však musia prísne dodržiavať pravidlá transparentnosti a akademickej integrity. To znamená, že musia uviesť názov použitého AI nástroja, účel jeho použitia a rozsah zadaného príkazu. „Žiak v tomto prípade nesie plnú zodpovednosť za kritické posúdenie, správnosť a finálnu podobu výstupu,“ dodáva Machaj.
„Ak žiaci budú AI používať, musia vedieť vysvetliť, na čo ju použili, čo je ich vlastná práca, a niesť za výsledok zodpovednosť,“ dodáva Horníková, prezidentka ZZŠS.
AI bude možné používať napríklad pri tvorbe osnovy či štruktúrovaní textu, obsah práce však musí vytvoriť žiak sám.
„Najväčšou výzvou podľa mňa nie je samotná technológia, ale to, aby sme u detí nestratili schopnosť samostatne myslieť, argumentovať, tvoriť a niesť zodpovednosť za vlastnú prácu,“ vysvetľuje Horníková.
Umelá inteligencia podľa nej nesmie viesť k tomu, že sa žiak naučí iba „zadať prompt“ [zadanie či príkaz pre AI, pozn. red.] a čakať na hotovú odpoveď.
Horníková spomína, že pomoc AI môže byť legitímna napríklad pri vyhľadávaní informácií, precvičovaní alebo pri podpore učenia. Podvádzaním sa to stáva vtedy, keď AI nahradí vlastnú tvorbu a žiak vydáva cudzí výstup za svoj.
Riaditeľ Edulabu Machaj potvrdzuje, že prípad, keď si žiak nechá celý text vygenerovať umelou inteligenciou bez toho, aby to priznal, sa považuje za zakázané použitie a úmyselné podvádzanie. Šáchová dodáva, že podľa kódexu ide o plagiátorstvo, ktoré je v rozpore so školským poriadkom.
Ako učiteľ overí prácu AI?
Štandard zaujímalo, či bude vedieť pedagóg vo výstupe žiaka preveriť, čo všetko AI vytvorila a na čo ju použil.
Šáchová z Asociácie AI pripustila, že učiteľ bude vedieť toľko, koľko mu žiak povie. „Kódex stavia na povinnom priznaní,“ podotkla.
Prezidentka ZZŠS Horníková potvrdzuje, že práve rozlišovanie medzi legitímnou pomocou AI a podvádzaním je jedna z najťažších praktických otázok pre učiteľov. „Nemyslím si, že riešením sú iba zákazy. Žiaci si vždy nájdu cestu k technológiám. Oveľa dôležitejšie je nastaviť jasné pravidlá,“ mieni.
Žiak musí podľa nej vedieť okrem vysvetlenia, ako AI použil a čo je jeho vlastná práca, výsledok aj obhájiť.
Základným mechanizmom, vďaka ktorému teda bude učiteľ vedieť overiť, čo presne umelá inteligencia v úlohe vytvorila, je práve povinnosť zdrojovania a promptovania. Ako Machaj dodáva, prompt musí žiak uviesť v takom rozsahu, aby učiteľ vedel presne vyhodnotiť, do akej miery technológia žiakovi pomohla.
Celý systém podľa Šáchovej nie je technický, ale zmluvný, pričom pripomína citovanie zdrojov v odbornej práci. „Funguje dovtedy, kým ho ľudia dodržiavajú,“ konštatuje. Princíp používania teda stojí najmä na jasných pravidlách, dôvere a priznaní žiaka.
Ak žiak AI použije, no neprizná to, alebo ju použije nad rámec toho, čo učiteľ v zadaní povolil, učiteľ bude následne situáciu riešiť podľa školského poriadku a vyvodzovať dôsledky.
„Kódex navrhuje stupňované sankcie podľa závažnosti a opakovanosti, ktoré siahajú od bežného poučenia cez vrátenie práce na prepracovanie až po hodnotenie stupňom nedostatočný pri úmyselnom podvádzaní, keď žiak napríklad odovzdá vygenerovaný text ako svoj vlastný,“ vysvetľuje Machaj.
Ak pedagógovia nebudú priznaniu žiakov veriť, školy môžu siahnuť po AI detektoroch.
„Rámcový etický kódex priamo nerieši plošné zavádzanie technologických AI detektorov na školách,“ spresňuje riaditeľ Edulabu. Namiesto toho stavia celý systém primárne na pravidlách transparentnosti, akademickej integrity a na zachovaní dôvery medzi účastníkmi vzdelávacieho procesu.
Ako uvádza Šáchová, školy automaticky nedostanú „detektor AI“. Systém podľa nej stojí na povinnom priznaní žiaka a úsudku pedagóga. „Či školy v praxi siahnu po softvérových detektoroch, zostáva na každej z nich – kódex im v tom nebráni, no nestanovuje to ani ako povinnosť,“ dodala.
Porušenie školského poriadku
Žiaci majú podľa Machaja vyslovene zakázané zadávať do AI nástrojov akékoľvek osobné údaje o sebe, svojich spolužiakoch či učiteľoch.
„Tvrdo zakázané je aj vytváranie deepfake obsahu spolužiakov či učiteľov – to sa považuje za závažné porušenie školského poriadku,“ prízvukuje Šáchová.
Pri podozrení z protiprávneho konania žiaka môže škola kontaktovať príslušné orgány v prípadoch, keď nastane vytváranie deepfake materiálov, čo sú manipulatívne a falošné videá, obrázky alebo zvukové nahrávky zachytávajúce iné osoby bez ich súhlasu.
„Konkrétnym príkladom závažného porušenia by tak bolo vygenerovanie falošného videa učiteľa alebo vytvorenie zosmiešňujúceho obrázka spolužiaka s cieľom dehonestovať ho,“ spresňuje Machaj.
Pravidlá platia aj pre učiteľov
Učitelia si podľa Horníkovej uvedomujú, že umelá inteligencia prichádza veľmi rýchlo a zásadne mení spôsob učenia. „Treba však otvorene povedať, že pripravenosť je rôzna,“ konštatuje prezidentka ZZŠS.
Riaditeľ Edulabu ozrejmuje, že základným princípom kódexu pre pedagogických zamestnancov je, že AI im má slúžiť len ako podporný nástroj a v žiadnom prípade nesmie prevziať rolu autority.
Učitelia majú povolené využívať umelú inteligenciu predovšetkým na uľahčenie svojej práce, napríklad pri príprave učebných materiálov, metodických podkladov alebo pri bežných administratívnych a organizačných činnostiach.
„Vo všetkých týchto prípadoch však platí, že učiteľ musí výstup posúdiť a nesie zaň plnú zodpovednosť,“ prízvukuje Machaj. Kódex učiteľom odporúča, aby išli žiakom príkladom, a ak pri príprave hodiny použijú AI, mali by to žiakom z dôvodu transparentnosti priznať.
Pedagóg nesmie AI použiť na automatizované známkovanie a hodnotenie žiakov. Nesmie ju používať ani pri narábaní s dátami či osobnými údajmi žiakov.
Ministerstvo školstva túto iniciatívu a praktický manuál plne podporuje a plánuje dokument zaradiť medzi svoje oficiálne odporúčania pre všetky základné a stredné školy na Slovensku.
„Etický kódex pre AI považujeme za dôležitý nástroj, ktorý pomáha školám vytvárať bezpečné a jasné pravidlá používania technológií a zároveň vedie žiakov k zodpovednému, kritickému a etickému prístupu k umelej inteligencii,“ dodal rezort pre Štandard.
