Umělá inteligence jen plní úkol. Zodpovědnost zůstává na lidech

(Text Simony Polcareové vyšel v Magazínu M 4/2023,, s jehož souhlasem jej přetiskujeme.)

Na půdě Masarykovy univerzity inicioval Tomáš Foltýnek, odborný asistent na Katedře strojového učení a zpracování dat Fakulty informatiky MU, vznik pracovní skupiny pro využívání umělé inteligence ve výuce. 

Pojďme si ujasnit na úvod: kdy jde o moderní technologii a ve které chvíli už hovoříme o umělé inteligenci (AI)?

V informatice na to máme Turingův test, který formuloval v roce 1950 Alan Turing následovně: Stroj se dá považovat za inteligentní, pokud dává takové výstupy, že uživatel nepozná, jestli komunikuje se strojem, nebo s člověkem. A to už dnes generativní nástroje jako ChatGPT splňují. Kdyby byl nástroj za přepážkou a vy ho neviděli, nedokážete odlišit, jestli vám odpovídá stroj, nebo člověk.

I tak ovšem existuje riziko, že vám může dát tento nástroj špatnou nebo nesmyslnou odpověď… 

Stává se to. Stroj inteligentní jednání simuluje, ale sám inteligentní není. Ale je pravda, že o tom, zda jsou velké jazykové modely kreativní, se vedou vášnivé diskuze. Jazykový model má v sobě „načtené“ obrovské množství textů, a poskytuje nám proud slov, u nichž je nejpravděpodobnější, že by se vyskytla v daném kontextu. Pokud mu zadáte otázku, dostanete výklad, který on v daném kontextu vyhodnotí jako nejpravděpodobnější odpověď. Vychází z toho, co má natrénováno na gigabytech dat, ale vždy jde o kombinaci mnoha zdrojů dohromady – tím pádem se často stává, že vyprodukuje nesmysl.

„Nechceme studentům tyto nástroje zakazovat. Je dobré, aby AI při psaní závěrečných prací využívali, ale je potřeba u toho být transparentní a přiznat, jakým způsobem ji využívali.“ 

Do jaké míry nám může pomoci při samotném psaní? 

Pokud mu zadáte váš text, dokáže jej přeformulovat nebo zdůraznit určitou myšlenku, eventuálně text při zachování myšlenky zkrátit. To jsou věci, které umí celkem dobře. I kolegové, kteří s tímto experimentovali, měli s prací na textu dobré zkušenosti. Sám jsem nástroji zadal vlastní text, aby ho vylepšil, a postupně naší spoluprací vznikl text, který byl výrazně lepší než ten původní, který jsem vytvořil já.

Jak se může tato skutečnost promítnout do studentských prací a jejich hodnocení? Do jaké míry lze pak vnímat text jako autorský? 

To je otázka, o které se nyní často mluví. Spousta lidí má potřebu ji vnímat jako binární klasifikační problém. Na jedné straně máme texty napsané člověkem a na druhé straně umělou inteligencí, což bychom chtěli nějak rozlišit. Co vzniklo umělou inteligencí, to se víceméně dá umělou inteligencí odhalit. Ale realita nebude takhle černobílá. Studenti budou své texty psát ve spolupráci s umělou inteligencí. Řekl bych, že nás dělí měsíce od chvíle, kdy Microsoft začlení do Wordu našeptávač, a jak budete psát své myšlenky, začne vám nabízet lepší formulace, aby vznikl ještě kvalitnější nebo údernější text. A to je věc, kterou neodhalíte. Máte před sebou text psaný člověkem, nebo umělou inteligencí? Stejně jako nemáte šanci poznat, že autor použil kontrolu pravopisu, nebo že prvňáček při sčítání v domácím úkolu použil kalkulačku. Každopádně ale máme výsledek, u kterého se tvůrce snažil, aby byl co nejlepší. A v univerzitním prostředí by mělo být transparentní, jakým způsobem se k němu dostal. A to je i postoj pracovní skupiny, která se otázkou umělé inteligence na MU zabývá. Nechceme studentům tyto nástroje zakazovat. Je dobré, aby AI při psaní závěrečných prací využívali, ale je potřeba u toho být transparentní a přiznat, jakým způsobem ji využívali. Zároveň je třeba si být vědom, jaká rizika AI přináší, a nepřebírat všechna tvrzení jako daná fakta. Je třeba je ověřovat a dohledávat si zdroje. Důležité je primárně čerpat z ověřitelných zdrojů a AI pak použít pro lepší formulace textu. Nemá cenu se snažit získávat od ní znalosti, protože víme, že v tomto směru si AI často vymýšlí. 

„Řekl bych, že nás dělí měsíce od chvíle, kdy Microsoft začlení do Wordu našeptávač, a jak budete psát své myšlenky, začne vám nabízet lepší formulace, aby vznikl ještě kvalitnější nebo údernější text.“

V čem může AI studentům při získávání vědomostí pomoci? 

Existují například nástroje AI, které udělají literární rešerši, protože už jsou napojené na databázi literatury. Umí zesumarizovat základní myšlenky, které odpovídají současnému vědeckému poznání, a nabídnou vám odkazy na zdroje. Z pohledu uživatele fungují podobně jako Google Scholar, kam zadáváte klíčová slova a dostanete seznam nejrelevantnějších zdrojů. AI navíc vezme prvních deset zdrojů a vytvoří z nich souhrn. To je pro studenty nesmírně užitečné. Tady neexistuje riziko, že by si AI něco vymyslela, pokud věříme databázím, ze kterých čerpá. Student dostane odkazy na zdroje, což je práce, kterou by při přípravě rešerší udělal sám, ale díky AI ušetří spoustu času. I toto je ale třeba v práci uvést. Stejně jako se uvádí seznam použité literatury, tak by se v ní měl objevit také seznam použitých nástrojů, které autor popíše, a uvede, jak je využíval. Dovedu si představit, že stejně jak dnes univerzita poskytuje studentům Office 365, bude časem poskytovat i nějaké placené nástroje AI, konkrétně třeba na literární rešerše.

Lze AI využít i jako pedagoga? Je možné, že by ho úplně nahradila? 

ChatGPT je naučený na zadávání úkolů a jejich řešení a studenti ho mohou o úkol na nějaké vhodné téma požádat. Zodpovědné využití vypadá v praxi tak, že si necháte vygenerovat zadání, zkusíte si ho sami vypracovat, a když už nevíte, jak dál, necháte si od AI poradit. To je totéž, s čím by pomohl učitel, ale v roli učitele je tentokrát stroj. Takže AI vám může pomoci při výuce, ale určitě to neznamená, že AI pedagogy nahradí. Vím, že se toho spousta lidí bojí, ale já bych to neviděl tak černě. Budeme-li schopni – a to platí v jakékoliv oblasti lidské činnosti – AI využívat, získáme všechny předpoklady k tomu, že budeme dělat svoji práci lépe a produktivněji než ti, kteří budou pracovat bez ní. Vezměte si třeba příchod knihtisku. Ten také zásadním způsobem proměnil vzdělávání. Učitelé, kteří nedokázali víc než předčítat, byli knihami nahrazeni. Ale ti, kteří se studenty uměli komunikovat, klást jim správné otázky a donutili je uvažovat, diskutovat a uměli jim poskytovat zpětnou vazbu, změnu přečkali. S umělou inteligencí to bude podobné. 

Přináší AI nějaká úskalí v oblasti vědy a výzkumu? Může vygenerovat nějaký poznatek?

To bych neřekl, minimálně ne v současné době. AI má vědomosti, které má načtené – ty může kombinovat a vygenerovat do výsledného textu. U vědeckých prací toho lze využít například na psaní abstraktu, formulace úvodu nebo popis metodiky. Vlastní výsledky, které jsou ve vědecké práci stěžejní, za vás neudělá. Pokud si je úplně vymyslí, pak jde o falšování, nebo v tomto případě spíš o fabrikaci dat. Už nyní existují tzv. paper mills, tedy firmy, které za peníze píší články, které pak zaplevelují vědeckou literaturu naprosto vylhanými studiemi, což je extra nebezpečné třeba v medicíně. Text obsahuje výsledky, tabulky i grafy, ale čísla jsou totálně vylhaná. Toto dokáže umělá inteligence samozřejmě také a riziko je o to větší, protože nástroje jsou dostupnější. Ale i v tomto případě umělá inteligence jen plní úkol, který do ní zadal člověk. Nevymyslí si věci jen tak sama od sebe, a už vůbec je sama od sebe nepublikuje. Zodpovědnost stále zůstává na lidech. 

Lze takto vyfabrikované studie umělou inteligencí odhalit? 

To je něco, co softwarově těžko odhalíte. Pokud máte klinickou studii, která se tváří, že skutečně proběhla na nějakém vzorku pacientů, tak prakticky nejde poznat, že si to celé někdo vymyslel. Pak nezbývá než jít po konkrétních datech, jestli výzkum opravdu proběhl a zda se ho účastnili skuteční lidé. 

Jak se AI promítne do samotné výuky na univerzitě? 

Vzniká například core předmět na umělou inteligenci ve studiu, ale obecně platí, že každý obor si s tím bude muset poradit sám, protože v každém oboru bude využití AI trošku jiné. AI pronikne postupně do všech oborů a studenti univerzity by na to měli být připraveni. Vyučující by se měli zamyslet, jak daný obor AI ovlivní, co by studenti měli znát a jakým způsobem tyto věci do výuky začlenit. Naše celouniverzitní skupina se bude dál scházet a vytvářet metodickou podporu, aby na to vyučující nebyli sami. Předpokládám, že na CERPEK (Centrum rozvoje kompetencí, pozn. edit.) vzniknou kurzy a vzdělávací aktivity, které vyučujícím se začleněním AI do výuky pomohou. Určitě by v tom neměli zůstat sami. 

„Dovedu si představit, že stejně jak dnes univerzita poskytuje studentům Office 365, bude časem poskytovat i nějaké placené nástroje AI, konkrétně třeba na literární rešerše.“

Objevuje se také otázka, že AI ohrožuje akademickou integritu? Ano, či ne? 

AI multiplikuje schopnosti člověka, který ji využívá – v dobrém i špatném. Pokud chci AI využít poctivě, abych se jako student něco naučil, tak mi dokáže usnadnit práci, protože za mne udělá nudné a neproduktivní úkoly a umožní mi se věci efektivněji naučit. Pokud by někdo chtěl projít studiem s nejmenším úsilím i za cenu podvodu, AI mu opět dává možnosti, jak to udělat. Je to dvousečná zbraň.

V souvislosti s rozhovorem jsme vás poprosili i o vytvoření obálky našeho časopisu za pomoci AI. Nešlo si nevšimnout, že vás zadání na obálku zaujalo. Dá se říct, který z nástrojů AI vás baví i mimo rámec profese? Je to malování? 

Rozumím tomu, jak funguje generování textu, ale malování je pro mne méně známá půda. A výsledky, které tento nástroj poskytuje, jsou skvělé. Hrát si s Midjourney a nechat si generovat obrázky mne opravdu baví. Využívám je i na oživení přednáškových slidů. Dříve jsem musel dlouho hledat obrázky na dané téma a filtrovat výsledky podle autorských práv. Teď jen do Midjourney zadám, co chci nakreslit, a on mi to nakreslí. A ještě navíc říká, že ty výsledky jsou moje.

Je to dobrá zpráva pro grafiky a ilustrátory? 

Pro ty, kteří se s AI naučí pracovat, rozhodně ano. Už dnes vznikají pozice jako prompt inženýr, což jsou specialisté na to, jak dotaz pro AI zadat tak, aby udělala, co po ní požadujete. Důležité jsou nejen jednotlivé vstupní údaje i pořadí, v jakém je zadáváte. Ti, kteří budou schopni tyto nástroje využívat, budou produktivnější a úspěšnější. A ručně kreslené obrázky se stanou luxusním zbožím.

Text: Simona Polcarová / Foto: Radek Miča

Rozhovor vyšel v univerzitním časopise Magazín M 4/2023 vydávaném Masarykovou univerzitou v Brně, kde najdete i další texty na téma umělá inteligence ve školách:

https://www.em.muni.cz/images/stories/pdfmuni/Magazin-M-duben-2023.html