Lze nástup umělé inteligence srovnat s nějakým jiným, podobně zásadním historickým momentem?

Zhruba před rokem, rokem a půl byl kolem chatbotů největší hype a mnozí generativní AI srovnávali se změnami vyvolanými industriální revolucí, případně s nástupem internetu. Vzestup podle mě ale není takový, že by skokově změnil společnost a ekonomiku. Spíš si čím dál častěji uvědomujeme, že i když máme AI nástroje, neznamená to, že nepotřebujeme lidi, kteří s nimi umí pracovat.

Dává dnes ještě smysl chtít po studujících vypracovat eseje, když je generativní AI zvládne vyprodukovat za pár sekund?

Určitě to smysl má. Když se vzdáme ambice vzdělávat děti nebo dospělé v psaní a kritické konzumaci textu, uvolníme tak akorát prostor dezinformacím a lžím, které lidé nebudou schopni kontrolovat a korigovat. Uvědomme si, že AI sice umí vygenerovat nějaký text, ale to neznamená, že za něj člověk nepřebírá odpovědnost. Musí být schopen výstup zkontrolovat a správným způsobem upravit. Potřebujeme společnost vzdělávat tak, aby byla odolná vůči hrozbám, které z toho plynou, a to zabere nějaký čas.

Když studující nebo kdokoliv jiný použije při zpracování úkolu AI nástroje, co přesně na ni deleguje?

Jednoduše vše, co si jen dokážeme představit. Z našeho výzkumu vyplývá, že asi tři čtvrtiny českých středoškoláků používají AI prakticky denně, na základních školách je to asi polovina žáků. AI je ve školách extrémně používaná technologie, se kterou děti dělají úkoly, učí se cizí jazyky a často si od ní nechávají vysvětlit i učivo. Přibližně polovina z nich přiznala, že s AI nepracují zcela v souladu s pravidly, tedy že ji například použijí při vypracování testu či jiných podobných úkolů. Přibližně 5–10 % z nich užívá AI na věci, které jsou na hraně zákona i etiky. Tvoří například deepfake videa a další materiály, jimiž pak můžou šikanovat spolužáky a spolužačky. Myslím si, že ta čísla budou jenom růst, protože AI nástroje jsou čím dál dostupnější a dokonalejší. Když chcete vytvořit deepfakeové video s podobiznou nějakého člověka, stačí vám na to pár fotek. Vyrobíte dokonce i audiovizuální komplet s hlasem. Prostě cokoliv a stojí to jen pár korun.

Poslední dobou se objevují zprávy, že šikanované děti hledají útěchu právě u AI chatbotů. Potvrdilo se to i vám?

Přesně tak. Mnozí postižení šikanou využívají chatboty k řešení různých psychických potíží, a vytvářejí si dokonce i jakési virtuální partnery, se kterými sdílejí osobní záležitosti. Získávají od nich pocit jisté podpory a emočně se na ně navazují. To je pravděpodobně způsobeno tím, že se jim nedostává emocionální a vztahové podpory.

Není to riziko? Nemůže to někdo snadno zneužít?

Jestli to je, nebo není v pořádku, zůstává otázkou. Podle mě je to dvojsečná zbraň a určitě pozorujeme rozdíl v tom, jak AI vnímají děti, které se ve škole cítí dobře, a ty, které naopak ne. Máme zmapované případy, kdy adolescentům s psychickými potížemi AI pomohla naplánovat například sebevraždu.

Už jste zmínil potřebu vhodně rozvíjet kritické myšlení, což může být alespoň částečnou reakcí na pronikání AI do všech možných oblastí života. Rozvoj jakých dovedností nebo schopností je podle vás u dospívajících kvůli AI nejvíce ohrožen?

Netroufám si úplně tvrdit, jaká konkrétní dovednost utrpí nejvíce. Myslím si, že generativní AI postupně pronikne do všech oblastí. Podílíme se na vývoji AI gramotnostních testů, které validním způsobem hodnotí schopnost lidí popsat, co AI je, jak ji lze používat, jaké jsou její limity včetně etických aspektů s tím spjatých. Troufám si říct, že právě etická rovina AI gramotnosti je u dospívajících nejzranitelnější oblastí. Obvykle dokážou velmi dobře popsat, co to AI je a jak funguje, ale už nedokážou rozlišit, jaké jsou etické nástrahy používání.

Rád bych na tomto místě podotkl, že jde o výzvy, které se dotýkají i dospělých. AI postupně proniká do všech možných profesí a trh neustále tlačí na co nejefektivnější využívání kapitálu. AI tedy bude implementována všude tam, kde dokáže zrychlit a zefektivnit produkci čehokoliv.

Jak na AI vlastně reagují vyučující? Volí spíš zákazy nebo ji tolerují či sami aktivně používají?

Všeobecně lze říct, že studující AI používají mnohem víc než vyučující a často také mají mnohem větší míru AI gramotnosti. Samozřejmě lze sledovat obrovské rozdíly. Na českých školách najdete vyučující, kteří AI využívají denně při přípravě na výuku i přímo ve výuce samotné. Vnímají je jako takové asistenty, kteří jim pomáhají zvládnout specifika jednotlivých studujících. Pak ale máme i vyučující, kteří o AI nechtějí vůbec ani slyšet a k ničemu ji nevyužívají. Myslím, že je to tak padesát na padesát – polovina vyučujících s AI aktivně pracuje, polovina to odmítá. V čase se to samozřejmě bude měnit, a i to se pokusíme v našem výzkumu zachytit, protože šetření v průběhu roku a půl třikrát zopakujeme.

Jak na to reaguje stát? Snaží se vyučující nějakým způsobem podporovat?

Občas mám pocit, že český vzdělávací systém na jakoukoliv snahu podchytit problematiku AI zcela rezignoval. Spíš to nechává na jednotlivých školách či studujících samotných, nicméně pravdou je, že například Národní pedagogický institut nabízí vyučujícím kurzy, jejichž cílem je naučit je alespoň základy práce s AI. Šetření také ukázalo, že najdeme vyučující, kteří se dobrovolně vzdělávají v kurzech organizovaných různými neziskovými organizacemi.

Zjišťovali jste, co vyučujícím nejvíce chybí? Je to například metodika nebo čas?

Potýkají se s tím, že o školeních, která mimochodem mají nedostatečnou kapacitu, často vůbec nevědí. Zcela chybí plošné vzdělávací aktivity a dosud se do českých kurikulárních systémů ani nepodařilo smysluplně zavést, jak se má o a s AI vyučovat. Máme sice neziskovky, jako je například AI dětem, které pracují na konceptualizaci AI kurikula, ale protože to nejsou celostátní aktivity, nedostávají se zatím do všech škol.

Hlavním řešitelem projektu Zprostředkovaná společnost (MEDIS:ON), reg. č. CZ.02.01.01/00/23_025/0008713, který spolufinancuje Evropská unie, je za Masarykovu univerzitu Tomáš Lintner z Ústavu pedagogických věd FF MU. Spolupracují na něm také odborníci a odbornice z Fakulty sociálních studií MU, Středoevropského technologického institutu, Psychologického ústavu Akademie věd ČR, Univerzity Palackého v Olomouci i Vysokého učení technického v Brně. Projekt potrvá do roku 2028.