Činí nás AI hloupějšími? Možná.
📊 Souhrn
Charlie Gedeon ve své přednášce zkoumá vliv umělé inteligence (AI) na vzdělávání a lidské učení. Zdůrazňuje, že skutečná revoluce AI ve vzdělávání nespočívá v personalizaci výuky, ale v odhalování nedostatků stávajícího systému. Studenti jsou motivováni k honbě za známkami namísto skutečného učení. Gedeon varuje před nekritickým používáním AI nástrojů, které mohou vést k “kognitivnímu odlehčování” a ztrátě schopnosti kritického myšlení.
Gedeon navrhuje, aby se AI využívala k asistenci při učení, nikoli k jeho nahrazování. Zdůrazňuje potřebu rozvíjet u studentů kritické myšlení a schopnost ověřovat informace. Řešením je kombinace individuálního přístupu a systémových změn ve vzdělávání i regulaci. Jedinci by se měli učit, v čem jsou modely LLM dobré a v čem ne, jak s nimi asistovat myšlení, ne ho nahrazovat. Systémově je nutná větší regulace a větší informovanost dětí o dezinformacích. Klíčová otázka, kterou si musíme položit, je, komu AI skutečně pomáhá, když na ní závisíme při učení.
📝 Přepis
Možná si někteří z vás myslí, že samozřejmě, AI nám může pomoci se učit. Je to tak mocné, dokáže tolik věcí a přizpůsobit se nám. Ale chci říct, že největší revoluce, kterou AI přináší do vzdělávání, není to, že vám zjednoduší matematiku nebo vám vysvětlí Shakespeara jako pětiletému dítěti. Největší revoluce, kterou AI přináší do vzdělávání, je, že zdůrazňuje selhávající pobídky systému.
Proč by se někdo měl učit, když jim celou dobu říkáme, že na konci nezáleží na procesu, ale na té jedničce (známce)? Proč by měli věnovat veškerou tu tvrdou práci psaní návrhu za návrhem eseje, když zpětná vazba je jen dvojka, bez dalších poznámek, nic, co by je motivovalo k usilovnějšímu učení?
A tyto společnosti jsou mnohem rychlejší než naše instituce. Nedávno OpenAI, Google, Anthropic, všechny poskytovaly své nejvýkonnější modely zdarma až do konce května, což, jak možná tušíte, je přesně v době zkoušek. Takže dáváme tyto nástroje zcela neregulované před zranitelné studenty právě v době, kdy jsou nejvíce zoufalí je použít.
Personalizace výuky?
A přesto tyto společnosti říkají, že AI zrevolucionizuje vzdělávání, zejména prostřednictvím personalizace. Společnost za společností říká, že prostřednictvím personalizovaného doučování AI zrevolucionizuje vzdělávání a zlepší ho pro všechny. A proč ne, že? Představa individuálního doučovatele je tak strhující. Mluvit s osobou, cítit toto spojení, získat vzdělání přizpůsobené právě pro mě. Zní to úžasně.
A dnes vzdělávání vypadá jako učitel před armádou studentů. A pokud se technologové domnívají, že ideál vypadá jako jeden učitel, jeden student, pak proč prostě nevyměnit učitele za AI a dalším krokem je armáda AI s armádou studentů? Zní to jako dokonalý model vzdělávání.
Problém s dokonalostí
Až na to, že dokonalost není to, o co bychom se měli snažit, pokud jde o učení. Nechceme inženýry, kteří studovali, jak stavět mosty v dokonalých podmínkách. Protože skutečný svět je všechno, jen ne dokonalý. Je plný zmatků. A uprostřed tohoto hluku nevidím žádnou z těchto společností, které by se ptaly, co se má tento student s AI naučit? Protože pokud je cílem usnadnit získání té jedničky (známky), pak nemám zájem. Jen promarníme 12 až 15 let našich životů, ale nyní efektivněji děláme zkoušky, na které si den po promoci nevzpomeneme.
Nyní, pro ty z vás, kteří jsou pedagogové jako já, jste si možná všimli nesrovnalosti mezi mou úvodní otázkou a následným prohlášením. Zeptal jsem se, zda nám AI může pomoci se učit? A navázal jsem na to největší AI, největší revoluce, kterou AI přináší do vzdělávání. Ale možná cítíte něco, co je vzdělávání není učení.
Vzdělávání vs. Učení
Vzdělávání je konstrukt, něco, čím jako společnost provádíme naše děti. Je to systém. Ale učení je dovednost, velmi lidská dovednost. A když to děláme správně, mohou se dít magické věci. Můžeme motivovat lidi, aby se stali těmi nejlepšími. Můžeme motivovat lidi, aby spolupracovali a přispívali společnosti způsoby, které nejvíce potřebujeme.
V jedné z mých tříd rád sedím se studenty a pracuji co nejlépe. Jsem vysokoškolský instruktor, ale bylo opravdu těžké najít partu dvacetiletých, kteří by pěkně spolupracovali. Tak jsem si vzal tuto fotku ze skladu s partou dětí a všiml jsem si, že jedna ze studentek má cenu svého obchodního modelu. Protože jsme stavěli malé podniky a prodávali produkty. Ocenila svůj podnik na 50 dolarů měsíčně. A tak jsem se jí zeptal, proč jsi to tak ocenila? A její odpověď, to řekl ChatGPT.
ChatGPT radí s cenou
Někteří z vás možná řeknou, že to samozřejmě není ideální, ale není to velmi podobné tomu, co dělali předtím? Děti jen říkaly, to jsem viděl na Googlu. Ale já říkám, že to záleží. Záleží to, protože na Googlu, když se používá správně, máme všechny ty zdroje, kterými se můžeme prokousat, více perspektiv, na které se můžeme podívat a porovnat. Ale co se stane, je magické kouzlo toho prvního výsledku. Všichni klikají jen na to, aniž by se na cokoli jiného podívali. V této konkrétní otázce jsem se zeptal, jak mám ocenit svůj podnik? A ten první výsledek je od BDC, extrémně renomovaného zdroje. Ale říká mi, jak ocenit samotný podnik, ne služby mého podniku. Nerozuměl dotazu.
Nyní, v ChatGPT, pokud napíšete, jak mám ocenit svůj podnik? Vlastně dotazu rozumí lépe. Nevím, jestli to tam nahoře přečtete, ale v podstatě říká, že existuje několik způsobů, jak ocenit vaše služby. Ale mezi tím je spousta nepodložených rad bez zdrojů. A to je problém, protože i když má ChatGPT funkci, kde se po zvýraznění něčeho v textu objeví uvozovky, někteří z vás to nemusí vědět. Potom můžete na ty uvozovky kliknout a ten konkrétní dotaz prozkoumat. Ale pokud lidé neklikali na druhý výsledek na Googlu, nebudou používat pokročilé funkce v ChatGPT nebo v kterékoli z těchto dalších AI.
Kognitivní odlehčování
Co se pravděpodobně stane, je, že se posunou na konec dotazu a napíšou, dobře, chápu. Můj podnik je jako TurboTax. Pomáhám účetním vypočítat daně lidí, řekni mi, jaké číslo tam mám dát. A samozřejmě nikdo nečte ty, víte, ChatGPT může dělat chyby titulky. Že? Všichni klikají na podmínky služby, než souhlasíte. Jo.
Takže pak ChatGPT vyplivne esej personalizovanou jazyku osoby. Je to nesmírně přesvědčivé. A navzdory všem informacím tam se lidé budou dívat jen na ten středobod, což, pokud ho přiblížím, je skutečná náhodná odpověď na to, kolik by si tato osoba měla účtovat za svůj podnik. Výzva, a to je skutečná výzva, neměla nic než to, co jsem měl na obrazovce. Malý popis toho, co podnik dělá. Žádný kontext pro to, kdo je uživatel. Nic. A tak se student účastní takzvaného kognitivního odlehčování. Účinně se vzdává svých kognitivních schopností stroji. A to můžete dělat i s lidmi. Děláme to s Googlem, když klikneme na první výsledek, aniž bychom se na cokoli jiného podívali.
ChatGPT není styl učení
Problém je, jak to chápeme. V NYU profesor změnil své hodnocení, aby bylo pro děti těžší používat ChatGPT, a student odpověděl, že zasahuje do studentova stylu učení. ChatGPT není styl učení.
Nyní, když to zkombinujete s něčím, co vidíme v technologii. Takže jsem UX designér kromě toho, že jsem vysokoškolský profesor, a naší prací jako designérů uživatelské zkušenosti je zjednodušit způsob, jakým lidé používají technologii. Ale existuje vedlejší produkt, který z toho vzniká, a to je takzvaný temný vzor. A to znamená, že můžeme zjednodušit UX do té míry, že můžeme manipulovat s tím, jaký je záměr uživatele. A ukážu vám příklad.
Vezměte si tuto zoo, když si kupujete vstupenky a platíte, chtějí dar. Všichni milujeme zoo. Je to charitativní organizace. Nyní, šipka směřující doprava. A protože jsme anglicky nebo francouzsky mluvící, píšeme doprava. Víte, zleva doprava. Šipka směřující doprava je s největší pravděpodobností to, na co lidé kliknou. Je tmavě zelená, je bohatá. Ale pokud nechcete darovat, musíte kliknout na tu, která vypadá, že jde dozadu, s tou malinkou. Žádný dar tam. To je temný vzor uživatelské zkušenosti.
Temné vzory v AI
A když s vámi ChatGPT nebo velký jazykový model jako on mluví dokonalým tónem, který je určen jen k tomu, aby vás udržel na nástroji. To je něco velmi podobného. Podle tohoto autora, když vás velký jazykový model neustále potvrzuje a chválí, což způsobuje, že na něm trávíte více času, je to totéž jako temný vzor. A to už vidíme.
Nedávná aktualizace ChatGPT, která byla naštěstí stažena zpět, pochválila uživatele za to, že věří konspirační teorii, která ho vedla k tomu, že přestal užívat všechny své léky, když měl bušení srdce, a řekla mu, že je statečný jedinec za to, že převzal kontrolu nad svým životem, za izolaci a za to, že přestal užívat léky. A nekončí to jen u studentů. Ohroženi jsou i profesionálové.
Výzkumník provedl studii na více než 300 profesionálech pracujících ve velké korporaci, technologické společnosti jako Google Microsoft, a zjistil, že když byli testováni na různé věci, výsledky byly docela ohromující. Než vám ukážu graf, podívejme se na legendu. Dva odstíny modré jsou pro mnohem méně úsilí a méně úsilí, v uvedeném pořadí, od tmavě modré po světle modrou. Nyní, když bylo testováno, 319 pracovníků odpovědělo v průzkumu, že když používali ChatGPT na znalosti, cítili se až 70%, jako 70% z nich odpovědělo, že mají pocit, že vynakládají méně úsilí na své poznávání, pokud jde o porozumění tomu, co čtou. Totéž, hodnocení syntézy znalostí. Máme analýzu a hodnocení. Všechny tyto. Alespoň 60% lidí řeklo, že mají pocit, že vynakládají méně úsilí. A to je nesmírně silné, protože tyto AI se budou jen zlepšovat.
„Copilot se stává autopilotem“
Stejný autor této studie napsal krásný článek s názvem „Copilot se stává autopilotem“. A říká, že riziko přechodu na autopilota je ještě větší výzvou než běžněji diskutovaný problém halucinací AI nebo faktických chyb, protože zhoubnějším výsledkem je, že se generativní AI stává spoluviníkem intelektuálního snižování a atrofie lidských schopností kritického myšlení.
Takže dnes, když se zeptáte ChatGPT na dotaz, získáte okamžitý výsledek. Ale v mém UX studiu jsme s mým spoluzakladatelem provedli několik experimentů, abychom zjistili, zda to můžeme trochu změnit. Například, co kdyby to nejprve vyjasnilo, než by to odpovědělo? Položte si několik vyjasňujících otázek? Nebo jiný příklad je, co kdyby vám to zadalo nějaké domácí úkoly, než by vám to skutečně dalo úplnou odpověď? Mezi těmito možnostmi existují různé úrovně odporu, které AI nabízí.
Ale to, co obhajuje stejný autor článku „Když se Copilot stane Autopilotem“, je něco, čemu se říká produktivní odpor, a to jsme ještě nenašli. Je to v podstatě množství odporu, které by vám AI měla dát, než ji opustíte nebo přejdete na jednodušší AI, abyste mohli provést to kognitivní odlehčení, které je tak lákavé.
Jak produkovat odpor?
Ale jak můžeme zjistit správné množství produktivního odporu, když OpenAI a všechny tyto společnosti nezveřejní své datové sady? Doslova nevíme, jak trénují své AI. Dodnes, když společnosti samy nevědí, jak tyto AI fungují, Anthropic v tomto příkladu staví MRI, aby analyzoval, jak stroj, který sami postavili, fungoval. To je v historii lidské technologie bezprecedentní. Nemůžeme tyto věci reverzně analyzovat.
Řešení pravděpodobně bude spočívat mezi jednotlivci i systémem. Nemůže to být jedno nebo druhé. Pro jednotlivce se možná budeme muset naučit to, co se učíme od fitness a výživy. Například možná bychom měli pochopit, k čemu jsou LLM dobré a k čemu ne. Stejně jako v posilovně, některá cvičení jsou lepší pro některé věci než jiné. Měli bychom cvičit používání LLM k podpoře našeho myšlení spíše než k nahrazení našeho myšlení. Opět, nevzali byste si do posilovny vysokozdvižný vozík, že? Jde o to dělat opakování. Nebo si možná chcete udělat zvyk ověřovat informace, které nám LLM dávají. Stejně jako se díváme na zadní stranu potraviny, když ji zvedneme, na nutriční štítek.
Na systémové úrovni se musíme podívat na vlády i vzdělávání, abychom provedli změny na úrovni školství. Alespoň tady v Severní Americe si nemyslím, že bychom s našimi dětmi jednali s takovou inteligencí, jakou mají. Ve Finsku děti už od šesti let studují misinformace a dezinformace. Šest let. S těmito dětmi nemluvíme o takto složitých věcech. Tady jsou toho očividně schopny.
A pro vlády potřebujeme více regulace, ne méně. Což je přesně to, co se děje v Severní Americe. Opět, tyto AI nemohou běsnit jako v příkladu, který jsem uvedl dříve. Jen šířit svou AI studentům, i když jsou uprostřed zkoušek, kdy jsou nejzranitelnější. Musí to být cyklus mezi individuální odpovědností a odpovědností ze systému.
Nyní, jako pedagog, miluji pět W a H. Jsou klasické pro psaní esejí. Otázky co, proč, kdy, kde, kdo a jak. A začal jsem otázkou, zda nám AI může pomoci se učit? Ale možná by otázka měla být, co nám AI může pomoci se učit? Nebo jak nám AI může pomoci se učit? Možná by to mělo být, proč by nám AI měla pomoci se učit? Nebo kdy a kde AI pomáhá s učením. Ale otázka, která mě nejvíce děsí a kterou vám chci nechat, abyste se nad ní zamysleli, je, komu AI skutečně pomáhá, když na ní nakonec závisíme při učení? Děkuji vám mnohokrát.
🔍 Kritické zhodnocení
Přednáška Charlieho Gedeona nabízí cenný pohled na potenciální negativní dopady nekritického používání AI ve vzdělávání. Jeho varování před “kognitivním odlehčováním” a ztrátou schopnosti kritického myšlení rezonuje s obavami mnoha odborníků.
Výzkum z oblasti kognitivní psychologie skutečně ukazuje, že nadměrné spoléhání se na externí zdroje informací (včetně AI) může vést k oslabení našich vlastních kognitivních schopností. Studie publikovaná v časopise “Educational Psychology Review” (např. autor J. Dunlosky) zdůrazňuje důležitost aktivního zapojení do učebního procesu a rozvoje vlastních strategií pro zpracování informací. Jeho zmínka o dark UX a manipulaci v AI je velmi aktuální a dokazuje, že vývojáři by měli být obezřetní s tím, jak AI prezentuje informace, aby nedocházelo k ovlivňování rozhodování uživatelů. Poukazuje na důležitost kritického myšlení a ověřování informací, se kterým se dá souhlasit.
Nicméně, je důležité poznamenat, že AI má také obrovský potenciál pro zlepšení vzdělávání. Personalizované učení, interaktivní výukové nástroje a automatizovaná zpětná vazba mohou studentům pomoci učit se efektivněji a dosahovat lepších výsledků. Klíčem je najít správnou rovnováhu mezi využitím AI a rozvojem vlastních kognitivních schopností. Jak zmiňuje i sám Gedeon, je třeba se zaměřit na to, v čem nám AI asistuje a v čem ne.
Pro další studium doporučuji prozkoumat výzkum z oblasti kognitivní psychologie, vzdělávací technologie a etiky AI.
