Co znamená "CEO" ve věku AI?
📊 Souhrn
Rohan Arya Gondi ve své přednášce rozebírá, jak nástup umělé inteligence ovlivňuje naše myšlení a schopnost řešit problémy. Poukazuje na to, že přílišné spoléhání se na AI při hledání rychlých řešení nás může ochudit o hlubší pochopení a schopnost kritického myšlení. Gondi to ilustruje na osobní zkušenosti z fyzikální laboratoře a na příkladu tréninku squashe, kde pouhá mechanická znalost nestačí k úspěchu proti lepším soupeřům. Klíčem je rozvíjet “Systém 2” myšlení, které je pomalé, analytické a strategické, na rozdíl od rychlého a intuitivního “Systému 1”.
Navrhuje, abychom se v éře AI chovali jako CEO vlastní společnosti, kde delegujeme rutinní úkoly na AI, ale klíčové strategické rozhodování si ponecháváme. Důraz je kladen na aktivní trénink myšlení a rozhodování, abychom si uchovali schopnost kritického posouzení a nevzdávali se vlastního úsudku. Gondi varuje před nebezpečím závislosti na AI, která může vést ke ztrátě vlastního vkladu a odtržení od vlastní práce. Vyzývá k vědomému používání AI, abychom neztratili kontrolu nad svým myšlením a zůstali autory vlastních myšlenek.
📝 Přepis
Kdyby zítra všechno zhaslo, žádné aplikace, žádní asistenti, žádné automatické doplňování, kolik z tvého myšlení by ti ještě patřilo?
Listopad 2022. ChatGPT je vydán a stává se okamžitým hitem. Milion uživatelů během prvních pěti dní a 100 milionů během následujících dvou měsíců. Byl jsem chycen. Připadalo mi to jako kouzlo. Zadal jsem otázku a během několika sekund jsem dostal perfektní odpověď. Téměř přes noc se to stalo mým hlavním nástrojem, který nahradil Google. Žádné další nekonečné články, žádné další karty. Ale tím jsem neskončil. Jak se AI stávala chytřejší, stala se z mé učebnice mým učitelem. A teď je to jako dítě, které nějakým způsobem udělá celé skupinové zadání. Používat to se stalo samozřejmostí. Připadalo mi, že moje produktivita raketově stoupá a každá nová verze modelu mi dávala ještě lepší odpovědi. Říkal jsem si, jestli se nestávám Johanem 2.0, chytřejší, rychlejší verzí sebe sama? Nebo se v trhlinách skrývá něco jiného, co jsem nemohl vidět?
Nalezení odpovědi
Odpověď jsem našel letos v létě ve fyzikální laboratoři částic na Yale. Pracoval jsem na predikci vztahu mezi hybností subatomární částice a úhlem světla, které produkuje. Hodiny jsem zíral na simulace a honil čísla, která se odmítala sečíst. Pak, právě když jsem si myslel, že konečně můžu zavřít svůj notebook, program vyplivl výsledky, které vůbec nedávaly smysl. Měl jsem těžkou hlavu, došla mi trpělivost. Pak, téměř na autopilota, začaly mé prsty psát problém do ChatGPT. Během několika sekund mi to dalo čistou, vyleštěnou odpověď. Pár řádků kódu, které jsem přehlédl. Zapojil jsem je. Simulace fungovala. Problém vyřešen.
Ale následující den můj vědecký poradce zkontroloval kód a zeptal se mě: “Takže, jaká byla základní chyba ve tvé původní logice?” A já jsem zamrzl. Měl jsem správnou odpověď, ale nemohl jsem vysvětlit, proč tomu tak je. AI mi nedala jen řešení, okradla mě o objev. Měl jsem opravu, ale neměl jsem žádný vhled. To bylo to v trhlinách. Nestával jsem se Rohanem 2.0. Vyměňoval jsem si námahu. A v procesu jsem vyměňoval učení samotné.
Zkušenost ze squashe
To mě zavedlo zpět na squashový kurt, místo, kde jsem se poprvé naučil rozdíl mezi pouhým provedením úkolu a jeho skutečným pochopením. Celá léta to byl můj svět. Můj trenér mě driloval celé hodiny. “Rohan, nohy sem, Raketa nahoru, proveď až do konce.” Byla to čistá repetice. Strávil jsem svých 10 000 hodin přeměňováním úderů na stroj.
Ale praxe je předvídatelná. Skutečný zápas je chaos. Proti většině hráčů mě nesl instinkt. Ale proti těm nejlepším na světě, těm, kteří měnili tempo, maskovali své údery nebo měnili úhly, jsem zakolísal. Mé reflexy byly ostré, ale nemohl jsem se přizpůsobit. Znal jsem pohyby, ale můj mozek byl jen statický. A tehdy jsem se dozvěděl, že existuje rámec k pochopení.
Systém 1 a Systém 2
To od psychologa Daniela Kahnemana. On je nazývá Systém 1 a Systém 2. Systém 1 je to, co dodává produkt, hotovou věc. Jako e-mail, řádek kódu, nebo v mém případě perfektní squashový úder. Je rychlý, instinktivní a automatický. To je část, kterou jsem už zvládl. Ale Systém 2 řídí proces. Je to hluboké, složité myšlení za tím. Je pomalý, záměrný a analytický. To je to, co vytváří hypotézy, zvažuje kompromisy a strategizuje, když se scénář rozpadne. A můj byl nebezpečně mimo provoz. Měl jsem produkt, ale ne proces. Reflexy, ale ne zdůvodnění.
Nebezpečí AI
A to je přesně past, které dnes čelíme s AI, když kopírujeme a vkládáme vyleštěnou odpověď z ChatGPT. Necháváme algoritmus dělat strategické myšlení za nás. Okrádáme náš Systém 2 o procvičování, které potřebuje k provedení svého nejdůležitějšího úkolu. Zpochybňujeme naše vlastní snadné odpovědi. Když Systém 2 zleniví, nespokojíme se jen s rychlými odpověďmi. Sklouzáváme do průměrnosti. Stejně jako v squashových hrách, kde jsem se nemohl přizpůsobit, když došel hrací plán. .
Takže skutečná otázka je, jak v světě, kde AI může dodat produkt, trénujeme proces? Jak cvičíme náš Systém 2, než uschne? Musíme začít přijetím zásadní skutečnosti. Naše schopnost strategického myšlení není statická. Je to sval. A jako každý sval neroste náhodou. Musíme záměrně vzít náš Systém 2 do posilovny. Každý těžký problém, kterému čelíme, je další opakování, další příležitost k budování svalů. Vše se řídí jedním jednoduchým, nemilosrdným: Používej to, nebo ztratíš.
Rohan Inc.
Takže, jak se ujistíme, že dostáváme svá opakování? Přijal jsem nový rámec. Nyní vedu svůj život jako vlastní malou společnost. Nazvěme ji Rohan Inc., s mým já jako generálním ředitelem. Generální ředitel deleguje snadné úkoly. Vezměte tu simulaci. Pracoval jsem na detailu. Mohl bych předat shrnutí nejnovějších výzkumných prací. Hotovo. Ale myšlení Systému 2, skutečné myšlení, je moje. Jako které z těchto nápadů je průlom, do kterého se vyplatí investovat. To volání. To opakování zůstává se mnou. To je to, co buduje svaly. A tak si udržím svou práci generálního ředitele.
Ztráta vlastnictví
A důsledky vzdání se této práce se již stávají jasnými. Nejde jen o ztrátu dovednosti, jde o ztrátu pocitu vlastnictví. Jedna studie zjistila, že lidé, kteří používali AI k psaní esejí, se často snažili správně citovat svou vlastní práci. Necítili k tomu žádné spojení. Znám ten pocit, když nechám AI dělat těžkou práci za mě. Neodcházím ostřejší. Odcházím odtažitý.
Jaderný moment
Toto je více než jen osobní zvyk. Mění se to. AI je jaderný moment naší generace. Vzpomeňte si na 40. léta, kdy lidé rozštěpili atom. Odemkli jsme dvě možnosti. Utopie čisté energie nebo dystopie zbraní hromadného ničení. Stejná věda, dvě radikálně odlišné budoucnosti. Ale jaderná energie byla v rukou několika vlád. AI je v rukou nás všech. Každý student, každý lídr, každý jeden člověk v této místnosti. A to znamená, že volby nebudou dělat jen technologické společnosti nebo tvůrci politik v nějakém vzdáleném hlavním městě. Budou se dělat v malých mikro každodenních rozhodnutích, jak se ty a já rozhodneme ji používat.
Otázka agentury
Což nás přivádí zpět tam, kde jsem začal. Kdyby zítra všechno zhaslo, žádné aplikace, žádní asistenti, žádné automatické doplňování, kolik z tvého myšlení by ti ještě patřilo? Ta otázka není o technologii. Je to o agentuře. O tom, zda zůstaneme autory svých vlastních myšlenek.
To nás přivádí k rozcestí, možná jednomu z nejdůležitějších rozcestí pro lidstvo. Nyní, na jedné cestě, končíme tady. Dokonalá, vyleštěná ozvěna algoritmu vkládá slova do našich úst, dokud nedokážeme rozlišit mezi jeho hlasem a naším vlastním. Nebezpečí není obří robot na obrázku. Je to pomalé, tiché mizení našich vlastních myšlenek.
Utopie AI
Sněhová koule dystopie závislosti na druhém. AI se nestane jen multiplikátorem síly. Otevírá zcela nový terén. Rozšiřuje mapu toho, co je možné, spouští exponenciální růst a vytváří svět hojnosti, jaký jsme nikdy nepoznali. Rostoucí utopie. AI nezmizí. Nástroje se budou jen zlepšovat. Ale skutečná otázka není, zda mohou myslet. Je to to, co my stále děláme.
Takže zítra, když sáhnete po výzvě, položte si jednu otázku. Mluvím se zaměstnancem, nebo jmenuji nového generálního ředitele? Děkuji.
🔍 Kritické zhodnocení
Přednáška Rohana Arya Gondiho nabízí zajímavý pohled na dopad umělé inteligence na lidské myšlení a rozhodování. Jeho koncept “System 1” a “System 2”, převzatý od Daniela Kahnemana, je užitečný pro pochopení různých úrovní kognitivních procesů zapojených do řešení problémů. Gondiho analogie s tréninkem squashe a rolí CEO demonstrují, jak je důležité aktivně trénovat strategické myšlení a neztratit kontrolu nad procesem rozhodování.
Nicméně, je důležité si uvědomit, že vztah mezi člověkem a AI není nutně černobílý. Jak uvádí studie MIT (Brynjolfsson & McAfee, 2014), AI může působit jako nástroj, který rozšiřuje lidské schopnosti a umožňuje nám dosahovat lepších výsledků. Je tedy klíčové najít rovnováhu mezi využíváním AI pro rutinní úkoly a rozvíjením vlastních kognitivních schopností. Důraz by měl být kladen na rozvoj kritického myšlení, kreativity a schopnosti řešit komplexní problémy, které AI nemůže plně nahradit. Gonidho pojetí je v souladu se závěry expertů na kognitivní vědu.
Zdroje:
- Brynjolfsson, E., & McAfee, A. (2014). The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W. W. Norton & Company.
- Kahneman, Daniel. Thinking, Fast and Slow. Farrar, Straus and Giroux, 2011.
