Publikováno před 18 dny

Nejdůležitější věc, kterou ti nikdo o ChatGPT neřekne

ChatGPT má ze všech velkých chatbotů nejkratší paměť na konverzaci. Tři roky to říkám na přednáškách, tři roky se se mnou lidi hádají do krve. Čísla jsou přitom veřejně na webu OpenAI.

Smál jsem se 😄 Rok 2023, Midjourney frčí naplno a lidi na internetu hrdě ukazují, jak do ChatGPT nasázeli celou jeho dokumentaci — stránku po stránce — a nechávají si generovat prompty pro obrázky. Geniální nápad. Jenže já věděl něco, co oni ne. ChatGPT si z toho pamatoval tak poslední stránku. A po pátém vygenerovaném promptu zapomněl i tu. Tehdy měl paměť pouhých 1 800 slov. A co dnes? Budete se divit!

Tohle je nejdůležitější věc, kterou ti nikdo o ChatGPT neřekne. Má ze všech velkých chatbotů nejkratší paměť na konverzaci. Jasně, povídat si s ním můžeš do nekonečna — nikdy tě nezastaví. Ale to je právě ta zákeřnost. Když je konverzace dlouhá, starší zprávy tiše ignoruje. Bez varování. Prostě je nevidí. A pokračuje dál, jako by nikdy nezazněly.

Tři roky to říkám na každé přednášce. Tři roky se dívám, jak lidi dělají pořád ty samé chyby. A pořád je to šokuje. Když o tom napíšu na internetu, lidi se se mnou hádají do krve — prý má ChatGPT přece mnohem větší paměť. Dnes je každý na vrcholu Dunning-Krugerovy křivky a má pocit, že ví všechno.

Přitom ta čísla jsou přímo na webu OpenAI. Pravda, nekřičí je do světa, ale ani je netají. A vždycky jste je mohli najít na Uměligenci.

Tři mýty o paměti ChatGPT

Iluze, na které narážím od roku 2023 dodnes — a nic se na nich nezměnilo:

„Nahraju tam pět PDF a ono mi to zanalyzuje.“ Nahrát je můžeš. Ale kontext se prvním zaplní a chatbot na zbylé dokumenty kašle. Dostaneš iluzi analýzy — ne analýzu.

„Má přece obrovskou paměť, je to AI!“ Nemá. Je na tom nejhůř ze všech. To, co konkurence dává zadarmo, nemá ChatGPT ani v nejdražším tarifu.

„ChatGPT vidí všechny moje konverzace.“ Nevidí. Každé vlákno je úplně samostatný svět. Co jsi psal ve vedlejším vlákně, pro něj neexistuje.

Možná namítneš: „Ale ChatGPT si přece pamatuje, že bydlím v Hradišti a mám rád pizzu Hawaii!“ Ano, to je funkce Memory — takový zápisníček s poznámkami o tobě. ChatGPT umí taky prohledávat starší vlákna. Claude má něco podobného. Ale nic z toho nenahrazuje kontextové okno — to jsou jen útržky nalepené na novou konverzaci. Lístek na lednici, ne pracovní stůl.

Kolik slov se vejde do paměti?

Protože tenhle článek píšu pro lidi a ne pro AI inženýry, budeme se bavit o délkách textů měřených v českých slovech. Chatboti počítají v tokenech a jedno české slovo zabírá zhruba 2,2 tokenu.

Představ si konverzaci s kamarádem v hospodě. A tenhle kamarád má tak upito, že si pamatuje jen posledních pár minut. Zbytek mu vypadne z hlavy — a neřekne ti to. Prostě se tváří jako by nic a pokračuje. Ty tomu věříš, protože mluví sebevědomě. Téhle paměti se odborně říká kontextové okno a jeho velikost určuje, kolik textu chatbot „vidí“ najednou.

ChatGPT v bezplatné verzi dnes pojme asi 7 000 českých slov. Placená verze Plus kolem 15 000 slov. To zní jako hodně — dokud si neuvědomíš, že se do toho počítají i odpovědi chatbota.

A víš, jak to vypadalo na začátku? První ChatGPT v roce 2022 pojal asi 1 800 slov. Míň než Vaculíkovy Dva tisíce slov — on by tu petici klidně podepsal před zrakem policajtů, protože by nevěděl, co podepisuje.

Chatbot   ≈ českých slov
GPT-3.5 (první ChatGPT) 2022 ~1 800
GPT-4 Plus 2023 ~3 600
GPT-4o Plus 2024 ~7 000
GPT-5 Plus 2025 ~15 000

Za tři roky se paměť zčtyřnásobila. Zní to jako pokrok — dokud se nepodíváš, co nabízí konkurence.

Brutální srovnání

Takže jak si stojí ChatGPT ve srovnání s konkurencí?

Chatbot ≈ českých slov
ChatGPT 5.2 Free ~7 000
ChatGPT 5.2 Go / Plus / Business ~15 000
Claude 4.6 ~90 000 (velmi brzy ~450 000)
Gemini 3 Pro ~450 000
Grok 4.2 ~120 000
DeepSeek 3.2 ~120 000 (velmi brzy ~450 000)
ChatGPT 5.2 Thinking ~58 000 (teprve od 8/2025)

Pro lepší představu to dám do grafu:

Podívej se na to ještě jednou. ChatGPT v bezplatné verzi: sedm tisíc slov. Gemini Pro: čtyři sta padesát tisíc. Do kontextového okna Gemini se v angličtině vejdou všechny díly Harryho Pottera. Do ChatGPT seminárka. To je jako srovnávat kapesní diář s městskou knihovnou.

(Ať jsme fér, Gemini v bezplatné verzi má jen 15 000 slov, jako placený ChatGPT Plus, ale existuje snadný způsob, jak ty statisíce slov získat úplně zadarmo, na školeních to vždycky ukazuju.)

Claude nabízí 90 000 slov v jakékoliv verzi, včetně bezplatné. Už roky. A právě teď přichází s verzí co dorovnává Gemini. DeepSeek dosud nabízel 120 000 slov — a je celý zdarma. Každým dnem má vyjít verze, která také dorovná Gemini.

Všimni si jedné věci: ChatGPT GPT 5 Thinking sice má 58 000 slov (pro vstup). Ale tenhle režim je novinka (stav dříve) a navíc musíš vědět, že si ho máš zapnout. OpenAI slavnostně dohání Claude na devadesáti tisících v době, kdy ostatní přecházejí na milion tokenů.

Možná si říkáš: „No a co, 15 000 slov je přece dost, ne?“ Záleží, co děláš. Pokud si jen povídáš o počasí, asi ano. Ale jakmile nahraješ dokument a k tomu vedeš konverzaci — 15 000 slov zmizí rychleji, než bys čekal. A uvědom si, že ta slova zahrnují i odpovědi chatbota. Tvůj reálný prostor je nanejvýš poloviční.

Proč je zrovna ChatGPT nejhorší?

Když jsi nejpopulárnější, nemusíš se tolik snažit. Lidi tě stejně používají. ChatGPT je suverénně nejpoužívanější chatbot na světě — a když jsi McDonald's, nemusíš mít nejlepší burger ve městě. Stačí, že jsi na každém rohu.

A ChatGPT je, co se týče paměti, trvale pozadu. Nejde jen o bezplatnou verzi se 7 000 slovy. I placený Plus nabízí jen 15 000. I nejdražší tarify za slušný balík mají v běžném režimu kolem 58 000 slov — pořád méně, než co Claude dává každému zadarmo. Jedinou výjimku představuje režim Thinking — jenže o tom většina uživatelů ani neví. A není to tím, že by to neuměli. Přes API nabízí OpenAI vývojářům kontextová okna o stovkách tisíc tokenů. Technicky to zvládají — jen to nedají běžným uživatelům na webu.

Konkurence to musí řešit jinak. Musí nabídnout víc, aby přetáhla uživatele. A tak nabízí neuvěřitelně velká kontextová okna.

Abych byl fér — ChatGPT nabízí šíři funkcí, kterou nikdo jiný nemá. Generování obrázků, video, hlasový režim, Canvas, agenty, Deep Research. Je to švýcarský nožík AI světa. Ale šíře funkcí ti nepomůže ve chvíli, kdy chatbot zapomene, o čem jste se bavili.

Proč jsou velká okna tak drahá?

Představ si, že seš na konferenci a musíš si udržet přehled o tom, kdo co řekl. S deseti lidmi je to v pohodě — zapamatuješ si, že Pepa mluvil o rozpočtu a Mařka o marketingu. Se stovkou musíš u každé nové věty zvážit, jak souvisí se vším, co řekl kdokoliv jiný. S tisícem? Nemáš šanci. Potřeboval bys mozek velikosti konferenčního sálu.

Přesně takhle funguje architektura Transformer, na které jsou postavené všechny dnešní chatboty. Při zpracování textu udržuje vazbu každého slova s každým ostatním. Složitost roste s druhou mocninou: zdvojnásobíš okno a výpočetní nároky narostou čtyřnásobně. Proto měl první ChatGPT paměť pouhé 4 000 tokenů — a proto je milionové okno tak obrovský inženýrský úspěch. Víc o tom, jak to celé funguje pod kapotou, popisuju v Jak funguje ChatGPT.

Ale rád bych něco dodal: tohle je z mého pohledu překonaná věc. U kontextu o milionech slov fakt není potřeba udržovat vazbu mezi slovem „nové“ z jedné knihy a slovem „auto“ z úplně jiné. Dostali jsme se do rozměrů, se kterými autoři původního Transformeru v roce 2017 vůbec nepočítali.

Co s tím?

Teď, když víš, jak malou paměť ChatGPT ve skutečnosti má, dávají najednou smysl všechny ty nezdařené pokusy:

  • To PDF, co ti chatbot „zanalyzoval“? Zapomněl polovinu, než dopsal odpověď.
  • Ta konverzace, kde najednou začal ignorovat tvoje zadání? Vypadlo mu z okna.
  • Ten moment, kdy po půl hodině diskuse odpovídal naprosté nesmysly? Nevěděl, o čem se bavíte.

Na školeních to slýchám pravidelně: někdo nahraje třicetistránkovou smlouvu a ptá se na článek 47. ChatGPT mu s klidným svědomím odpoví nesmysl — protože článek 47 už z kontextu dávno vypadl. A odpověď zní tak sebevědomě, že tomu člověk uvěří.

Pár praktických rad:

  • Zakládej nové vlákno pro každé téma. Neplýtvej pamětí na věci, které spolu nesouvisí.
  • Průběžně žádej o shrnutí — „Shrň, na čem jsme se domluvili.“ I když starší zprávy vypadnou, shrnutí tam zůstane.
  • Velké dokumenty dávkuj. Místo celého padesátistránkového PDF nahraj jen relevantní stránky. Chatbot zpracuje pět stránek líp než padesát, ze kterých si pamatuje dvě.
  • Pro seriózní práci s dokumenty zvaž Claude nebo Gemini. Se statisíci slovy je to jiný svět.

Vzpomínáš na ty lidi s dokumentací Midjourney z roku 2023? Teď víš, proč ten pátý prompt vypadal, jako by dokumentaci nikdy neviděl. Protože ji opravdu neviděl — ChatGPT na ni dávno zapomněl. A od té doby se toho zas tak moc nezměnilo.

Až příště budeš plánovat delší práci s chatbotem, vzpomeň si na toho kamaráda z hospody. Toho, co si pamatuje jen posledních pár minut. A zvaž, jestli nechceš raději kamaráda, co si pamatuje celou párty :-)

David Grudl Vyvíjí webové aplikace již od roku 1999 a specializuje se na umělou inteligenci. Je autorem Nette Framework a knihoven jako Texy!, Tracy či Latte. Moderuje pořad Tech Guys a píše na Uměligence o AI novinkách. Jeho blog La Trine byl nominován na cenu Magnesia Litera. Věnuje se vzdělávání v oblasti AI a je pragmatický optimista.