Představte si, že máte kamaráda, který mluví jako Shakespeare, ale neumí spočítat, kolik je 7 + 8. Přesně tak se chovají dnešní jazykové modely umělé inteligence jako ChatGPT. Dokážou psát básně, vysvětlovat vtipy a vést filosofické debaty, ale když dojde na počty, najednou jsou v koncích. Proč tomu tak je? A je šance, že se to někdy změní?

Matematika je pro AI překvapivě oříšek

Pokud jste někdy zkoušeli použít ChatGPT jako kalkulačku, nejspíš jste si všimli, že to není zrovna jeho silná stránka. A není v tom sám – podobné problémy mají i další jazykové modely jako Claude od Anthropicu, Gemini od Googlu nebo Llama od Mety. Všechny tyto AI mají potíže i s úlohami, které by zvládl průměrný páťák. Přitom paradoxně zvládají složité slovní úlohy z přijímaček na vysokou školu. Jak je možné, že umělá inteligence, která dokáže pomalu napsat divadelní hru, se zamotá do jednoduchého početního příkladu?

OpenAI právě vypustilo do světa Canvas, nástroj, který mění pravidla hry. Canvas není jen běžný chatbot, ale interaktivní prostor, kde si povídáš s AI a zároveň přímo pracuješ na svém textu nebo kódu. To, co Apple zatím jen slibuje, je tady už dnes – a navíc v češtině!

Jak to vypadá a funguje?

Canvas přidává nové oddělené okno: vlevo si povídáme s ChatGPT, vpravo je pracovní okno, kde vidíme text nebo kód, na kterém právě pracujeme. Můžeš text přepisovat, ale taky s ním můžeš interagovat jako v nějakém futuristickém editoru. Chceš upravit konkrétní odstavec? Jednoduše ho označíš kliknutím myší a voilà – objeví se ti okénko, kam napíšeš pokyny. Vpravo dole je navíc řada ikon (tzv. shortcuts), které umožňují intuitivní úpravy – například táhnutím myši zkrátíš nebo prodloužíš označený text. Vše je vizuálně přehledné a okamžitě reaguje na tvé potřeby.

Možná jste to už slyšeli. Že jazykové modely, jako je ChatGPT, jsou jako chytré prediktivní klávesnice známé z mobilních telefonů, které na základě statistiky předpovídají nejpravděpodobnější další slovo. Ehm… Ve skutečnosti je to mnohem zajímavější – a také složitější. Pojďme to rozebrat.

Když statistika slov nestačí

Zkuste si představit, že byste chtěli vytvořit vlastní prediktivní klávesnici. Projdete velké množství textu a vytvoříte statistiky, jak často po sobě která slova následují. Zjistíte z nich například, že za slovy Ema a mele nejčastěji následuje slovo maso. Výborně, váš model funguje!

Představte si, že stojíte před dvěma obrazy. První vypadá jako abstraktní změť barevných skvrn, ve které nevidíte nic konkrétního. Druhý je fotografie psa, kterou byste mohli klidně najít ve svém rodinném albu. Ale vedle vás stojí superinteligentní mimozemšťan a s naprostou jistotou prohlásí o prvním obraze: „To je zebra!“ a o druhém: „To je nepochybně lednice!“

Bizarní situace, že? Přesně tohle se ale děje v světě umělé inteligence. Systémy, které dokáží rozpoznávat objekty na fotkách lépe než průměrný člověk, lze překvapivě snadno oklamat obrázky, které pro nás vypadají buď jako náhodný šum, nebo jako úplně jiné objekty.

Jednou z nejžhavějších debat v oblasti umělé inteligence je otázka, zda velké jazykové modely (LLM) skutečně rozumí textům, které píší, nebo zda jen sofistikovaně papouškují. Tato otázka rozděluje odborníky v oboru a představuje jedno z nejzajímavějších témat současného výzkumu AI.

O čem se vlastně přeme? Jde o to, jestli modely opravdu chápou význam slov, vyvinul se u nich zdravý rozum a mají sociální inteligenci. Nebo je to všechno trik spočívající ve formálních lingvistických operacích. Proč je tato debata důležitá? Nejde jen o akademickou diskusi. Odpověď může mít dalekosáhlé důsledky pro vývoj AI, etiku jejího použití, a dokonce i pro naše chápání lidské inteligence.

OpenAI představila nový nástroj o1. Aby zdůraznila, že nejde jen o další pokračování v řadě GPT-3, GPT-4, zcela vypustili písmena GPT z názvu a pojmenovali ho jednoduše „o1". Hlavní inovací je schopnost přemýšlet nad odpovědí. Zatímco internet zaplavují nadšené ohlasy, mé pocity jsou rozporuplné. Dovolte mi vysvětlit proč.

Začnu mírnou odbočkou: Jedna z klíčových znalostí, kterou se snažím předat účastníkům svých kurzů ChatGPT, je, že tyto umělé inteligence samy od sebe nepřemýšlejí. To v mnoha případech nevadí – i vy dokážete bez přemýšlení odpovědět, kolik je 7×7. Existují však situace, které bez hlubšího zamyšlení nevyřešíte, což si ukazujeme na jednoduché hře. Podstatné je, že ChatGPT lze k přemýšlení přimět, a není to nic složitého. Stačí jen vědět jak.

V diskusích o umělé inteligenci, zvláště o velkých jazykových modelech, se často setkáváme s pojmem „papouškování“. Ve smyslu toho, zda modely skutečně rozumí informacím, které produkují, nebo jen mechanicky papouškují naučené texty. Vžil se pojem stochastický papoušek.

Co se ale papouškováním opravdu myslí? Pojďme se na to podívat blíže a rozplést, co se za tímto termínem skutečně skrývá.

Velké jazykové modely se během tréninku krmí obrovským množstvím textů a pak, když dostanou nějaký vstup nebo dotaz, vyprodukují odpovídající text. Když se mluví o „papouškování“, rozhodně tím odborníci nemyslí, že by model opisoval věty ze svých učebních materiálů slovo od slova. To by bylo pro model paradoxně spíš složité.

Pojďme si říct, kdo je a kdo není odborník na AI.

Začnu vzpomínkou, když mi bylo 15 let. Už tehdy jsem dobře rozuměl počítačům. Táta, který je prodával, mě je nechával skládat z komponent a brával mě ke klientům na servis. Po letech mi jeden z nich povídal, jakou měl hrůzu, když se do jeho drahocenného PC za 250 tisíc Kč (dnes by to bylo 850 tisíc) pustilo se šroubovákem malé děcko.

Na počítačích mě bavilo všechno, hlavně grafika a programování. A docela dobře jsem si tím vydělával. Kapesné od rodičů představovalo spíš nepodstatný bonus. Vytáčí mě, když nějaký politik prohlásí, že děti v tomto věku se mají prohánět za mičudou a ne pracovat. Sám kopal do míče a hle, jaký z něj vyrostl kretén.

Všiml sis toho písmenka „P“ ve zkratce „GPT“? Je těžké si ho nevšimnout. Tak ono „P“ znamená „předtrénovaný“. Jinými slovy, tyhle modely se sice učí z neskutečně obrovského množství textů, ale jakmile jednou dokončí svůj trénink, dál se nenaučí nic. Ani z rozhovorů s námi, uživateli.

Proč to tak je? Učení je šíleně drahý a náročný proces, takže učit se průběžně by stálo majlant. Místo toho se vývojáři snaží vymyslet fígle, jak to obejít. A jedním z nich je zbrusu nová funkce Memory, tedy paměť.

Na svých školeních už dlouho mluvím o tajném trumfu mezi chatboty – Claude od Anthropic. Co to je Anthropic? Je to firma, kterou založili někdejší průkopníci OpenAI, tvůrci ChatGPT. A jejich vlajkovou lodí je právě chatbot Claude.

Až dosud bylo jeho používání pro nás v EU docela oříšek, protože jsme k němu neměli oficiální přístup a museli vymýšlet složité triky s VPN a shánět falešná telefonní čísla. Ale teď se karta obrací. Minulý týden Anthropic konečně otevřel dveře i pro české uživatele.