OpenAI o1: revoluce nebo krok zpět pro pokročilé uživatele?

OpenAI představila nový nástroj o1. Aby zdůraznila, že nejde jen o další pokračování v řadě GPT-3, GPT-4, zcela vypustili písmena GPT z názvu a pojmenovali ho jednoduše „o1". Hlavní inovací je schopnost přemýšlet nad odpovědí. Zatímco internet zaplavují nadšené ohlasy, mé pocity jsou rozporuplné. Dovolte mi vysvětlit proč.

Začnu mírnou odbočkou: Jedna z klíčových znalostí, kterou se snažím předat účastníkům svých kurzů ChatGPT, je, že tyto umělé inteligence samy od sebe nepřemýšlejí. To v mnoha případech nevadí – i vy dokážete bez přemýšlení odpovědět, kolik je 7×7. Existují však situace, které bez hlubšího zamyšlení nevyřešíte, což si ukazujeme na jednoduché hře. Podstatné je, že ChatGPT lze k přemýšlení přimět, a není to nic složitého. Stačí jen vědět jak.

Slovem „přemýšlení“ myslím činnost, jejímž smyslem je poskytnout následně co nejlepší odpověď. Pokud odpovídám okamžitě bez této činnosti, pak nepřemýšlím.

Častá otázka účastníků zní: „Jak poznám, že ChatGPT odpověděl správně?" Odpovídám, že klíčem je sledovat tok myšlenek a dále s ním pracovat, nechat AI ověřovat své závěry atd.

Říkával jsem, že dříve či později budou modely přemýšlet automaticky. Představoval jsem si to tak, že se objeví nápis „Přemýšlím" s vizuálním efektem čekání, který půjde rozkliknout pro zobrazení myšlenkového procesu. Teprve po chvíli by se zobrazila konečná odpověď.

Tato funkce je nyní realitou v podobě „o1". Vizuálně to dokonce vypadá přesně tak, jak jsem očekával, s jedním zásadním rozdílem: nelze nahlédnout do myšlenkového procesu.

A to představuje významný problém. Zatímco pro běžné uživatele je o1 krokem vpřed, pro pokročilé uživatele, kteří umí aktivovat režim přemýšlení dávno, to znamená ztrátu vhledu do myšlenkových pochodů. Ano, panel přemýšlení lze rozkliknout, ale obsahuje pouze shrnující titulky. Pro pokročilé uživatele tedy o1 paradoxně představuje krok zpět.

Rád bych věřil, že jde o dočasné omezení – koneckonců je zatím k dispozici jen náhled, o1-preview. Nicméně jsem narazil na několik diskusí na Redditu, kde uživatelé, kteří se pokusili do myšlenkových procesů nahlédnout, obdrželi od OpenAI varovný email s hrozbou zablokování účtu, pokud s tím nepřestanou. Slovo „open" v názvu společnosti se tak stává čirou ironií.

Nástroj o1 sice přináší sofistikovanější odpovědi, ale za cenu ztráty transparentnosti. Pro skutečný rozvoj AI je ale klíčová možnost nahlédnout do myšlenkových procesů. Bez této možnosti riskujeme, že se stane černou skříňkou, jejíž výstupy budeme muset slepě přijímat nebo odmítat.