AI agenti budou vyrábět víc nápadů. Úzké hrdlo bude validace

AI agenti začínají měnit práci podobně jako coding agenti změnili vývoj. Ne proto, že by byli najednou neomylní, ale protože umí levně vyrábět návrhy, varianty, hypotézy a první řešení. Google DeepMind v červencovém textu Conjecture Machines pojmenoval důležitý posun: agenti můžou udělat nápady levnými, ale validace zůstává pomalá, drahá a institucionální.

YouTube signál přišel 16. července 2026 od Marka Bartoše ve shortu o tom, že AI může vědu nejen zrychlit, ale také zahltit laboratoře a recenzní proces. Primární zdroj je ale důležitější: DeepMind neříká jen "AI ve vědě bude chytrá". Říká, že vzniká nové úzké hrdlo.

Tohle není téma jen pro akademii. Stejný vzorec už vidím ve firmách, které nasazují agenty do prodeje, supportu, vývoje nebo back office. Agent umí vyrobit deset návrhů CRM enrichmentu, dvacet variant e-mailu, pět možných příčin incidentu nebo backlog automatizací na půl roku. Otázka už není, jestli něco navrhne. Otázka je, kdo to ověří.

Co DeepMind vlastně říká

DeepMind popisuje agenty jako systémy, které dostanou cíl, rozdělí ho na kroky, použijí nástroje, spustí subagenty a průběžně opravují vlastní chyby. Ve vědě to znamená literární rešerše, návrhy hypotéz, ranking kandidátů, psaní kódu pro analýzy, práci s databázemi a někdy i návrh experimentu.

Co-Scientist, systém od Google DeepMind postavený na Gemini, je dobrý příklad. Podle oficiálního blogu generuje hypotézy, nechává je kritizovat specializovanými agenty, řadí je v "turnaji nápadů" a průběžně je vylepšuje. V biologii nebo materiálovém výzkumu to může znamenat rychlejší cestu od otázky k testovatelnému kandidátovi.

Jenže tady přichází pointa. Vygenerovat hypotézu je levnější než ji ověřit. V softwaru se část validace dá automatizovat testem, typovou kontrolou, benchmarkem nebo formalizovaným verifierem. V laboratoři musíte čekat na buněčné kultury, chemickou reakci, měření, dostupnost zařízení, rozpočet a člověka, který výsledek vyhodnotí. DeepMind tomu říká validation bottleneck.

Aktualizace 24. srpna: Faraday ukazuje validačního agenta v praxi

Nový výzkum Training AI Scientists to Replicate Research, zveřejněný 14. srpna 2026, dává tomuto argumentu konkrétnější podobu. Tým Inherent vytvořil sadu Replica: 310 úloh ze 100 vědeckých článků. V každé úloze agent dostal článek s odstraněným výsledkovým grafem a měl během 60 minut, s omezeným výpočetním rozpočtem, navrhnout a spustit experiment, který výsledek reprodukuje.

Faraday není „malý model, který sám porazil GPT‑5.5“. Je to 27B model vzniklý post-trainingem Qwen3.6-27B, který používá GPT‑5.5 Codex jako coding nástroj. Jeho práce je hlavně rozhodovat, jaký experiment má smysl udělat, co zjednodušit, kdy změnit směr a jak nepodlehnout zkratce, která jen vyrobí podobně vypadající graf. Silnější systém tedy nevzniká jen výměnou modelu, ale oddělením vědeckého úsudku od technického provedení.

Podle autorů Faraday překonal samostatný Claude Opus 4.8 i GPT‑5.5 na 73 % tréninkových Replica úloh a na 60 % úloh z držených stranou v jiných vědeckých oborech. Na testovací části dosáhl v průměru o 6 % lepšího skóre než Claude a o 8 % než Codex. Výsledek ale hodnotí automatický rubrikový judge. Autoři jeho pořadí porovnali s experty a zjistili lepší shodu než u jednoduššího hodnotitele, přesto sami popisují případy neshody a trvají na lidské kontrole.

Pro firemní agenty je důležitější architektura než vědecký leaderboard:

nadřazený agent vybírá další krok a rozděluje omezený rozpočet,
coding nebo datový agent provádí konkrétní práci,
každý běh ukládá kód, artefakty, historii a výsledek,
hodnotitel používá rubriku specifickou pro daný úkol, ne obecný pocit „vypadá to dobře“,
člověk kontroluje sporné nebo drahé výstupy a umí experiment zastavit.

Stejný vzor lze použít u CRM enrichmentu, faktur, support triage i interní analytiky. Levnější model nemusí psát finální výstup. Může řídit dražší nástroj jen tam, kde je potřeba, a držet proces u cíle. Faraday zatím není běžně nasaditelný firemní produkt; je to výzkumný důkaz, že kvalita agenta může vyrůst z role, hodnoticího systému a auditní smyčky, ne jen z většího základního modelu.

Aktualizace 9. září: 10 000 agentů nestačí bez nezávislého přijetí

OpenAI 8. září zveřejnilo navržené řešení problému existence a hladkosti Navier–Stokesových rovnic, jednoho ze sedmi Millennium Prize Problems. Interní model podle OpenAI našel konečnočasovou singularitu pro hladké počáteční podmínky a hladkou vnější sílu. Spolu s 166stránkovým matematickým textem firma publikovala i Lean formalizaci a návod k nezávislé kontrole.

Tady je důležitá opatrnost. OpenAI píše, že výsledek problém řeší, ale zatím jde o čerstvě publikovaný návrh, ne o obecně přijatý matematický fakt. Pravidla Clay Mathematics Institute vyžadují publikaci v kvalifikovaném médiu, nejméně dva roky odborného zkoumání a obecné přijetí světovou matematickou komunitou, než se institut řešením začne zabývat. Ani strojově sestavitelný Lean certifikát tuto společenskou a odbornou verifikaci nenahrazuje.

Pro agentní architekturu je ale průběh mimořádně konkrétní. OpenAI uvádí řádově 10 000 souběžných agentů, kteří dostávali různé varianty problému. Codex průběžně slučoval nejužitečnější mezivýsledky mezi skupinami. Agenti dospěli k řešení přibližně po 88 hodinách; dalších 17 hodin zabralo formalizování a ověření v Leanu pomocí GPT-6 Astra. Samotný Navier–Stokesův běh měl 2,7 milionu zpráv a asi 130 miliard výstupních tokenů.

To není návod „přidejte víc agentů“. Je to ukázka, že škálování hledání bez odděleného verifikačního kanálu vyrábí hlavně více kandidátů a větší účet. Přenositelný vzor má čtyři vrstvy:

paralelní pracovníci zkoušejí různá řešení, ne stejné zadání desetkrát,
sdílený registr ukládá mezivýsledky, jejich původ a závislosti,
konsolidační vrstva vybírá a propojuje slibné větve,
jiný mechanismus ověřuje finální tvrzení proti pevné specifikaci.

Ve firmě může tato architektura znamenat, že několik agentů hledá shodu faktury s objednávkou, smlouvou a dodávkou, ale platbu uvolní až deterministická kontrola a účetní. U CRM mohou agenti dohledat firmu z více zdrojů, ale každé pole musí mít původ a konflikt skončí ve frontě pro člověka. U coding agentů mohou paralelní větve navrhnout opravu, ale merge rozhodují testy, bezpečnostní kontrola a review, ne hlasování modelů.

Nejdůležitější lekce je hranice mezi ověřitelností a přijetím. Lean může potvrdit, že formální artefakt splňuje zadaná pravidla. Nezaručuje, že formální zadání přesně pokrývá vše, co odborná komunita považuje za vyřešení problému, ani že publikovaný argument neobsahuje chybu na hranici mezi neformálním textem a formalizací. Ve firemním procesu je to stejné: validní JSON není totéž jako správně zaúčtovaná faktura a zelený test není automaticky bezpečný produktový zásah.

OpenAI ve svém oznámení ukazuje mimořádný výkon dlouhého multi-agentního systému. Dokud ale neproběhne nezávislé odborné posouzení, je poctivé mluvit o navrženém řešení s formálními certifikáty, ne o definitivně uzavřeném Millennium problému.

Aktualizace 6. září: Fermatova věta ukazuje, jak má vypadat verifier

Anthropic 4. září zveřejnil první kompletní strojově ověřenou formalizaci Velké Fermatovy věty. Důležitá přesnost: Claude neobjevil nový důkaz. Převedl známou matematickou argumentaci do jazyka Lean tak, aby mohl počítač zkontrolovat každý logický krok.

Podle oficiálního popisu Anthropic pracovaly desítky agentů převážně autonomně 11 dní. Vzniklo přibližně 13 milionů řádků Leanu a strojově ověřitelné důkazy 30 300 mezivět; 29 500 z nich používá finální důkaz. Běh spotřeboval zhruba šest miliard výstupních tokenů interního výzkumného modelu, který Anthropic označuje za zhruba srovnatelný s Fablem 5.1.

Nejzajímavější není číslo řádků, ale důvod, proč první pokusy selhávaly. Agenti ztráceli přehled o stavu projektu a přestali efektivně spolupracovat. Obrat přišel až s platformou Prove2Me, která udržovala orientovaný acyklický graf tvrzení a jejich závislostí, oddělila formulaci vět od souborů s důkazy a přidala ke každému tvrzení popis v přirozeném jazyce pro vyhledávání a znovupoužití. Neúspěšné pokusy přitom stále tvoří asi 7 % netriviálních řádků finálního artefaktu.

Výsledek zkontroloval Lean nad třemi standardními axiomy a samostatný comparator ověřil, že kořenové tvrzení odpovídá formulaci Fermatovy věty v Mathlibu. To je přesně typ validace, který se u běžných agentních dem často vynechá: nestačí, že dílčí kroky vypadají rozumně; musí být jasné, zda celý graf opravdu uzavírá původní zadání.

Pro firemní workflow z toho neplyne, že máte zavést Lean. Plyne z toho praktičtější architektura:

rozdělit cíl na explicitní graf závislých úkolů a u každého držet stav, vlastníka a důkaz dokončení,
oddělit specifikaci od provedení, aby agent nemohl během práce potichu změnit definici úspěchu,
ukládat znovupoužitelné výsledky do společného registru místo opakované práce subagentů,
ověřit kořenový výsledek deterministickým testem, ne pouze dalším jazykovým modelem,
vedle strojové kontroly zachovat vysvětlení čitelné člověkem.

U faktur může být verifierem součet položek, sazby DPH, měna a vazba na objednávku. U CRM enrichmentu schéma, povinný zdroj pro každé pole a kontrola proti duplicitě. U support triage sada označených případů, pravidla eskalace a zákaz automatického uzavření citlivých ticketů. U coding agentů testy, typová kontrola, linter a reprodukovatelný build.

Formální matematika je výjimečná tím, že má velmi silný strojový rozhodčí. Většina firemních úloh tak čistý verifier nemá. Princip je ale přenositelný: čím déle a autonomněji agent pracuje, tím méně se lze spoléhat na jeho vlastní pocit, že je hotovo.

YouTube signál přinesl Marek Bartoš; technická čísla a architektura výše vycházejí z primárního zdroje Anthropic.

Proč je to důležité pro firmy

Firemní AI projekty často opakují stejnou chybu: optimalizují generování výstupů, ale ne validaci.

Typický příklad je support classification. Agent umí roztřídit tisíce ticketů. Pokud ale nemáte vzorek pro kontrolu, pravidla eskalace, audit chyb a člověka odpovědného za hranice automatizace, jen vyrábíte sebevědomé štítky. V CRM enrichmentu agent doplní firmy, role, odhady obratu a signály zájmu. Bez ověření zdrojů ale můžete obchodníkům poslat špatný seznam priorit. U faktur a e-mailů agent extrahuje data rychle, ale výjimky, storna, neobvyklé sazby a nové dodavatele musí někdo kontrolovat.

Stejný princip platí pro produktový vývoj. Agent může přes noc projít zákaznické feedbacky a navrhnout padesát experimentů. To je užitečné. Ale pokud firma nemá kapacitu na výběr, test, měření a stop pravidla, vznikne jen dražší chaos.

Dobře nasazený agent proto nezrychluje jen tvorbu. Musí zrychlit i rozhodování o tom, co se vůbec vyplatí validovat.

Praktický model: nápad, skóre, důkaz, audit

Když bych to převáděl do firemního workflow, nepostavil bych agenta jako "vymysli nám řešení". Postavil bych ho jako systém se čtyřmi výstupy.

První výstup je návrh. Třeba: "Těchto 30 leadů má nejvyšší šanci na konverzi", "těchto 12 faktur je rizikových", "tady jsou tři možné příčiny nárůstu churnu" nebo "tady je návrh automatizace v Make".

Druhý výstup je skóre. Agent musí říct, proč zrovna tenhle návrh stojí za pozornost: dopad, nejistota, náklad validace, riziko chyby a reverzibilita rozhodnutí.

Třetí výstup je důkaz. Ne obecné shrnutí, ale odkazy na zdroje: konkrétní ticket, CRM záznam, faktura, meeting note, log, dokument, zákaznický e-mail nebo SQL dotaz.

Čtvrtý výstup je auditní stopa. Kdo zadal úkol, jaký model a nástroje agent použil, jaký byl prompt, jaký byl výsledek, kdo ho schválil a co se stalo dál.

Bez těchto čtyř vrstev agent jen přidává objem. S nimi může přidat kapacitu.

Jak to postavit v n8n nebo Make

Jednoduchý pilot může vypadat takhle:

Trigger: nové support tickety, obchodní meetingy, faktury nebo produktové feedbacky.
Agent vygeneruje kandidáty a u každého uvede skóre dopadu, jistoty a nákladu validace.
Automatizace vybere jen top položky, ne celý seznam.
Druhý agent nebo pravidlový krok kontroluje zdroje a hledá rozpory.
Člověk schvaluje jen drahá nebo citlivá rozhodnutí.
Výstup se zapisuje do CRM, helpdesku, účetního systému nebo backlogu až po validaci.
Každý měsíc se vyhodnotí precision, recall, úspora času, počet eskalací a počet oprav.

Tím se AI nedává role vševědoucího poradce. Dostává roli levného generátoru kandidátů a asistenta validace. To je méně sexy, ale mnohem použitelnější.

Co hlídat u agentních workflow

První metrika není počet vygenerovaných nápadů. Je to počet ověřených nápadů, které skutečně změnily rozhodnutí.

Druhá metrika je validační kapacita. Kolik výstupů za den dokáže tým zkontrolovat bez poklesu kvality? Pokud agent generuje víc kandidátů, než tým umí ověřit, máte frontu, ne automatizaci.

Třetí metrika je cena validace. Někdy je levnější nechat člověka udělat úkol rovnou, než validovat komplikovaný výstup agenta. To platí hlavně u malých jednorázových úloh.

Čtvrtá metrika je riziko falešné jistoty. Silný model s dobrým jazykem umí vypadat přesvědčivě i tehdy, když si spojuje špatné zdroje. Proto bych u citlivých rozhodnutí vyžadoval citace, druhý kontrolní průchod a jasně pojmenovanou nejistotu.

Souvislost s bezpečností a limity

Do toho zapadají i další signály z posledních dnů. Anthropic publikoval výzkum GRAM, metodu pro modulární oddělení citlivých dual-use schopností v modelu. Zatím nejde o produkční Claude, ale ukazuje směr: nestačí mít výkonný model, potřebujete řízení přístupu ke schopnostem.

Jirka Herník měl nahoře Mastermind 31 se signálem k mazání dat u GPT Sol a limitům Claude Code. U Claude je dnes z oficiální dokumentace jasné, že je potřeba rozlišovat usage limity, délku kontextu, automatické shrnování dlouhých konverzací a spotřebu nástrojů. To je stejný provozní vzorec: agent není kouzelná neomezená kapacita. Má limity, náklady, politiku dat a kontrolní místa.

Co si z toho vzít

AI agenti budou dobré týmy zahlcovat nápady. To není chyba. To je jejich přirozený efekt.

Chyba je postavit proces tak, že každý nápad vypadá stejně důležitě a všechno čeká na člověka. Lepší přístup je navrhnout workflow jako validační trychtýř: agent generuje kandidáty, skóruje je, dokládá zdroje, zahazuje slabé varianty a člověku předkládá jen to, kde je lidské rozhodnutí opravdu drahé nebo citlivé.

Pro firmy zavádějící AI do procesů je to možná praktičtější lekce než další benchmark. Produktivita nevznikne tím, že agent vyrobí víc textu. Vznikne tím, že organizace ví, co z toho má ověřit, jak rychle, za jakou cenu a s jakým rizikem.

Zdroje: YouTube signál Marka Bartoše AI dělá z vědy nevědu, Google DeepMind Conjecture Machines: AI agents and the new validation bottleneck in science, Google DeepMind Co-Scientist: A multi-agent AI partner to accelerate research, Anthropic An off switch for dual use knowledge in AI models a Claude Help Center How do usage and length limits work?, výzkum Inherent Training AI Scientists to Replicate Research a YouTube signál Marka Bartoše Malý model s vědeckým vkusem: Faraday.