AI agenti budou vyrábět víc nápadů. Úzké hrdlo bude validace

AI agenti začínají měnit práci podobně jako coding agenti změnili vývoj. Ne proto, že by byli najednou neomylní, ale protože umí levně vyrábět návrhy, varianty, hypotézy a první řešení. Google DeepMind v červencovém textu Conjecture Machines pojmenoval důležitý posun: agenti můžou udělat nápady levnými, ale validace zůstává pomalá, drahá a institucionální.

YouTube signál přišel 16. července 2026 od Marka Bartoše ve shortu o tom, že AI může vědu nejen zrychlit, ale také zahltit laboratoře a recenzní proces. Primární zdroj je ale důležitější: DeepMind neříká jen „AI ve vědě bude chytrá.“ Říká, že vzniká nové úzké hrdlo.

Tohle není téma jen pro akademii. Stejný vzorec už vidím ve firmách, které nasazují agenty do prodeje, supportu, vývoje nebo back office. Agent umí vyrobit deset návrhů CRM enrichmentu, dvacet variant e-mailu, pět možných příčin incidentu nebo backlog automatizací na půl roku. Otázka už není, jestli něco navrhne. Otázka je, kdo to ověří.

Co DeepMind vlastně říká

DeepMind popisuje agenty jako systémy, které dostanou cíl, rozdělí ho na kroky, použijí nástroje, spustí subagenty a průběžně opravují vlastní chyby. Ve vědě to znamená literární rešerše, návrhy hypotéz, ranking kandidátů, psaní kódu pro analýzy, práci s databázemi a někdy i návrh experimentu.

Co-Scientist, systém od Google DeepMind postavený na Gemini, je dobrý příklad. Podle oficiálního blogu generuje hypotézy, nechává je kritizovat specializovanými agenty, řadí je v „turnaji nápadů“ a průběžně je vylepšuje. V biologii nebo materiálovém výzkumu to může znamenat rychlejší cestu od otázky k testovatelnému kandidátovi.

Jenže tady přichází pointa. Vygenerovat hypotézu je levnější než ji ověřit. V softwaru se část validace dá automatizovat testem, typovou kontrolou, benchmarkem nebo formalizovaným verifierem. V laboratoři musíte čekat na buněčné kultury, chemickou reakci, měření, dostupnost zařízení, rozpočet a člověka, který výsledek vyhodnotí. DeepMind tomu říká validation bottleneck.

Proč je to důležité pro firmy

Firemní AI projekty často opakují stejnou chybu: optimalizují generování výstupů, ale ne validaci.

Typický příklad je support classification. Agent umí roztřídit tisíce ticketů. Pokud ale nemáte vzorek pro kontrolu, pravidla eskalace, audit chyb a člověka odpovědného za hranice automatizace, jen vyrábíte sebevědomé štítky. V CRM enrichmentu agent doplní firmy, role, odhady obratu a signály zájmu. Bez ověření zdrojů ale můžete obchodníkům poslat špatný seznam priorit. U faktur a e-mailů agent extrahuje data rychle, ale výjimky, storna, neobvyklé sazby a nové dodavatele musí někdo kontrolovat.

Stejný princip platí pro produktový vývoj. Agent může přes noc projít zákaznické feedbacky a navrhnout padesát experimentů. To je užitečné. Ale pokud firma nemá kapacitu na výběr, test, měření a stop pravidla, vznikne jen dražší chaos.

Dobře nasazený agent proto nezrychluje jen tvorbu. Musí zrychlit i rozhodování o tom, co se vůbec vyplatí validovat.

Praktický model: nápad, skóre, důkaz, audit

Když bych to převáděl do firemního workflow, nepostavil bych agenta jako „vymysli nám řešení“. Postavil bych ho jako systém se čtyřmi výstupy.

První výstup je návrh. Třeba: „Těchto 30 leadů má nejvyšší šanci na konverzi“, „těchto 12 faktur je rizikových,“ „tady jsou tři možné příčiny nárůstu churnu“ nebo „tady je návrh automatizace v Make“.

Druhý výstup je skóre. Agent musí říct, proč zrovna tenhle návrh stojí za pozornost: dopad, nejistota, náklad validace, riziko chyby a reverzibilita rozhodnutí.

Třetí výstup je důkaz. Ne obecné shrnutí, ale odkazy na zdroje: konkrétní ticket, CRM záznam, faktura, meeting note, log, dokument, zákaznický e-mail nebo SQL dotaz.

Čtvrtý výstup je auditní stopa. Kdo zadal úkol, jaký model a nástroje agent použil, jaký byl prompt, jaký byl výsledek, kdo ho schválil a co se stalo dál.

Bez těchto čtyř vrstev agent jen přidává objem. S nimi může přidat kapacitu.

Jak to postavit v n8n nebo Make

Jednoduchý pilot může vypadat takhle:

• Trigger: nové support tickety, obchodní meetingy, faktury nebo produktové feedbacky.
• Agent vygeneruje kandidáty a u každého uvede skóre dopadu, jistoty a nákladu validace.
• Automatizace vybere jen top položky, ne celý seznam.
• Druhý agent nebo pravidlový krok kontroluje zdroje a hledá rozpory.
• Člověk schvaluje jen drahá nebo citlivá rozhodnutí.
• Výstup se zapisuje do CRM, helpdesku, účetního systému nebo backlogu až po validaci.
• Každý měsíc se vyhodnotí precision, recall, úspora času, počet eskalací a počet oprav.

Tím se AI nedává role vševědoucího poradce. Dostává roli levného generátoru kandidátů a asistenta validace. To je méně sexy, ale mnohem použitelnější.

Co hlídat u agentních workflow

První metrika není počet vygenerovaných nápadů. Je to počet ověřených nápadů, které skutečně změnily rozhodnutí.

Druhá metrika je validační kapacita. Kolik výstupů za den dokáže tým zkontrolovat bez poklesu kvality? Pokud agent generuje víc kandidátů, než tým umí ověřit, máte frontu, ne automatizaci.

Třetí metrika je cena validace. Někdy je levnější nechat člověka udělat úkol rovnou, než validovat komplikovaný výstup agenta. To platí hlavně u malých jednorázových úloh.

Čtvrtá metrika je riziko falešné jistoty. Silný model s dobrým jazykem umí vypadat přesvědčivě i tehdy, když si spojuje špatné zdroje. Proto bych u citlivých rozhodnutí vyžadoval citace, druhý kontrolní průchod a jasně pojmenovanou nejistotu.

Souvislost s bezpečností a limity

Do toho zapadají i další signály z posledních dnů. Anthropic publikoval výzkum GRAM, metodu pro modulární oddělení citlivých dual-use schopností v modelu. Zatím nejde o produkční Claude, ale ukazuje směr: nestačí mít výkonný model, potřebujete řízení přístupu ke schopnostem.

Jirka Herník měl nahoře Mastermind 31 se signálem k mazání dat u GPT Sol a limitům Claude Code. U Claude je dnes z oficiální dokumentace jasné, že je potřeba rozlišovat usage limity, délku kontextu, automatické shrnování dlouhých konverzací a spotřebu nástrojů. To je stejný provozní vzorec: agent není kouzelná neomezená kapacita. Má limity, náklady, politiku dat a kontrolní místa.

Co si z toho vzít

AI agenti budou dobré týmy zahlcovat nápady. To není chyba. To je jejich přirozený efekt.

Chyba je postavit proces tak, že každý nápad vypadá stejně důležitě a všechno čeká na člověka. Lepší přístup je navrhnout workflow jako validační trychtýř: agent generuje kandidáty, skóruje je, dokládá zdroje, zahazuje slabé varianty a člověku předkládá jen to, kde je lidské rozhodnutí opravdu drahé nebo citlivé.

Pro firmy zavádějící AI do procesů je to možná praktičtější lekce než další benchmark. Produktivita nevznikne tím, že agent vyrobí víc textu. Vznikne tím, že organizace ví, co z toho má ověřit, jak rychle, za jakou cenu a s jakým rizikem.

Zdroje: YouTube signál Marka Bartoše AI dělá z vědy nevědu, Google DeepMind Conjecture Machines: AI agents and the new validation bottleneck in science, Google DeepMind Co-Scientist: A multi-agent AI partner to accelerate research, Anthropic An off switch for dual use knowledge in AI models a Claude Help Center How do usage and length limits work?.