AI agenti budú vyrábať viac nápadov. Úzke hrdlo bude validácia

AI agenti začínajú meniť prácu podobne, ako coding agenti zmenili vývoj softvéru. Nie preto, že by boli zrazu neomylní, ale preto, že vedia lacno vyrábať návrhy, varianty, hypotézy a prvé riešenia. Google DeepMind v júlovom texte Conjecture Machines pomenoval dôležitý posun: agenti môžu urobiť nápady lacnými, ale validácia zostáva pomalá, drahá a inštitucionálna.

YouTube signál prišiel 16. júla 2026 od Mareka Bartoša v shorte o tom, že AI môže vedu nielen zrýchliť, ale aj zahltiť laboratóriá a recenzný proces. Primárny zdroj je však dôležitejší: DeepMind nehovorí len "AI vo vede bude múdra". Hovorí, že vzniká nové úzke hrdlo.

Nie je to téma iba pre akadémiu. Rovnaký vzorec už vidno vo firmách, ktoré nasadzujú agentov do predaja, supportu, vývoja alebo back office. Agent vie vyrobiť desať návrhov CRM enrichmentu, dvadsať variantov e-mailu, päť možných príčin incidentu alebo backlog automatizácií na pol roka. Otázka už nie je, či niečo navrhne. Otázka je, kto to overí.

Čo DeepMind vlastne hovorí

DeepMind opisuje agentov ako systémy, ktoré dostanú cieľ, rozdelia ho na kroky, používajú nástroje, spúšťajú subagentov a priebežne opravujú vlastné chyby. Vo vede to znamená rešerše literatúry, návrhy hypotéz, ranking kandidátov, písanie kódu pre analýzy, prácu s databázami a niekedy aj návrh experimentu.

Co-Scientist, systém od Google DeepMind postavený na Gemini, je dobrý príklad. Podľa oficiálneho blogu generuje hypotézy, necháva ich kritizovať špecializovanými agentmi, radí ich v "turnaji nápadov" a priebežne ich zlepšuje. V biológii alebo materiálovom výskume to môže znamenať rýchlejšiu cestu od otázky k testovateľnému kandidátovi.

Lenže tu prichádza pointa. Vygenerovať hypotézu je lacnejšie než ju overiť. V softvéri sa časť validácie dá automatizovať testom, typovou kontrolou, benchmarkom alebo formalizovaným verifierom. V laboratóriu treba čakať na bunkové kultúry, chemickú reakciu, meranie, dostupnosť zariadenia, rozpočet a človeka, ktorý výsledok vyhodnotí. DeepMind to nazýva validation bottleneck.

Aktualizácia 24. augusta: Faraday ukazuje validačného agenta v praxi

Nový výskum Training AI Scientists to Replicate Research, zverejnený 14. augusta 2026, dáva tomuto argumentu konkrétnejšiu podobu. Tím Inherent vytvoril sadu Replica: 310 úloh zo 100 vedeckých článkov. V každej úlohe agent dostal článok s odstráneným výsledkovým grafom a mal počas 60 minút, s obmedzeným výpočtovým rozpočtom, navrhnúť a spustiť experiment, ktorý výsledok reprodukuje.

Faraday nie je „malý model, ktorý sám porazil GPT‑5.5“. Je to 27B model vzniknutý post-trainingom Qwen3.6-27B, ktorý používa GPT‑5.5 Codex ako coding nástroj. Jeho hlavnou úlohou je rozhodovať, ktorý experiment má zmysel urobiť, čo možno verne zjednodušiť, kedy zmeniť smer a ako nepodľahnúť skratke, ktorá iba vyrobí podobne vyzerajúci graf. Silnejší systém teda nevzniká iba výmenou modelu, ale oddelením vedeckého úsudku od technického vykonania.

Podľa autorov Faraday prekonal samostatný Claude Opus 4.8 aj GPT‑5.5 na 73 % tréningových Replica úloh a na 60 % úloh odložených bokom z iných vedeckých oblastí. Na testovacej časti dosiahol v priemere o 6 % lepšie skóre než Claude a o 8 % než Codex. Výsledok však hodnotí automatický rubrikový judge. Autori porovnali jeho poradie s expertmi a zistili lepšiu zhodu než pri jednoduchšom hodnotiteľovi, no sami opisujú prípady nezhody a naďalej vyžadujú ľudskú kontrolu.

Pre firemných agentov je dôležitejšia architektúra než vedecký leaderboard:

nadriadený agent vyberá ďalší krok a rozdeľuje obmedzený rozpočet,
coding alebo dátový agent vykonáva konkrétnu prácu,
každý beh ukladá kód, artefakty, históriu a výsledok,
hodnotiteľ používa rubriku špecifickú pre danú úlohu, nie všeobecný pocit „vyzerá to dobre“,
človek kontroluje sporné alebo drahé výstupy a môže experiment zastaviť.

Rovnaký vzor možno použiť pri CRM enrichmente, faktúrach, support triage aj internej analytike. Lacnejší model nemusí písať finálny výstup. Môže riadiť drahší nástroj iba tam, kde je potrebný, a držať proces pri cieli. Faraday zatiaľ nie je bežne nasaditeľný firemný produkt; je to výskumný dôkaz, že kvalita agenta môže vyrásť z roly, hodnotiaceho systému a auditnej slučky, nielen z väčšieho základného modelu.

Aktualizácia 9. septembra: 10 000 agentov stále potrebuje nezávislé prijatie

OpenAI 8. septembra zverejnilo navrhované riešenie problému existencie a hladkosti Navier–Stokesových rovníc, jedného zo siedmich Millennium Prize Problems. Interný model podľa OpenAI našiel konečnočasovú singularitu pre hladké počiatočné dáta a hladkú vonkajšiu silu. Firma zverejnila 166-stranový matematický text spolu s Lean formalizáciou a návodom na nezávislú kontrolu.

Formulácia si vyžaduje opatrnosť. OpenAI píše, že výsledok problém rieši, ale zatiaľ ide o čerstvo publikovaný návrh, nie všeobecne prijatý matematický fakt. Pravidlá Clay Mathematics Institute vyžadujú publikáciu v kvalifikovanom médiu, najmenej dva roky odborného skúmania a všeobecné prijatie svetovou matematickou komunitou, než sa inštitút navrhovaným riešením začne zaoberať. Zostaviteľný Lean certifikát je silný dôkaz, ale externý proces nenahrádza.

Ako prípadová štúdia agentnej architektúry je priebeh mimoriadne konkrétny. OpenAI uvádza rádovo 10 000 súbežných agentov, ktorí skúmali rôzne varianty problému. Codex priebežne zlučoval užitočné medzivýsledky medzi skupinami. Agenti dospeli k navrhovanému riešeniu približne po 88 hodinách; ďalších 17 hodín trvala formalizácia a overenie v Leane pomocou GPT-6 Astra. Samotný Navier–Stokesov beh zahŕňal 2,7 milióna správ a približne 130 miliárd výstupných tokenov.

Nie je to návod „pridajte viac agentov“. Paralelné hľadanie bez oddeleného verifikačného kanála vytvára najmä viac kandidátov a vyšší účet. Prenositeľný vzor má štyri vrstvy:

paralelní pracovníci skúmajú skutočne odlišné prístupy,
spoločný register ukladá medzivýsledky, ich pôvod a závislosti,
konsolidačná vrstva vyberá a spája sľubné vetvy,
iný mechanizmus overuje finálne tvrdenie proti pevnej špecifikácii.

Vo firme môže niekoľko agentov párovať faktúru s objednávkou, zmluvou a dodávkou, no platbu uvoľní až deterministická kontrola a účtovník. CRM agenti môžu obohatiť firmu z viacerých zdrojov, ale každé pole potrebuje pôvod a konflikt patrí do ľudskej fronty. Coding agenti môžu navrhnúť opravy paralelne, kým o merge rozhodnú testy, bezpečnostná kontrola a review, nie hlasovanie modelov.

Najdôležitejšia je hranica medzi overiteľnosťou a prijatím. Lean môže potvrdiť, že formálny artefakt spĺňa zadané pravidlá. Sám nezaručí, že formálne tvrdenie pokrýva všetko, čo odborníci považujú za vyriešenie pôvodného problému, ani že chyba neleží na hranici medzi neformálnym textom a formalizáciou. Vo firemnom procese je to rovnaké: validný JSON nie je to isté ako správne zaúčtovaná faktúra a zelený test nie je automaticky bezpečná produktová zmena.

Oznámenie OpenAI ukazuje mimoriadny výkon dlhého multi-agentného systému. Kým sa neskončí nezávislé odborné posúdenie, je poctivé hovoriť o navrhovanom riešení s formálnymi certifikátmi, nie o definitívne uzavretom Millennium probléme.

Aktualizácia 6. septembra: Fermatova veta ukazuje, ako má vyzerať verifier

Anthropic 4. septembra zverejnil prvú kompletnú strojovo overenú formalizáciu Veľkej Fermatovej vety. Na presnosti záleží: Claude neobjavil nový dôkaz. Previedol známu matematickú argumentáciu do jazyka Lean, aby mohol počítač skontrolovať každý logický krok.

Podľa oficiálneho opisu Anthropic pracovali desiatky agentov prevažne autonómne 11 dní. Vytvorili približne 13 miliónov riadkov Leanu a strojovo overiteľné dôkazy 30 300 medziviet; 29 500 z nich používa finálny dôkaz. Beh spotreboval približne šesť miliárd výstupných tokenov interného výskumného modelu, ktorý Anthropic označuje za približne porovnateľný s Fable 5.1.

Najzaujímavejší je dôvod, prečo prvé pokusy zlyhali. Agenti strácali prehľad o stave projektu a prestali efektívne spolupracovať. Úspešný beh použil platformu Prove2Me, ktorá udržiavala orientovaný acyklický graf tvrdení a závislostí, oddelila formulácie viet od súborov s dôkazmi a ku každému tvrdeniu pridala opis v prirodzenom jazyku na vyhľadávanie a opakované použitie. Neúspešné pokusy pritom stále tvoria približne 7 % netriviálnych riadkov finálneho artefaktu.

Výsledok skontroloval Lean nad tromi štandardnými axiómami a samostatný comparator overil, že koreňové tvrdenie zodpovedá formulácii Fermatovej vety v Mathlibe. Presne tento validačný krok chýba v mnohých ukážkach agentov: nestačí, že jednotlivé kroky vyzerajú rozumne; systém musí dokázať, že celý graf stále uzatvára pôvodné zadanie.

Firmy na využitie tejto architektúry nepotrebujú Lean:

rozdeliť cieľ na explicitný graf závislých úloh a pri každej držať stav, vlastníka a dôkaz dokončenia,
oddeliť špecifikáciu od vykonania, aby agent počas práce potichu nezmenil definíciu úspechu,
ukladať opakovane použiteľné výsledky do spoločného registra namiesto duplicitnej práce subagentov,
overiť koreňový výsledok deterministickým testom, nielen ďalším jazykovým modelom,
popri strojovej kontrole zachovať vysvetlenie čitateľné človekom.

Pri faktúrach môže verifier skontrolovať súčty položiek, sadzby DPH, menu a väzbu na objednávku. CRM enrichment môže vyžadovať schému, zdroj pre každé pole a kontrolu duplicít. Support triage môže používať označenú evaluačnú sadu, pravidlá eskalácie a zákaz automatického zatvorenia citlivých ticketov. Coding agenti môžu používať testy, typovú kontrolu, linter a reprodukovateľný build.

Formálna matematika je výnimočná tým, že má veľmi silného strojového rozhodcu. Väčšina firemných úloh ho nemá. Prenositeľný princíp je jednoduchý: čím dlhšie a autonómnejšie agent pracuje, tým menej sa možno spoliehať na jeho vlastný pocit, že je hotovo.

YouTube signál priniesol Marek Bartoš; technické čísla a architektúra vyššie vychádzajú z primárneho zdroja Anthropic.

Prečo je to dôležité pre firmy

Firemné AI projekty často opakujú rovnakú chybu: optimalizujú generovanie výstupov, ale nie validáciu.

Typický príklad je support classification. Agent vie roztriediť tisíce ticketov. Ak však nemáte vzorku na kontrolu, pravidlá eskalácie, audit chýb a človeka zodpovedného za hranice automatizácie, len vyrábate sebavedomé štítky. V CRM enrichmentu agent doplní firmy, roly, odhady obratu a signály záujmu. Bez overenia zdrojov ale môžete obchodníkom poslať zlý zoznam priorít. Pri faktúrach a e-mailoch agent extrahuje dáta rýchlo, ale výnimky, dobropisy, neobvyklé sadzby a nových dodávateľov musí niekto kontrolovať.

Rovnaký princíp platí pre produktový vývoj. Agent môže cez noc prejsť zákaznícky feedback a navrhnúť päťdesiat experimentov. To je užitočné. Ak firma nemá kapacitu na výber, test, meranie a stop pravidlá, vznikne len drahší chaos.

Dobre nasadený agent preto nezrýchľuje len tvorbu. Musí zrýchliť aj rozhodovanie o tom, čo sa vôbec oplatí validovať.

Praktický model: nápad, skóre, dôkaz, audit

Ak by som to prevádzal do firemného workflow, nepostavil by som agenta ako "vymysli nám riešenie". Postavil by som ho ako systém so štyrmi výstupmi.

Prvý výstup je návrh. Napríklad: "týchto 30 leadov má najvyššiu šancu na konverziu", "týchto 12 faktúr je rizikových", "tu sú tri možné príčiny nárastu churnu" alebo "tu je návrh automatizácie v Make".

Druhý výstup je skóre. Agent musí povedať, prečo práve tento návrh stojí za pozornosť: dopad, neistota, náklad validácie, riziko chyby a reverzibilita rozhodnutia.

Tretí výstup je dôkaz. Nie všeobecné zhrnutie, ale odkazy na zdroje: konkrétny ticket, CRM záznam, faktúra, meeting note, log, dokument, zákaznícky e-mail alebo SQL dotaz.

Štvrtý výstup je auditná stopa. Kto zadal úlohu, aký model a nástroje agent použil, aký bol prompt, aký bol výsledok, kto ho schválil a čo sa stalo ďalej.

Bez týchto štyroch vrstiev agent len pridáva objem. S nimi môže pridať kapacitu.

Ako to postaviť v n8n alebo Make

Praktický pilot môže vyzerať takto:

Trigger: nové support tickety, obchodné meetingy, faktúry alebo produktový feedback.
Agent vygeneruje kandidátov a pri každom uvedie skóre dopadu, istoty a nákladu validácie.
Automatizácia vyberie len top položky, nie celý zoznam.
Druhý agent alebo pravidlový krok kontroluje zdroje a hľadá rozpory.
Človek schvaľuje iba drahé alebo citlivé rozhodnutia.
Výstup sa zapisuje do CRM, helpdesku, účtovného systému alebo backlogu až po validácii.
Každý mesiac sa vyhodnotí precision, recall, úspora času, počet eskalácií a počet opráv.

Tým sa AI nedáva rola vševediaceho poradcu. Dostáva rolu lacného generátora kandidátov a asistenta validácie. Je to menej efektné, ale oveľa použiteľnejšie.

Čo sledovať pri agentných workflow

Prvá metrika nie je počet vygenerovaných nápadov. Je to počet overených nápadov, ktoré skutočne zmenili rozhodnutie.

Druhá metrika je validačná kapacita. Koľko výstupov za deň dokáže tím skontrolovať bez poklesu kvality? Ak agent generuje viac kandidátov, než tím vie overiť, máte frontu, nie automatizáciu.

Tretia metrika je cena validácie. Niekedy je lacnejšie nechať človeka urobiť úlohu rovno, než validovať komplikovaný výstup agenta. Platí to hlavne pri malých jednorazových úlohách.

Štvrtá metrika je riziko falošnej istoty. Silný model s dobrým jazykom vie pôsobiť presvedčivo aj vtedy, keď spája nesprávne zdroje. Preto by som pri citlivých rozhodnutiach vyžadoval citácie, druhý kontrolný priechod a jasne pomenovanú neistotu.

Súvislosť s bezpečnosťou a limitmi

Do toho zapadajú aj ďalšie signály z posledných dní. Anthropic publikoval výskum GRAM, metódu pre modulárne oddelenie citlivých dual-use schopností v modeli. Zatiaľ nejde o produkčný Claude, ale ukazuje smer: nestačí mať výkonný model, potrebujete riadenie prístupu k schopnostiam.

Jirka Herník mal hore Mastermind 31 so signálom k mazaniu dát pri GPT Sol a limitom Claude Code. Pri Claude je dnes z oficiálnej dokumentácie jasné, že treba rozlišovať usage limity, dĺžku kontextu, automatické sumarizovanie dlhých konverzácií a spotrebu nástrojov. Je to rovnaký prevádzkový vzorec: agent nie je magická neobmedzená kapacita. Má limity, náklady, dátovú politiku a kontrolné miesta.

Čo si z toho vziať

AI agenti budú dobré tímy zahlcovať nápadmi. To nie je chyba. To je ich prirodzený efekt.

Chyba je postaviť proces tak, že každý nápad vyzerá rovnako dôležito a všetko čaká na človeka. Lepší prístup je navrhnúť workflow ako validačný lievik: agent generuje kandidátov, skóruje ich, dokladá zdroje, zahadzuje slabé varianty a človeku predkladá len to, kde je ľudské rozhodnutie naozaj drahé alebo citlivé.

Pre firmy zavádzajúce AI do procesov je to možno praktickejšia lekcia než ďalší benchmark. Produktivita nevznikne tým, že agent vyrobí viac textu. Vznikne tým, že organizácia vie, čo z toho má overiť, ako rýchlo, za akú cenu a s akým rizikom.

Zdroje: YouTube signál Mareka Bartoša AI dělá z vědy nevědu, Google DeepMind Conjecture Machines: AI agents and the new validation bottleneck in science, Google DeepMind Co-Scientist: A multi-agent AI partner to accelerate research, Anthropic An off switch for dual use knowledge in AI models a Claude Help Center How do usage and length limits work?, výskum Inherent Training AI Scientists to Replicate Research a YouTube signál Mareka Bartoša Malý model s vedeckým vkusom: Faraday.