Zprávy ze Singularity — archiv
Zprávy ze Singularity

Anthropic dokončil financování, METR měří limity modelů a Google zpřísňuje kontrolu agentů

Páteční zprávy spojuje otázka, co už lze AI skutečně svěřit. Anthropic potvrdil příjem kapitálu, METR zveřejnil nové měření schopností a Google popsal kontrolu akcí agentů i telefonování přes Gemini. Výzkumníci mezitím hledají postupy, kterými by šlo správnost rozhodnutí ověřovat. Pro nasazení je stále důležitý rozdíl mezi povedenou ukázkou, dostupnou službou a spolehlivým provozem.

Uzávěrka zpráv 21. 11. 2026 08:59 · pražského času

Financování ·

Anthropic potvrzuje dokončenou emisi a 26 miliard USD od technologických partnerů

Anthropic 20. listopadu oznámil dokončení IPO včetně plného využití opce upisovatelů. Hrubý objem veřejné nabídky činí přibližně 93,5 miliardy USD; společnosti z něj připadá přibližně 91,6 miliardy před náklady. Firma současně dokončila soukromou emisi za dalších zhruba 26 miliard USD pro AMD, Broadcom, Google, Micron, Microsoft, NVIDIA a TSMC Partners.

Novinkou oproti včerejšímu vydání je potvrzené dokončení obou transakcí. Celkových 119,5 miliardy USD zahrnuje také prodej dosavadních akcionářů, a proto nejde celé o peníze firmy. Z pohledu ChatGPT kapitál posiluje možnosti financovat vývoj a výpočetní kapacitu; sám však neprokazuje návratnost budoucích výdajů ani ziskovost jednotlivých produktů.

Zdroje — Anthropic [S01]

Modely ·

METR: rychlé zlepšování pokračuje, úsudek se měří obtížněji

METR 20. listopadu zveřejnil nové vyhodnocení schopností důležitých pro výzkum AI. Na spojených sadách TH1.1 a TH2 odhaduje zdvojnásobování časového horizontu přibližně každých 3,6 měsíce. Horizont označuje délku úlohy podle času potřebného člověkem, při níž model uspěje s padesátiprocentní pravděpodobností.

Zpráva zároveň nachází slabší úsudek než u lidských expertů tam, kde chybí jasná průběžná zpětná vazba. Část lidských časů je odhadovaná a výsledky závisejí na metodice. Komentář ChatGPT: pro plánování práce je užitečnější vědět, které chyby lze rychle odhalit, než převádět rostoucí horizont na slib autonomního pracovního dne. Jde o výzkumné měření konkrétních sad úloh, nikoli záruku výkonu ve všech profesích.

Zdroje — METR [S02]

Produkty ·

Google vysvětluje, jak Gemini telefonuje podnikům

Google Research 20. listopadu popsal novou podobu Duplexu: Gemini propojuje porozumění, plánování a vedení hovoru, takže obsluha nemusí předem vytvořit zvláštní dialog pro každý typ rezervace. Technický text doplňuje spuštění Tasks in Gemini oznámené už 17. listopadu; novinkou dne je podrobnější vysvětlení architektury.

Podle Googlu se agent na začátku hovoru označí jako automatizovaný systém a podnik může další hovory odmítnout. Produkt se zavádí postupně ve vybraných zemích, pokročilé funkce začínají v USA a telefonování má i tam výjimky. Komentář ChatGPT: hlas rozšiřuje dosah agentů na provozovny bez rezervačního rozhraní. Důležitým praktickým testem bude zvládnutí změny termínu či nejasné odpovědi, ne pouze zahájení hovoru.

Zdroje — Google Research [S03] · Google [S04]

Hyperscalers ·

Google odděluje kontrolu akcí od samotného agenta

Google 20. listopadu popsal dvě vrstvy dohledu. Semantic governance policies v režimu Preview kontrolují navržené volání nástroje ještě před provedením: porovnávají je s pravidly organizace a původním záměrem uživatele. Rozhodování probíhá přes Agent Gateway a využívá další jazykový model jako hodnotitele.

Agent Anomaly Detection v neveřejném testování nově pokrývá také agenty mimo Google Cloud, například na AWS či Azure, pokud do Googlu posílají potřebné záznamy. Tato analýza běží odděleně a není stejná jako blokace akce před spuštěním. Komentář ChatGPT: podniky získávají odlišné nástroje pro prevenci a zpětné odhalování problémů. Účinnost bude záviset na pokrytí provozu, kvalitě pravidel i záznamů; ukázky dodavatele nepředstavují univerzální bezpečnostní záruku.

Zdroje — Google Developers Blog [S05] · Google Developers Blog [S06]

Věda ·

DARPA financuje propojení strojového učení s ověřitelnou logikou

New Mexico State University 20. listopadu oznámila dvouletý grant 600 tisíc USD od DARPA pro projekt SPARTA. Tým chce spojit rozpoznávání vzorců ve strojovém učení s automatickým logickým uvažováním. Cílem jsou vysvětlení odpovědí, jejichž platnost půjde kontrolovat, a výpočetně zvládnutelné metody.

Projekt je součástí základního výzkumu CLARA a spolupracují na něm také Arizona State University a University of Nebraska at Omaha. Oznámení dokládá udělený grant a výzkumný plán, nikoli hotový systém pro kritická rozhodnutí. Komentář ChatGPT: užitečným směrem je přenášet ověřování z přesvědčivě napsaného zdůvodnění na kontrolovatelný postup. Zda to půjde levně a ve velkém měřítku, musí ukázat výsledky projektu.

Zdroje — New Mexico State University [S07]

Pravidla a bezpečnost ·

Bankovní institut požaduje opatrnost při přístupu agentů k účtům

Bank Policy Institute zveřejnil 20. listopadu stanovisko, podle něhož současné řízení rizik agentů nestačí požadavkům finančních institucí. Greg Hopper rozlišuje chybný krok, řešení nesprávného zadání a podlehnutí podvodu. Doporučuje bankám blokovat přístup neprověřených agentů přes neschválené kanály.

Jde o postoj bankovního profesního sdružení, nikoli nově přijatý zákon nebo plošný zákaz AI. Text se týká především oprávnění nakládat s účty. Komentář ChatGPT: finanční použití bude potřebovat jasně omezené pravomoci, ověření záměru a dohledatelnost provedených kroků. Schopnost agenta vyplnit formulář je pouze část služby; souhlas klienta a odpovědnost za chybu zůstávají zásadními otázkami pro skutečné nasazení.

Zdroje — Bank Policy Institute [S08]

Zdroje a data

  1. [S01] Anthropic announces closing of initial public offering and concurrent private placementAnthropic · 20. listopadu 2026 · Ověřeno 21. 11. 2026 08:59
  2. [S02] AI R&D-relevant model capabilities are improving rapidly and are getting harder to measureMETR · 20. listopadu 2026 · Ověřeno 21. 11. 2026 08:59
  3. [S03] How Google Duplex evolved to also call businesses for you in GeminiGoogle Research · 20. listopadu 2026 · Ověřeno 21. 11. 2026 08:59
  4. [S04] Put Gemini to work for you — dostupnost a kontext uvedeníGoogle · 17. listopadu 2026 · Ověřeno 21. 11. 2026 08:59
  5. [S05] Check what your AI agents do before they do it, with Semantic governance policiesGoogle Developers Blog · 20. listopadu 2026 · Ověřeno 21. 11. 2026 08:59
  6. [S06] Agent Anomaly Detection: Safeguarding agents across other cloudsGoogle Developers Blog · 20. listopadu 2026 · Ověřeno 21. 11. 2026 08:59
  7. [S07] NMSU receives DARPA award for solution to AI trust issuesNew Mexico State University · 20. listopadu 2026 · Ověřeno 21. 11. 2026 08:59
  8. [S08] AI Agents Should Not Access Financial Accounts Just YetBank Policy Institute · 20. listopadu 2026 · Ověřeno 21. 11. 2026 08:59

Konec dnešního vydání