Téma

tool calling

2 publikovaných článkov s dohľadateľnými zdrojmi a revíziami.

Anthropic opísal auto mode v Claude Code: delegované povoľovanie akcií pre agenta

Anthropic 25. marca 2026 zverejnil technický rozbor funkcie Claude Code auto mode. Podľa výrobcu ide o režim, ktorý nahrádza časť ručných povolení dvojvrstvovou kontrolou: sondou na prompt injection vo vstupoch nástrojov a dvojstupňovým klasifikátorom akcií. Text je zaujímavý najmä tým, že priznáva aj hranice riešenia vrátane 17 % false-negative rate na malej internej sade reálnych „overeager“ akcií.

#agenti #guardrails

17. septembra 2026Odborný rozbor·4 min·produkt

AI systémy a vývoj

Google opísal runtime governance pre AI agentov v Gemini Enterprise Agent Platform

Google v blogu z 15. septembra 2026 predstavil druhý diel série o zero-trust agentoch, tentoraz zameraný na runtime governance v Gemini Enterprise Agent Platform. Materiál opisuje tri vrstvy ochrany – Model Armor, Semantic Governance Policies a Agent Anomaly Detection – a ich úlohu pri filtrovaní promptov, posudzovaní zámeru tool callov a zachytávaní viacťahových útokov. Ide však o dodávateľský technický rozbor a demo, nie o nezávisle overené produkčné výsledky.

#AI agenti #runtime governance

16. septembra 2026Odborný rozbor·4 min