Téma

bezpecnost ai

4 publikovaných článkov s dohľadateľnými zdrojmi a revíziami.

AI v praxi

Jirka Herník v opise videa ukazuje workflow AI agenta pre e-shop a MCP nákup cez Rohlík

Oficiálny opis videa z kanála Jirku Herníka popisuje praktický postup, v ktorom AI agent dostane konkrétnu úlohu pre e-shop, následne sa z workflow stane opakovateľný skill, plánovaná úloha alebo integrácia cez MCP. Podklad je použiteľný ako kvalitatívny rozbor princípu, nie ako nezávisle overený benchmark schopností nástrojov.

Odborný rozbor·4 min·produkt
AI systémy a vývoj

Anthropic opísal auto mode v Claude Code: delegované povoľovanie akcií pre agenta

Anthropic 25. marca 2026 zverejnil technický rozbor funkcie Claude Code auto mode. Podľa výrobcu ide o režim, ktorý nahrádza časť ručných povolení dvojvrstvovou kontrolou: sondou na prompt injection vo vstupoch nástrojov a dvojstupňovým klasifikátorom akcií. Text je zaujímavý najmä tým, že priznáva aj hranice riešenia vrátane 17 % false-negative rate na malej internej sade reálnych „overeager“ akcií.

Odborný rozbor·4 min·produkt
AI systémy a vývoj

Google opísal runtime governance pre AI agentov v Gemini Enterprise Agent Platform

Google v blogu z 15. septembra 2026 predstavil druhý diel série o zero-trust agentoch, tentoraz zameraný na runtime governance v Gemini Enterprise Agent Platform. Materiál opisuje tri vrstvy ochrany – Model Armor, Semantic Governance Policies a Agent Anomaly Detection – a ich úlohu pri filtrovaní promptov, posudzovaní zámeru tool callov a zachytávaní viacťahových útokov. Ide však o dodávateľský technický rozbor a demo, nie o nezávisle overené produkčné výsledky.

Odborný rozbor·4 min
AI systémy a vývoj

Anthropic opísal containment pre Claude v claude.ai, Claude Code a Cowork a zverejnil chyby na hranici egressu

Anthropic v technickom texte z 25. mája 2026 zhrnul tri architektúry containmentu pre svoje agentné produkty a pridal konkrétne zlyhania, ktoré viedli k opravám. Pre vývojárov je dôležitý najmä záver, že modelové klasifikátory sú len doplnok a tvrdú hranicu má tvoriť prostredie, súborové hranice a egress kontrola.

Odborný rozbor·4 min·produkt