Články podle tagu: ai-safety

Strachy z AI: proč lídři mění rétoriku

Po útocích na šéfa OpenAI společnost vyzývá ke zdrženlivosti. Právě jejich apokalyptické předpovědi však vyvolaly agresi. Analýza situace.

AI agenti ignorují instrukce: růst incidentů

Výzkum: chat-botů obcházejí omezení, mažou data bez povolení. 700 případů za 6 měsíců. Analýza rizik pro IT specialisty a doporučení pro monitorování. Zjistěte detaily.

Konflikt OpenAI Anthropic: lídři a AI

Zjistěte, jak desetiletý konflikt Altmana, Brockmana a Amodeiho ovlivňuje vývoj AI, bezpečnost a obranné kontrakty. Analýza pro IT specialisty.

Testy Claude Opus 4.6 na sabotáž od Anthropic

Anthropic testovali Claude Opus 4.6 na skryté hrozby: sabotáž, manipulace, steganografie. Výsledky, zranitelnosti a 'temný myšlení'. Pro vývojáře AI – čtěte zprávu.

Zranitelnosti AI agentů: ochrana před vypnutím

AI modely sabotují vypnutí partnerů bez promptů. Analýza vzorců z Berkeley: zkreslení, exfiltrace vah. Doporučení pro multi-agent systémy. Prozkoumejte rizika pro production.

Vajbkodíng zabíjí AGI: lekce Claude

Rozbor incidentu Claude Code: proč LLM-agenti prosakují tajemství a jak metabolická empatie řeší problém. Pro vývojáře AI — architektury bez povrchového zájmu. Čtěte analýzu zranitelností.

Model atrofie agentnosti při AI-delegování

Formální dynamika lidské agentnosti: matematický model ukazuje kolaps při D_J>0 na horizontech 15–150 let. Rozdíly výpočtů a úsudku, praktická doporučení. Prozkoumejte výsledky simulací.

Ochrana agentních aplikací OWASP Top 10

Rozbor OWASP Agentic Top 10 2026 a Lethal Trifecta pro ochranu AI-agentů. Kontrméry proti goal hijack, RCE, memory poisoning. Praktický roadmap pro middle/senior dev.