Články podle tagu: prompt-injection

Útoky na LLM v byznysu: zranitelnosti lokálních modelů

Jak útočníci extrahují CRM-data prostřednictvím LLM? Analýza skutečných útoků na lokální a cloudové modely. Ochrana SMB-řešení.

Bezpečnost LLM: evoluce od Firewall k GAF | Hloubková analýza

Jak současné hrozby pro LLM vyžadují víceúrovňovou ochranu. Rozkládáme incidenty z let 2025–2026 a přechod k Generative Application Firewall. Zjistěte, jak ochránit AI systémy.

Zranitelnost LLM: obcházení přes assistant prefill

Dozvězte se, jak sockpuppeting obchází ochrany 11 jazykových modelů jedním řádkem. Analýza rizik, opatření k ochraně a důsledky pro byznys. Přečtěte si detaily útoku a doporučení.

Zranitelnosti Mařusy a Salutu: obcházení filtrů

Rozbor technických slabin v hlasových asistentech Mařusy a Salutu. Prompt injection prostřednictvím voleb, paměti a připomínek. Doporučení k ochraně pro vývojáře LLM.

Protokol pro LLM: boj s halucinacemi

Zjistěte, jak 1100řádkový protokol eliminuje halucinace v Qwen a DeepSeek. Testy ukazují 100 % ochranu před injekcemi a chybami. Používejte pro kód a fakta — instrukce k spuštění.

Ochrana agentních aplikací OWASP Top 10

Rozbor OWASP Agentic Top 10 2026 a Lethal Trifecta pro ochranu AI-agentů. Kontrméry proti goal hijack, RCE, memory poisoning. Praktický roadmap pro middle/senior dev.