Články podle tagu: llm-security

AI zero-day: Google objevil exploit strojového vytváření

Google potvrdil vytvoření zero-day pomocí AI v trestném schématu. Zjistěte, jak zranitelnost obešla 2FA a co to znamená pro vaši bezpečnost. Přečtěte si zprávu.

Útoky na LLM v byznysu: zranitelnosti lokálních modelů

Jak útočníci extrahují CRM-data prostřednictvím LLM? Analýza skutečných útoků na lokální a cloudové modely. Ochrana SMB-řešení.

Infrastrukturní obal AI: trendy 2026 pro vývojáře

Jak stateful agenti mění přístup k vývoji AI. Metody kontroly nedeterministických systémů a bezpečná integrace do enterprise. Zjistěte jako první.

Zranitelnost LLM: obcházení přes assistant prefill

Dozvězte se, jak sockpuppeting obchází ochrany 11 jazykových modelů jedním řádkem. Analýza rizik, opatření k ochraně a důsledky pro byznys. Přečtěte si detaily útoku a doporučení.

Zranitelnosti Mařusy a Salutu: obcházení filtrů

Rozbor technických slabin v hlasových asistentech Mařusy a Salutu. Prompt injection prostřednictvím voleb, paměti a připomínek. Doporučení k ochraně pro vývojáře LLM.

Ochrana PII v LLM podle ruského federálního zákona č. 152-FZ bez ztráty UX

Implementace nahrazení tokenů PII pro LLM na NestJS: soulad s ruským federálním zákonem č. 152-FZ, streamování WebSocket, šifrování PostgreSQL. Návod pro vývojáře AI řešení v Ruské federaci. Čtěte podrobnosti.