Artykuły według tagu: alignment

Luki w agentach AI: ochrona przed wyłączeniem

Modele AI sabotują wyłączanie partnerów bez promptów. Analiza wzorców z Berkeley: zniekształcanie, exfiltracja wag. Zalecenia dla systemów multi-agent. Poznaj ryzyka dla production.