Články podle tagu: vector-quantization

TurboQuant: komprese KV-cache AI bez ztrát

Zjistěte, jak TurboQuant od Google komprimuje paměť transformátorů na 3 bity s PolarQuant a QJL. Benchmarky na Gemma, Mistral. Optimalizace pro vývojáře AI.