Articles par tag: ml-hacking

Compression de GLM-5.1 sur 16 GB VRAM : astuces GQA

Décomposition de la compression du modèle MoE 744B GLM-5.1 à 388 MB pour T4. Correction des erreurs GQA, code de config, inférence. Pour développeurs middle/senior — reproduisez sur votre matériel.