Quantification Gemma 4 31B sous 57GB Kaggle
Découvrez comment charger le modèle Gemma 4 31B de 62GB sur Kaggle avec une limite de 57GB : NF4, bitsandbytes et astuces mémoire. Obtenez un artefact de 18GB pour l'inférence locale. Instructions pour les développeurs.
