Articles par tag: local-llm

Agents LLM Sécurisés : CorpClaw-Lite pour l'Entreprise | Aperçu

CorpClaw-Lite résout les problèmes de sécurité et de scalabilité dans les agents LLM. Découvrez l'isolation stricte, le support des modèles locaux et le mode multi-utilisateur. Lisez l'aperçu technique.

Foundation Models dans SwiftUI : IA locale

Intégrez Foundation Models dans SwiftUI pour la génération de texte en streaming sur l'appareil. Exemple de code, fonctionnalités de streaming et inférence sur l'appareil. Pour les développeurs iOS.

Modèles locaux 200B : Bonsai et TurboQuant

Analyse des poids 1-bit Bonsai 8B et compression KV-cache TurboQuant. Réduction de mémoire 14x pour les poids, 6x pour le cache. Calculs pour les modèles 235B. Découvrez comment exécuter des géants localement.