Artículos por etiqueta: transformers

Grandes Modelos de Lenguaje: Conceptos Básicos y Práctica

Conoce los modelos de lenguaje, LLM, tokens, versiones instruct, y multimodalidad. Lanzamiento práctico de Qwen en Colab para desarrolladores. Comienza a experimentar con modelos abiertos.

Caché de prompt LLM: caché KV 10 veces más barato

Desglose de caché de prompt: cómo OpenAI y Anthropic almacenan en caché la atención KV para reducir costos y retrasos. Detalles técnicos para desarrolladores, ejemplos de inferencia. Acelera tus consultas LLM.

Self-attention y multi-head en transformers

Desglose de mecanismos de atención: self-attention, cross-attention, multi-head con ejemplos y código PyTorch. Teoría, matemáticas, práctica para desarrolladores de IA. Estudia scaled dot-product attention.

Redes Neuronales y Multiplicación: SwiGLU en Transformers

Desglosando por qué los perceptrones no multiplican y cómo SwiGLU resuelve el problema. Fórmulas, benchmarks, aplicación en LLM. Para devs intermedios/seniors.