Modelos de IA Abiertos Encontraron Vulnerabilidades Como Mythos

# Modelos abiertos reproducen vulnerabilidades halladas por el sistema de IA cerrado Mythos

Investigadores de Vidoc Security confirmaron que los modelos de lenguaje abiertos y comerciales modernos pueden reproducir los resultados del sistema cerrado Mythos de Anthropic en la detección de vulnerabilidades. Esto pone en duda la afirmación de que el acceso a modelos de IA avanzados debe restringirse debido a su supuesta capacidad única para encontrar errores críticos.

Verificando las afirmaciones de Anthropic

En abril de 2026, Anthropic anunció el Project Mythos —un modelo interno destinado a encontrar vulnerabilidades en software. Como prueba de su efectividad, citaron cinco ejemplos públicos: CVEs en FreeBSD, OpenBSD, FFmpeg, Botan y wolfSSL. Particularmente notable fue un error de 27 años en la pila TCP de OpenBSD, que la empresa afirmó que era indetectable por las herramientas existentes de análisis de código.

Sin embargo, los investigadores de Vidoc decidieron verificar cuán únicos eran realmente estos hallazgos. Utilizaron dos modelos disponibles públicamente —GPT-5.4 y Claude Opus 4.6— en combinación con el agente de código abierto opencode, sin acceso a datos internos de Anthropic ni herramientas propietarias.

Resultados de reproducción

Las pruebas mostraron lo siguiente:

• FreeBSD (CVE-2026-4747): ambos modelos identificaron con precisión la vulnerabilidad.
• Botan (CVE-2026-34580/34582): coincidencia total en los tres casos.
• OpenBSD: solo Claude Opus 4.6 reprodujo el hallazgo; GPT-5.4 no detectó el problema en ninguna ejecución.
• FFmpeg y wolfSSL: los modelos señalaron la ubicación correcta en el código, pero evaluaron mal el impacto —por ejemplo, clasificando un posible desbordamiento como comportamiento seguro.

De este modo, de las cinco categorías de vulnerabilidades reivindicadas públicamente, tres se reprodujeron por completo y dos parcialmente. Esto significa que los ejemplos clave de demostración de Anthropic no requieren acceso exclusivo a un modelo cerrado.

¿Qué dice Anthropic al respecto?

La empresa afirma que Mythos descubrió «miles» de vulnerabilidades, el 99 % de las cuales están bajo embargo hasta que se publiquen los parches. Esta parte no se puede verificar sin acceso a datos internos. Sin embargo, fueron precisamente los ejemplos públicos los que Anthropic utilizó como principal argumento para restringir la distribución de modelos de vanguardia.

Si incluso tareas básicas se pueden resolver con IA disponible públicamente, la lógica de «solo nosotros podemos hacerlo de forma segura» pierde fuerza. Esto es especialmente importante en el contexto de la regulación de la IA: si la amenaza no proviene de la tecnología en sí, sino de su control opaco, entonces el secretismo puede generar más riesgos que beneficios.

Detalles técnicos del enfoque de Vidoc

El equipo de Vidoc utilizó opencode —un marco de código abierto para análisis automatizado de código que involucra LLM. El agente recibió:

• Un fragmento de código con el parche.
• Descripción de los cambios del mensaje del commit.
• Contexto del proyecto (por ejemplo, especificación de protocolo o documentación de API).

A los modelos se les encomendó:

• Determinar si el cambio era una corrección de vulnerabilidad.
• Especificar el tipo de vulnerabilidad (por ejemplo, desbordamiento de enteros, use-after-free).
• Explicar por qué la implementación anterior era insegura.

Este enfoque simula condiciones del mundo real para un analista de seguridad, sin depender del conocimiento interno de los desarrolladores.

Lecciones clave

• Accesibilidad tecnológica: Los LLM modernos ya pueden realizar análisis de seguridad complejos sin componentes propietarios.
• Transparencia vs. control: Las afirmaciones de «unicidad» para modelos cerrados requieren verificación independiente.
• Implicaciones regulatorias: Si las herramientas abiertas logran resultados comparables, los argumentos a favor de una regulación estricta de los modelos de vanguardia se debilitan.
• Limitaciones de los modelos actuales: Incluso al ubicar con precisión el error, los modelos pueden interpretar mal su gravedad —crítico para el triaje automatizado.
• Embargo como barrera: La imposibilidad de verificar el 99 % de los hallazgos reivindicados reduce la confianza en los mensajes de marketing.

Perspectivas para el análisis automatizado de código

Los resultados de Vidoc muestran que la línea entre modelos «de vanguardia» y «accesibles» en seguridad se está difuminando. En los próximos años, podemos esperar:

• Integración de LLM en tuberías CI/CD para análisis preliminar de parches.
• Aparición de modelos ajustados especializados para pilas específicas (por ejemplo, C embebido o Rust).
• Desarrollo de sistemas híbridos que combinen análisis simbólico e IA generativa.

Sin embargo, queda una pregunta clave: ¿cuán confiables son tales sistemas para la toma de decisiones sin intervención humana? Por ahora, la respuesta es no. Pero como herramientas de apoyo para expertos, ya demuestran valor.

— Editorial Team