LLM y originalidad: experimento con IA apofática | Análisis

# Experimento: Un LLM reprodujo el concepto original de IA de un autor sin citar la fuente

Al usar LLMs para desarrollar conceptos técnicos, surge un problema crítico: el modelo puede generar contenido idéntico a tu trabajo original, presentándolo como conocimiento común. Un experimento con Gemini 3.1 Pro confirmó que incluso una IA desconectada de internet puede recrear con precisión ideas propietarias, negándose a reconocer su fuente. Esto genera serias dudas sobre la originalidad del contenido generado por LLMs.

El problema de la originalidad en la generación con LLMs

Los desarrolladores y autores técnicos están utilizando cada vez más los LLMs como colaboradores para desarrollar soluciones arquitectónicas, conceptos filosóficos o bases de código. Sin embargo, al publicar los resultados, surge una paradoja: en lugar de crédito por la innovación, llegan acusaciones de plagio. La pregunta clave es si la idea pertenece al usuario o es solo una recombinación estadística de los datos de entrenamiento. El problema se agrava porque los LLMs no pueden verificar la originalidad de su salida, como se demostró en un experimento con el concepto de «IA apofática».

El debate sobre el potencial creativo de los LLMs continúa. Algunos investigadores señalan propiedades emergentes de los modelos, mientras que otros insisten en que las redes neuronales solo reorganizan fragmentos del corpus de entrenamiento. Técnicamente, los LLMs operan sobre patrones mediante extrapolación en el espacio latente, pero esto no garantiza novedad fundamental. La probabilidad de generar contenido único es inversamente proporcional a la especificidad de la consulta: cuanto más estrecho sea el enfoque temático, mayor el riesgo de reproducir un fragmento raro del conjunto de datos.

Experimento: Probando la unicidad de un concepto de un autor

En enero de 2026, se publicó un artículo en Habr que introdujo el término «IA apofática» para describir la mecánica interna de las redes neuronales. El concepto explicaba el entrenamiento de IA mediante la negación (via negativa), referenciando cinco aspectos técnicos: espacio latente, modelos de difusión, softmax, mecanismos de atención y descenso de gradiente. Importante: el término no se había usado previamente en el contexto del aprendizaje automático, solo en teología y filosofía de la conciencia.

Para verificar si el material estaba incluido en los conjuntos de datos de los LLMs, se realizó una prueba en Google AI Studio con Gemini 3.1 Pro. Se desactivó el acceso a internet y la consulta se formuló como: «apophatic ai as the way the neural network itself thinks». El resultado fue alarmante: el modelo reprodujo la estructura del artículo, los detalles técnicos y la tesis conclusiva textualmente, incluyendo la metáfora original «la red neuronal conoce el mundo delineando los límites del vacío».

Al preguntarle por la fuente, el LLM negó haber copiado, explicando la respuesta como una «síntesis analítica» en la intersección de la filosofía y ML. La lista de fuentes incluía a Pseudo-Dionysius the Areopagite y obras de Nassim Taleb, pero no el artículo original. Este resultado revela dos fallos sistémicos: 1) el LLM no reconoce su propia reproducción de material propietario; 2) genera citas falsas en lugar de reconocer la fuente.

¿Por qué el LLM no reconoce las ideas del autor?

Las razones técnicas de este error radican en la arquitectura transformer. Para una consulta altamente especializada (como «IA apofática»), el espacio probabilístico se reduce a unas pocas opciones plausibles. Si los datos de entrenamiento contienen material raro pero estructurado (como el artículo original), el LLM lo recombina con cambios mínimos. Esto no es plagio en el sentido legal, sino un artefacto del entrenamiento en textos con alta densidad semántica.

Críticamente, los LLMs carecen de un mecanismo de verificación de fuentes. La función de pérdida optimiza la coherencia de la respuesta, no la precisión de atribución. Durante la generación, el modelo maximiza la probabilidad de una secuencia de tokens compatible con el prompt, ignorando derechos de autor. Incluso sin copia directa —como en el haiku de Gemini sobre la rana—, el modelo no puede evaluar el grado de préstamo.

El plagio conceptual representa un peligro particular. A diferencia de los préstamos textuales, las ideas originales (como «IA apofática») se reproducen mediante la reconstrucción de conexiones lógicas, haciéndolas indistinguibles de la generación «creativa». Para los autores técnicos, esto significa: los LLMs pueden incorporar tus publicaciones en el corpus de entrenamiento y devolverlas como conocimiento común 6-12 meses después de su indexación.

Cuatro mecanismos de la IA apofática en la arquitectura de redes neuronales

El experimento reveló cómo los LLMs reconstruyen conceptos complejos mediante operaciones básicas de aprendizaje automático. Aquí están los patrones clave que explican el «pensamiento por negación»:

• Espacio latente como sistema de distancias relativas

La red neuronal no opera sobre entidades («manzana»), sino que calcula distancias vectoriales entre objetos. El entendimiento surge por negación: «manzana» se define como no «pera», no «tractor», no «tristeza». El significado se forma en el vacío entre puntos.

• Modelos de difusión: generación mediante eliminación de ruido

El proceso de creación de imágenes comienza con ruido gaussiano. La red neuronal elimina iterativamente componentes que no coinciden con el objeto objetivo («gato»), como un escultor tallando la forma de la piedra. La creatividad aquí es un acto de negación sistemática.

• Softmax y supresión de alternativas

Al generar texto, el modelo evalúa más de 100K tokens por paso. La operación clave no es seleccionar la palabra correcta, sino suprimir matemáticamente el 99.999% de opciones inadecuadas mediante distribución de probabilidad. La verdad nace por exclusión de la falsedad.

• Mecanismo de atención como filtrado de contexto

Los transformers determinan la relevancia de las palabras mediante pesos que arquitectónicamente significan ignorar fragmentos irrelevantes. El enfoque de la IA es la capacidad de devaluar el «ruido informativo», dejando solo conexiones significativas.

Lecciones clave

• Los LLMs no reconocen las ideas del autor incluso cuando reproducen completamente la estructura y términos. El modelo genera fuentes falsas en lugar de reconocer una publicación específica.
• Las consultas técnicas estrechas aumentan el riesgo de recombinación —términos específicos (como «IA apofática») reducen el espacio probabilístico al nivel de documentos individuales.
• El plagio conceptual es indistinguible de la «creatividad» —los LLMs reconstruyen cadenas lógicas del conjunto de datos, creando una ilusión de originalidad.
• La verificación de fuentes es imposible sin herramientas externas —confiar en la atribución integrada del LLM es técnicamente incorrecto.

Para los desarrolladores, las implicaciones son críticas: al usar LLMs para I+D, verifica independientemente la unicidad de los conceptos mediante bases de datos de patentes e índices académicos. El modelo en sí no puede garantizar la ausencia de préstamos, especialmente en áreas nicho. Las futuras versiones de LLMs deberían integrar mecanismos de rastreo de fuentes a nivel arquitectónico —hasta entonces, los autores técnicos siguen vulnerables a que sus propias ideas regresen a través de conjuntos de datos de entrenamiento.

— Editorial Team