IA comienza a modificar otras IA: el experimento del MIT que inquieta a los laboratorios
GPT-6 Astra, de OpenAI, logró mejorar un modelo chino manipulando solo el 0,016% de sus parámetros, sin reentrenamiento, en un experimento del MIT.
Un grupo de investigadores del MIT (Instituto Tecnológico de Massachusetts) acaba de demostrar que GPT-6 Astra, el modelo de inteligencia artificial más avanzado de OpenAI, es capaz de modificar directamente los parámetros internos de otra red neuronal para mejorar su rendimiento. El experimento, realizado sobre Qwen3.5-0.8B —un modelo de 800 millones de parámetros desarrollado por la empresa china Alibaba—, logró que Astra mejorara significativamente su desempeño en operaciones matemáticas alterando apenas el 0,016% de sus pesos.
Qué son los pesos y por qué esto es distinto
Los pesos son los valores numéricos que cada conexión dentro de una red neuronal va ajustando durante el entrenamiento para aprender a reconocer patrones. Hasta ahora, mejorar un modelo implicaba reentrenarlo con nuevos datos, un proceso que consume tiempo y recursos. Lo que hizo Astra fue distinto: identificó un problema en el funcionamiento de Qwen y modificó directamente los valores que lo provocaban, sin necesidad de un nuevo ciclo de entrenamiento.
Los investigadores del Laboratorio de Inteligencia Artificial e Informática del MIT destacan que es impactante que Astra haya logrado una mejora tan notable con una intervención tan modesta. La estrategia es inédita hasta ahora en manos de una IA y abre un nuevo camino para acelerar el desarrollo de modelos más eficientes.
Automejora recursiva: el debate que viene
Este hallazgo se produce semanas después de que Dario Amodei, director general de Anthropic, publicara el 12 de septiembre un ensayo titulado ‘Debemos marcar el ritmo de la frontera’. En él, Amodei advierte que la IA avanza mucho más rápido impulsada por la automejora recursiva —la capacidad de un modelo de desarrollar de forma autónoma nuevos modelos más avanzados que él mismo— y pide ralentizar su desarrollo para garantizar la alineación con los intereses humanos.
El experimento del MIT no demuestra automejora recursiva en sentido estricto, porque Astra no se modificó a sí misma sino a otro modelo. Pero sí confirma que los sistemas más avanzados ya pueden intervenir sobre otras redes neuronales. Esto, según los investigadores, tiene el potencial de acelerar la investigación científica y corregir problemas que antes requerían largos procesos de entrenamiento.
Riesgos para Chile y el mundo
Para Chile, donde la discusión sobre regulación de IA recién comienza, este avance refuerza la urgencia de entender cómo funcionan estas tecnologías antes de que se vuelvan incontrolables. Si los modelos de lenguaje más avanzados empiezan a modificar sus propios componentes o los de otros sistemas de forma autónoma, los laboratorios tendrán que garantizar que esas modificaciones no generen errores difíciles de localizar, vulnerabilidades o comportamientos anómalos.
El riesgo, advierten los expertos, es que las mejoras se acumulen en sucesivas generaciones de modelos y que resulte cada vez más complicado evaluar y controlar su evolución. Por ahora, ninguna empresa ha demostrado públicamente que uno de sus modelos haya alcanzado la automejora recursiva plena, pero la frontera se acerca más rápido de lo que muchos anticipaban.
Con información de Xataka
