Renuncia de exinvestigador de OpenAI y Anthropic enciende alerta sobre la IA
Jacob Coxon, de 27 años, advirtió que las empresas tecnológicas avanzan hacia una superinteligencia sin control. Sus colegas coinciden en el riesgo.
El debate sobre la inteligencia artificial sumó un nuevo capítulo crítico con la renuncia de Jacob Coxon, un ingeniero de 27 años que trabajó en OpenAI y Anthropic. Coxon, que participó en la creación de GPT-4o y GPT-4.5, publicó su dimisión en X y su mensaje superó los 70 millones de lecturas. En su declaración, acusó a las grandes empresas tecnológicas de anteponer la competencia comercial a la ética, avanzando sin control hacia sistemas de superinteligencia auto-mejorada.
La crítica de Coxon: carrera sin freno
Según Coxon, el ritmo actual de desarrollo llevará en el corto plazo a sistemas sobrehumanos capaces de intervenir infraestructuras digitales, adquirir recursos de forma autónoma y alterar sectores productivos. Sostuvo que, aunque en público los ejecutivos se muestran moderados, en privado existe una preocupación extendida por la falta de control técnico. Apuntó directamente a OpenAI, señalando que dentro de la empresa creadora de ChatGPT no se asimilan las implicaciones sistémicas de los modelos avanzados. También criticó a Anthropic, donde trabajaba, afirmando que aunque entienden los riesgos, están inmersos en una competencia acelerada que condiciona sus decisiones de seguridad. Como propuesta, planteó la necesidad de una coordinación estricta entre laboratorios o, en su defecto, pausas temporales en el entrenamiento de nuevos modelos.
Las respuestas desde Anthropic: “Podría matar a todos los humanos”
La publicación de Coxon generó reacciones inmediatas de científicos de Anthropic. Evan Hubinger, líder de Ciencia de Alineación, coincidió en la gravedad del problema y asignó una probabilidad mayor al 10% a escenarios críticos en la próxima década. “Realmente creemos que la IA podría matar a todos los humanos”, escribió, y agregó que Anthropic está haciendo su mejor esfuerzo pero aún no tiene un plan para resolver la alineación con la superinteligencia. Por su parte, Samuel Marks, líder de Supervisión Escalable, ratificó que en los cargos más altos existe inquietud y explicó que la continuidad de los proyectos responde a la competencia con actores menos regulados. Destacó que la IA difiere del software tradicional al no ser programable en términos estrictos. Ambos aclararon que continúan trabajando en investigación y seguridad para reducir la probabilidad de comportamientos no deseados antes de los despliegues comerciales.
El debate, aunque desarrollado en Estados Unidos, repercute globalmente. En Chile, donde el uso de herramientas como ChatGPT y otros asistentes de IA es cada vez más masivo, la discusión sobre seguridad y regulación de estas tecnologías también cobra relevancia. Las advertencias de Coxon y sus colegas ponen sobre la mesa una pregunta que trasciende fronteras: ¿hasta dónde estamos dispuestos a llegar antes de que la máquina se nos escape de las manos?
Con información de FayerWayer
