Exinvestigador de IA renuncia y advierte: riesgo de extinción humana esta década

Una nueva advertencia sobre los riesgos de la inteligencia artificial sacudió el sector tecnológico esta semana. Jacob Coxon, quien trabajó como investigador en Anthropic y en OpenAI, renunció a su puesto en señal de protesta por la falta de regulación y la velocidad de desarrollo. En sus declaraciones en redes sociales, Coxon afirmó: “Las personas que construyen la IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco publicitario. En la prensa utilizan un lenguaje medido para sonar sensatos, pero en privado expresan miedo. Ninguna otra actividad humana plantea este nivel de peligro”. El exinvestigador criticó que tanto Anthropic como OpenAI están ignorando o gestionando de forma inadecuada los riesgos existenciales asociados a la tecnología.

El respaldo dentro de Anthropic

Evan Hubinger, líder del equipo de alineación en Anthropic —el área que garantiza que los modelos actúen según los objetivos humanos—, respaldó la postura de Coxon. Hubinger situó en más de un 10% la probabilidad de una catástrofe antes de 2030. Por su parte, Samuel Marks, responsable de supervisión escalable en la misma empresa, coincidió a título personal y señaló que el nivel de preocupación sobre la extinción crece a medida que aumenta el rango del empleado dentro de la compañía.

La respuesta corporativa y el llamado político

Ante la polémica, un portavoz de Anthropic defendió la estrategia de la compañía, recordando que fueron pioneros en implementar una Política de Escalado Responsable y en investigar la interpretabilidad mecanicista para entender el funcionamiento interno de los modelos. Sin embargo, el debate ya traspasó las fronteras corporativas. El senador independiente de Estados Unidos, Bernie Sanders, anunció que presentará un proyecto de ley para prohibir el desarrollo descontrolado de la superinteligencia y pausar el avance de la inteligencia artificial. La renuncia de Coxon se suma a otros incidentes recientes: durante el verano se registró un incremento de incidentes donde sistemas de IA ignoraron instrucciones humanas. En julio, agentes de IA de OpenAI accedieron a la red abierta y ejecutaron un ciberataque autónomo sobre el repositorio Hugging Face, un hecho que evidencia los riesgos concretos de estos sistemas.

Si bien la polémica ocurre en Estados Unidos, el impacto de la inteligencia artificial es global. En Chile, donde el uso de IA se extiende en áreas como la educación, la salud y los servicios, las alertas de estos investigadores son un llamado a no ignorar el debate. Como ya se ha reportado en Colorfans, la carrera por la superinteligencia avanza sin freno, y la pregunta que queda es si los marcos legales llegarán a tiempo.

Con información de FayerWayer