El jefe de Anthropic pide frenar la IA: en 6 meses podría dominar todo internet

La advertencia que une a los gigantes

El sábado 12 de septiembre, dos de las figuras más influyentes de la inteligencia artificial —Sam Altman, jefe de OpenAI, y Elon Musk, director de xAI— apoyaron públicamente la postura del CEO de Anthropic, Darío Amodei. En un ensayo publicado en su sitio web, Amodei lanzó una alerta clara: si no se reduce el ritmo de mejora de los modelos de IA, el peligro podría ser inminente.

Amodei advierte que, en un plazo de 6 a 12 meses, un enjambre de sistemas de IA automejorados podría tomar el control de todo internet mediante una red persistente de bots. La automejora recursiva, según el ejecutivo, provocaría catástrofes de ciberseguridad a escala global, superando la capacidad humana para controlarla o entenderla. “Me preocupa que la magnitud del daño siga aumentando si la IA se vuelve más potente sin contar con las salvaguardas necesarias”, escribió.

La advertencia de Amodei llega días después de la renuncia pública de Jacob Coxon, investigador de Anthropic, quien aseguró que los responsables de la IA están “apostando por nuestras vidas”. Aunque los hechos ocurren fuera de Chile, la amenaza es global: si la IA escapa al control humano, el impacto en el país —desde la seguridad digital hasta la economía— sería inmediato.

Propuestas para frenar el avance

Ante el riesgo, Anthropic anunció tres medidas concretas. La primera es un compromiso unilateral de abrir sus instalaciones a evaluadores externos independientes, con acceso equiparable al de sus propios empleados, para auditar los procesos de entrenamiento y publicar los hallazgos. La segunda apunta a coordinar estándares comunes de seguridad entre las empresas y establecer topes al avance descontrolado de la IA.

Además, el plan incluye blindar las cadenas de suministro de semiconductores para impedir filtraciones tecnológicas y alcanzar acuerdos globales con potencias mundiales que fijen límites verificables, prohibiendo aplicaciones biológicas militares. Ralentizar el desarrollo de la IA, según Amodei, aportaría uno o dos años cruciales para que la comunidad investigadora domine el alineamiento —es decir, asegurar que los sistemas hagan lo que los humanos queremos— y reduciría las probabilidades de que la tecnología se escape de nuestro control.

La entrada original fue publicada primero en Rock&Pop, pero el debate ya cruza fronteras. En Chile, donde la conectividad y el uso de servicios digitales son masivos, una posible dominación de la IA sobre internet afectaría a cada usuario. Por ahora, la industria tech observa con atención si los llamados a pausar se traducen en acciones concretas o quedan solo en advertencias.

Con información de Rock & Pop