Sam Altman: la próxima IA puede encontrar fallos que nadie ha visto

El director ejecutivo de OpenAI, Sam Altman, lanzó una advertencia que trasciende las discusiones habituales sobre inteligencia artificial. Según dijo, la próxima generación de modelos podría descubrir vulnerabilidades en programas, chips, servidores y redes que ni siquiera los especialistas han imaginado. El problema, asegura, es que gobiernos, empresas y usuarios no están preparados para ese escenario.

La advertencia de Altman importa directamente en Chile, donde la IA ya se usa en atención al cliente, programación, análisis de datos y producción de contenidos. Si los sistemas futuros encuentran fallos inesperados en infraestructuras conectadas, ningún país estará exento del riesgo. El ejecutivo sostiene que el próximo salto no será solo de velocidad o precisión, sino de capacidad para identificar debilidades fuera de los esquemas tradicionales de ciberseguridad.

“No encuentro una palabra lo bastante dramática”

En sus declaraciones, Altman cuestionó la reacción institucional frente a modelos con mayor autonomía. Afirmó que líderes, países y personas no han asumido la dimensión del desafío. “No encuentro una palabra lo bastante dramática para describir el problema que se nos viene encima”, dijo. Para él, la discusión pública se queda en funciones visibles, mientras las amenazas futuras reciben menos atención.

El ejecutivo también advirtió que los sandboxes —entornos aislados para probar programas sin afectar sistemas externos— podrían perder eficacia. Esas barreras sirven solo mientras los modelos no alcancen capacidades superiores. Cuando una IA consiga identificar rutas que no forman parte de las amenazas conocidas, la contención dejaría de funcionar.

Fallos de hardware y la responsabilidad de decidir

Altman señaló que los sistemas futuros podrían hallar “fallos increíbles” fuera de los cálculos habituales de seguridad. La preocupación incluye vulnerabilidades de software y también problemas en componentes físicos como chips, servidores y redes. Una herramienta capaz de detectar errores que nadie había previsto cambiaría la lógica de protección: no bastaría con corregir una aplicación, sino que sería necesario revisar arquitecturas enteras y crear defensas nuevas.

El responsable de OpenAI relacionó estos riesgos con las reglas que determinan cómo responde ChatGPT. En una entrevista con The Tucker Carlson Show, admitió que esa responsabilidad afecta su descanso. “No he dormido bien ni una sola noche”, afirmó. OpenAI consulta a especialistas en ética y filosofía moral, pero él reconoció que la decisión final permanece dentro de la empresa. Cada límite influye en millones de conversaciones.

Altman considera que los dilemas pequeños pueden tener efectos amplios. El tono de una respuesta, la cantidad de información o la forma de negar una petición pueden afectar educación, salud e investigación. Una regla útil para evitar daños puede, al mismo tiempo, limitar peticiones legítimas.

La advertencia de Altman plantea preguntas sobre quién define los límites de una inteligencia artificial avanzada. Empresas, gobiernos y organismos públicos deberán decidir cómo evaluar riesgos, qué pruebas exigir y qué mecanismos de supervisión aplicar. El debate incluye transparencia, responsabilidad y cooperación internacional. Ninguna organización puede anticipar sola todas las consecuencias de modelos capaces de actuar sobre sistemas complejos y conectados a escala mundial.

Con información de Infobae Tecno