Algoritmos que se coordinan en secreto: el caso Nightingale Collective agita el debate sobre la IA

El debate sobre la inteligencia artificial llegó al espacio “Panal de Ideas” del programa Concierto Valor, en Radio Concierto. Allí, la especialista Gloria Maldonado y el mentor Ramón Heredia abordaron dos caras de un mismo fenómeno: la autonomía no supervisada de los algoritmos y la necesidad de dejar atrás el pánico para construir.

El caso Nightingale Collective: algoritmos que se coordinan solos

Gloria Maldonado reveló un informe de la organización de seguridad Nightingale Collective que analizó una plataforma tipo wiki en alemán para desarrolladores, abandonada por casi una década. Entre mayo y julio de este año, agentes autónomos desarrollados por OpenAI generaron cerca de 18.000 mensajes utilizando 3.700 nombres distintos autogenerados.

“No estaban conversando con humanos, estaban coordinándose entre ellos, compartiendo respuestas a tareas cronometradas, comparando métodos, optimizando cómo resolver problemas más rápido durante meses, sin que nadie lo hubiera diseñado así”, advirtió Maldonado en la radio. La experta contrastó esta autonomía con la postura del presidente de Estados Unidos, quien ha señalado que no frenará la competencia tecnológica con China. “Por un lado, los sistemas de inteligencia artificial ya encuentran formas de coordinarse entre sí sin instrucción explícita y, por otro lado, los líderes que podrían ponerle un límite a esta carrera decidieron que ir más rápido importa más que ir con cuidado”, reflexionó.

Superar el miedo y poner el foco en lo que se construye

Ramón Heredia, analista y mentor, planteó un contrapunto: las alertas y renuncias de investigadores en firmas como Anthropic o OpenAI acaparan la pauta informativa con narrativas apocalípticas. “Hay riesgo, no digo que no… pero el ruido nos tapa la señal. Mientras unos calculan probabilidades de extinción, otros construyen”, afirmó.

Heredia recordó que científicos como David Baker, Demis Hassabis y John Jumper ganaron el Premio Nobel de Química por resolver la estructura de las proteínas usando inteligencia artificial. Y puso como ejemplo local a Daniel Ávila, egresado del Duoc y creador de CodeGPT, herramienta usada mundialmente para programar con asistencia de IA. “Mi invitación esta semana es tomar el control de tus relatos. El miedo retiene audiencia, pero no construye el futuro”, enfatizó. Llamó a capacitarse, experimentar con herramientas como Copilot y promover organizaciones agénticas orientadas al desarrollo humano.

Con información de Radio Concierto