ChatGPT alertó al FBI: usuario escribió planes violentos y fue condenado
Darren Zhou usó el chatbot para detallar ataques contra su expareja; OpenAI activó sus protocolos y derivó el caso a la justicia.
Una conversación con ChatGPT terminó en una denuncia al FBI y después en tribunales. El caso ocurrió en Florida, Estados Unidos, pero deja preguntas que también aplican en Chile: ¿hasta dónde llega la vigilancia de los asistentes de IA?
Las amenazas que OpenAI no dejó pasar
Darren Zhou, residente del condado de Palm Beach, usó ChatGPT para describir repetidamente planes violentos contra su expareja. Según documentos judiciales citados por The Washington Post, las conversaciones incluían datos concretos sobre los movimientos y lugares que la mujer frecuentaba.
El contenido activó los mecanismos de seguridad de OpenAI. La compañía explica que ciertos mensajes relacionados con posibles daños graves pasan por sistemas de detección y revisión humana. Si la empresa determina que hay una amenaza inminente y creíble contra terceros, puede contactar a las autoridades.
En este caso, OpenAI alertó al FBI, que luego transfirió la información a la Policía del condado de Palm Beach. No fue el chatbot quien llamó directamente a la policía, sino que la empresa siguió su propio protocolo de seguridad.
Del chatbot a la corte: lo que encontraron los investigadores
La investigación no se limitó a las conversaciones con ChatGPT. Los agentes descubrieron que la expareja también había recibido mensajes anónimos después de terminar la relación con Zhou, según los documentos judiciales.
Zhou fue arrestado en mayo de 2026. Se declaró culpable en un tribunal de Palm Beach y recibió ocho años de libertad condicional. El caso fue cerrado sin pena de cárcel, pero con restricciones judiciales.
¿Qué relevancia tiene esto para Chile?
El hecho ocurrió en Estados Unidos y no tiene implicancias legales directas en Chile. Sin embargo, muestra que las plataformas de inteligencia artificial como ChatGPT pueden funcionar como herramientas de monitoreo cuando detectan contenido extremo.
Para los usuarios chilenos, el caso abre un debate sobre privacidad y seguridad: lo que se escribe en un chatbot no necesariamente queda en la conversación. OpenAI tiene políticas que pueden derivar alertas a las autoridades si se cumplen ciertos umbrales de riesgo.
La pregunta sobre si esos mecanismos operan también fuera de Estados Unidos no está clara. Por ahora, el episodio de Darren Zhou queda como un precedente de que la IA no solo responde, sino que también vigila.
Con información de FayerWayer
