Detectores de IA adaptativos alcanzan 93% de precisión frente a textos humanizados
Investigadores del MIT y Cornell logran que los detectores se actualicen solos ante textos diseñados para engañarlos.
Un equipo de investigadores del MIT y la Universidad Cornell desarrolló un método que permite a los detectores de texto generado por inteligencia artificial adaptarse mientras analizan nuevos contenidos, elevando su precisión al 93% frente a escritos diseñados para parecer humanos. Los sistemas convencionales apenas alcanzan un 27% en esa misma tarea, según el estudio publicado en arXiv y difundido por MIT News.
Cómo funcionan los detectores adaptativos
A diferencia de los métodos tradicionales, que requieren reentrenar el modelo desde cero cada vez que cambian los patrones de escritura, el nuevo enfoque permite que el detector se actualice de forma continua a partir de los textos que recibe una vez puesto en funcionamiento. Esto ocurre sin necesidad de conocer si el contenido fue escrito por una persona o por un modelo de lenguaje.
El sistema puede identificar patrones para separar ambos grupos incluso cuando los creadores del detector no saben cuáles textos son humanos y cuáles artificiales. En pruebas que simulaban el cambio gradual del lenguaje humano a través del tiempo, los detectores adaptativos alcanzaron un 85% de precisión, frente al 73% de los métodos tradicionales.
La carrera entre detectores y humanizadores
La expansión de los grandes modelos de lenguaje impulsó el desarrollo de herramientas comerciales para determinar la autoría de un escrito. Sin embargo, esos detectores fallan cuando evalúan contenidos distintos de los ejemplos con los que fueron entrenados. Algunos usuarios procesan los textos generados por IA con programas que los modifican para que el detector los clasifique como humanos.
Kevin Ren, estudiante de posgrado en Cornell Tech y autor principal del estudio, describió esa dinámica como un ciclo persistente: tras lanzar un detector, aparecen humanizadores que intentan vencerlo; luego la empresa incorpora ese texto humanizado a su entrenamiento, y así sucesivamente. El método evaluado permite cortar ese ciclo al adaptarse a los textos que recibe, incluso cuando están alterados para esquivar los controles.
En pruebas con textos concebidos específicamente para eludir la detección, los detectores adaptativos lograron un desempeño superior al de los sistemas convencionales. Ren afirmó que el método tiene potencial para ayudar a los modelos ya desplegados a abordar de forma proactiva el comportamiento iterativo de manipulación por parte de usuarios adversarios.
Qué significa esto para Chile
El hallazgo abre la puerta a herramientas más confiables para docentes, editores, editoriales y responsables de contratación que necesiten identificar escritos generados por modelos de lenguaje y presentados como humanos. También podría emplearse para prevenir fraudes de suplantación de identidad por correo electrónico o detectar prácticas fraudulentas de posicionamiento en buscadores, problemas que también afectan a usuarios y empresas chilenas.
Manish Raghavan, profesor del MIT y coautor del estudio, señaló que la identidad del autor importa en ámbitos de alto riesgo, desde la publicación científica hasta los concursos de cuentos. “Hemos demostrado que la adaptación durante el uso permite que el detector de inteligencia artificial sea mucho más resistente”, sostuvo.
Los investigadores advirtieron que la técnica podría dejar de ser eficaz si los futuros modelos de lenguaje producen textos cada vez más naturales y disminuye la disponibilidad de escritos humanos verificables para el entrenamiento. “No está del todo claro si este será un problema resoluble”, dijo Raghavan. El equipo continuará analizando otros ámbitos estratégicos y desarrollando herramientas de evaluación para mejorar estos detectores en entornos cambiantes.
Con información de Infobae Tecno