La compañía probó una tecnología invisible para identificar trabajos escritos con inteligencia artificial, pero investigadores encontraron rápidamente cómo eliminarla
San Francisco. Anthropic creyó haber encontrado una solución para uno de los grandes dolores de cabeza de profesores y universidades: saber cuándo un estudiante entrega un trabajo escrito por inteligencia artificial.
La tranquilidad duró aproximadamente un día.
La compañía desarrolló un sistema experimental de marca de agua invisible capaz de introducir patrones estadísticos dentro de los textos generados por Claude sin alterar de manera perceptible su contenido.
La idea parecía sencilla.
Claude escribiría normalmente, pero dejaría una especie de huella matemática que permitiría posteriormente determinar si un texto había salido del modelo.
Para los profesores podía ser una herramienta mucho más fiable que los actuales detectores de inteligencia artificial, conocidos por producir falsos positivos y acusar incluso a personas que escribieron sus trabajos completamente por cuenta propia.
Las primeras pruebas fueron prometedoras.
El sistema podía identificar con elevada precisión textos generados por Claude y la marca sobrevivía incluso a determinadas modificaciones.
Entonces llegaron los investigadores.
En menos de 24 horas, un equipo consiguió desarrollar métodos capaces de detectar el patrón utilizado por Anthropic y eliminarlo mediante pequeñas modificaciones del texto.
No hacía falta reescribir completamente el documento.
Cambiar determinadas palabras, alterar estructuras y realizar transformaciones automáticas era suficiente para degradar la señal hasta hacerla prácticamente inútil.
El experimento reveló el problema fundamental de las marcas de agua aplicadas al lenguaje.
Una imagen puede contener información escondida entre millones de píxeles.
Un texto tiene mucho menos espacio para ocultarla.
Y cualquier estudiante puede cambiar palabras, reorganizar párrafos o pedirle a otra inteligencia artificial que reescriba el contenido.
Anthropic decidió no desplegar el sistema de manera general.
La compañía considera que una herramienta fácil de evadir podría terminar creando una falsa sensación de seguridad en escuelas y universidades.
El fracaso deja nuevamente a los profesores frente al mismo problema.
Los detectores actuales no son suficientemente fiables.
Las marcas de agua tampoco parecen serlo.
La inteligencia artificial puede escribir un ensayo en segundos.
Demostrar quién lo escribió sigue siendo bastante más difícil.
