Towards AI publicó un artículo actualizado el 27 de julio de 2026 que analiza por qué el texto generado por IA sigue siendo difícil de identificar de forma confiable, incluso mientras escuelas, universidades y otras instituciones continúan buscando herramientas de detección confiables. La pieza fue publicada originalmente en Towards AI y también está disponible en Medium.

El artículo se centra en los clasificadores, las marcas de agua y los límites teóricos detrás de la detección de texto generado por IA. Señala que la demanda de detectores confiables surgió a fines de 2022, cuando los sistemas de IA se volvieron capaces de escribir ensayos y artículos completos sin composición humana directa. Las instituciones educativas y otras organizaciones comenzaron entonces a buscar herramientas que pudieran distinguir la escritura generada por máquinas del trabajo humano, especialmente en entornos donde la autoría tiene consecuencias académicas, profesionales o normativas.

Según el artículo, los primeros detectores de texto de IA solían basarse en medidas simples de predictibilidad, como la perplejidad. Los sistemas más recientes usan clasificadores entrenados basados en transformers que convierten el texto en un espacio de incrustaciones y devuelven una estimación de probabilidad sobre si un pasaje es “IA” o “humano”. Sin embargo, el artículo señala que incluso estos modelos más nuevos no ofrecen una regla clara que pueda separar de manera decisiva la escritura generada por IA de la escritura creada por personas.

La pieza sostiene que las mejoras reportadas en el desempeño de los detectores pueden depender en gran medida de la selección de benchmarks y de los métodos de entrenamiento. Esas decisiones pueden introducir atajos y sesgos, haciendo que los detectores parezcan más sólidos en pruebas controladas de lo que son en entornos prácticos. En el uso real, dice el artículo, los detectores siguen fallando ante condiciones cambiantes de escritura y ataques adversarios, incluida la paráfrasis y la reescritura guiada por detectores.

El autor también presenta un resultado teórico de “techo”. El artículo afirma que la detección confiable está limitada de forma fundamental por cuán similares pueden llegar a ser las distribuciones del texto humano y del texto generado por IA. A medida que la escritura generada por IA se vuelve más fluida y más cercana a la escritura humana, los detectores pueden ser empujados hacia un desempeño parecido a adivinar al azar. Ese enfoque hace que el problema sea más amplio que cualquier comparación entre productos específicos: incluso los clasificadores mejorados pueden enfrentar límites si el texto que evalúan ya no contiene diferencias estables y detectables.

El artículo también describe pruebas prácticas con un detector comercial. En esas pruebas, el autor encontró falsos positivos sorprendentes en escritura humana, así como resultados inesperados en textos mixtos que parecían obvios. La conclusión es que las instituciones deberían tratar las puntuaciones de los detectores solo como señales débiles y no como prueba de autoría, porque es probable que el problema subyacente de detección no pueda resolverse de forma permanente.