A OpenAI se le hace cuesta arriba la detección de texto generado por IA: ¿Por qué es tan difícil?
"Es importante destacar que los textos generados por IA pueden editarse para eludir la detección del clasificador. Aunque podemos mejorar y reentrenar nuestro sistema, la detección a largo plazo sigue siendo un desafío".
OpenAI, la empresa detrás de ChatGPT, parece que está en problemas. A pesar de haber desarrollado una herramienta para detectar texto generado por su propio modelo de lenguaje, la compañía no lo está teniendo fácil para encontrar una solución que sea 100% buena.
Tal y como se comentó hace unos días, la herramienta ha registrado solo una tasa de éxito del 26% identificando textos generados por inteligencia artificial, que desciende o crece dependiendo de factores como la longitud, el idioma o la sencillez del escrito.
En pocas palabras, la compañía considera no válida su herramienta contra el plagio. "Nuestro objetivo es evitar que la IA se utilice para desinformar o engañar a las personas. Por ejemplo, impedir que se afirme falsamente que un texto generado por IA ha sido escrito por un humano, evitar su uso en deshonestidades académicas, o posicionar un chatbot de IA como si fuera humano", recoge en un comunicado en su web OpenAI.
Por otro lado, el tema de la marca de agua también tiene sus problemas. Básicamente, se puede manipular el texto y eliminarla.
¿Por qué es tan difícil detectar el texto generado por IA?
Aquí el gran problema precisamente reside en los complejos y ya realistas que son estos chatbots. La base es que con capaces de generar texto que es prácticamente indistinguible del escrito por un humano.
Por otro lado, estos pueden ajustarse a todo tipo de estilos de escritura, lo que hace muy difícil la creación de reglas fijas para identificar el texto generado por máquina. Además, el lenguaje humano es muy ambiguo y lleno de matices, lo que hace que sea casi imposible establecer criterios claros para distinguir entre lo humano y lo artificial.
“Es importante destacar que los textos generados por IA pueden editarse para eludir la detección del clasificador. Aunque podemos mejorar y reentrenar nuestro sistema, la detección a largo plazo sigue siendo un desafío”, explica la compañía.
Con todo esto, parece que OpenAI lo está teniendo realmente complicado y parece que la solución está lejos de encontrarse en una aplicación u otra, por mucho que consultes internet y veas cientos de entradas con el eslogan de "identifica texto generado con IA".
Otros artículos interesantes:
Carolina González
Redactora
Carolina González, redactora de actualidad, reportajes a fondo, análisis de todo tipo de productos y vídeos para el canal de Youtube.