OpenAI tiene la tecnología para identificar textos generados por ChatGPT, pero no la quiere liberar
OpenAI se encuentra en medio de un debate interno respecto a la implementación de una herramienta de marca de agua que podría identificar si un texto fue generado por ChatGPT.
Esta herramienta ha despertado opiniones divididas dentro de la empresa, destacándose tanto sus beneficios potenciales como sus posibles inconvenientes.
Cómo funcionaría la marca de agua
La idea detrás de la marca de agua es simple pero ingeniosa: introducir un patrón imperceptible para los lectores humanos en los textos generados por ChatGPT. Este patrón podría ser detectado por una herramienta especial, asegurando que los textos porten una firma digital única.
Según pruebas internas de OpenAI, esta marca no afectaría la calidad de los textos y sería capaz de identificar la autoría con una precisión del 99.9%. El patrón se mantendría incluso si el texto es copiado y pegado o si se realizan ediciones menores.
El debate interno en OpenAI
Aunque la precisión del 99.9% es impresionante, no garantiza que no haya errores. Algunos empleados de OpenAI han señalado que, dado el amplio uso de ChatGPT, incluso un pequeño porcentaje de error podría llevar a problemas significativos.
Por ejemplo, en el contexto académico, un error en la detección podría resultar en que un trabajo legítimo sea incorrectamente etiquetado como plagio. Esto podría tener consecuencias graves para los estudiantes.
Otro argumento en contra de la implementación de la marca de agua es el impacto negativo potencial en los hablantes no nativos de inglés. Muchas personas utilizan ChatGPT para mejorar su redacción o para traducciones, y la introducción de una marca de agua podría generar estigmatización hacia estos usuarios, dificultando su uso legítimo de la herramienta.
En una publicación del blog de OpenAI, se destacó que la marca de agua actual podría ser relativamente fácil de eludir. Los usuarios malintencionados podrían pasar el texto generado por ChatGPT a través de otro generador de texto o solicitarle a ChatGPT que inserte caracteres especiales para luego eliminarlos manualmente.
El impacto potencial en los usuarios de ChatGPT
Un aspecto que no se menciona en la publicación de OpenAI, pero sí en el artículo de The Wall Street Journal, es el impacto en la base de usuarios. Una encuesta reveló que hasta el 30% de los usuarios dejarían de utilizar ChatGPT si sus salidas estuvieran marcadas con una marca de agua.
Esto plantea un riesgo comercial para OpenAI, que debe equilibrar el deseo de transparencia con la retención de su base de usuarios.
OpenAI no ha implementado la función de marca de agua aún, y sigue explorando soluciones alternativas. Una de ellas es la inclusión de metadatos firmados criptográficamente en las salidas, similar a lo que hace con el generador de imágenes DALL-E 3, que usa metadatos C2PA para identificar y rastrear modificaciones en las imágenes. Este enfoque podría ofrecer una solución más robusta y menos intrusiva que la marca de agua.
Antecedentes en la detección de texto AI
Cabe mencionar que OpenAI había lanzado anteriormente una herramienta de detección de texto AI que no se limitaba a ChatGPT, sino que buscaba identificar textos generados por cualquier herramienta de IA. Sin embargo, fue discontinuada debido a su alta tasa de inexactitud y falsos positivos, lo que la hacía poco confiable.
