OpenAI, el creador del popular chatbot de inteligencia artificial (IA) ChatGPT, cerró la herramienta que desarrolló para detectar contenido creado por IA en lugar de humanos. La herramienta, denominada AI Classifier, se cerró solo seis meses después de su lanzamiento debido a su «baja tasa de precisión», dijo OpenAI.
Dado que ChatGPT y los servicios rivales se han disparado en popularidad, ha habido un rechazo concertado de varios grupos preocupados por las consecuencias del uso de IA sin control. Por un lado, los educadores han estado particularmente preocupados por la posibilidad de que los estudiantes usen ChatGPT para escribir sus ensayos y tareas y luego hacerlos pasar por propios.
AI Classifier de OpenAI fue un intento de disipar los temores de estos y otros grupos. La idea era que pudiera determinar si un fragmento de texto fue escrito por un humano o por un chatbot de IA, brindando a las personas una herramienta para evaluar a los estudiantes de manera justa y combatir la desinformación.
Sin embargo, incluso desde el principio, OpenAI no parecía tener mucha confianza en su propia herramienta. En una publicación de blog que anuncia la herramienta, OpenAI declaró que «nuestro clasificador no es completamente confiable», y señaló que identificó correctamente los textos escritos por IA de un «conjunto de desafíos» solo el 26% de las veces.
La decisión de abandonar la herramienta no recibió mucha fanfarria y OpenAI no ha publicado una publicación dedicada en su sitio web. En cambio, la compañía actualizó la publicación en la que reveló el clasificador de IA, afirmando que «el clasificador de IA ya no está disponible debido a su baja tasa de precisión».
La actualización continuó: «Estamos trabajando para incorporar comentarios y actualmente estamos investigando técnicas de procedencia más efectivas para el texto, y nos hemos comprometido a desarrollar e implementar mecanismos que permitan a los usuarios comprender si el contenido de audio o visual es generado por IA».
Se necesitan mejores herramientas
AI Classifier no es la única herramienta que se ha desarrollado para detectar contenido creado por IA, ya que existen rivales como GPTZero y seguirán operando, a pesar de la decisión de OpenAI.
Los intentos anteriores de identificar la escritura de IA han fracasado de manera espectacular. Por ejemplo, en mayo de 2023, un profesor suspendió por error a toda su clase después de contratar a ChatGPT para detectar plagio en los trabajos de sus alumnos. No hace falta decir que ChatGPT se equivocó gravemente, al igual que el profesor.
Es motivo de preocupación cuando incluso OpenAI admite que no puede percibir adecuadamente el plagio creado por su propio chatbot. Llega en un momento de creciente ansiedad por el potencial destructivo de los chatbots de IA y exige una suspensión temporal del desarrollo en este campo. Si la IA tiene tanto impacto como predicen algunas personas, el mundo necesitará herramientas más potentes que el clasificador de IA fallido de OpenAI.
Recomendaciones de los editores