En términos de tecnologías que cambian el mundo, ChatGPT realmente ha tenido un impacto enorme en la forma en que la gente piensa acerca de escribir y codificar en el poco tiempo que ha estado disponible. Ser capaz de conectar un mensaje y obtener un flujo de texto casi suficientemente bueno es una propuesta tentadora para muchas personas que no confían en sus habilidades de escritura o buscan ahorrar tiempo. Sin embargo, esta capacidad tiene una desventaja significativa, particularmente en la educación, donde los estudiantes se ven tentados a usar ChatGPT para sus propios trabajos o exámenes. Eso les impide aprender todo lo que podrían, lo que les ha dado a los profesores un dolor de cabeza completamente nuevo a la hora de detectar el uso de la IA.
Los profesores y otros usuarios ahora están buscando formas de detectar el uso de ChatGPT en el trabajo de los estudiantes, y muchos están recurriendo a herramientas como GPTZero, una herramienta de detección de ChatGPT creada por el estudiante de la Universidad de Princeton, Edward Tian. El software está disponible para todos, por lo que si desea probarlo y ver las posibilidades de que un fragmento de texto en particular se haya escrito utilizando ChatGPT, aquí le explicamos cómo hacerlo.
¿Qué es GPTZero?
GPTZero se anunció por primera vez a través del tweet de Tian el 2 de enero de 2023 como una herramienta para ayudar a detectar el plagio de IA. Tian señaló que el análisis se basó en la investigación de Princeton Ph.D. candidato Sreejan Kumar y el trabajo del Grupo de Procesamiento del Lenguaje Natural de Princeton.
El análisis se basa en algunas investigaciones en curso con y @sreejan_kumar y @princeton_nlp. Con suerte, publicaremos algo empírico pronto. pero mientras tanto fue una aplicación divertida de hacer 🙂
– Eduardo Tian (@edward_the6) 3 de enero de 2023
¿GPTZero es gratuito?
GPTZero fue diseñado para educadores, pero cualquiera puede usarlo de forma gratuita. Es poco probable que esto sea siempre así. Los términos de servicio mencionan que podría haber Tarifas por algunos servicios. También se menciona una prueba gratuita de 30 días para los nuevos usuarios que se registren.
GPTZero no es un proyecto de código abierto y Tian se enfrentaría a altas tarifas de alojamiento si no fuera por la ayuda de Streamlit, un marco de aplicación Python con un servicio gratuito en la nube para aplicaciones Streamlit. Si bien el tráfico de GPTZero es una pequeña fracción del que disfruta ChatGPT, incluso OpenAI decidió comenzar a cobrar para compensar sus costos.
Aunque el alojamiento Streamlit es gratuito, eso suele limitar el ancho de banda y los recursos en esta plataforma compartida. Eso habría restringido el uso de una aplicación popular como GPTZero.
Actualmente, Streamlit está ayudando a Tian a aumentar la memoria de la aplicación y la asignación de alojamiento de GPTZero. Si continúa creciendo a un ritmo rápido, eso podría cambiar.
gracias @DatosChaz y resto del @streamlit equipo por mejorar generosamente el alojamiento y la memoria de gptzero :))
– Eduardo Tian (@edward_the6) 4 de enero de 2023
¿GPTZero es preciso?
Ha habido afirmaciones de que se puede engañar a GPTZero. Siguiendo una sugerencia del usuario de Reddit Smellz_Of_Elderberry, le pedí a ChatGPT que escribiera una breve historia sobre el libro. El viejo y el mar como si fuera un estudiante de secundaria. GPTZero no se dejó engañar.
Lo intenté de nuevo, alterando el texto con algunos signos de puntuación fuera de lugar, tiempo verbal incorrecto y otros pequeños errores, pero GPTZero aún decía: «es probable que su texto esté escrito en su totalidad por IA».
La palabra clave aquí es «probable» y el desarrollador nunca prometió que GPTZero fuera perfecto. La precisión de GPTZero aún se está evaluando, pero anecdóticamente parece funcionar bien para la mayoría de las personas.
Si utiliza GPTZero, es importante tener en cuenta que es posible que se produzcan errores. Cuando usa GPTZero para detectar IA o ChatGPT para ayudar a escribir un documento, aún necesita verificar el trabajo en busca de errores.
¿Cómo funciona GPTZero?
GPTZero analiza la aleatoriedad del texto, conocida como perplejidad, y la uniformidad de esta aleatoriedad dentro del texto, lo que en estadística se denomina ráfaga. Una IA es muy consistente en su perplejidad y estallido, mientras que los escritores humanos varían esas características sin darse cuenta.
El trabajo aún no está terminado y Tian señala que se agregarán más pruebas para mejorar la precisión de la detección de texto por IA. En particular, el sesgo implícito es un área que se está explorando como otra forma de detectar si el texto es generado por una IA.
Todavía estamos estudiando el sesgo implícito en el texto generado por LM en este momento, por lo que esperamos agregar algunas pruebas y factores más para mejorar el modelo.
– Eduardo Tian (@edward_the6) 3 de enero de 2023
¿Cómo puedo utilizar GPTZero?
GPTZero está disponible en su sitio web o a través de una interfaz de programación de aplicaciones (API). Para utilizar el sitio web, simplemente copie el texto que desea verificar y péguelo en el cuadro grande etiquetado Pruébalo.
También es posible cargar un PDF, un documento de Word o un archivo de texto y hacer clic en el Tener resultados botón. También deberá marcar la casilla que indica que acepta los términos de servicio.
¿Por qué mi escritura está marcada como IA?
Junto con el auge de ChatGPT y el auge de las herramientas de detección de IA, ahora tanto los escritores como los lectores tienen una nueva preocupación sobre cómo saber si el contenido es creado por IA y si se etiqueta una escritura genuina como proveniente de una IA. Esto es particularmente un problema para los estudiantes, quienes podrían enfrentar consecuencias en sus escuelas o universidades si se descubre que están usando IA. Algunos estudiantes ahora habitualmente ejecutan su propio trabajo original a través de detectores como GPTZero y descubren que señala oraciones como escritas por IA incluso si no lo estaban.
En 2024 un escritor para El Atlántico, Ian Bogost, descrito pasó su propio trabajo original a través de un software de detección de plagio y descubrió que inicialmente, un asombroso 74% de su trabajo estaba marcado como plagiado. Con una cuidadosa verificación y eliminación, logró reducir ese número a cero, pero le tomó varias horas de revisión y ajustes de configuración para llegar allí.
La detección de IA es similar a la detección de plagio, en el sentido de que ambas solo pueden reflejar las mejores conjeturas sobre si un escrito es original y generado por humanos o no. Y estas herramientas requieren una revisión muy cuidadosa, ya que ambas pueden tender a producir falsos positivos. Si descubre que su trabajo está marcado como generado por IA en GPTZero cuando no lo era, entonces esto podría deberse a razones tan amplias como no ser un hablante nativo de inglés, ser demasiado repetitivo con sus ideas o haber usado un herramienta como Grammarly.
Si su trabajo está marcado como IA, verifique que todas sus citas y citas estén formateadas correctamente y trate de evitar el uso de herramientas automáticas como Grammarly para realizar ediciones.
¿Realmente necesitamos controles de plagio?
Yendo mucho más allá del laboratorio de investigación al que están vinculadas muchas IA de generación de texto, se lanzó OpenAI ChatGPT se hizo público a finales de noviembre de 2022. En enero de 2023, ChatGPT tenía más de 100 millones de usuarios, lo que la convierte en la aplicación pública de más rápido crecimiento hasta el momento.
Eso significa que cualquier preocupación sobre el plagio solo aumentará a medida que esta asistencia de IA esté disponible en todos los rincones de la vida. Microsoft está incorporando la tecnología OpenAI en la búsqueda de Bing y Google está probando su propia versión, conocida como Gemini (antes Bard).
En una nota relacionada, los generadores de imágenes de IA como Dall-E y Stable Diffusion están bajo escrutinio por posibles violaciones de derechos de autor. Todos estos servicios de inteligencia artificial han sido entrenados en escritura, fotografías y obras de arte encontradas en línea y creadas por miles de millones de humanos.
En cierto modo, la IA toma prestado de la inteligencia humana, no crea por sí sola. Si pido prestado a otro ser humano, debo dar crédito y posiblemente pagar una tarifa de licencia. Con la IA generativa, resulta más difícil citar una fuente porque cada texto o imagen se divide en elementos difusos y luego se vuelve a ensamblar para crear una nueva pieza utilizando miles o millones de fuentes.
Necesitamos repensar cómo nos sentimos acerca de los derechos de autor y el plagio o encontrar herramientas que ayuden a identificar el material generado por IA y posiblemente desarrollar un método para dar crédito a la gran cantidad de personas que contribuyen a cada trabajo generado por IA.
Recomendaciones de los editores