En OpenAI aseguran estar trabajando en corregir las «alucinaciones» del chatbot.
Aunque a todos les sorprende la destreza técnica que muestra ChatGPT en cada una de sus respuestas, el software no está exento de errores ya que, en algunas ocasiones, presenta bugs que demuestran que se trata de una tecnología en proceso y con un amplio margen de mejora. mejora.
La forma en que funcionan las IA generativas de texto como ChatGPT a veces puede conducir a algo que en la jerga descrito como una alucinaciónlo que sucede cuando una máquina proporciona una respuesta convincente pero completamente inventada.
Es así que la versión de Bing basada en ChatGPT comenzó a incurrir en estas alucinaciones. Incluso por encima del ChatGPT original, que ya había protagonizado ‘alucinaciones’, respondiendo con datos detallados pero falsosa la pregunta sobre el récord de cruzar el Canal de la Mancha a pie o sobre la última vez que el Golden Gate fue transportado a través de Egipto.
Para hacer que su tecnología de chatbot sea más confiable, los ingenieros de OpenAI han revelado que actualmente se están enfocando en mejorar su software para reducir y, con suerte, eliminar estas ocurrencias problemáticas.
Un grupo de investigadores especializados en IA dentro de OpenAI fue quien reveló los planes de la compañía para apaciguar estas alucinaciones. Explican que «incluso los modelos más avanzados son proclives» a producirlos, ya que tienden a «inventar hechos en tiempos de incertidumbre«.
“Estas alucinaciones son particularmente problemáticas en dominios que requieren un razonamiento de varios pasos, ya que un solo error lógico es suficiente para descarrilar una solución mucho más grande”, agregaron.
En este sentido, también dicen que si el objetivo de la empresa es acabar creando inteligencia artificial general (concepto comúnmente conocido como AGI), es fundamental mitigar este tipo de alucinaciones.
Para abordar los errores de chatbot, los ingenieros de OpenAI están trabajando en formas para que sus modelos de IA recompénsate por generar datos correctos al avanzar hacia una respuesta, en lugar de ser recompensado solo en el punto de finalización.
Dicho modelo ha sido entrenado con un conjunto de datos compuesto por más de 800.000 etiquetas generadas por humanos, y en las primeras pruebas se han podido obtener resultados muy superiores a los obtenidos con modelos basados en la supervisión de resultados finales.
Y si bien es importante que OpenAI esté trabajando para resolver esta falla, podría pasar un tiempo antes de que se reflejen los cambios. Mientras tanto, como dice OpenAI, ChatGPT ocasionalmente puede generar información incorrecta, por lo que es clave confirmar tus respuestas si son parte de alguna tarea importante.
Preguntas estrechas para minimizar el error
ChatGPT, al igual que sus competidores, necesita que las personas sean claras y evitar deambularporque de lo contrario los resultados serán genéricos e imprecisos.
En este punto también es importante direccionar la respuesta, es decir, si se necesita una recomendación sobre un pintor del Renacimiento, es fundamental incluir todos los datos de la época en la solicitud para que el chatbot entienda hacia dónde apunta el interés.
Todo esto es clave porque la IA suele fallar fácilmente por falta de contexto, por ejemplo, no es lo mismo crear un guión para un vídeo de YouTube que crear un guión para un programa de televisión.
SL