ChatGPT está en todas partes: seguramente lo usas que todos los días para trabajar, estudiar, escribir correos electrónicos … pero hay algo que comienza a tomar en cesro y es esa tendencia a repetir ciertas palabras una y otra vez. Si lo usa con frecuencia, lo más probable es que haya notado cómo abusa «definitivamente», «esencial» o «en este sentido».
Un grupo de investigadores de la Universidad Estatal de Florida quería dar una explicación a esto y no se ha detenido hasta encontrar una respuesta mínima a las razones. Lo curioso es que, lo que han descubierto es más interesante y preocupante de lo que parece.
Se dieron cuenta de que Chatgpt usó ciertas palabras de una manera exagerada, palabras como Ahondar (profundizar), Reino (Reino) E Intrincado (intrincado). Al comparar textos generados por este chatbot de inteligencia artificial con textos escritos por humanos, descubrieron que estas palabras parecían demasiado.
¿Por qué sucede esto? Según los investigadores, todo se reduce a cómo se capacitan estos modelos de idiomas. Al exponerlos a grandes cantidades de texto, aprenden a asociar ciertas palabras con ciertos contextos. Si una palabra parece mucho en textos que se consideran buenos, el modelo la adoptará como suya.
Pero agregó que estos investigadores estaban un paso más allá y se preguntaban si este fenómeno podría incluso afectar su forma de pensar. Para hacer esto, realizaron un experimento en el que mostraron a los participantes dos versiones del mismo texto: una con las palabras «mencionadas anteriormente, y otra sin ellos.
Descubrieron que los participantes reaccionaron más negativamente a la palabra Ahondar que a los demás, sugiriendo que estas palabras podrían estar perdiendo su significado original debido a su uso excesivo por los chatbots.
¿Chatgpt comienza a delir? La razón por la que la gente te pregunta cosas extrañas
Además de repetir algunas palabras, ChatGPT también tiene una tendencia extraña a pasar por las ramas y dar respuestas que tienen poco que ver con su mensaje original. ¿Qué es esto? Según los expertos, también podría ser una consecuencia de la forma en que el modelo está entrenado.
Para mejorar este gran problema que han estado arrastrando de sus Orignes, los desarrolladores de ChatGPT usan una técnica llamada aprendizaje de refuerzo con comentarios humanos (RLHF). Esta técnica es pedir a los usuarios que evalúen las respuestas del modelo y dan sus comentarios. Luego, el modelo utiliza esta información para mejorar su capacidad de generar respuestas, cuidando las indicaciones anteriores dadas por un humano.
Luego hay personas que piden ‘cosas para chatgpt
Ruciendo el rizo, y ya viendo que hay mucha psicología detrás de algo que parece básico, hay otra tendencia de Cuirosa, esta vez humano, que atrae suficiente atención. Como se explica en otro artículo de Computadora hoyMuchos usuarios no dudan en utilizar medidas de cortesía que parezcan más típicas de una interacción entre humanos que en una relación humana-máquina.
Dan buenos días o incluso solicitan la información que exigen al solicitarla. De acuerdo con Jvtech, El 70% de las personas que interactúan con ChatGPT y otros chatbots lo hacen usando cortesía, saludo y pidiendo cosas por favor.
A priori, Se podría pensar que esta actitud tan considerada no es más que un comportamiento habitual, o debido al hecho de que la IA, al final, tiene como objetivo simular el comportamiento humano. Pero no es así.
¿Y por qué lo hacen? Ese es lo más llamativo. En realidad, el estudio explica que este amistoso y considerado la IA corresponde a otra razón, mucho más única: lo hacen como una especie de precaución antes de lo que podría suceder en el futuro. En pocas palabras, parece que este miedo por su poder oculto o si en algún momento las máquinas realmente se revelaron y posicionarse contra los seres humanos, da lugar a todo esto.
Saber Cómo trabajamos en Informática.
Etiquetas: Inteligencia artificial, software
Con información de Telam, Reuters y AP
