Sin que nos demos cuenta, la inteligencia artificial, ChatGPT y OpenAI, están en todas partes. La prueba es sencilla. Si ingresa la frase «Lo sentimos, su solicitud va en contra de la política de OpenAI.«, en los buscadores de Amazon USA, eBay y Obtendrás docenas de productos y cuentas..
Resulta que muchos productos de Amazon se llaman así: «Lo siento, su solicitud va en contra de la política de OpenAI». También cientos de respuestas de cuentas X. ¿Qué está sucediendo?
Como puedes ver en la captura de pantalla anterior de Amazon.com, el viernes pasado docenas de productos de Amazon tenían el mismo nombre, con pequeñas variaciones: «Lo siento, pero no puedo atender su solicitud porque viola la política de OpenAI»..
Una limitación de OpenAI y las miserias de la IA
Esta frase se puede ver tanto en el nombre del producto como en su descripción. Incluyendo descripciones de productos tan ridículas como: «Nuestro [producto] Se puede utilizar para diversas tareas, como [tarea 1], [tarea 2] y [tarea 3]convirtiéndolo en un complemento versátil para tu hogar».
Al momento de escribir esta noticia, hice una búsqueda en Amazon.com y estos artículos ya no aparecen. Seguramente Amazon se ha metido y los ha eliminado a todos. Pero Después de probar eBay.com me han aparecido algunas:
En muchos casos se trata de artículos que sólo muestran imágenes generadas por ordenador, posiblemente con DALL-E, por lo que el producto ni siquiera existe, aunque no quiere decir que sea ilegal. Simplemente, eso Toda la ficha de producto ha sido generada con ChatGPT. Y la IA de OpenAI ha dicho «basta».
Lo mismo sucede si buscas en X la frase: «va en contra de la política de contenidos de OpenAI». me han aparecido decenas de mensajes de X cuentas que responden con la misma frase:
¿Qué está sucediendo? La respuesta es simple. Muchos vendedores de Amazon y eBay utilizan ChatGPT para genera tus fichas de producto.
Del mismo modo, Muchas cuentas X son bots que generan respuestas usando ChatGPT.
Hasta ahora OpenAI lo permitía, pero Ante la plaga de productos comerciales generados por IA, y cuentas falsas de X y otras redes sociales, OpenAI ha cerrado el grifo. Cuando la IA detecta que el usuario está realizando estas actividades, advierte con «lo siento, su solicitud viola la política de OpenAI».
Muchos vendedores y creadores de bots han tardado en darse cuenta de esto, y por eso han aparecido en X productos y respuestas con la citada frase.
Más allá de la curiosidad, es un problema grave. Porque las descripciones de los productos son falsas, son inventados por una IA, no son una descripción real de cómo es el producto real, porque la IA no lo ha probado. Y Los robots X intentan hacerse pasar por personas para engañar, estafar, confundir o difundir noticias falsas o ideas extremistas..
Amazon nos ha enviado su postura oficial al respecto, ya que verifica constantemente que los listados de terceros vendedores sean precisos.
Esto es lo que dice Amazon: «Trabajamos duro para brindar una experiencia de compra confiable a los clientes, lo que incluye exigir a los vendedores externos que proporcionen listados de productos precisos e informativos. Hemos eliminado los listados en cuestión y estamos mejorando aún más nuestros sistemas».
La inteligencia artificial va a traer muchas cosas buenas, pero también tiene un lado oscuro, como Productos falsos creados con ChatGPT y X bots.. Recién estamos empezando a descubrirlo…
Conocido cómo trabajamos en Computerhoy.
Etiquetas: Inteligencia artificial, Twitter, Repub, ShareOnFB
Con información de Telam, Reuters y AP