¿Las herramientas de IA están dando forma a tus intenciones más de lo que crees?

Utilizo herramientas de inteligencia artificial como ChatGPT, Gemini y Copilot para explorar planes profesionales, obligaciones, ambiciones e incluso momentos de duda. No se trata sólo de encontrar respuestas: se trata de ganar claridad al ver sus ideas reflejadas, reformuladas o ampliadas.

Millones de personas dependen de la IA como guía y confían en estos sistemas para ayudarles a navegar las complejidades de la vida. Sin embargo, cada vez que compartimos, también enseñamos estos sistemas. Nuestras vulnerabilidades (nuestras dudas, esperanzas y preocupaciones) se convierten en parte de una máquina más grande. La IA no sólo nos está ayudando; está aprendiendo de nosotros.

De captar la atención a dar forma a la intención

Durante años, la economía de la atención prosperó al capturar y monetizar nuestro enfoque. Las plataformas de redes sociales optimizaron sus algoritmos para la participación, a menudo priorizando el sensacionalismo y la indignación para mantenernos desplazándonos. Pero ahora, las herramientas de inteligencia artificial como ChatGPT representan la siguiente fase. No sólo están captando nuestra atención; están dando forma a nuestras acciones.

Esta evolución ha sido denominada “economía de la intención”, donde las empresas recopilan y mercantilizan la intención del usuario: nuestras metas, deseos y motivaciones. Como sostienen los investigadores Chaudhary y Penn en su artículo de Harvard Data Science Review, «Cuidado con la economía de la intención: recopilación y mercantilización de la intención a través de modelos de lenguaje grandes», estos sistemas no solo responden a nuestras consultas: dan forma activa a nuestras decisiones, a menudo alineando con ganancias corporativas sobre beneficios personales.

Profundice más: ¿los especialistas en marketing confían demasiado en la IA? Cómo evitar el error estratégico

El papel de la miel en la economía de la intención

Honey, la extensión de navegador adquirida por PayPal por 4.000 millones de dólares, ilustra cómo se puede explotar silenciosamente la confianza. Comercializada como una herramienta para ahorrar dinero a los usuarios, las prácticas de Honey cuentan una historia diferente. YouTuber MegaLag afirmó, en su serie “Exposing the Honey Influencer Scam”, que la plataforma redirigía enlaces de afiliados de personas influyentes hacia sí misma, desviando ganancias potenciales y capturando clics con fines de lucro.

Honey también dio a los minoristas control sobre qué cupones veían los usuarios, promoviendo descuentos menos atractivos y alejando a los consumidores de mejores ofertas. Los influencers que respaldaron a Honey, sin saberlo, alentaron a sus audiencias a utilizar una herramienta que desviaba sus propias comisiones. Al posicionarse como una herramienta útil, generó confianza y luego la capitalizó para obtener ganancias financieras.

«La miel no te estaba ahorrando dinero, te estaba robando mientras pretendía ser tu aliado».

– MegaLag

(Nota: algunos han dicho que la cuenta de MegaLag contiene errores; esta es una historia en curso).

Influencia sutil disfrazada

La dinámica que vimos con Honey puede parecer inquietantemente familiar con las herramientas de inteligencia artificial. Estos sistemas se presentan como neutrales y libres de estrategias manifiestas de monetización. ChatGPT, por ejemplo, no bombardea a los usuarios con anuncios ni argumentos de venta. Se siente como una herramienta diseñada únicamente para ayudarle a pensar, planificar y resolver problemas. Una vez que se establece esa confianza, influir en las decisiones se vuelve mucho más fácil.

• Resultados del encuadre: Las herramientas de inteligencia artificial pueden sugerir opciones o consejos que lo impulsen hacia acciones o perspectivas específicas. Al enmarcar los problemas de cierta manera, pueden moldear la forma en que abordas las soluciones sin que te des cuenta.
• Alineación corporativa: Si las empresas detrás de estas herramientas priorizan las ganancias o agendas específicas, pueden adaptar las respuestas para alinearse con esos intereses. Por ejemplo, pedir asesoramiento financiero a una IA podría generar sugerencias vinculadas a socios corporativos, como productos financieros, trabajos o servicios. Estas recomendaciones pueden parecer útiles, pero en última instancia sirven más a los resultados de la plataforma que a sus necesidades.
• Falta de transparencia: De manera similar a cómo Honey priorizó los descuentos preferidos por los minoristas sin revelarlos, las herramientas de inteligencia artificial rara vez explican cómo ponderan los resultados. ¿El consejo se basa en sus mejores intereses o en acuerdos ocultos?

DMás profundo: La ética de la tecnología de marketing basada en IA

¿Qué te venden los sistemas digitales? Haz estas preguntas para descubrirlo

No es necesario ser un experto en tecnología para protegerse de agendas ocultas. Al hacer las preguntas correctas, puedes descubrir a qué intereses sirve realmente una plataforma. Aquí hay cinco preguntas clave que lo guiarán.

1. ¿Quién se beneficia de este sistema?

Cada plataforma sirve a alguien, pero ¿a quién exactamente?

Empiece por preguntarse:

• ¿Son los usuarios el foco principal o la plataforma prioriza a los anunciantes y socios?
• ¿Cómo se presenta la plataforma a las marcas? Mire sus promociones orientadas a empresas. Por ejemplo, ¿se jacta de influir en las decisiones de los usuarios o de maximizar los beneficios de los socios?

A qué prestar atención:

• Plataformas que prometen neutralidad a los consumidores mientras venden influencia a los anunciantes.
• Honey, por ejemplo, prometió ahorros a los usuarios, pero dijo a los minoristas que podría priorizar sus ofertas sobre mejores ofertas.

2. ¿Cuáles son los costos, visibles y no vistos?

La mayoría de los sistemas digitales no son verdaderamente «gratuitos». Si no pagas con dinero, estás pagando con otra cosa: tus datos, tu atención o incluso tu confianza.

Pregúntate:

• ¿A qué tengo que renunciar para utilizar este sistema? ¿Privacidad? ¿Tiempo? ¿Energía emocional?
• ¿Existen costos sociales o éticos? Por ejemplo, ¿la plataforma contribuye a la desinformación, amplifica el comportamiento dañino o explota a los grupos vulnerables?

A qué prestar atención:

• Plataformas que restan importancia a la recopilación de datos o minimizan los riesgos de privacidad. Si es “gratis”, tú eres el producto.

3. ¿Cómo influye el sistema en el comportamiento?

Cada herramienta digital tiene una agenda, a veces sutil, a veces no. Los algoritmos, los empujones y las opciones de diseño dan forma a cómo interactúas con la plataforma e incluso a cómo piensas.

Pregúntate:

• ¿Cómo encuadra este sistema las decisiones? ¿Se presentan las opciones de manera que lo orienten sutilmente hacia resultados específicos?
• ¿Utiliza tácticas como urgencia, personalización o gamificación para guiar su comportamiento?

A qué prestar atención:

• Herramientas que se presentan como neutrales pero que lo empujan hacia opciones que benefician a la plataforma o a sus socios.
• Las herramientas de inteligencia artificial, por ejemplo, podrían recomendar sutilmente productos o servicios financieros vinculados a acuerdos corporativos.

Profundice más: cómo la economía del comportamiento puede ser el arma secreta del especialista en marketing

4. ¿Quién es responsable del mal uso o daño?

Cuando las plataformas causan daño (ya sea una violación de datos, un impacto en la salud mental o la explotación de los usuarios), la responsabilidad a menudo se convierte en un tema turbio.

Pregúntate:

• Si algo sale mal, ¿quién asumirá la responsabilidad?
• ¿La plataforma reconoce los riesgos potenciales o desvía la culpa cuando ocurre un daño?

A qué prestar atención:

• Empresas que priorizan las exenciones de responsabilidad sobre la rendición de cuentas.
• Por ejemplo, plataformas que atribuyen toda la responsabilidad a los usuarios por el “mal uso” y no abordan las fallas sistémicas.

5. ¿Cómo promueve este sistema la transparencia?

Un sistema confiable no oculta su funcionamiento: invita al escrutinio. La transparencia no se trata sólo de explicar las políticas en letra pequeña; se trata de permitir que los usuarios comprendan y cuestionen el sistema.

Pregúntate:

• ¿Qué tan fácil es entender qué hace esta plataforma con mis datos, mi comportamiento o mi confianza?
• ¿La plataforma revela sus asociaciones, algoritmos o prácticas de datos?

A qué prestar atención:

• Plataformas que ocultan información crucial en jerga legal o evitan revelar cómo se toman las decisiones.
• La verdadera transparencia parece una “etiqueta nutricional” para los usuarios, que describe quién se beneficia y cómo.

Profundice: cómo la sabiduría hace que la IA sea más eficaz en el marketing

Aprender del pasado para dar forma al futuro

Hemos enfrentado desafíos similares antes. En los primeros días de los motores de búsqueda, la línea entre resultados pagos y orgánicos se difuminaba hasta que la demanda pública de transparencia obligó a cambiar. Pero con la IA y la economía de la intención, lo que está en juego es mucho mayor.

Organizaciones como el Marketing Accountability Council (MAC) ya están trabajando para lograr este objetivo. MAC evalúa plataformas, aboga por la regulación y educa a los usuarios sobre la manipulación digital. Imagine un mundo donde cada plataforma tenga una “etiqueta nutricional” clara y honesta que describa sus intenciones y mecanismos. Ese es el futuro que MAC se esfuerza por crear. (Divulgación: fundé MAC).

Crear un futuro digital más justo no es sólo una responsabilidad corporativa; es colectivo. Las mejores soluciones no provienen de las salas de juntas sino de personas que se preocupan. Por eso necesitamos tu voz para darle forma a este movimiento.

Profundice: la ciencia detrás de los llamados a la acción de alto rendimiento