alertan por una campaña de desinformación con avatares creados con inteligencia artificial

El inteligencia artificial generativa Se convirtió en una de las tecnologías más disruptivas en los últimos años. Desde la escritura automática hasta la creación de imágenes, su uso se expandió a casi todos los rincones de Internet. Pero como suele suceder, también se convirtió en una herramienta útil para Ciberacinales.

Varias compañías de seguridad han estado advirtiendo sobre estos problemas. De los Laboratorios de Eset Latina América, la compañía se especializó en ciberseguridad, alertó sobre una campaña de desinformación que circula en redes sociales como Tiktok e Instagram: estos son videos en los que los avatares generados con inteligencia artificial Simulan ser médicos y recomendan tratamientos o suplementos que no tienen garantía científica.

De Kaspersky, otra de las compañías que se refieren a la ciberseguridad a nivel mundial, también advierten sobre el progreso de los defensores como una herramienta cada vez más común Entre los actores maliciosos.

En un informe reciente, la compañía advirtió sobre el uso de esta tecnología en campañas de ingeniería social, donde los estafadores usan videos falsos para suplantar las identidades y manipular emocionalmente a las víctimas. “Los defectos profundos ya no son solo un recurso de entretenimiento o sátira: Ahora se utilizan para fraude financiero, chantaje y campañas de manipulación a gran escala. Su realismo plantea nuevos desafíos para la verificación de la información en Internet ”, explicaron desde el equipo de Kaspersky Lab.

El objetivo detrás de estos videos es claro: inducir a los usuarios a comprar productos, algunos de ellos potencialmente peligrosos, presentados como si fueran parte de un tratamiento médico legítimo.

Los videos siguen una lógica similar: en una caja dentro de la pantalla, aparece un avatar con apariencia humana que se presenta como un profesional de la salud con años de experiencia. La estética es ordenada, La voz suena convincente y el contenido se presenta como una recomendación de salud. Pero todo es falso.

«Utilizan una estrategia de marketing injusta en la que intentan generar una validación falsa de supuestos especialistas para hacer creer que el mensaje está dado por un persona con conocimiento del tema«Explica Camilo Gutiérrez Amaya, jefe del Laboratorio de Investigación de América Latina ESET.

Según ESET, la técnica se basa en el uso de plataformas que le permiten crear videos con avatares personalizados. El Creador solo tiene que grabar unos minutos de material base (hablar o posar), y luego el sistema permite generar clips en los que el avatar repite cualquier mensaje, con la sincronización de labios incluida.

Uno de los casos más llamativos detectados por ESET muestra un supuesto médico que recomienda un «extracto natural» que, según el video, sería más efectivo que OzímpicoEl medicamento indicó originalmente para la diabetes tipo 2 que se hizo popular por sus efectos para perder peso.

El enlace de video dirige al usuario a una página de Amazon, pero el producto vendido allí no está relacionado con el medicamento mencionado: son simplemente «gotas de relajación» con propiedades que no son compatibles adecuadamente.

Esta estrategia combina el engaño tecnológico con presión emocional y marketing agresivo. Y como el formato está diseñado para parecer una recomendación médica, El riesgo de caer en la trampa aumenta.

La mayoría de estos contenidos circulan en redes de video cortas como Tiktok e Instagram. Según ESET, se identificaron más de 20 cuentas que usan este formato, todas con un patrón similar: avatares profesionales, una historia convincente y Un producto «milagroso» detrás.

Muchos de estos avatares son generados por programas que ofrecen a cualquiera que se convierta en «actor IA». La persona registra algunos clips, los sube a la plataforma y, a cambio, puede recibir dinero para los videos generados con su imagen.

Aunque en muchos casos el uso de este tipo de contenido viola los términos y condiciones de las plataformas, el problema continúa creciendo debido a la velocidad con el que este material puede ser producido y difundido.

«Este tipo de videos no solo puede inducir errores de salud, sino también representar un mayor riesgo en contextos de información errónea masiva», advierten de ESET.

En la misma línea, Palo Alto Networks identificaron un crecimiento sostenido en el uso de defectos profundos como parte de los ataques dirigidos, incluso en contextos corporativos y políticos.

Según un informe de su unidad especializada en amenazas, la Unidad 42, los casos en que las voces clonadas o los videos falsos de ejecutivos ya se utilizan para autorizar las transferencias bancarias o influir en las decisiones estratégicas dentro de las organizaciones ya se están registrando.

«Los defectos profundos están migrando de un espacio público a privado, con técnicas cada vez más difíciles para detectar. Esta evolución aumenta un riesgo creciente para las empresas y los gobiernos que aún No tienen protocolos específicos Para validar la autenticidad de audios o videos «, dice el informe de la compañía.

En tiempos de información errónea viral, identificar cuándo enfrentamos contenido falsificado es fundamental. ESET recomienda prestar atención a una serie de señales que pueden ayudar a desenmascarar estos engaños.

• Decronación de labios y voz: cuando el audio no coincide exactamente con el movimiento de la boca.

• Expresiones faciales rígidas O antinatural: los gestos no se ven fluido o parecen forzados.

• Artefactos visuales: Bordes borrosos, cortes o iluminación mal editados que cambian sin lógica.

• Voz artificial: Tono monótono, robótico o sin inflexiones emocionales.

• Cuentas recientes y sin historia: Nuevos perfiles, con pocos seguidores o sin publicaciones anteriores.

• Lenguaje sensacional: Frases como «cura milagrosa», «lo que los médicos no quieren que sepas» o «100% garantizado».

• Falta de evidencia científica: declaraciones sin apoyo o referencias a estudios poco confiables.

• Urgencia para comprar: Mensajes que presionan, como «oferta de tiempo limitado» o «Últimas unidades».

«Si encontramos este tipo de contenido, es vital no compartir o creer antes de verificar el origen o el propósito de las afirmaciones de los videos. Además, y en el caso de identificar un contenido engañoso, debemos denunciar la publicación antes de la red social que estamos utilizando», recomienda Gutierrez Amaya.

En plena era de inteligencia artificial, la información errónea ya no requiere bots torpes o cuentas falsas mal armadas. Ahora puede venir con una cara humana, un tono profesional y una apariencia confiable. El desafío, como siempre, No se debe engañar.