A fines de la semana pasada, la sección de viajes de Microsoft de MSN.com publicó un artículo generado por IA sobre las atracciones «imperdibles» de Ottawa que incluyen el Banco de alimentos de Ottawa, una organización benéfica real que alimenta a las familias en apuros. En su texto de recomendación, el modelo de IA de Microsoft escribió: «Considere entrar con el estómago vacío».
Titulado, «¿Dirigido a Ottawa? ¡Esto es lo que no debe perderse!» (archivo aquí), el artículo ensalza las virtudes de la ciudad canadiense y recomienda asistir al festival Winterlude (que solo tiene lugar en febrero), visitar un juego de los Senadores de Ottawa. , y patinar en «La pista de patinaje sobre hielo natural más grande del mundo» (sic).
Como destino número 3 en la lista, Microsoft Travel sugiere visitar el Banco de Alimentos de Ottawa, probablemente extraído de un resumen que se encuentra en línea pero rematado con una desafortunada frase.
La organización ha estado recolectando, comprando, produciendo y entregando alimentos a personas y familias necesitadas en el área de Ottawa desde 1984. Observamos cómo el hambre afecta diariamente a hombres, mujeres y niños, y cómo puede ser una barrera para el logro. . Las personas que acuden a nosotros tienen trabajos y familias que mantener, así como gastos que pagar. La vida ya es bastante difícil. Considere la posibilidad de hacerlo con el estómago vacío.
Esa última línea es un ejemplo del tipo de perogrullada vacía (o resumen vergonzoso y erróneo) que uno puede encontrar fácilmente en la escritura generada por IA, insertada sin pensar porque el modelo de IA detrás del artículo no puede entender el contexto de lo que está haciendo.
El artículo está acreditado a «Microsoft Travel» y es probable que sea el producto de un modelo de lenguaje grande (LLM), un tipo de modelo de IA entrenado en una gran cantidad de texto que se encuentra en Internet. El socio de Microsoft, OpenAI, causó sensación con los LLM llamados GPT-3 en 2020 y GPT-4 en 2023, los cuales pueden imitar los estilos de escritura humanos pero se han utilizado con frecuencia para tareas inadecuadas, según los críticos.
Desde el anuncio de grandes inversiones y colaboraciones con el fabricante de ChatGPT OpenAI en enero y la aparición de Bing Chat el mes siguiente, Microsoft ha estado experimentando con la integración de contenido generado por IA en sus publicaciones y servicios en línea, como agregar historias generadas por IA a Bing Search e incluye resúmenes de revisión de aplicaciones generados por IA en Microsoft Store. «Microsoft Travel» parece ser otro uso de producción de la tecnología de IA generativa.
Notado por primera vez por el autor de tecnología Paris Marx en Bluesky, la publicación en el Banco de Alimentos de Ottawa comenzó a ganar fuerza en las redes sociales el jueves por la noche. En respuesta a la publicación de Marx, la crítica frecuente de LLM Emily Bender señaló: «No puedo encontrar nada en esa página que lo marque abiertamente como generado por IA. Parece una falla importante en dos de sus principios de ‘IA responsable'».
Bender también señaló las políticas de Microsoft; uno es «Transparencia» y dice: «¿Cómo podría la gente malinterpretar, usar mal o estimar incorrectamente las capacidades del sistema?» y el otro es «Responsabilidad», que establece: «¿Cómo podemos crear supervisión para que los humanos puedan ser responsables y tener el control?»
A juzgar por el contenido del artículo de Ottawa, es más que probable que un ser humano no haya sido responsable de escribir el artículo y que nadie haya revisado completamente su contenido antes de su publicación, lo que significa que Microsoft está publicando contenido generado por IA en Internet con poco o nada. -sin supervisión.
Microsoft no estuvo disponible de inmediato para hacer comentarios al cierre de esta edición.