Por qué estos escándalos de investigación de Facebook son diferentes

Hace una semana, los Wall Street Journal comenzó a publicar una serie de historias sobre Facebook basadas en los hallazgos internos de los investigadores de la empresa. Los archivos de Facebook, como se les conoce, presentan una cantidad vertiginosa de problemas que se desarrollan en la red social más grande del mundo.

Las historias detallan un sistema de gobierno separado y opaco para usuarios de élite conocido como XCheck; proporcionar evidencia de que Instagram puede ser perjudicial para un porcentaje significativo de adolescentes; y revelar que partidos políticos enteros han cambiado sus políticas en respuesta a cambios en el algoritmo de News Feed. Las historias también revelaron una enorme desigualdad en la forma en que Facebook modera el contenido en países extranjeros en comparación con la inversión que ha realizado en Estados Unidos.

Las historias han despertado la atención del público y los miembros del Congreso han anunciado una investigación. Y el escrutinio está creciendo a medida que los reporteros de otros medios aportan material propio.

Por ejemplo: Revisión de tecnología del MIT descubrió que a pesar de la importante inversión de Facebook en seguridad, en octubre de 2019, las granjas de trolls de Europa del Este llegaron a 140 millones de personas al mes con propaganda, y el 75 por ciento de esos usuarios lo vieron no porque siguieron una página, sino porque el motor de recomendaciones de Facebook les sirvió. ProPublica investigó Facebook Marketplace y encontró miles de cuentas falsas que participan en una amplia variedad de estafas. los New York Times reveló que Facebook ha tratado de mejorar su reputación en parte mediante el envío de historias a favor de Facebook en News Feed, un esfuerzo conocido como “Proyecto Amplify”. (Hasta la fecha, esto solo se ha probado en tres ciudades y no está claro si continuará).

La mayoría de los escándalos de Facebook van y vienen. Pero este se siente diferente a los escándalos de Facebook del pasado, porque ha sido liderado por la propia fuerza laboral de Facebook.


La última vez que Facebook se encontró bajo este escrutinio público fue en 2018, cuando el escándalo de privacidad de datos de Cambridge Analytica sacudió a la empresa. Fue un escándalo extraño por muchas razones, una de las cuales fue el hecho de que la mayoría de sus detalles se habían informado años antes. Lo que la convirtió en una historia internacional fue la idea de que los agentes políticos habían tratado de utilizar el vasto tesoro de datos demográficos de Facebook en un esfuerzo por manipular a los estadounidenses para que votaran por Donald Trump.

Hoy en día, casi todo el mundo está de acuerdo en que lo que Cambridge Analytica llamó “focalización psicográfica” fue un giro de marketing exagerado. Pero la idea de que Facebook y otras redes sociales están remodelando gradualmente sociedades enteras con su recopilación de datos, prácticas publicitarias, algoritmos de clasificación y métricas de participación se ha quedado en gran medida. Facebook es un gran negocio de todos los tiempos porque sus anuncios son muy efectivos para que la gente compre cosas. Y, sin embargo, ¿la empresa quiere que creamos que no es igualmente eficaz para lograr que la gente cambie su política?

Deberías leer:   la Comisión del Senado acusará a Bolsonaro de "homicidio" y "genocidio" por el manejo de la pandemia

Hay una desconexión allí, una que la empresa nunca ha resuelto realmente.

Aún así, invirtió $ 13 mil millones en seguridad y protección. Contrató a 40.000 personas para vigilar la red. Desarrolló una aptitud real para interrumpir redes de cuentas falsas. Se sintió más cómodo insertando información de alta calidad en el News Feed, ya sea sobre COVID-19 o el cambio climático. Cuando terminaron las elecciones presidenciales de EE. UU. De 2020, Facebook era apenas una nota al pie de la historia.

Pero persistieron las preguntas básicas. Cómo ¿Estaba vigilada la red, exactamente? ¿Se controlan los diferentes países de manera equitativa? ¿Y qué significa mirar un feed personalizado así todos los días a una persona, oa un país y su política?

Como siempre, existe el riesgo de ser un determinista tecnológico aquí: asumir que los algoritmos de Facebook son más poderosos que lo son o que operan en el vacío. La investigación que he destacado en esta columna ha demostrado que, a menudo, otras fuerzas pueden ser incluso más poderosas: Fox News, por ejemplo, puede inspirar un cambio mucho mayor en la política de una persona.

Por muchas razones, todos saldríamos beneficiados si pudiéramos aislar mejor el efecto de Facebook, o YouTube, o TikTok o Twitter, en el mundo en general. Pero debido a que mantienen la privacidad de sus datos, tanto por razones buenas como malas, pasamos mucho tiempo discutiendo sobre temas para los que a menudo tenemos poca base empírica. Hablamos de lo que Facebook es basado en cómo Facebook nos hace sentir. Y así, Facebook y el mundo terminan hablando entre sí.

Al mismo tiempo, y para su mérito, Facebook asignó algunos recursos para investigar algunas de las preguntas en nuestras mentes. Preguntas como, que es ¿Instagram le hace a las adolescentes?

Al hacerlo, Facebook plantó las semillas del momento actual. Las preguntas más urgentes en los informes recientes plantean la misma pregunta que hizo Cambridge Analytica: ¿Qué nos está haciendo esta red social?? Pero a diferencia de esa historia, esta vez tenemos datos reales para mirar, datos que el propio Facebook produjo.

Deberías leer:   el nuevo gabinete de Pedro Castillo enfrenta una dura batalla para ser aprobado en el Congreso

Cuando hablo con algunas personas en Facebook sobre algo de esto, se enfurecen. Dirán: los reporteros nos lo han dicho desde siempre; todas las historias recientes tienen más que un leve rastro de sesgo de confirmación. Dirán: el hecho de que un investigador de la empresa diga algo no significa que sea cierto. Preguntarán: ¿por qué nadie exige ver la investigación interna de YouTube, Twitter o TikTok?

Quizás esto explique la respuesta generalmente despectiva de la compañía a todos estos informes. La emotiva y dispersa publicación del blog de Nick Clegg. El CEO bromeando sobre eso. Los principales medios de comunicación, ahí van de nuevo.

Para mí, sin embargo, la semana pasada se sintió como un punto de inflexión.

A estas alturas, la mayoría de los investigadores de Facebook que alguna vez han hablado de la empresa en público han aprovechado la oportunidad para decir que sus superiores en gran medida obstaculizaron o ignoraron su investigación. Y lo que hemos leído de su investigación sugiere que la empresa a menudo ha actuado de forma irresponsable.

A veces, esto no es intencional: Facebook parece estar realmente sorprendido por el hallazgo de que Instagram parece ser responsable del aumento de la ansiedad y la depresión en las adolescentes.

Otras veces, la empresa actuó de manera irresponsable con pleno conocimiento de lo que estaba haciendo, como cuando asignó masivamente más recursos para eliminar contenido engañoso en los Estados Unidos que en el resto del mundo.

E incluso en los Estados Unidos, podría decirse que invirtió poco en seguridad: como lo expresó Samidh Chakrabarti, quien dirigió el equipo de integridad cívica de Facebook hasta este año: la muy publicitada inversión de $ 13 mil millones de la compañía. representa alrededor del cuatro por ciento de los ingresos.

A pesar de todo esto, por supuesto, Facebook está prosperando. Los usuarios diarios aumentaron un siete por ciento año tras año. Las ganancias han aumentado. El negocio de la publicidad posterior a la pandemia está floreciendo con tanta fuerza que incluso los publicistas digitales como Pinterest y Twitter están teniendo un año excepcional. Y el negocio de hardware de Facebook se está convirtiendo silenciosamente en un éxito, allanando potencialmente un camino desde aquí hasta el metaverso.

Pero aún así esa pregunta molesta: ¿Qué nos está haciendo esta red social? Ahora parece evidente que nadie en la empresa, o en el mundo en general, realmente lo ha abrazado. Y así, la reputación de la empresa está nuevamente en caída libre.

Una reacción natural a este estado de cosas, si estuviera dirigiendo la empresa, sería hacer menos investigación: ¡no más estudios negativos, no más titulares negativos! ¿Qué va a hacer el Congreso, celebrar una audiencia? A quién le importa. ¿Aprobar una ley? No este año.

Deberías leer:   La clase media de Venezuela se ubica como la más pobre de la región

Cuando Facebook se movió esta semana para dificultar que las personas ofrezcan voluntariamente sus propios datos de News Feed a un programa de investigación externo, señaló que esta es la forma en que se dirige.

Pero, ¿y si hiciera lo contrario? ¿Qué pasaría si invirtiera drásticamente más en investigación y presionara públicamente a sus pares para que se unieran a ella? ¿Qué pasaría si Facebook publicara de forma rutinaria sus hallazgos y permitiera que se auditaran sus datos? ¿Qué pasaría si la empresa facilitara enormemente que los investigadores calificados estudiaran la plataforma de forma independiente?

Esto no tendría precedentes en la historia de los negocios estadounidenses, pero Facebook es algo sin precedentes en el mundo. La empresa no puede reconstruir la confianza con el resto del mundo a través de publicaciones en blogs y tormentas de tweets. Pero podría comenzar ayudándonos a comprender sus efectos en el comportamiento humano, la política y la sociedad.

Sin embargo, esa no parece ser la forma en que van las cosas. En cambio, la empresa está realizando diferentes tipos de investigación: investigaciones como “¿qué sucede si mostramos a la gente buenas noticias sobre Facebook?” Me contaron una historia que apareció en la reciente prueba que informó a los usuarios de un incidente en el que la red social ayudó a una mujer a encontrar su caballo perdido. Quizás ese moverá la aguja.

Pero no debería bromear. Hay una idea real incrustada en esa prueba, que es que con el tiempo puedes remodelar la percepción mediante las narrativas que promueves. Que lo que aparece en News Feed puede cambiar la opinión pública con el tiempo, a la opinión de quien esté ejecutando el feed.

Es esta sospecha de que News Feed pueda impulsar tales cambios lo que ha impulsado gran parte de la propia investigación de la compañía y los temores sobre la influencia de la compañía, incluso cuando esa posibilidad ha sido minimizada implacablemente por la máquina de relaciones públicas de Facebook.

Pero ahora la empresa ha decidido comprobarlo por sí misma. Al público, le promete que no puede ser tan poderoso como dicen sus investigadores apóstatas.

Y luego, con Project Amplify, Facebook intentará ver si realmente tienen razón.


Esta columna fue coeditada con Platformer, un boletín diario sobre Big Tech y democracia.

Las ultimas noticias de California, editadas por los corresponsales en California. Si quieres sumarte no dudes en contactarnos.