En un editorial de Slate publicado el lunes, el renombrado investigador de seguridad Bruce Schneier advirtió que los modelos de IA pueden permitir una nueva era de espionaje masivo, permitiendo a las empresas y gobiernos automatizar el proceso de análisis y resumen de grandes volúmenes de datos de conversaciones, reduciendo fundamentalmente las barreras a las actividades de espionaje. que actualmente requieren mano de obra humana.
En el artículo, Schneier señala que el panorama existente de vigilancia electrónica ya ha transformado la era moderna, convirtiéndose en el modelo de negocio de Internet, donde nuestras huellas digitales son rastreadas y analizadas constantemente por razones comerciales. El espionaje, por el contrario, puede llevar ese tipo de vigilancia de inspiración económica a un nivel completamente nuevo:
«El espionaje y la vigilancia son cosas diferentes pero relacionadas», escribe Schneier. «Si contratara a un detective privado para espiarte, ese detective podría ocultar un micrófono en tu casa o en tu auto, intervenir tu teléfono y escuchar lo que dices. Al final, obtendría un informe de todas las conversaciones que tuviste. y el contenido de esas conversaciones. Si contratara a ese mismo detective privado para que te pusiera bajo vigilancia, obtendría un informe diferente: adónde fuiste, con quién hablaste, qué compraste, qué hiciste.
Schneier dice que los métodos de espionaje actuales, como las escuchas telefónicas o la vigilancia física, requieren mucha mano de obra, pero la llegada de la IA reduce significativamente esta limitación. Los sistemas de IA generativa son cada vez más expertos en resumir largas conversaciones y examinar conjuntos de datos masivos para organizar y extraer información relevante. Sostiene que esta capacidad no sólo hará que el espionaje sea más accesible sino también más completo.
«Este espionaje no se limita a las conversaciones en nuestros teléfonos o ordenadores», escribe Schneier. «Así como las cámaras en todas partes impulsaron la vigilancia masiva, los micrófonos en todas partes impulsarán el espionaje masivo. Siri, Alexa y ‘Hey, Google’ ya están siempre escuchando; las conversaciones simplemente no se están guardando todavía».
De la acción a la intención
Recientemente hemos visto un movimiento de empresas como Google y Microsoft para alimentar lo que los usuarios crean a través de modelos de IA con fines de asistencia y análisis. Microsoft también está construyendo copilotos de IA en Windows, que requieren procesamiento remoto en la nube para funcionar. Eso significa que los datos privados del usuario van a un servidor remoto donde se analizan fuera del control del usuario. Incluso si se ejecutan localmente, los modelos de IA suficientemente avanzados probablemente «comprenderán» el contenido de su dispositivo, incluido el contenido de las imágenes.
Microsoft dijo recientemente: «Pronto habrá un copiloto para todos y para todo lo que hagas».
A pesar de las garantías de privacidad de estas empresas, no es difícil imaginar un futuro en el que los agentes de inteligencia artificial que investiguen nuestros archivos confidenciales en nombre de la asistencia comiencen a llamar a casa para ayudar a personalizar la experiencia publicitaria. Con el tiempo, la presión gubernamental y policial en algunas regiones podría comprometer la privacidad de los usuarios a gran escala. Los periodistas y los trabajadores de derechos humanos podrían convertirse en los objetivos iniciales de esta nueva forma de vigilancia automatizada.
«Los gobiernos de todo el mundo ya utilizan la vigilancia masiva; también se dedicarán al espionaje masivo», escribe Schneier. A lo largo del camino, las herramientas de IA se pueden replicar a gran escala y están mejorando continuamente, por lo que las deficiencias de la tecnología actual pronto podrán superarse.
Lo que es especialmente pernicioso del espionaje impulsado por IA es que los sistemas de aprendizaje profundo introducen la capacidad de analizar la intención y el contexto de las interacciones a través de técnicas como el análisis de sentimientos. Significa un cambio de observar acciones con vigilancia digital tradicional a interpretar pensamientos y discusiones, lo que potencialmente impacta todo, desde la privacidad personal hasta las estrategias corporativas y gubernamentales en la recopilación de información y el control social.
En su editorial, Schneier plantea su preocupación por el efecto paralizador que el espionaje masivo podría tener en la sociedad, advirtiendo que el conocimiento de estar bajo vigilancia constante puede llevar a los individuos a alterar su comportamiento, autocensurarse y ajustarse a normas percibidas, lo que en última instancia asfixia libertad de expresión y privacidad personal.
Entonces, ¿qué puede hacer la gente al respecto? Cualquiera que busque protección contra este tipo de espionaje masivo probablemente necesitará buscar regulaciones gubernamentales para mantenerlo bajo control, ya que las presiones comerciales a menudo superan la seguridad y la ética tecnológicas. El Plan del presidente Biden para una Declaración de Derechos de la IA menciona la vigilancia impulsada por la IA como una preocupación. El proyecto de Ley de IA de la Unión Europea también puede abordar esta cuestión de manera indirecta hasta cierto punto, aunque aparentemente no directamente, a nuestro entender. Ninguno de los dos tiene actualmente efectos legales.
Sin embargo, Schneier no es optimista en ese frente y cierra con la frase: «Podríamos prohibir el espionaje masivo. Podríamos aprobar normas estrictas de privacidad de datos. Pero no hemos hecho nada para limitar la vigilancia masiva. ¿Por qué el espionaje sería diferente?». ?» Es un artículo que invita a la reflexión y puedes leerlo completo en Slate.