Meredith Whittaker está harta del contingente de “casas de fraternidad” de la industria tecnológica. Me senté con el presidente de Signal en VivaTech en París para repasar la amplia gama de problemas graves y adultos que enfrenta la sociedad, desde la desinformación hasta quién controla la IA y el estado de vigilancia invasor. En el curso de nuestra conversación, profundizamos en la reciente guerra de palabras de Signal con Elon Musk, Pavel Durov de Telegram y, dado su controvertido choque con Scarlett Johanson, los pensamientos sinceros de Whittaker sobre el liderazgo en OpenAI, que ella comparó con «altos dormitorios». -jolgorio.»
Entre otras cosas, a Whittaker le preocupa la concentración de poder en las cinco principales plataformas de medios sociales, especialmente en un año en el que el mundo se enfrenta a un gran número de elecciones generales, sobre todo en EE.UU., y la dependencia de Europa de empresas externas basadas en EE.UU. , gigantes tecnológicos. Sostuvo que flexibilizar las regulaciones de la UE en realidad no ayudará a Europa a competir con los gigantes tecnológicos estadounidenses ni será bueno para la sociedad. Criticó la obsesión de los medios con los deepfakes impulsados por IA, mientras que a menudo ignora cómo las plataformas de redes sociales priorizan el compromiso hiperbólico sobre los hechos.
También discutimos la publicidad de vigilancia, las implicaciones del proyecto de ley de seguridad en línea del Reino Unido, las propuestas EU-CSAM (“absolutamente peligrosas”) y si Pavel Durov de Telegram debería dedicar más tiempo a hacer que su plataforma sea segura que a ser seguido por un fotógrafo en su cuenta de Instagram. («Está lleno de m…»).
Y hacia el final, reveló por qué pasará los próximos seis meses en Europa.
Últimamente usted ha estado hablando de la concentración de poder en la IA y de que esto era importante en el contexto europeo. ¿Le gustaría ampliar eso?
La respuesta muy breve es que eso es importante en el contexto europeo, porque ese poder no está concentrado en Europa. Sí, ese poder está concentrado en manos de un puñado de empresas que residen en Estados Unidos, y luego algunas más en China. Pero cuando hablamos de este contexto, hablamos de Estados Unidos. La dependencia de Europa, de las empresas emergentes europeas, de los gobiernos europeos y de las instituciones europeas en la IA es, en última instancia, una dependencia de infraestructuras y sistemas que se crean, controlan y redundan en ganancias y crecimiento de este puñado de empresas.
Ahora, el contexto en el que estamos hablando es mayo de 2024. Ahora, no sé cuántos meses tenemos hasta las elecciones y me niego a recordar eso ahora mismo. Pero estamos ante la posibilidad muy real de un régimen de Trump y de un gobierno estadounidense de estilo más autoritario y que parte del [Republican] El partido ha tenido el ojo puesto en controlar la tecnología y, en particular, las redes sociales durante mucho tiempo. Entonces, ¿esas son consideraciones que deberían tomarse en conjunto en un análisis de qué es la IA? ¿A quién sirve la IA? ¿Y por qué Europa debería preocuparse por la concentración de poder en la industria de la IA?
Hay un debate en Europa sobre el aceleracionismo y las tecnologías de aceleración. Algunos empresarios europeos se sienten frustrados por la regulación europea. ¿Cree que está justificada su preocupación por una posible regulación europea, tal vez por una desaceleración de la UE en el ritmo del progreso tecnológico?
Perdón, vengo de La Academia. Así que soy muy estricto con las definiciones. Quiero desentrañar eso un poco. ¿Se parte aquí la premisa de que sin tales grilletes, Europa sería libre de crear competidores iguales a los gigantes tecnológicos estadounidenses? Si esa es la presunción, eso no es cierto. Saben que esto no es cierto. Cualquiera que comprenda la historia, los modelos de negocio y el profundo arraigo de estas empresas también sabe que eso no es cierto.
Puede haber frustración con la regulación que «ralentiza su serie B». Pero creo que debemos buscar una definición de «progreso» que se base en eliminar todas las barreras que regirían el uso y abuso de tecnologías a las que actualmente se les ha encomendado la tarea de tomar determinaciones increíblemente sensibles; actualmente vinculado con infraestructuras de vigilancia masiva que están acelerando nuevas formas de control social; que se están utilizando para degradar y disminuir el trabajo. ¿Es eso lo que queremos? ¿Es eso un progreso? Porque si no definimos nuestros términos, creo que podemos quedar atrapados en estos cuentos de hadas.
Claro, algunos muchachos serán sólidamente de clase media después de cobrar, y eso es bueno para ellos. Pero no combinemos eso con el progreso hacia un futuro habitable. Progreso hacia una estructura de gobernanza socialmente beneficiosa, progreso hacia una tecnología que realmente satisfaga las necesidades humanas, que realmente rinda cuentas ante los ciudadanos.
Ha puesto el ejemplo de la desinformación sobre el contenido generado por IA sobre Zelensky y su esposa. Como videos falsificados y sitios web generados por IA.
El enfoque en los deepfakes en el vacío en realidad pasa por alto el bosque en lugar de los árboles, siendo el «bosque» el hecho de que ahora dependemos de cinco plataformas masivas de redes sociales como árbitros. [TikTok, Facebook, Instagram, Twitter/X and YouTube]
Estas plataformas masivas y homogéneas de redes sociales están incentivadas a calibrar sus algoritmos de participación porque quieren más clics, más vistas de anuncios, que están incentivadas a elevar el contenido de mierda, contenido grandilocuente, contenido hiperbólico, contenido completamente falso, ¿verdad? Y ahí es donde estamos viendo, en mi opinión, que la IA se utiliza para desinformar de una manera mucho más poderosa. Ahí es donde encontrarías un deepfake. Ya nadie va a un sitio web. Vas a Twitter, YouTube, buscas y ves lo que hay allí.
Ves un titular y haces clic en él, haces clic en alguien que publica desde ese sitio web. No creo que podamos tener una conversación sobre desinformación sin tener una conversación sobre el papel de las plataformas masivas y homogéneas que han canibalizado nuestro ecosistema de medios y nuestro ecosistema de información al servicio de las ganancias y el crecimiento de un puñado de empresas.
En el Reino Unido contamos con la Autoridad de Normas de Publicidad. En Alemania no se pueden anunciar recuerdos nazis, por ejemplo en eBay. ¿Habría formas de vigilar la industria publicitaria y, por lo tanto, crear mejores reglas y mejores resultados a partir de las plataformas que dependen de la publicidad como modelo de negocio?
Creo que prohibir la publicidad vigilada sería un muy buen primer paso. Realmente estaríamos cortando la raíz de las patologías que estamos enfrentando en la industria tecnológica, que es esta vigilancia masiva en nombre de la influencia, influencia para vender algo, influencia para convencer a alguien de que vote por algo, influencia para desinformar a alguien. . En definitiva, ese es el juego.
Los datos de entrenamiento para esa vigilancia masiva, como usted dice, se pusieron de relieve con la historia sobre el uso por parte de OpenAI de la voz de IA «Sky» que sonaba bastante similar a la de Scarlett Johansson. Más tarde reveló que Sam Altman se había puesto en contacto con ella para que usara su voz. ¿Tienes idea de quién ganó ese incidente?
Publiqué esto en Twitter, pero es como… toros de ‘Edge Lord’—. Es tan irrespetuoso. Es tan innecesario. Y realmente se rasga el velo de esta mitología de que todos ustedes son personas serias en la cúspide de la ciencia que construyen la próxima Divinidad, cuando está muy claro que la cultura son travesuras de dormitorio incitadas por un grupo de ‘hombres que sí’. que piensan que cada chiste que dices es gracioso, porque les pagan por hacer eso, y nadie alrededor toma a este liderazgo por los hombros y dice: ‘¿¡Qué carajo estás haciendo!?’
El año pasado en Tecno Disrupt hubo una discusión con usted sobre el proyecto de ley de seguridad en línea del Reino Unido (ahora Ley) que sugería que podría pedir a las empresas de tecnología que incorporen puertas traseras en su cifrado de extremo a extremo. ¿Cuál es su posición ahora que se aprobó el proyecto de ley?
Nunca lo haríamos. Nunca lo haremos. Lo que dijimos fue que si tomaban medidas para hacer cumplir esa parte del proyecto de ley, Ofcom podría usarlo para decirle a Signal ‘tienen que construir una puerta trasera, tienen que implementar un escaneo del lado del cliente’, que es una puerta trasera, nosotros dejar [the UK]. Porque no vamos a hacer eso. Nunca vamos a traicionar a las personas que confían en Signal, especialmente porque muchos de ellos dependen de él, en contextos donde la seguridad digital es una cuestión de vida o muerte.
Lo que parece claro es que a Ofcom le entregaron una bolsa gigante de tonterías salvajes, algunas de las cuales son interesantes, otras no, construida como un árbol de Navidad, donde todos habían añadido su adorno favorito. Se aprobó por inercia política, no [through] cualquier apoyo real. Cada parlamentario con el que hablé en el período previo al proyecto de ley me dijo: ‘Sí, lo sabemos, pero nadie va a hacer nada al respecto’. Y ahora Ofcom tiene que ocuparse de hacerla cumplir. Y así… cada dos meses aparecen otras 1.700 páginas por las que hay que pagarle a alguien para que las lea.
¿Entonces no ha recibido ninguna presión por parte de Ofcom todavía?
No, y mi experiencia con los líderes de Ofcom ha sido que son bastante razonables. Ellos entienden estos problemas. Pero nuevamente, les entregaron este proyecto de ley y ahora están tratando de decidir qué hacer allí.
Hubo un acontecimiento reciente en el que están consultando sobre IA para la seguridad en línea. ¿Tienes algún comentario sobre eso?
Estoy muy preocupado por el control de edad. Y esta idea de que necesitamos una base de datos, [for instance] dirigida por Yoti, una empresa con sede en EE. UU. que está presionando mucho por estas infraestructuras, que harían identificación biométrica o algún tipo de aprendizaje automático, magia inexacta, o tendrían una base de datos de identificaciones, o lo que sea, eso significa que efectivamente tienes que iniciar sesión con su identidad real y su edad y cualquier otra información que deseen, para poder visitar un sitio web.
Estás hablando de un increíble régimen de vigilancia masiva. En Estados Unidos, durante mucho tiempo los bibliotecarios se mantuvieron firmes en no revelar lo que la gente sacaba en préstamo porque esa información era muy sensible. Puede observar el caso de Robert Bork y sus alquileres y compras de videos y cuán sensible era esa información. Lo que ven aquí con estas disposiciones es simplemente el comienzo de algo que ignora por completo la comprensión de cuán sensibles son esos datos y crea una [situation] donde debe consultar con las autoridades antes de poder utilizar un sitio web.
La Comisión Europea ha propuesto una nueva Directiva para refundir las normas de derecho penal en torno al material de abuso sexual infantil (EU-CSAM). ¿Cuál es su opinión sobre esta propuesta?
Sinceramente, no parece que haya voluntad política. [for it]. Pero es notable que parezca haber este contingente rabioso, que a pesar de los informes de investigación condenatorios, muestra la mano dura que jugaron los lobbystas de la industria del escaneo y la biometría al redactar esta legislación. Esto, a pesar de que toda la comunidad de expertos (cualquiera que investigue sobre seguridad o criptografía y comprenda estos sistemas y sus límites) salga y diga que esto es absolutamente inviable. De lo que estás hablando es de una puerta trasera en las infraestructuras centrales de las que dependemos para el gobierno, el comercio y las comunicaciones.
Es absolutamente peligroso y, oh, espera, no hay datos que demuestren que esto realmente vaya a ayudar a los niños. Hay un enorme déficit de financiación para los servicios sociales y la educación. Hay problemas reales para ayudar a los niños. No se están centrando en ellos. En cambio, existe esta obsesión por una puerta trasera al cifrado, por romper la única tecnología que tenemos que puede garantizar la confidencialidad, la autenticidad y la privacidad. Así que los argumentos están ahí. Está muy claro que están equivocados. Está muy claro que este proceso ha sido corrupto, por decir lo menos. Y, sin embargo, parece haber una facción que simplemente no puede dejar ir ese hueso.
Está claro que está preocupado por el poder de las plataformas de IA centralizadas. ¿Qué opina de la llamada “IA descentralizada” de la que habla Emad Mostaque, por ejemplo?
Escucho un eslogan. Dame un argumento. Dame una arquitectura. Dime…