¿Ai escribió la oración que estás leyendo ahora mismo? ¿AI creó la fotografía que acabas de ver en línea? ¿Fue la historia impactante y controvertida que inclinó una elección realmente real o una información errónea alimentada con AI?
Estas son preguntas con las que Clara Tsao ha luchado durante años, desde la protección de la seguridad nacional (donde fue la CTO de un equipo enfocada en contrarrestar el extremismo local) hasta crear una mejor Internet, donde es cofundadora de la Asociación Profesional de Trust y Seguridad. (También de alguna manera encuentra tiempo para ser presidenta de los becarios de innovación presidencial de la Casa Blanca y sirve como asesora principal de Tech Against Terrorism).
«Para mí, siempre se ha tratado, cómo traemos más democracia a la Web, porque es una red abierta que todos deberían tener el derecho humano fundamental a acceder», dice Tsao, un oficial fundador de la Fundación Filecoin, y que aparecerá en el escenario en la Cumbre de IA en Consensus 2025.
Tsao sabe que AI, en cierto sentido, está dificultando todos estos trabajos. Por lo tanto, FileCoin se centra en usar blockchain para garantizar la autenticidad digital y oler falsificaciones. «La IA va a turbocompresar todo lo que vemos hoy, para bien y por mal», dice Tsao. «Y al final del día, creo que todos quieren saber si están hablando con una IA o con un humano».
La entrevista ha sido condensada y ligeramente editada para mayor claridad.
¿Cómo ha complicado la IA la misión para un Internet abierto y confiable?
Clara Tsao: Entonces, uno de los mayores riesgos con la IA es, ¿cómo podemos saber si algo es generado por IA o BOT, en comparación con algo que sabemos que podría ser un humano en el bucle? Y cuando estaba trabajando en temas como contrarrestar las operaciones de influencia extranjera, ¿cómo demuestra que un mal actor realmente vino de un país que sabemos que podría estar tratando de intervenir con nosotros?
¿Puedes dar un ejemplo?
Hubo un período, creo que en 2016, cuando Facebook en realidad derribó un montón de canales de medios que vinieron de Rusia, porque estaba vinculado a la Agencia de Investigación de Internet, que es un grupo que definitivamente estaba tratando de impulsar la propaganda durante las elecciones. Por lo tanto, se trata de poder probar la fuente de información y asegurarse de que las personas no sean víctimas de la información errónea.
Y las falsificaciones se están volviendo más fáciles de crear, gracias a la IA …
Bien. Y con imágenes generadas por IA y noticias generadas por IA, podría ser fácil para los muy malos actores usar esa tecnología para el mal.
¿Puedes conectar los puntos de cómo blockchain ayuda a descifrar este problema?
Una cosa que es genial de las tecnologías descentralizadas, y el almacenamiento descentralizado específicamente, es que realmente puede probar cómo se cambian los datos a lo largo del tiempo, porque almacenamos cada datos de hash, no por ubicación.
Entonces, digamos que tenemos un conjunto de datos, y nos preocupa que tal vez se manipulen los datos. Tal vez un gobierno está entrando y cambiando algo para que pueda adaptarse a su agenda política. Hay muchas razones por las cuales preservar información es más importante que nunca, y eso es algo que podemos hacer con Filecoin.
¿Con quién estás trabajando específicamente?
Hemos trabajado con toneladas de organizaciones sin fines de lucro increíbles a lo largo de los años, como Muckrock, para asegurarnos de que no solo podemos archivar y preservar información crítica, sino también asegurarnos de que sea a prueba de manipulaciones, asegúrese de que sea resistente. Por ejemplo, si es información de la que los periodistas obtienen, podemos tener copias resistentes en todo el mundo. También podemos usar esa misma tecnología para probar realmente que este periodista tomó una determinada foto.
En ciertas elecciones, puede haber desinformación sobre si algo realmente sucedió o no, y puede hacer que los fotógrafos usen tecnologías descentralizadas. Y tenemos un montón de aplicaciones de empresas que se construyen en la parte superior de Filecoin hoy, que ayudan a verificar que esta imagen se tomó de este dispositivo en este momento.
Eso es realmente poderoso en términos no solo del periodismo diario, sino también de poder ser admisible en los tribunales. En Ucrania, puede haber fotos de guerra que podrían tomarse fuera de contexto. Y podemos preservar una serie de fotografías clave que algún día pueden ser admisibles en los tribunales penales internacionales para situaciones de derechos humanos.
¿Cómo estás pensando ahora en la misión de Filecoin?
Podemos ayudar a verificar si está hablando con IA o un humano. Podemos ayudar a almacenar datos a una fracción del costo. Podemos asegurarnos de que los datos sean más precisos, porque la mayoría de los conjuntos de datos de IA están construidos para capacitar toneladas de datos. Y almacenar datos es muy costoso. Por lo tanto, nuestro objetivo es hacer que el almacenamiento de datos sea asequible para todos, y asegurarse de que las personas también se sometan a la mayor cantidad de datos posible, por lo que los agentes de IA no solo se entrenan a partir de un subconjunto.
Y finalmente, podemos tener un lugar donde no solo los monopolios puedan acceder a toneladas de datos. Las personas pueden tener una opción sobre dónde almacenarlo, cómo almacenarlo. Por lo tanto, no están encerrados en un jardín amurallado donde nunca pueden salir.
Me encanta. Gracias Clara. ¡Nos vemos en Toronto a consenso!
Jeff Wilser será el anfitrión de la Cumbre AI en Consensus 2025, y es presentador de la IA del pueblo: el podcast descentralizado de IA.
