Manténgase informado con actualizaciones gratuitas
Simplemente regístrese en myFT Digest de inteligencia artificial, que se envía directamente a su bandeja de entrada.
El escritor es cofundador y científico jefe de Dionysus Health.
Hoy te pasaron por alto para un trabajo. Se le negó un préstamo. Usted, o quizás su hijo, fue rechazado de una de las mejores universidades. Y ni siquiera supiste que sucedió. Todos los días, en algunas de las partes más profundas y más protegidas constitucionalmente de nuestras vidas, los algoritmos toman decisiones que ningún ser humano podría justificar cara a cara.
Bajo presión, las empresas están debatiendo marcos éticos y estableciendo consejos asesores. No necesitamos un manifiesto de inteligencia artificial: necesitamos una constitución. Tal como se utiliza hoy en día, la IA es simplemente incompatible con los derechos civiles.
Como científico jefe de una de las primeras empresas en utilizar IA en la contratación, construí el sistema que lo pasó por alto para ese trabajo. Los grandes empleadores que eran nuestros clientes no necesitaban esperar su solicitud de empleo; de hecho, presentamos una solicitud en su nombre, lo supiera o no. Pero cuando la IA decide quién es contratado, nunca sabrás por qué no fuiste tú. Que un ser humano le pregunte sobre su edad, su política o su planificación familiar durante el proceso de contratación sería una violación procesable de sus derechos civiles. Que la IA haga lo mismo sin tu conocimiento es igual de incorrecto, pero está completamente oculto a la vista.
Más allá de la contratación, algunos empleadores están jugando con sistemas para despedir automáticamente a los trabajadores de baja productividad. Pero ¿por qué despedir a la gente si puedes “ayudarla” a decidir irse? Otras empresas están desarrollando evaluaciones de personalidad basadas en el aprendizaje automático que descartan a los solicitantes que, según se prevé, se agitarán por aumentos salariales, apoyarán la sindicalización o demostrarán tendencias de cambio de empleo.
Los préstamos impulsan la movilidad económica en Estados Unidos, aun cuando históricamente han sido una poderosa herramienta de discriminación. He trabajado en varios proyectos para reducir ese sesgo utilizando la IA. Sin embargo, lo que aprendí es que incluso si un algoritmo funciona exactamente como se esperaba, todavía está diseñado únicamente para optimizar los retornos financieros para el prestamista que lo pagó. El proceso de solicitud de préstamo ya es impenetrable para la mayoría, y ahora sus esperanzas de ser propietario de una vivienda o de obtener financiación para pequeñas empresas están muriendo en un cómputo de 50 milisegundos.
Cada semana se producen avances impulsados por la IA en los sectores de la salud y la biotecnología. En materia de salud, su objetivo es ser imparcial, pero si usted es un caso atípico, es posible que esa nueva y sorprendente herramienta de diagnóstico no lo diagnostique con precisión. ¿Cómo sabría si el algoritmo patentado de alguna empresa desconocida estuviera entrenado en pacientes como usted? Y si todos los médicos de su región utilizan la misma herramienta, no tendrá adónde acudir para obtener una segunda opinión. Cuando un médico con tecnología de inteligencia artificial le dice que simplemente está histérico, es poco probable que la compañía de seguros con tecnología de inteligencia artificial no esté de acuerdo.
Desde el punto de vista jurídico, el derecho a un abogado y a la revisión judicial son una garantía constitucional en Estados Unidos y un derecho civil establecido en gran parte del mundo. Estos son los cimientos de sus libertades civiles. Cuando los algoritmos actúan como testigos expertos, testificando en su contra pero inmunes al contrainterrogatorio, estos derechos no simplemente se erosionan: dejan de existir.
La gente no es perfecta. Ni la formación ética para ingenieros de IA ni la legislación de políticos lamentablemente desinformados pueden cambiar esa simple verdad. No necesito dar por sentado que los directores ejecutivos de las grandes empresas tecnológicas sean malos actores o que las grandes empresas sean malévolas para comprender que lo que les conviene a ellos no siempre redunda en el mío. Los redactores de la Constitución de Estados Unidos reconocieron esta simple verdad y buscaron aprovechar la naturaleza humana para un bien mayor. La Constitución no asumió simplemente que la gente siempre actuaría por ese bien mayor. En lugar de ello, definió un mecanismo dinámico (el interés propio y el equilibrio de poder) que obligaría a llegar a acuerdos y a una buena gobernanza. Su visión de tratar a las personas como actores reales en lugar de mejores ángeles produjo uno de los mejores marcos de gobernanza de la historia.
Imagínese que le ofrecieran una prueba basada en inteligencia artificial para detectar la depresión posparto. Mi empresa desarrolló esa misma prueba y tiene el poder de cambiar su vida, pero usted puede optar por no utilizarla por temor a que vendamos los resultados a intermediarios de datos o políticos activistas. Tiene derecho a que nuestra IA actúe únicamente por su salud. Fue por esta razón que fundé una organización independiente sin fines de lucro, The Human Trust, que posee todos los datos y ejecuta todos los algoritmos con responsabilidad fiduciaria exclusiva hacia usted. Ninguna madre debería tener que elegir entre una prueba médica que le salve la vida y sus derechos civiles.
La IA puede hacer cosas maravillosas. Pero los derechos civiles no pueden existir en un mundo de cálculos ocultos. Al igual que con un abogado o un médico, debemos tener una IA que actúe en nuestro propio interés. La IA necesita una constitución o, más exactamente, necesitamos una constitución que defina el acceso a la inteligencia artificial que actúa únicamente en nuestro nombre como un derecho civil.
Read More: Necesitamos una constitución de IA que proteja nuestros derechos civiles