Por Matt O’Brien, escritor de tecnología de Associated Press
Los ex empleados de OpenAI están pidiendo a los principales agentes de la ley en California y Delaware que impidan que la compañía cambie el control de su tecnología de inteligencia artificial de una organización benéfica sin fines de lucro a un negocio con fines de lucro.
Están preocupados por lo que sucede si el fabricante de chatgpt cumple su ambición de construir una IA que supera a los humanos, pero ya no es responsable ante su misión pública para salvaguardar esa tecnología de causar daños graves.
«En última instancia, me preocupa quién posee y controla esta tecnología una vez que se crea», dijo Page Hedley, ex asesor de política y ética en OpenAI, en una entrevista con Associated Press.
Respaldado por tres ganadores del Premio Nobel y otros defensores y expertos, Hedley y otros nueve ex trabajadores abiertos enviaron una carta esta semana a los dos fiscales generales estatales.
La coalición le pide al fiscal general de California Rob Bonta y a la fiscal general de Delaware, Kathy Jennings, ambos demócratas, que utilicen su autoridad para proteger el propósito caritativo de OpenAi y bloquear su reestructuración planificada. Openai se incorpora en Delaware y opera desde San Francisco.
Openai dijo en respuesta que «cualquier cambio en nuestra estructura existente estaría en servicio para garantizar que el público en general pueda beneficiarse de la IA». Dijo que su con fines de lucro será una corporación de beneficios públicos, similar a otros laboratorios de IA como el Anthrope y el multimillonario tecnológico Elon Musk, excepto que OpenAi aún preservará un brazo sin fines de lucro.
«Esta estructura continuará asegurándose de que a medida que la con fines de lucro tenga éxito y crece, también lo hace la organización sin fines de lucro, lo que nos permite alcanzar la misión», dijo la compañía en un comunicado.
La carta es la segunda petición a los funcionarios estatales este mes. El último provino de un grupo de líderes laborales y organizaciones sin fines de lucro centradas en proteger los miles de millones de dólares de los activos caritativos de OpenAi.
Jennings dijo el otoño pasado que «revisaría cualquier transacción de este tipo para garantizar que los intereses del público estén adecuadamente protegidos». La oficina de Bonta buscó más información de OpenAi a fines del año pasado, pero ha dicho que no puede comentar, incluso para confirmar o negar si está investigando.
Los cofundadores de Openai, incluido el actual CEO Sam Altman y Musk, originalmente lo comenzaron como un laboratorio de investigación sin fines de lucro en una misión para construir de manera segura lo que se conoce como inteligencia general artificial, o AGI, para beneficio de la humanidad. Casi una década después, OpenAi ha informado su valor de mercado como $ 300 mil millones y cuenta 400 millones de usuarios semanales de ChatGPT, su producto insignia.
Operai ya tiene una subsidiaria con fines de lucro, pero enfrenta una serie de desafíos para convertir su estructura de gobierno central. Uno es una demanda de Musk, que acusa a la compañía y Altman de traicionar los principios fundadores que llevaron al CEO de Tesla a invertir en la organización benéfica.
Si bien algunos de los firmantes de la carta de esta semana respaldan la demanda de Musk, Hedley dijo que otros son «comprensiblemente cínicos» porque Musk también dirige su propia compañía de IA rival.
Los firmantes incluyen a dos economistas ganadores del Nobel, Oliver Hart y Joseph Stiglitz, así como a los pioneros de AI y los científicos informáticos Geoffrey Hinton, quienes ganaron el Premio Nobel de Física del año pasado, y Stuart Russell.
«Me gusta la misión de Openai de» asegurar que la inteligencia general artificial beneficie a toda la humanidad «, y me gustaría que ejecuten esa misión en lugar de enriquecer a sus inversores», dijo Hinton en un comunicado el miércoles. «Estoy feliz de que haya un esfuerzo por mantener OpenAi a su misión que no involucra a Elon Musk».
Los conflictos sobre el propósito de OpenAi han dicho durante mucho tiempo en el Instituto de San Francisco, contribuyendo a que Musk renuncie en 2018, la expulsión de corta duración de Altman en 2023 y otras salidas de alto perfil.
Hedley, abogado de capacitación, trabajó para OpenAI en 2017 y 2018, un momento en que la organización sin fines de lucro todavía estaba navegando por las mejores formas de administrar la tecnología que quería construir. Tan recientemente como 2023, Altman dijo avanzado ai …
