En una declaración el martes, Dario Amodei, el CEO de la startup de IA Anthrope, calificó la Cumbre de Acción de AI en París esta semana una «oportunidad perdida» e instó a la industria de la IA, y al gobierno, a «moverse más rápido y con mayor claridad».
«Nos complació asistir a la Cumbre de Acción de AI en París, y apreciamos los esfuerzos del gobierno francés para reunir a compañías de IA, investigadores y formuladores de políticas de todo el mundo», dijo Amodei. «Sin embargo, se necesita un mayor enfoque y urgencia en varios temas dado el ritmo al que está progresando la tecnología».
La crítica de Amodei a la Cumbre de Acción de AI, la última de una serie de conferencias que reunieron a compañías y reguladores de IA para intentar llegar a un consenso sobre la gobernanza de la IA, se hace eco de la de varios académicos a principios de esta semana. Uno le dijo a Transformer que los compromisos de la conferencia, que Estados Unidos y el Reino Unido se negaron a firmar, dijeron «efectivamente nada excepto los tópicos».
En comentarios en la conferencia, el vicepresidente estadounidense JD Vance adoptó una postura completamente diferente y denunció lo que caracterizó como regulaciones «masivas» y rígidas sobre IA defendida por Europa. Vance también cuestionó la moderación de contenido, aludiendo a la redacción «sostenible» e «inclusiva» en los compromisos de la conferencia, que rechazó como «censura autoritaria».
Amodei advirtió en su declaración que AI se está volviendo más sofisticada rápidamente, y que no regularla podría dar lugar a consecuencias desastrosas.
«Las capacidades de los sistemas de IA se considerarán mejor como un estado completamente nuevo poblado por personas altamente inteligentes que aparecen en el escenario global», dijo Amodei. «La IA avanzada presenta importantes peligros de seguridad global, que van desde el mal uso de los sistemas de IA por parte de actores no estatales … Debemos garantizar que las sociedades democráticas lideren la IA, y que los países autoritarios no lo usen para establecer el dominio militar global».
AMODEI instó a los gobiernos a desplegar sus recursos para medir cómo se está utilizando la IA y para promulgar la política centrada en «garantizar que todos compartan la económica [uplift] de muy poderosa ai «. También abogó por una mayor transparencia del gobierno cuando se trata de seguridad y seguridad de la IA, así como planes para evaluar los riesgos de IA.
La evaluación de Amodei de los procedimientos de la Cumbre de AI de París contrasta con el de Openi, que dijo en un comunicado este fin de semana que confiaba en que la conferencia sería «otro hito importante hacia el desarrollo responsable y beneficioso de la IA para todos».
El antrópico generalmente ha mostrado más apertura a la regulación de la IA en el pasado. De hecho, Amodei ha hecho pronunciamientos similares antes, advirtiendo que la IA sin restricciones podría tener implicaciones económicas, sociales y de seguridad profundamente negativas. Anthrope fue una de las pocas compañías de IA en respaldar tácitamente el SB 1047 de California, un proyecto de ley regulatorio de IA integral y muy debatido. Openai se opuso al proyecto de ley, que fue vetado por el gobernador Gary Newsom el otoño pasado.
Eso no sugiere que los motivos de Anthrope son puramente filantrópicos. Al igual que el CEO de Operai, Sam Altman, en su reciente ensayo, AModei no ofrece recomendaciones concretas para garantizar los beneficios de la poderosa IA, si surge en el futuro cercano, se distribuyen ampliamente y uniformemente.
Lea nuestra cobertura completa de la Cumbre de Acción de Inteligencia Artificial en París.
