No es la primera vez que OpenAi y su inteligencia artificial son sacudidas por la controversia. De hecho, el propio Sam Altman se ha alimentado por sí mismo una visión del futuro al menos complicado. Sin embargo, ahora ha sido un ex miembro de la compañía que se ha unido Las voces que advierten sobre los peligros que esta tecnología puede asumir de moda.
Especialmente si, como otros especialistas han comentado antes, no hay un control real sobre lo que se hace. Lo curioso es que este ingeniero, que participó activamente en todo lo relacionado con chatgptNo ha tenido revisiones para comparar el desarrollo de la IA con el propio Titanic: según él, como el barco, la IA también puede conducir a la catástrofe.
El experto en Operai se preocupó por la IA
Es muy posible que el nombre de William Saunders No te digas mucho. Después de todo, este experto en inteligencia artificial no disfruta de la popularidad de su antiguo jefe, Sam Altman u otros gurús tecnológicos en el apogeo de Elon Musk o Bill Gates. Sin embargo, cuando se ocupa del tema de la IA, no puede haber ninguna duda de que realmente sabes de lo que estás hablando.
Para darse cuenta de esto, solo necesario para echar un vistazo a su carrera profesional. Saunders trabajó durante tres años en el equipo de superalineación de OperaiSer uno de los responsables de su popular chatgpt. Sin embargo, renunció a su posición hace un año, debido a lo que describió como una gestión irresponsable de RAS relacionada con la IA por parte de la compañía.
¿Qué quiere decir esto? Para explicarlo con una analogía conocida en todo el mundo, el ingeniero quería comparar su antiguo trabajo con quien construyeron el Titanic en su día. Como sucedió con el famoso transatlántico, La compañía muestra un exceso de confianza en sus medidas de seguridad y la falta de preparación para posibles catástrofes.
Eso es al menos lo que piensa Saunders, que incluso se ha atrevido a dar una fecha en la que los peligros que generalmente se asocian con la inteligencia artificial podrían desatarse. Y no está en mucho, precisamente. Él cree que en tres años ya podríamos sufrir las consecuencias de lo que, en su forma de ver las cosas, es una forma irresponsable de actuar.
¿Qué teme a William Saunders?
Una de sus principales preocupaciones es la capacidad de la IA para influir en las decisiones humanas críticas, como las elecciones y los mercados financieros, sin que la sociedad detecte su intervención. Esta preocupación parece estar asociada con estudios recientes que demuestran cómo los modelos avanzados, como GPT-4, ya pueden engañar a los humanos en los juegos estratégicos.
Además, Saunders no tiene dudas de que tanto Openai como Sam Altman están llevando a cabo una política muy peligrosa: Priorizar los intereses comerciales por encima de las investigaciones y, sobre todo, de medidas de seguridad.
Saber Cómo trabajamos en Informática.
Etiquetas: Inteligencia artificial
Con información de Telam, Reuters y AP
