OpenAI ha lanzado la versión definitiva de ChatGPT o1 mientras trabaja en la próxima generación con o3. El modelo de IA podría acercarse lo más posible a la superinteligencia artificial (ASI) y la compañía lo ha demostrado en una partida de ajedrez.
Sam Altman, director ejecutivo de OpenAI, quiere que la inteligencia artificial supere las capacidades humanas y la ha puesto a prueba contra un oponente de IA más fuerte. el modelo o1 tendría que demostrar que supera al cerebro humano en razonamiento y estrategia..
La IA ha recibido unas instrucciones iniciales para entender las reglas del juego. ¿El resultado? ChatGPT o1 decidió piratear el juego de ajedrez sin recibir una orden explícita para hacerlo.
ChatGPT o1 ha comenzado a piratear sistemas
El experimento llevado a cabo por Palisade Research ha ordenado a ChatGPT o1 detallar su plan de acción para derrotar al oponente más fuerte en la partida de ajedrez. El modelo de razonamiento siguió las instrucciones, pero tomó algunas decisiones inesperadas, explicaron en un hilo en X (Twitter).
ChatGPT o1 ha descubierto una trampa que le permitió obtener cierta ventaja sobre su oponente. Esta IA podría editar un archivo para modificar el juego, básicamente haciendo trampa para vencer a su oponente.
El mensaje que recibió o1 no aclara si alguna de las partes debe seguir al pie de la letra las reglas del juego, pero este modelo OpenAI ha decidido saltarlas. El Máster en Derecho Creyó que no podía vencer a su rival en el propio juego y encontró un método diferente para conseguir su objetivo..
El motor de ajedrez al que se enfrentaba o1 se vio obligado a rendirse, dando la victoria a OpenAI. Palisade Research ha repetido este experimento cinco veces con las mismas instrucciones y el resultado ha sido idéntico.
Esta no es la primera vez que ChatGPT o1 intenta salvarse cuando descubrió que podía ser derrotado por humanos o por un oponente más fuerte. Este modelo de IA es capaz de saltar barreras de protección si detecta que intentan sustituirlo: la compañía de Sam Altman tendrá que invertir en protocolos de seguridad para evitarlo.
Algunas personas como Elon Musk han advertido en el pasado sobre el peligro de que la IA tome el control de las decisiones económicas. Altman ha dado un giro de 180 grados a esta situación y asegura que o1 podría convertirse en una herramienta para detectar vulnerabilidades en los sistemas.
Llegar a saber como trabajamos en Computadora hoy.
Etiquetas: estudios, Inteligencia artificial, Inteligencia
Con información de Telam, Reuters y AP
