Hoy es el rey y viendo como la tecnología en todos sus campos avanza cada año a niveles exponenciales, es necesario que las grandes empresas estén a la vanguardia para llevar todas estas mejoras al mundo.
Así surge NVIDIA Eos, la supercomputadora creada por NVIDIA que ha llamado la atención de toda la comunidad tecnológica por sus locas capacidades gracias a un rendimiento impresionante y una arquitectura de vanguardia que desafía los límites de lo posible en el campo de la informática. alto rendimiento.
Calificado como una auténtica bestia, se presentó por primera vez en la feria Supercomputing 2023 y actualmente ocupa el noveno puesto en la lista TOP500 de los superordenadores más rápidos del mundo —justo por debajo del supercomputador español Marenostrum 5—.
Pero, ¿qué es exactamente NVIDIA Eos y qué la hace tan extraordinaria? Es hora de aprender más sobre lo que Nvidia tiene reservado para todos y para el mundo de la inteligencia artificial en particular.
¿Qué es NVIDIA Eos?
NVIDIA Eos se presenta como un superordenador creado por NVIDIA, empresa líder en tecnología, que ha sacado a la luz esta potente máquina diseñada para realizar cálculos de inteligencia artificial extremadamente complejos a una velocidad increíblemente rápida. Al final, si quieres hacer grandes cosas en este campo, tienes que contribuir plenamente a este tipo de sistemas.
La propia empresa describe a Eos como un sistema que puede alimentar una «fábrica de IA», ya que se trata de un sistema SuperPod DGX H100 de gran escala. Además, comenta que es lo que le permite desarrollar sus propios avances en IA y muestra el poder de la última tecnología de Nvidia.
«Eos ofrecerá unos increíbles 18 exaflops de rendimiento de IA y esperamos que sea la supercomputadora de IA más rápida del mundo cuando se implemente», afirma Paresh Kharya, director senior de gestión de productos y marketing de Nvidia. En lenguaje sencillo, Eos puede realizar aproximadamente 18.400 millones de cálculos por segundo en tareas relacionadas con la inteligencia artificial.
Por supuesto, dejando de lado sus componentes, de los que ahora hablaremos, un dato relevante al respecto es su diseño modular y está diseñado para que cualquier empresa pueda construir sus propios superordenadores con IA ajustados a sus necesidades.
Pieza a pieza, así es esta supercomputadora de NVIDIA
Diseñado para inteligencia artificial y tareas informáticas de alto rendimiento, es equipado con 576 sistemas DGX H100, cada uno con ocho GPU Nvidia H100, para un total de 4608 GPU. Esto permite a Eos alcanzar un rendimiento de 121,4 petaflops con doble precisión (FP64) y 18,4 exaflops con precisión mixta (FP8) para informática de alto rendimiento e IA, respectivamente.
Una breve parada sobre exaflops y petaflops
Califica esto como exaflops y petaflops. Eos tiene una potencia de 18,4 exaflops en aplicaciones de inteligencia artificial, lo que significa que puede realizar una enorme cantidad de cálculos matemáticos en un segundo. Por otro lado, cuando se menciona que tiene 121 petaflops, hablamos de otra medida de rendimiento. Un petaflop es una medida de la velocidad a la que una computadora puede realizar cálculos..
Es como la velocidad de una bicicleta: si va a un petaflop, significa que puede hacer mil billones de cálculos por segundo. Entonces, cuando dice que Eos tiene 121 petaflops, quiere decir que puede hacer alrededor de 121 billones de cálculos por segundo.
Entonces¿Por qué la diferencia entre 18,4 exaflops y 121 petaflops? Esto se debe a que los exaflops se utilizan específicamente para medir el rendimiento en inteligencia artificial, mientras que los petaflops son una medida más general de la velocidad de una computadora y sus tareas, de ahí que se mantenga en el noveno lugar y por debajo del Marenostrum 5, que tiene un máximo de computación total. rendimiento de 314 petaflops.
Dejando esto de lado y en cuanto al diseño de Eos, este se basa en la arquitectura DGX SuperPOD y está optimizado para cargas de trabajo de IA y escalabilidad. Utiliza Mellanox Quantum-2 InfiniBand de NVIDIA, que ofrece velocidades de transferencia de datos de hasta 400 Gb/s, esencial para entrenar y escalar sin problemas grandes modelos de IA.
Además de un hardware potente, Eos viene con un conjunto completo de software diseñado específicamente para el desarrollo e implementación de IA. Esto incluye software de desarrollo, orquestación y gestión de clústeres, almacenamiento acelerado y bibliotecas de red, así como un sistema operativo optimizado para cargas de trabajo de IA.
En cuanto al precio, es claramente una incógnita, pero si cada NVIDIA H100 cuesta entre 30.000 y 40.000 dólares -recordemos que son 4.608 en total- y si todo se suma al resto de componentes, Se habla de unos 200 millones de dólares si se vendiera al público..
¿Está bien y para qué se utilizará este monstruo de supercomputadora?
eos será aprovechado por los equipos internos de ingeniería de software y desarrollo de IA de Nvidia para sus productos, incluidos vehículos autónomos y software de IA conversacional.. También impulsará proyectos de investigación liderados por la compañía en áreas como la ciencia del clima y la biología digital.
«Cuando tengamos cargas de trabajo que realmente puedan beneficiarse de H100, y recomendadores y modelos de lenguaje, ahora obviamente esa carga de trabajo será la primera en Eos», dijo a HPCwire Charlie Boyle, vicepresidente y gerente general de DGX Systems en Nvidia. .
Pero Nvidia también, por supuesto, tiene como objetivo que Eos allane el camino para que los clientes construyan sistemas igualmente grandes. Boyle dijo que si bien «Nvidia quiere las mejores herramientas para que nuestros equipos de I+D las utilicen internamente», la parte más importante para los clientes de Nvidia es que «tenemos la copia exacta de lo que están ejecutando».
«Y la ventaja de construir una cosa y la ventaja de construir nuestras propias supercomputadoras encima de esa cosa es que, prácticamente sin importar el tamaño del sistema de un cliente, internamente tenemos un sistema equivalente o más grande», añade.
Por ejemplo, Esta supercomputadora podría usarse para la industria farmacéutica. Si usaran Eos, podrían analizar rápidamente cómo interactúan diferentes compuestos con proteínas específicas del cuerpo, identificar posibles efectos secundarios y evaluar la efectividad de diferentes dosis. Esto les permitiría tomar decisiones más rápidas e informadas sobre nuevos tratamientos, lo que podría salvar vidas.
En el caso de la industria de los vehículos autónomos, la seguridad de los vehículos podría mejorarse mediante la simulación de accidentes y el desarrollo de sistemas avanzados de asistencia al conductor (ADAS). Con la enorme potencia informática de Eos, las empresas pueden realizar simulaciones de colisiones, por ejemplo, en un tiempo récord.
Está claro que, a medida que empresas y desarrolladores de todo el mundo buscan aprovechar el poder de la IA, Eos se posiciona como un actor clave que promete acelerar el camino hacia las aplicaciones impulsadas por la IA.
Con información de Telam, Reuters y AP