La empresa de Datacenter anunció los primeros clusters de computación en la nube a escala zeta acelerados por la plataforma NVIDIA Blackwell. Oracle Cloud Infrastructure (OCI) ya acepta pedidos del mayor superordenador de IA en la nube, disponible con hasta 131.072 GPU Blackwell de NVIDIA.
‘Tenemos una de las ofertas de infraestructura de IA más amplias y estamos apoyando a los clientes que están ejecutando algunas de las cargas de trabajo de IA más exigentes en la nube’, dijo Mahesh Thiagarajan, vicepresidente ejecutivo de OCI. ‘Con la nube distribuida de Oracle, los clientes tienen la flexibilidad de desplegar servicios en la nube y de IA donde elijan mientras preservan los más altos niveles de soberanía de datos e IA’, agregó.
Primer clúster informático Zettascale del mundo
OCI ya está aceptando pedidos para el mayor superordenador de IA en la nube disponible con hasta 131.072 GPU Blackwell de NVIDIA, que ofrece una cifra sin precedentes de 2,4 zettaFLOPS de rendimiento máximo. La escala máxima del OCI Supercluster ofrece más del triple de GPU que el superordenador Frontier y más de seis veces la de otros hiperescaladores. OCI Supercluster incluye OCI Compute Bare Metal, RoCEv2 de latencia ultrabaja con NIC ConnectX-7 y SuperNIC ConnectX-8 o redes basadas en InfiniBand NVIDIA Quantum-2, y una selección de almacenamiento HPC.
Los superclusters OCI se pueden solicitar con OCI Compute, que puede funcionar con las GPU NVIDIA H100 o H200 Tensor Core o con las GPU NVIDIA Blackwell. Los superclusters OCI con GPU H100 pueden escalarse hasta 16.384 GPU con un máximo de 65 ExaFLOPS de rendimiento y 13Pb/s de caudal de red agregado. Los superclusters OCI con GPUs H200 escalarán hasta 65.536 GPUs con un máximo de 260 ExaFLOPS de rendimiento y 52Pb/s de caudal de red agregado y estarán disponibles a finales de este año.
Los superclusters OCI con instancias bare-metal NVIDIA GB200 NVL72 refrigeradas por líquido utilizarán NVLink y NVLink Switch para permitir que hasta 72 GPU Blackwell se comuniquen entre sí con un ancho de banda agregado de 129,6 TB/s en un único dominio NVLink. Las GPU Blackwell de NVIDIA, disponibles en el primer semestre de 2025, con NVLink de quinta generación, NVLink Switch y redes de clúster, permitirán una comunicación fluida GPU-GPU en un único clúster.
Ian Buck, vicepresidente de Hiperescala y Computación de Alto Rendimiento de NVIDIA, afirma: ‘A medida que las empresas, los investigadores y las naciones se apresuran a innovar utilizando la IA, el acceso a potentes clústeres de computación y software de IA es fundamental. La plataforma de computación de IA de pila completa de NVIDIA en la nube ampliamente distribuida de Oracle ofrecerá capacidades de computación de IA a una escala sin precedentes para avanzar en los esfuerzos de IA a nivel mundial y ayudar a las organizaciones de todo el mundo a acelerar la investigación, el desarrollo y la implementación’.
Clientes como WideLabs y Zoom están aprovechando la infraestructura de IA de alto rendimiento de OCI con potentes controles de seguridad y soberanía.
WideLabs forma a uno de los mayores LLM portugueses en OCI
WideLabs, una startup de IA aplicada de Brasil, está formando a uno de los mayores LLM de Brasil, Amazonia IA, en OCI. Desarrollaron bAIgrapher, una aplicación que utiliza su LLM para generar contenido biográfico basado en datos recogidos de pacientes con Alzheimer para ayudarles a preservar recuerdos importantes.
WideLabs utiliza Oracle Cloud São Paulo Region para ejecutar sus cargas de trabajo de IA, garantizando que los datos confidenciales permanezcan dentro de las fronteras del país. Esto permite a WideLabs cumplir los requisitos brasileños de soberanía de IA al poder controlar dónde se despliega y opera su tecnología de IA. WideLabs utiliza la infraestructura de IA de OCI con GPU NVIDIA H100 para entrenar a sus LLM, así como Oracle Kubernetes Engine para aprovisionar, gestionar y operar contenedores acelerados por GPU en un supercluster de OCI compuesto por OCI Compute conectado con la red de clústeres basada en RMDA de OCI.
‘La infraestructura de IA de OCI nos ofrece la mayor eficiencia para la formación y ejecución de nuestros LLM’, dijo Nelson Leoni, CEO de WideLabs. ‘La escala y la flexibilidad de OCI tienen un valor incalculable a medida que continuamos innovando en el espacio sanitario y en otros sectores clave’.
Zoom utiliza las capacidades de soberanía de OCI para su asistente de IA generativa
Zoom, plataforma líder de colaboración basada en IA, utiliza OCI para proporcionar inferencia a Zoom AI Companion, el asistente personal de IA de la empresa disponible sin coste adicional. Zoom AI Companion ayuda a los usuarios a redactar correos electrónicos y mensajes de chat, resumir reuniones e hilos de chat, generar ideas durante tormentas de ideas con colegas, etc. Las capacidades de soberanía de datos e IA de OCI ayudarán a Zoom a mantener los datos de los clientes localmente en la región y a cumplir los requisitos de soberanía de IA en Arabia Saudí, donde se está implantando inicialmente la solución de OCI.
‘Zoom AI Companion está revolucionando la forma de trabajar de las organizaciones, con capacidades de IA generativa de vanguardia disponibles sin coste adicional con las cuentas de pago de los clientes’, afirma Bo Yan, responsable de IA de Zoom. ‘Al aprovechar las capacidades de inferencia de IA de OCI, Zoom es capaz de ofrecer resultados precisos con baja latencia, lo que permite a los usuarios colaborar sin problemas, comunicarse sin esfuerzo y aumentar la productividad, la eficiencia y el potencial como nunca antes.’
