Executive Summary
- Laut NVIDIA-Blog werden A5X‑Instanzen mit Vera Rubin NVL72 ab nächstem Monat allgemein verfügbar sein, mit geplanter Ausweitung nach Europa.
- A5X integriert Rubin‑GPUs, ConnectX‑9 SuperNICs, Google Virgo Network und vierte‑Generation Flüssigkühlung für agentische Inferenz und Reinforcement Learning.
- Google Cloud plant, die Vera Rubin‑Infrastruktur auf bis zu 960.000 Rubin‑GPUs an mehreren Standorten zu skalieren.
- Confidential Computing wird auf Rack‑Skalenniveau und auf G4‑VMs angeboten; erste Nutzer von A5X und Confidential G4 sind genannt.
Was ist passiert?
Laut dem Blogbeitrag von NVIDIA und Google Cloud haben beide Unternehmen die allgemeine Verfügbarkeit (general availability) der NVIDIA Vera Rubin‑basierten A5X‑Instanzen angekündigt. Die Ankündigung nennt, dass die Verfügbarkeit nächsten Monat beginnt und eine geplante Ausweitung nach Europa vorgesehen ist. Die A5X‑Instanzen verbinden NVIDIA Vera Rubin NVL72‑GPUs mit NVIDIA ConnectX‑9 SuperNICs, dem Google Cloud Virgo Network und der vierten Generation der Google‑Flüssigkühlung.
Der Beitrag beschreibt A5X als Teil von Google Cloud’s AI Hypercomputer, also als integriertes System, das Compute, Netzwerk und Storage für experience‑getriebenes Lernen zusammenführt. Google Cloud plant, diese Vera Rubin‑basierte Infrastruktur auf bis zu 960.000 Rubin‑GPUs über mehrere Standorte zu skalieren.
Als frühe Nutzer werden Ineffable Intelligence (ein Unternehmen um David Silver) genannt, das A5X für großskaliges Reinforcement Learning und «superlearner»‑Systeme nutzt, sowie WPP, das kreative Agent‑Architekturen auf A5X mit NVIDIA Nemotron und OpenShell getestet hat. WPP berichtet, dass in ersten Tests Workloads, die sonst ein Multi‑Node‑Cluster benötigten, auf einer einzelnen A5X‑Instanz liefen.
Zudem kündigen Google Cloud und NVIDIA an, NVIDIA Confidential Computing auf Rack‑Skalenniveau anzubieten (beispielsweise auf A4X Max Bare‑Metal‑Instanzen mit GB300 NVL72) und Confidential Computing allgemein verfügbar auf G4 VMs mit NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs zu machen. Als Nutzer von Confidential G4 werden Vertebrae, Polaris Cloud und Confidential Core AI genannt. Schließlich prüfen Google und NVIDIA DSX MaxLPS‑Fähigkeiten zur Optimierung von Leistung pro Watt.
Warum ist das relevant?
Faktisch erweitert diese Ankündigung die Verfügbarkeit einer speziell auf agentische Inferenz und großskaliges Reinforcement Learning ausgerichteten Cloud‑Infrastruktur. Die Kombination aus spezialisierter GPU‑Hardware, hoher Netzwerkbandbreite innerhalb des Racks und integrierter Kühlung ist laut Ankündigung gezielt für Workloads ausgelegt, die enge Kopplung zwischen Datengenerierung, Training und Inferenz erfordern.
Aus Sicht der Infrastruktur bedeutet die Option, zuvor verteilte Multi‑Node‑Workloads konsolidiert auf einzelne A5X‑Instanzen auszuführen (wie in ersten WPP‑Tests berichtet), potenziell geringere Komplexität bei Orchestrierung und kürzere Iterationszeiten. Die geplante Skalierung auf bis zu 960.000 Rubin‑GPUs zeigt, dass die Anbieter dedizierte Kapazität für sehr große Projekte vorsehen.
Die Verfügbarkeit von Confidential Computing sowohl auf Rack‑Skalenniveau als auch auf G4‑VMs adressiert das Thema Schutz proprietärer Modelle und sensibler Daten beim Betrieb auf Cloud‑Infrastruktur. Das ist für Organisationen relevant, die Modelle und Daten auch in einer fremdbetriebenen Umgebung absichern wollen.
Was bedeutet das für den Mittelstand?
Faktenbasiert lässt sich festhalten: Die Ankündigung erweitert das Angebot an Cloud‑Infrastruktur für anspruchsvolle KI‑Projekte, insbesondere für agentische Systeme und Reinforcement Learning. Es gibt konkrete Hinweise auf europäische Verfügbarkeit und auf Optionen für vertrauliche Verarbeitungen.
Einordnung für Entscheider im Mittelstand:
- Strategische Relevanz: Unternehmen mit Bedarf an agentischer KI, kontinuierlichem Reinforcement Learning oder sehr rechenintensiven Modellen können künftig auf spezialisierte Cloud‑Ressourcen zurückgreifen; die Infrastruktur ist allerdings auf hohe Skalierung ausgelegt.
- Datenschutz und Compliance: Die angekündigten Confidential‑Computing‑Optionen bieten technische Möglichkeiten, Modelle und sensible Daten auf Cloud‑Ressourcen zu schützen; das kann die Nutzung externer Infrastruktur für vertrauliche Workloads erleichtern, ohne im Kern neue lokale RZ‑Investitionen vornehmen zu müssen.
- Operative Auswirkungen: Die Möglichkeit, vorher verteilte Workloads auf einzelne A5X‑Instanzen zu konsolidieren, kann Komplexität und Latenzen in Entwicklungs‑ und Testzyklen reduzieren; konkrete Effekte hängen von individuellen Workloads und Integrationsaufwand ab.
Passend dazu: KI-Agenten-Generator
Empfehlung von Future AI Solutions
Faktenorientierte Handlungsschritte, getrennt von Einschätzung:
- Prüfung des Bedarfs: Evaluieren Sie, ob Ihre KI‑Vorhaben agentische Inferenz, großskaliges Reinforcement Learning oder datenintensive Modelltrainings umfassen, die von spezialisierter Rubin‑Hardware profitieren könnten.
- Pilotprojekte auf vertraulichen VMs: Nutzen Sie die verfügbaren Confidential‑Computing‑Optionen (z. B. G4‑VMs) für Pilot‑Leuchtturmprojekte mit sensiblen Daten, bevor Sie großflächige Migrationen planen.
- Kost‑, Compliance‑ und Integrationscheck: Klären Sie Kostenmodelle, Daten‑ und Modellhoheit sowie Integrationsaufwand (Netzwerk, Storage, Kühlung) mit Ihrem Cloud‑Provider, insbesondere in Hinblick auf die geplante Verfügbarkeit in Europa.
- Partnerkontakt und Roadmap‑Monitoring: Nehmen Sie Kontakt zu Ihren Cloud‑Partnern oder zu NVIDIA‑Resellern auf, um Zeitplan, Verfügbarkeiten und konkrete SLA‑/Support‑Leistungen für A5X und Confidential‑Optionen zu klären.
Kurzfristig empfiehlt Future AI Solutions, gezielte Machbarkeits‑ und Datenschutztests durchzuführen; bei positivem Ergebnis können Unternehmen schrittweise Pilot‑Workloads auf den angebotenen Instanzen hochziehen und gleichzeitig die operativen Anforderungen prüfen.