NVIDIA, Palantir und Cisco rücken bei KI-Infrastruktur enger zusammen. Die drei US-Unternehmen haben eine gemeinsame Referenzarchitektur vorgestellt, die sich insbesondere an Behörden und Unternehmen richtet, die sensible oder regulierte Daten verarbeiten. Unter der Bezeichnung "Sovereign AI Operating System Reference Architecture" werden Palantirs Software, NVIDIAs KI-Modelle sowie Server-, Netzwerk-, Speicher- und Sicherheitstechnik künftig zu einem gemeinsamen Stack zusammengeführt.
Die technische Grundlage ist dabei auf Palantirs Sovereign AI OS zugeschnitten und soll als bevorzugte Infrastruktur für die Plattform dienen. Ein wesentlicher Punkt ist hier die Möglichkeit, Daten und Modelle innerhalb einer vom Kunden kontrollierten Umgebung zu halten. Gerade für Behörden und stark regulierte Branchen dürfte dies eines der wichtigsten Argumente für die gemeinsame Architektur sein.
Auf Softwareseite verknüpft Palantir seine Foundry und die Artificial Intelligence Platform (AIP) dazu mit NVIDIAs offenen Nemotron-Modellen. Über die sogenannte Ontology lassen sich so Unternehmensdaten, Prozesse und deren Beziehungen abbilden und für KI-Anwendungen nutzbar machen. Die Nemotron-Modelle können auf dieser Grundlage zudem gezielt mit kundeneigenen Daten angepasst oder auch weitertrainiert werden. Die erforderliche Rechenleistung stellt das NVIDIA-Ökosystem. Vorgesehen ist unter anderem die Unterstützung mit Vera Rubin NVL72 und HGX Rubin NVL8.{nozuna nzgallery}b171b43f-92b7-11ee-88a5-000c29322405{/nozuna nzgallery}
Cisco übernimmt in diesem Kontext einen wesentlichen Teil der Netzwerk- und Sicherheitsinfrastruktur. Neben der Vernetzung gehören Sicherheits- und Observability-Funktionen zum Paket. Bei den eigentlichen Serversystemen kommt zusätzlich Supermicro ins Spiel. Das Unternehmen liefert in dem Zusammenhang hochdichte GPU-Systeme mit Luft- oder Flüssigkeitskühlung, die Cisco validieren und über sein Infrastrukturangebot vertreiben will.
Mit der Kooperation versuchen die Unternehmen vor allem, die bislang häufig getrennten Bestandteile großer KI-Installationen enger miteinander zu verzahnen. Kunden sollen so Server, GPU-Systeme, Netzwerk, Speicher, Sicherheitslösungen und KI-Software nicht mehr vollständig selbst zusammenstellen müssen. Stattdessen dient die Referenzarchitektur als vorab definierte technische Grundlage, die anschließend an die jeweilige Umgebung angepasst werden kann.