Nutanix, Spezialist für hybrides Multicloud-Computing, hat neue Funktionalitäten in seiner Lösung GPT-in-a-Box präsentiert. Dazu gehören unter anderem Integrationen mit den Inference-Microservices NVIDIA NIM und der Bibliothek für Large Language Models (LLMs) von Hugging Face. Darüber hinaus hat der Anbieter das „Nutanix AI Partner Program“ vorgestellt. Es zielt darauf ab, durch die Kombination von führenden KI-Lösungen und Servicepartnern Kunden zu unterstützen, die generative KI-Applikationen (GenAI) auf der „Nutanix Cloud Platform“ (NCP) und GPT-in-a-Box betreiben, managen und absichern wollen. Bei „Nutanix GPT-in-a-Box“ handelt es sich um eine Full-Stack-Lösung, die mit „Nutanix Objects“ und „Nutanix Files“ für die Speicherung von Modellen und Daten integriert und für die einfache KI-Implementierung in Unternehmen, auch und gerade aus dem Enterprise-Segment, vorkonfiguriert ist.
„Nutanix GPT-in-a-Box ist nach der Markteinführung sehr gut angenommen worden. Das hat den Beweis erbracht, dass Unternehmenskunden einen Bedarf an On-premises-Softwarelösungen haben, mit deren Hilfe sich KI-Modelle und Inferenzpunkte auf einfache Art und Weise bereitstellen und managen lassen“, erklärt Thomas Cornely, Senior Vice President of Product Management bei Nutanix. „Der Enterprise-Markt ist immer noch Neuland für GenAI, das es zu erforschen und erobern gilt. Wir freuen uns deshalb sehr auf die Zusammenarbeit mit unserem wachsenden Partner-Ökosystem, um den On-premises-Betrieb von GenAI-Anwendungen so einfach wie möglich zu machen und zu skalieren und dabei gleichzeitig für die Kontrolle über den Schutz der Privatsphäre und die Kosten zu sorgen.“
Nutanix GPT-in-a-Box 2.0
Die angekündigte Version 2.0 von GPT-in-a-Box wird die Verarbeitungsgeschwindigkeit mithilfe von NVIDIA weiter beschleunigen und zusätzliche LLMs unterstützen. Ferner wird sie das Management der Basismodelle weiter vereinfachen und Integrationen zu den Microservices von NVIDIA NIM und der LLM-Bibliothek von Hugging Face liefern. Ferner hält GPT-in-a-Box 2.0 eine zentrale Benutzeroberfläche für das Management der Basismodelle, das Erstellen von API-Endpunkten und die Verwaltung der Zugangsschlüssel von Endanwendern bereit. Ferner wird Version 2.0 Integrationen zu Nutanix Files und Nutanix Objects sowie NVIDIA Tensor Core GPUs enthalten.
Mit ihrer integrierten grafischen Benutzeroberfläche, der Rollen-basierten Zugriffskontrolle, Auditierbarkeit und Dark-Site-Unterstützung wird sich Version 2.0 von GPT-in-a-Box, neben vielen anderen Vorteilen, durch eine komfortable und einfache Benutzerführung auszeichnen, für die Nutanix bekannt ist. Sie enthält ferner eine Point-and-Click-Benutzeroberfläche, um NVIDIA NIM bereitzustellen und zu konfigurieren. Die „NIVDIA Inference Microservices“ (NIM) sind Teil der Softwareplattform „NVIDIA AI Enterprise“, um KI für den Echtbetrieb zu entwickeln und bereitzustellen. Dadurch lassen sich generative KI-Workloads im gesamten Unternehmen und am Edge bereitstellen und betreiben.
„Wir arbeiten mit Nutanix als einem unserer Schlüsseltechnologiepartner zusammen, um unsere Ambitionen in Sachen KI zu verwirklichen und eine Zukunft zu ermöglichen, in der die Technologie den Menschen dient“, betont Khalid Al Kaf, COO bei Yahsat. „Wir halten mit den Zukunftstechnologien nicht nur Schritt, sondern gestalten sie aktiv mit. Zu diesem Zweck nutzen wir die Nutanix-Lösung GPT-in-a-Box, die uns einfach zu bedienende Funktionalitäten für End-to-End-Management bietet und die zuverlässige Kontrolle über unsere Daten ermöglicht.“
Partnerschaft mit Hugging Face: Integrierter Zugriff auf LLM-Bibliothek
Nutanix ist eine Partnerschaft mit Hugging Face eingegangen, um zur Beschleunigung der KI-Reise von Kunden beizutragen. Ziel der Partnerschaft besteht darin, einen integrierten Zugang zur Hugging-Face-Bibliothek zu bieten und Kunden dadurch die Möglichkeit zu geben, die darin enthaltenen LLMs auszuführen. Gemeinsame Kunden werden von „Nutanix GPT-in-a-Box 2.0“ profitieren, um validierte LLMs auf einfache Art und Weise zu nutzen und auszuführen.
Im Rahmen ihrer Partnerschaft werden Nutanix und Hugging Face eine eigene Integration zu „Text Generation Inference“ entwickeln, der beliebten Open-Source-Bibliothek von Hugging Face für die Bereitstellung von LLMs in Produktivumgebungen. Das ermöglicht die Nutzung der Textgenerierungsmodelle, die auf dem Hub von Hugging Face verfügbar sind, auf GPT-in-a-Box in der Version 2.0. Teil dieser Integrationslösung wird ein nahtloser Workflow sein, um validierte LLMs von Hugging Face bereitzustellen und dabei vollumfänglich auf den Nutanix-Support zurückgreifen zu können. Die Zahl der unterstützten LLMs wird deutlich steigen und im Ergebnis ein gemeinsam validierter und unterstützter Workflow für Hugging-Face-Bibliotheken und LLMs entstehen. Das sorgt dafür, dass Kunden konsistente Modellinferenzen zentral managen können.
Plattform für unstrukturierte Daten optimiert für KI/ML
Nutanix hat zudem seine Plattform für unstrukturierte Daten durch Verbesserungen bei Leistung, Dichte und Gesamtbetriebskosten (TCO) für die Nutzung von KI- und ML-Algorithmen optimiert. „Nutanix Unified Storage“, die Nutanix-Lösung für Software-basierten Storage, unterstützt jetzt eine neue kostengünstige Plattform mit 100 Prozent NVMe-Storage und einem Speichervolumen von über 550 Terabytes sowie einem sequentiellen Lesedurchsatz von bis zu 10 Gigabytes pro Sekunde von einem einzigen Knoten aus. Das entspricht nahezu dem Durchsatz eines 100-Gigabit-Ethernet-Ports und ermöglicht schnellere Datenleseoperationen sowie eine effizientere Nutzung von GPU-Ressourcen. Nutanix wird des Weiteren „NVIDIA GPUDirect Storage“ unterstützen, um KI- und ML-Anwendungen noch schneller zu machen. Darüber hinaus erweitert Nutanix das Cyberresilienzversprechen von Nutanix Data Lens, der Datensicherheitslösung von Nutanix, nach der Dateispeicherlösung Nutanix Files auch auf die Objektspeicherlösung Nutanix Objects. Das Ziel dieser Erweiterung besteht darin, die äußerst wertvollen und oftmals vertraulichen Daten, die Unternehmen für Training und Ausführung von KI- und ML-Workloads verwenden, zu schützen. Speziell für EU-Kunden bietet Nutanix die Data-Lens-Funktionalitäten neu in einem Rechenzentrum in Frankfurt am Main an, damit diese einen einfacheren Zugang zu dieser Lösung haben als bisher, um ihre jeweiligen Compliance-Anforderungen zu erfüllen.
In Zusammenarbeit mit bekannten OEM-Anbietern für Serverplattformen hat Nutanix die Angebotsauswahl an KI-optimierten GPUs und Dichte-optimierten GPU-Systemen erweitert. Diese KI-optimierten GPUs, einschließlich der NVIDIA-GPUs L40S, L40 und L4, werden jetzt auf GPT-in-a-Box von Nutanix unterstützt. Ferner unterstützt Nutanix ab sofort Dichte-optimierte GPU-Systeme von Dell, HPE und Lenovo. Mit deren Hilfe können Kunden eine geringere Anzahl an Systemen bereitstellen, um die Anforderungen ihrer Workloads zu erfüllen, was zu niedrigeren Gesamtbetriebskosten (TCO) beitragen kann. Darüber hinaus hat Nutanix die geplante Unterstützung für seine Plattform NX-9151 angekündigt, die auf der Referenzarchitektur NVIDIA MGX basiert.
KI-Partnerprogramm von Nutanix
Um die KI-Strategien seiner Kunden noch besser zu unterstützen, hat Nutanix sein neues KI-Partnerprogramm vorgestellt. Kunden erhalten dadurch einen vereinfachten Zugang zu einem erweiterten Ökosystem an KI-Partnern mit dem Ziel, praxistaugliche generative KI-Lösungen zu liefern. Die Partner werden Unternehmen dabei unterstützen, eigenentwickelte generative KI-Lösungen oder solche von Drittanbietern auf der „Nutanix Cloud Platform“ und der Nutanix-Lösung GPT-in-a-Box zu implementieren, zu betreiben, zu managen und abzusichern, um prominente KI-Anwendungsszenarien zu realisieren.
Zu den Szenarien, zu deren Umsetzung das breit gefächerte Partnerökosystem beitragen wird, zählen unter anderem automatisierter Betrieb, Cybersicherheit, Betrugserkennung und Kundensupport für unterschiedliche Branchen wie Gesundheitswesen, Finanzdienstleister, Rechtsberatung und Professional Services. Zu den ersten Mitgliedern des neuen Partnerprogramms gehören Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI und UbiOps.
Die Partner profitieren von den folgenden Programmvorteilen:
Partner- und Analystenzitate
„Nutanix GPT-in-a-Box ist nach der Markteinführung sehr gut angenommen worden. Das hat den Beweis erbracht, dass Unternehmenskunden einen Bedarf an On-premises-Softwarelösungen haben, mit deren Hilfe sich KI-Modelle und Inferenzpunkte auf einfache Art und Weise bereitstellen und managen lassen“, erklärt Thomas Cornely, Senior Vice President of Product Management bei Nutanix. „Der Enterprise-Markt ist immer noch Neuland für GenAI, das es zu erforschen und erobern gilt. Wir freuen uns deshalb sehr auf die Zusammenarbeit mit unserem wachsenden Partner-Ökosystem, um den On-premises-Betrieb von GenAI-Anwendungen so einfach wie möglich zu machen und zu skalieren und dabei gleichzeitig für die Kontrolle über den Schutz der Privatsphäre und die Kosten zu sorgen.“
Nutanix GPT-in-a-Box 2.0
Die angekündigte Version 2.0 von GPT-in-a-Box wird die Verarbeitungsgeschwindigkeit mithilfe von NVIDIA weiter beschleunigen und zusätzliche LLMs unterstützen. Ferner wird sie das Management der Basismodelle weiter vereinfachen und Integrationen zu den Microservices von NVIDIA NIM und der LLM-Bibliothek von Hugging Face liefern. Ferner hält GPT-in-a-Box 2.0 eine zentrale Benutzeroberfläche für das Management der Basismodelle, das Erstellen von API-Endpunkten und die Verwaltung der Zugangsschlüssel von Endanwendern bereit. Ferner wird Version 2.0 Integrationen zu Nutanix Files und Nutanix Objects sowie NVIDIA Tensor Core GPUs enthalten.
Mit ihrer integrierten grafischen Benutzeroberfläche, der Rollen-basierten Zugriffskontrolle, Auditierbarkeit und Dark-Site-Unterstützung wird sich Version 2.0 von GPT-in-a-Box, neben vielen anderen Vorteilen, durch eine komfortable und einfache Benutzerführung auszeichnen, für die Nutanix bekannt ist. Sie enthält ferner eine Point-and-Click-Benutzeroberfläche, um NVIDIA NIM bereitzustellen und zu konfigurieren. Die „NIVDIA Inference Microservices“ (NIM) sind Teil der Softwareplattform „NVIDIA AI Enterprise“, um KI für den Echtbetrieb zu entwickeln und bereitzustellen. Dadurch lassen sich generative KI-Workloads im gesamten Unternehmen und am Edge bereitstellen und betreiben.
„Wir arbeiten mit Nutanix als einem unserer Schlüsseltechnologiepartner zusammen, um unsere Ambitionen in Sachen KI zu verwirklichen und eine Zukunft zu ermöglichen, in der die Technologie den Menschen dient“, betont Khalid Al Kaf, COO bei Yahsat. „Wir halten mit den Zukunftstechnologien nicht nur Schritt, sondern gestalten sie aktiv mit. Zu diesem Zweck nutzen wir die Nutanix-Lösung GPT-in-a-Box, die uns einfach zu bedienende Funktionalitäten für End-to-End-Management bietet und die zuverlässige Kontrolle über unsere Daten ermöglicht.“
Partnerschaft mit Hugging Face: Integrierter Zugriff auf LLM-Bibliothek
Nutanix ist eine Partnerschaft mit Hugging Face eingegangen, um zur Beschleunigung der KI-Reise von Kunden beizutragen. Ziel der Partnerschaft besteht darin, einen integrierten Zugang zur Hugging-Face-Bibliothek zu bieten und Kunden dadurch die Möglichkeit zu geben, die darin enthaltenen LLMs auszuführen. Gemeinsame Kunden werden von „Nutanix GPT-in-a-Box 2.0“ profitieren, um validierte LLMs auf einfache Art und Weise zu nutzen und auszuführen.
Im Rahmen ihrer Partnerschaft werden Nutanix und Hugging Face eine eigene Integration zu „Text Generation Inference“ entwickeln, der beliebten Open-Source-Bibliothek von Hugging Face für die Bereitstellung von LLMs in Produktivumgebungen. Das ermöglicht die Nutzung der Textgenerierungsmodelle, die auf dem Hub von Hugging Face verfügbar sind, auf GPT-in-a-Box in der Version 2.0. Teil dieser Integrationslösung wird ein nahtloser Workflow sein, um validierte LLMs von Hugging Face bereitzustellen und dabei vollumfänglich auf den Nutanix-Support zurückgreifen zu können. Die Zahl der unterstützten LLMs wird deutlich steigen und im Ergebnis ein gemeinsam validierter und unterstützter Workflow für Hugging-Face-Bibliotheken und LLMs entstehen. Das sorgt dafür, dass Kunden konsistente Modellinferenzen zentral managen können.
Plattform für unstrukturierte Daten optimiert für KI/ML
Nutanix hat zudem seine Plattform für unstrukturierte Daten durch Verbesserungen bei Leistung, Dichte und Gesamtbetriebskosten (TCO) für die Nutzung von KI- und ML-Algorithmen optimiert. „Nutanix Unified Storage“, die Nutanix-Lösung für Software-basierten Storage, unterstützt jetzt eine neue kostengünstige Plattform mit 100 Prozent NVMe-Storage und einem Speichervolumen von über 550 Terabytes sowie einem sequentiellen Lesedurchsatz von bis zu 10 Gigabytes pro Sekunde von einem einzigen Knoten aus. Das entspricht nahezu dem Durchsatz eines 100-Gigabit-Ethernet-Ports und ermöglicht schnellere Datenleseoperationen sowie eine effizientere Nutzung von GPU-Ressourcen. Nutanix wird des Weiteren „NVIDIA GPUDirect Storage“ unterstützen, um KI- und ML-Anwendungen noch schneller zu machen. Darüber hinaus erweitert Nutanix das Cyberresilienzversprechen von Nutanix Data Lens, der Datensicherheitslösung von Nutanix, nach der Dateispeicherlösung Nutanix Files auch auf die Objektspeicherlösung Nutanix Objects. Das Ziel dieser Erweiterung besteht darin, die äußerst wertvollen und oftmals vertraulichen Daten, die Unternehmen für Training und Ausführung von KI- und ML-Workloads verwenden, zu schützen. Speziell für EU-Kunden bietet Nutanix die Data-Lens-Funktionalitäten neu in einem Rechenzentrum in Frankfurt am Main an, damit diese einen einfacheren Zugang zu dieser Lösung haben als bisher, um ihre jeweiligen Compliance-Anforderungen zu erfüllen.
In Zusammenarbeit mit bekannten OEM-Anbietern für Serverplattformen hat Nutanix die Angebotsauswahl an KI-optimierten GPUs und Dichte-optimierten GPU-Systemen erweitert. Diese KI-optimierten GPUs, einschließlich der NVIDIA-GPUs L40S, L40 und L4, werden jetzt auf GPT-in-a-Box von Nutanix unterstützt. Ferner unterstützt Nutanix ab sofort Dichte-optimierte GPU-Systeme von Dell, HPE und Lenovo. Mit deren Hilfe können Kunden eine geringere Anzahl an Systemen bereitstellen, um die Anforderungen ihrer Workloads zu erfüllen, was zu niedrigeren Gesamtbetriebskosten (TCO) beitragen kann. Darüber hinaus hat Nutanix die geplante Unterstützung für seine Plattform NX-9151 angekündigt, die auf der Referenzarchitektur NVIDIA MGX basiert.
KI-Partnerprogramm von Nutanix
Um die KI-Strategien seiner Kunden noch besser zu unterstützen, hat Nutanix sein neues KI-Partnerprogramm vorgestellt. Kunden erhalten dadurch einen vereinfachten Zugang zu einem erweiterten Ökosystem an KI-Partnern mit dem Ziel, praxistaugliche generative KI-Lösungen zu liefern. Die Partner werden Unternehmen dabei unterstützen, eigenentwickelte generative KI-Lösungen oder solche von Drittanbietern auf der „Nutanix Cloud Platform“ und der Nutanix-Lösung GPT-in-a-Box zu implementieren, zu betreiben, zu managen und abzusichern, um prominente KI-Anwendungsszenarien zu realisieren.
Zu den Szenarien, zu deren Umsetzung das breit gefächerte Partnerökosystem beitragen wird, zählen unter anderem automatisierter Betrieb, Cybersicherheit, Betrugserkennung und Kundensupport für unterschiedliche Branchen wie Gesundheitswesen, Finanzdienstleister, Rechtsberatung und Professional Services. Zu den ersten Mitgliedern des neuen Partnerprogramms gehören Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI und UbiOps.
Die Partner profitieren von den folgenden Programmvorteilen:
- Nutanix AI Ready Validation: Alle Partner werden die Validierung „Nutanix AI Ready“ erhalten und damit die Interoperabilität mit der „Nutanix Cloud Infrastructure“, der hyperkonvergenten Infrastruktursoftware von Nutanix, dem Hypervisor „Nutanix AHV“ und der „Nutanix Kubernetes Platform“, der Cloud-native-Plattform von Nutanix auf Basis von Kubernetes, nachweisen.
- Full-Stack-Lösungen: Programmmitglieder werden individuelle Produktbroschüren erhalten, in denen die Vorteile der Nutanix- und Partnerlösungen beschrieben sind. Select-Partner erhalten darüber hinaus technische Datenblätter, Best-Practice-Guides oder Referenzarchitekturen, um die Implementierung bei gemeinsamen Kunden zu vereinfachen.
- Gemeinsame Werbe- und Go-to-Market-Maßnahmen: Partner werden von Go-to-Market- und nachfragegenerierenden Aktivitäten rund um KI-Szenarien für Unternehmenskunden profitieren. Zusätzlich werden Partner Zugang zu Werbematerial und Go-to-Market-Maßnahmen einschließlich Inhaltserstellung, Blogbeiträgen, Webinaren, Podcasts und anderer Veranstaltungen erhalten, um Bewusstsein und Nachfrage für zentrale Anwendungsszenarien zu schaffen.
Partner- und Analystenzitate
- „Unsere Partnerschaft mit Nutanix wird dazu beitragen, Hugging Face in mehr Unternehmen, die auf der Suche nach einer privaten und sicheren Kontrolle ihrer LLMs sind, zu verbreiten“, so Clem Delangue, CEO und Mitbegründer von Hugging Face. „Wir verfolgen das Ziel, Unternehmen und Organisationen jeder Größe in die Lage zu versetzen, ihre eigene künstliche Intelligenz auf Basis von Open-Source zu erstellen. Unsere Arbeit mit Nutanix wird es für Unternehmen einfacher machen, KI-Anwendungen on-premises zu bauen und dafür Text-Generation-Inference zu nutzen.“
- „Kunden, die generative KI zu ihrem Vorteil nutzen wollen, haben die Verantwortung, die Kontrolle über ihre privaten und sensiblen Daten zu behalten“, betont Dave Pearson, Research Vice President for Infrastructure bei IDC. „Durch die neuen Funktionalitäten und Partnerschaften will Nutanix Organisationen dazu befähigen, eine private und sichere für KI vorbereitete Plattform zu bauen und die Verbreitung von GenAI im Unternehmensmarkt zu beschleunigen.“
