Aktuell spielen sich KI-Innovationen zum Großteil in der Public Cloud ab. Der damit verbundene Zugang zu Infrastrukturressourcen und Tools macht es möglich, die entsprechenden Anforderungen von KI-Anwendungen zu erfüllen. Gleichzeitig haben nur die größten Unternehmensorganisationen mit eigenen Teams von Datenwissenschaftlern Fortschritte in der Einführung generativer KI erzielt. Laut der Studie State of Enterprise AI planen die meisten Unternehmen Investitionen, um ihre KI-Strategien zu unterstützen, einschließlich stark wachsender Investitionen in Edge-Umgebungen. Was jedoch fehlt, ist ein schneller und einfacher Zugang zu verbreiteten GenAI-Modellen abseits der Public Cloud, sowohl im Unternehmen als auch am Edge.
Dank der Integration der NVIDIA-NIM-Microservices werden Kunden den Nutzen von GPT-in-a-Box 2.0 von Nutanix voll ausschöpfen können. Die Nutanix-Lösung baut auf der Plattform des Anbieters mit deren umfangreichen Datenservices und Rechenressourcen auf und ermöglicht eine vereinfachte Bereitstellung und einen effektiveren sowie effizienteren Betrieb von Anwendungen für künstliche Intelligenz und maschinelles Lernen im Unternehmen. Dadurch erweitert sich der Zugang zum wachsenden Katalog der NVIDIA-NIM-Microservices auf das gesamte Unternehmen und auf Edge-Umgebungen. GenAI-Initiativen lassen sich dadurch in kurzer Zeit umsetzen, ohne dass dafür ein Team von Datenwissenschaftlern benötigt wird.
Viele Unternehmen sehen sich mit einer Fülle an Entscheidungen konfrontiert, die nötig sind, um KI-Lösungen auf den Weg zu bringen. Die Zusammenarbeit von Nutanix mit NVIDIA wird diesen Prozess vereinfachen. Zu diesen Entscheidungen gehören die Auswahl unter hunderttausenden Modellen, von Servern und unterstützenden Infrastrukturen, all das vor dem Hintergrund fehlender Kompetenzen, die neu erworben werden müssen, um GenAI-Lösungen für ihre Kunden bereitzustellen.
GPT-in-a-Box von Nutanix vereinfacht den Aufbau eines einsatzbereiten KI-Stacks und ist mit Nutanix Objects sowie Nutanix Files zur Speicherung von Modellen und Daten integriert. Dadurch können Kunden die Kontrolle über ihre Daten behalten. Neue Features in Version 2.0 von GPT-in-a-Box werden darüber hinaus Bereitstellung und Betrieb von Inferenzpunkten für ein breites Spektrum an KI-Modellen automatisieren und mittels fein abgestufter Kontrollen von Zugriffen und deren Dokumentation für einen sicheren Zugang zu den Modellen sorgen.
Der Betrieb der NIM-Microservices auf der Nutanix Cloud Platform wird mithilfe von Standard-Schnittstellen ein reibungsloses KI-Inferencing zu einer großen Bandbreite an Modellen ermöglichen. Dazu zählen Modelle der Open-Source-Community, Modelle der NVIDIA AI Foundation und individuell angepasste Modelle. Für den Support der Integration hat Nutanix die Zertifizierung der Softwareplattform NVIDIA AI Enterprise 5.0 angekündigt, um Entwicklung und Bereitstellung von KI einschließlich NVIDIA NIM für den Produktivbetrieb zu optimieren.
„Unternehmen suchen nach einfacheren Wegen der KI-Einführung und Nutanix gibt Kunden die Möglichkeit, leichter in den Echtbetrieb zu gehen und gleichzeitig die Kontrolle über den Schutz der Daten und die Kosten zu behalten“, so Tarkan Maner, Chief Commercial Officer bei Nutanix. „Die Kooperation wird den Nutzen dieses Ansatzes weiter steigern und Kunden den Zugang zu NVIDIAs jüngsten Innovationen mit NIM erleichtern.“
„In jeder Branche arbeiten Unternehmen daran, KI in ihre Cloud- und Datenplattformen zu integrieren, die den Geschäftsbetrieb unterstützen“, erklärt Manuvir Das, Vice President of Enterprise Computing bei NVIDIA. „Die Integration von NVIDIA NIM mit GPT-in-a-Box von Nutanix liefert Unternehmen eine einsatzbereite KI-Lösung, mit deren Hilfe sie optimierte Modelle schnell in den Echtbetrieb bringen können.“
Version 2.0 von Nutanix GPT-in-a-Box wird voraussichtlich in der zweiten Jahreshälfte 2024 erhältlich sein. Weitere Details sind im Nutanix-Blog abrufbar.