Exklusiv – OpenAI ist mit einigen Nvidia-Chips unzufrieden und sucht laut Quellen nach Alternativen

Nvidias Entscheidung, Schlüsselpersonal bei Groq abzuwerben, wurde von Führungskräften der Chipindustrie als Versuch gesehen, das eigene Technologieportfolio zu stärken, um in einer sich schnell wandelnden KI-Branche besser konkurrieren zu können. Nvidia erklärte, dass das geistige Eigentum von Groq die Produkt-Roadmap von Nvidia hervorragend ergänze.

ALTERNATIVEN ZU NVIDIA

Nvidias Grafikprozessoren eignen sich hervorragend für die massiven Datenverarbeitungen, die zum Training großer KI-Modelle wie ChatGPT notwendig sind und die das explosive Wachstum der KI weltweit bisher ermöglicht haben. Doch Fortschritte bei der KI konzentrieren sich zunehmend auf die Nutzung trainierter Modelle für Inferenz und logisches Schließen – ein neues, größeres Stadium der KI, das OpenAI inspiriert.

Die Suche des ChatGPT-Herstellers nach GPU-Alternativen seit dem vergangenen Jahr konzentrierte sich auf Unternehmen, die Chips mit großen Mengen an Speicher (SRAM), der im selben Siliziumstück wie der Rest des Chips eingebettet ist, bauen. Das Einbringen von möglichst viel kostspieligem SRAM auf jeden Chip kann für Chatbots und andere KI-Systeme Geschwindigkeitsvorteile bieten, wenn sie Anfragen von Millionen Nutzern verarbeiten.

Inferenz erfordert mehr Speicher als das Training, da der Chip relativ mehr Zeit damit verbringt, Daten aus dem Speicher abzurufen, als mathematische Operationen auszuführen. Die GPU-Technologien von Nvidia und AMD setzen auf externen Speicher, wodurch sich die Verarbeitungszeit verlängert und die Geschwindigkeit, mit der Nutzer mit einem Chatbot interagieren können, sinkt.

Bei OpenAI wurde das Problem besonders beim Produkt Codex sichtbar, das für die Erstellung von Computercode gedacht ist und das Unternehmen aggressiv vermarktet, fügte eine der Quellen hinzu. OpenAI-Mitarbeiter führten einige Schwächen von Codex auf die Nvidia-GPU-basierte Hardware zurück, sagte eine Quelle.

In einem Gespräch mit Reportern am 30. Januar sagte CEO Sam Altman, dass Kunden, die die Codierungsmodelle von OpenAI nutzen, „großen Wert auf Geschwindigkeit bei der Programmierarbeit legen werden“.

Eine Möglichkeit, dieser Nachfrage zu begegnen, sei der jüngste Deal mit Cerebras, sagte Altman und fügte hinzu, dass Geschwindigkeit für gelegentliche ChatGPT-Nutzer weniger entscheidend sei.

Konkurrenzprodukte wie Claude von Anthropic und Gemini von Google profitieren von Implementierungen, die stärker auf unternehmenseigene Chips von Google, sogenannte Tensor Processing Units (TPUs), setzen. Diese sind für die Art von Berechnungen entwickelt, die bei der Inferenz erforderlich sind, und können Leistungs­vorteile gegenüber universellen KI-Chips wie den von Nvidia entwickelten GPUs bieten.

NVIDIAS BEWEGUNGEN

Da OpenAI seine Vorbehalte gegenüber Nvidia-Technologie klar machte, wandte sich Nvidia an Unternehmen, die an SRAM-starken Chips arbeiten, darunter Cerebras und Groq, um eine mögliche Übernahme zu sondieren, wie die Personen sagten. Cerebras lehnte ab und schloss stattdessen einen kommerziellen Deal mit OpenAI ab, der letzten Monat bekannt gegeben wurde. Cerebras lehnte eine Stellungnahme ab.

Groq führte Gespräche mit OpenAI über einen Deal zur Bereitstellung von Rechenleistung und erhielt Investoreninteresse zur Finanzierung des Unternehmens mit einer Bewertung von etwa 14 Milliarden US-Dollar, so mit den Verhandlungen vertraute Personen. Groq lehnte eine Stellungnahme ab.

Aber bis Dezember lizenzierte Nvidia die Technologie von Groq in einem nicht-exklusiven, rein baren Deal, sagten die Quellen. Obwohl der Deal es anderen Unternehmen erlauben würde, die Technologie von Groq zu lizenzieren, konzentriert sich das Unternehmen nun auf den Verkauf von cloudbasierter Software, da Nvidia die Chipdesigner von Groq abgeworben hat.

(Berichterstattung von Max A. Cherney, Krystal Hu und Deepa Seetharaman in San Francisco; Redaktion: Kenneth Li, Peter Henderson und Nick Zieminski)