NVIDIA RTX Spark: was lokale KI-Modelle auf Laptops leisten

NVIDIA hat neue RTX-Spark-Laptops vorgestellt, die einen Blackwell-RTX-GPU und eine Grace-CPU in einem einzigen Superchip vereinen. Bis zu 128 GB gemeinsamer Speicher und bis zu ein Petaflop FP4-Rechenleistung sollen laut Hersteller eine Art persönlichen KI-Supercomputer in ein Windows-Notebook bringen. Die Geräte sind ab sofort bei ASUS, Dell, HP, Lenovo, Microsoft und MSI erhältlich.

Für dich als Entwickler heißt das: CUDA, RTX-Grafik und lokale Modelle laufen auf derselben Hardware. NVIDIA nennt die Werte selbst – unabhängige Messungen zum Alltagsbetrieb liegen in den Quellen nicht vor.

Mit Nemotron 3.5 Transcribe stellt NVIDIA ein offenes Sprachmodell vor, das Transkription, Sprecherzuordnung und Übersetzung in einem einzigen Modell bündelt. Statt mehrerer Werkzeuge reicht ein Prompt in natürlicher Sprache, etwa um eine Aufnahme zu verschriften und Sprecher zu benennen. Das Modell deckt 40 Sprachen ab, darunter sieben indische Sprachen.

NVIDIA gibt an, das Modell liege auf Platz eins der Hugging-Face-Open-ASR-Rangliste und auf Platz zwei unter den offenen Modellen bei Artificial Analysis. Es habe rund 4,3 Milliarden aktive Parameter, 80 Prozent weniger als das führende offene Modell. Diese Einordnung stammt vom Hersteller. Die Gewichte sind offen, verfügbar ist das Modell auf Hugging Face. Quantisierte Versionen für den lokalen Betrieb sollen folgen.

Auf RTX Spark können dauerhaft laufende Agenten parallel zu normalen Anwendungen arbeiten. Beide nutzen dieselbe GPU, und die richtige Verteilung hängt davon ab, was gerade wichtiger ist. Über eine neue Ressourcenverwaltung in der NVIDIA App legst du fest, ob die App im Vordergrund oder der Agent im Hintergrund mehr Rechenleistung bekommt.

Die Funktion findest du unter System > Advanced in der NVIDIA App. Sie setzt voraus, dass die hardwarebeschleunigte GPU-Planung in den Windows-Einstellungen aktiviert ist. Ohne diese Bedingung bleibt die Steuerung außen vor.

Liquid AI hat mit LFM3 eine neue Generation von Modellen vorgestellt, die auf einen gemeinsamen Grundaufbau setzen. Die Familie umfasst Text-, Bild-, Audio-, Omni- und Entscheidungsmodelle, teils als offene Gewichte. Das neue Basismodell mit 1,7 Milliarden Parametern übertrifft laut Liquid AI das frühere mit 2,6 Milliarden Parametern.

Lokal laufen die Modelle auf RTX Spark über llama.cpp und vLLM, auch Feintuning ist vorgesehen. Genannte Einsatzfelder sind das Sortieren von Postfächern, Kalenderverwaltung, das Lesen von Dokumenten und Bildschirminhalten sowie Sprachübersetzung. Das sind Anwendungsbeispiele des Herstellers, keine belegten Testergebnisse.

NVIDIA zeigt, wie Entwickler KI-Agenten über Anweisungen in natürlicher Sprache durch Simulationsprojekte führen. Die Agenten setzen auf Omniverse-Bibliotheken für physikalische Berechnung, Rendering und Sensorsimulation auf der GPU. Ein Beispiel ist ein editierbares Gebäudemodell aus Panoramaaufnahmen, das ein NVIDIA-Mitarbeiter mit dem Modell Astra erstellte.

Ein weiteres Projekt bildet eine Gasturbine als digitalen Zwilling ab, inklusive sechs Testverfahren für Lastwechsel und Fehlerfälle. In einem Lagerhaus-Szenario hielt eine Simulation mit 80 Förderbändern, 40 Roboterarmen und 800 Kisten während eines zweiminütigen Tests 30 Bilder pro Sekunde bei Full HD. Diese Zahlen stammen aus einem einzelnen Test der NVIDIA-Teams, nicht aus einer unabhängigen Prüfung.

Die Laptops sind dünn und leicht, NVIDIA nennt 14 Millimeter Bauhöhe und rund drei Pfund Gewicht. Solche Maße werden durch den Superchip möglich, der GPU, CPU und Speicher auf einem Bauteil vereint.

Die Verfügbarkeit der genannten Modelle und Funktionen ist an Bedingungen geknüpft: Transcribe läuft lokal erst mit den angekündigten quantisierten Versionen, die Ressourcensteuerung braucht die GPU-Planung in Windows. Preise für die Geräte nennen die Quellen nicht. Ich habe die Laptops nicht getestet und kann zur tatsächlichen Leistung im Alltag nichts sagen.