Nvidia bringt persönlichen KI-Supercomputer „Digits“ für 3.000 Dollar
Der Chip-Titan Nvidia hat auf der Tech-Messe CES einen persönlichen AI-Supercomputer namens „Project Digits“ für kommenden Mai angekündet, berichtet The Verge. Das Herzstück von Project Digits ist der neue Grace Blackwell Superchip GB10, der genügend Rechenleistung für anspruchsvolle AI-Modelle verspricht. Gleichzeitig soll der Chip so kompakt sein, dass er auf einen Schreibtisch passt. Darüber hinaus soll er sich über eine normale Steckdose betreiben lassen. Für diese Art von Rechenleistung waren bisher viel größere, stromhungrigere Systeme erforderlich.
Nvidia will mit „Mega“ ein Roboter-Ökosystem schaffen und Lagerarbeit revolutionieren
„AI wird in jeder Branche zum Mainstream“
Das System in Tischgröße kann KI-Modelle mit bis zu 200 Milliarden Parametern verarbeiten und hat einen Startpreis von 3.000 US-Dollar. „AI wird in jeder Anwendung und in jeder Branche zum Mainstream werden. Mit Project Digits kommt der Grace Blackwell Superchip zu Millionen von Entwickler:innen“, sagte Nvidia-CEO Jensen Huang in einer Presseerklärung. „Indem wir einen KI-Supercomputer auf die Schreibtische aller Datenwissenschaftler:innen, KI-Forscher:innen und Student:innen stellen, befähigen wir sie, das Zeitalter der AI mitzugestalten.“
Jedes Project Digits-System ist mit 128 GB einheitlichem, kohärentem Speicher ausgestattet (zum Vergleich: ein guter Laptop hat vielleicht 16 oder 32 GB RAM). Für noch anspruchsvollere Anwendungen lassen sich zwei Project Digits-Systeme miteinander verbinden, um Modelle mit bis zu 405 Milliarden Parametern zu verarbeiten (das beste Modell von Meta, Llama 3.1, hat 405 Milliarden Parameter).
Nvidia bietet Zugang zur AI-Softwarebibliothek
Digits verfügt über Nvidias CUDA-Kerne der neuesten Generation und Tensor-Kerne der fünften Generation, die über NVLink-C2C mit einer Grace-CPU verbunden sind, die 20 energieeffiziente Arm-basierte Kerne enthält. MediaTek, bekannt für seine Arm-basierten Chipdesigns, hat an der Entwicklung des GB10 mitgearbeitet, um seine Energieeffizienz und Leistung zu optimieren.
Die Nutzer:innen erhalten außerdem Zugang zu Nvidias KI-Softwarebibliothek, einschließlich Entwicklungskits, Orchestrierungswerkzeugen und vortrainierten Modellen. Diese sind über den Nvidia NGC-Katalog verfügbar. Das System läuft auf dem Linux-basierten Nvidia DGX OS und unterstützt beliebte Frameworks wie PyTorch, Python und Jupyter Notebooks. User können ihre KI-Modelle lokal auf Project Digits entwickeln und testen. Sie können sie dann auf Cloud-Dienste oder Rechenzentrumsinfrastrukturen übertragen, indem sie dieselbe Grace Blackwell-Architektur und Nvidia AI Enterprise-Softwareplattform verwenden.
