TensorMaster K45A 4HE KI Server

Produktbeschreibung TensorMaster K45A 4HE KI Server

TensorMaster K45A: KI-Rackserver mit AMD EPYC und NVIDIA GPU konfigurieren

Der TensorMaster K45A ist ein online konfigurierbarer 4HE KI-Rackserver für lokale KI-Inferenz, Machine Learning, Bildanalyse und weitere GPU-beschleunigte Anwendungen. Die Plattform kombiniert einen AMD EPYC Prozessor der Serie 4004 oder 4005 mit bis zu 128 GB DDR5 ECC-Arbeitsspeicher und einer NVIDIA GPU. Als leistungsstärkste Grafikkarte steht die NVIDIA RTX PRO 6000 Blackwell Server-Edition mit 96 GB GDDR7 ECC-Speicher zur Auswahl.

AMD EPYC Prozessoren für professionelle KI-Anwendungen
Die verfügbaren AMD EPYC Prozessoren bieten bis zu 16 Kerne und 32 Threads. Die CPU übernimmt unter anderem Datenvorbereitung, Systemsteuerung, Netzwerkprozesse sowie die Koordination der Grafikkarte. Anwendungen mit mehreren parallelen Diensten, Containern oder umfangreicher Vor- und Nachverarbeitung können von einer höheren Kernzahl profitieren.

NVIDIA GPU mit bis zu 96 GB Grafikspeicher
Das konfigurierbare GPU-Spektrum reicht von kompakten GeForce RTX Modellen für Entwicklung, Tests und kleinere KI-Modelle bis zu professionellen NVIDIA RTX PRO Grafikkarten. Der verfügbare GPU-Speicher beeinflusst, welche Modelle, Kontextlängen und Batch-Größen verarbeitet werden können. Der tatsächliche Bedarf hängt außerdem von Zahlenformat, Quantisierung, Software und Anzahl paralleler Prozesse ab.

Für die NVIDIA RTX PRO 6000 Blackwell Server-Edition nennt NVIDIA eine theoretische Spitzenleistung von 120 TFLOPS bei FP32 und 234 TFLOPS bei TF32. Für Tensor-Berechnungen werden 1 PFLOP bei FP16 beziehungsweise BF16, 2 PFLOPS bei FP8 und 4 PFLOPS bei FP4 angegeben. Da diese Werte unterschiedliche Zahlenformate beschreiben, sind sie nicht direkt miteinander vergleichbar. Die praktisch erreichbare Leistung hängt vom jeweiligen KI-Modell, Framework, Speicherbedarf und Optimierungsgrad ab.

ECC-Arbeitsspeicher und flexibler Storage
Der TensorMaster K45A unterstützt bis zu 128 GB DDR5 ECC-Arbeitsspeicher über vier DIMM-Steckplätze. ECC-RAM ist besonders bei dauerhaft laufenden Berechnungen und professionellen Serveranwendungen relevant, da Speicherfehler erkannt und abhängig von der eingesetzten Technologie korrigiert werden können.

Für Betriebssystem, Anwendungen und KI-Modelle stehen zwei M.2 NVMe-Anbindungen mit PCIe 4.0 x4 zur Verfügung. Zusätzlich können maximal vier HDDs oder SSDs in den vorhandenen 2,5-Zoll- und 3,5-Zoll-Laufwerksschächten eingesetzt werden. Optionale RAID-Controller ermöglichen abhängig von der Ausstattung den Aufbau eines Laufwerksverbunds. Ein RAID ersetzt jedoch keine separate Datensicherung.

Netzwerk und Servermanagement
Zur Plattform gehören zwei Gigabit-LAN-Anschlüsse und ein separater IPMI-Port für die Fernverwaltung. Für große Datenmengen oder die Anbindung an zentrale Storage-Systeme kann der KI-Server mit zusätzlichen Netzwerkkarten bis 10, 25 oder 50 Gigabit-Ethernet ausgestattet werden.

Einsatzgebiete des TensorMaster K45A
Der TensorMaster K45A eignet sich abhängig von der Konfiguration für lokale Sprachmodelle, generative KI, Retrieval-Augmented Generation, Bildanalyse, Objekterkennung, visuelle Qualitätskontrolle, Datenanalyse sowie die Verarbeitung von Video-, Audio-, Maschinen- oder Sensordaten. Auch GPU-beschleunigte Visualisierung und wissenschaftliche Berechnungen sind mögliche Einsatzbereiche.

Der lokale Betrieb ermöglicht die Verarbeitung von Modellen und Daten innerhalb der eigenen IT-Infrastruktur. Datenschutz und IT-Sicherheit erfordern jedoch zusätzlich geeignete Zugriffsrechte, Netzwerksegmentierung, Verschlüsselung, Datensicherung und ein abgestimmtes Betriebskonzept.

KI-Server online konfigurieren und kaufen
Nach Abschluss der Konfiguration wird der KI-Server in unserer hauseigenen Fertigung assembliert und ausführlich getestet. Die Fertigungs- und Prüfprozesse erfolgen im Rahmen unseres Qualitätsmanagementsystems nach DIN EN ISO 9001:2015.

Spezifikationen

)

Mainboard
Hersteller	MSI Server
Mainboard	D3051
Anzahl CPU-Sockel	1
Chipsatz	B650
Onboard Grafik	Aspeed AST2600
RAM	4x DIMMs DDR5 5600 unb. ECC
LAN Controller	Intel® i210
Management onboard	Ja
Gehäuse
Höheneinheit	4 HE
Maße (Tiefe/Breite/Höhe)	480x430x177 mm
Hersteller	Genesys
Hersteller-ArtNr	C480G-ICO
Farbe	schwarz
Anzahl Gehäuselüfter	4
Anschlüsse	2 x 2,5 Zoll HDD-Schacht 2 x 3,5 Zoll HDD-Schacht 2 x 5,25 Zoll Schacht 2 x USB 3.0 Ports
Schnittstellen und Anschlüsse
VGA	1
Gbit LAN	2
IPMI LAN Port	1
M2 NVMe 2280	2
SATA	6
USB 3.2 Gen1 Type A	4
PCI-Express x16	1
Serielle (RS232) Ports	1
TPM (Header)	1