Germany – System and support services – Beschaffung von GPU- und CPU-Rechenleistung zum Training eines LLM

Description

Im Rahmen eines öffentlich geförderten europäischen Projekts zu offenen großen Sprachmodellen veröffentlicht die Gottfried Wilhelm Leibniz Universität Hannover (LUH) diese europaweite Ausschreibung für GPU- und CPU-Rechenkapazitäten für das Pretraining und Post-Training großer Sprachmodelle (LLMs). Die Beschaffung ist in zwei Lose unterteilt, die zwei technisch unterschiedlichen Systemklassen entsprechen: Los 1 betrifft GPU-Knoten gemäß der NVIDIA-DGX/HGX-B200- oder B300-Referenzarchitektur (8 GPU-Module pro Knoten) oder neuer. Gegenstand sind die Fertigstellung und das Post-Training von Mixture-of-Experts-(MoE-)Modellen mit mehr als 100 Milliarden Parametern, die Evaluierung, die Generierung synthetischer Daten mit Generatormodellen von etwa 400 Milliarden Parametern sowie die Destillation kleinerer Modellvarianten. -Referenz-GPU NVIDIA B200 in Knoten der DGX/HGX-B200-Referenzarchitektur (2,25 × 10¹⁵ FLOPs/s BF16 Dense je GPU); DGX/HGX B300 oder neuere NVIDIA-Referenzarchitekturen derselben Klasse (z. B. DGX Rubin NVL8) sind zulässig. -Verbindliche Mindestrechenleistung 1,5 × 10²⁵ FLOPs ≈ 1,85 Millionen B200-GPU-Stunden - Referenzkonfiguration 1.024 GPUs (128 Knoten) während der ersten 65 Tage, anschließend 128 GPUs (16 Knoten) bis zum Ende der Laufzeit (155 Tage) = 1.873.920 GPU-Stunden = 1,52 × 10²⁵ FLOPs - Mindestanzahl gleichzeitig verfügbarer GPUs ≥ 1.024 (128 Knoten) während der ersten 65 Tage; anschließend ≥ 128 (16 Knoten) - Beginn / Ende des Leistungszeitraums Vom Bieter angebotener Beginn, nicht vor dem 1. Dezember 2026 und nicht nach dem 15. Januar 2027; Laufzeit 155 Tage (Referenz: 1. Dezember 2026 bis 4. Mai 2027), mit vorausgehender zweiwöchiger Testphase - Option Bis zu drei Monate nach der Grundlaufzeit, 128 GPUs - Preisobergrenze 16.400.000 EUR (einschließlich 19 % Umsatzsteuer) - CPU ≥ 15 Millionen Core-Stunden; Partition mit ≥ 4.096 physischen Kernen - Speicher ≥ 1 PB paralleles Dateisystem zuzüglich ≥ 1 PB S3-kompatibler Objektspeicher - Standort EU/EWR oder ein Land mit einem Angemessenheitsbeschluss der EU Nähere Informationen entnehmen Sie bitte der Leistungsbeschreibung.

Key facts

Procedure

open

Contact

vergabe.hannover@luther-lawfirm.com

Regime

publicSector

Category

services