Künstliche Intelligenz bezeichnet Computersysteme, die Aufgaben übernehmen, für die man üblicherweise menschliche Intelligenz voraussetzt - etwa Sprache verstehen, Bilder erkennen oder Entscheidungen treffen. Anders als klassische Software, die starr vorgegebenen Regeln folgt, lernen moderne KI-Systeme aus Beispielen: Sie leiten ihr Verhalten selbstständig aus großen Datenmengen ab. Das wichtigste Teilgebiet ist das maschinelle Lernen und, als dessen leistungsfähigste Ausprägung, das Deep Learning mit künstlichen neuronalen Netzen.

Sichtbar wird KI meist im fertigen Ergebnis: einem Chatbot, der antwortet, einem Bildgenerator, der Motive erzeugt, oder einem Diagnosesystem in der Medizin. Doch bevor ein KI-Modell auch nur eine einzige Antwort liefert, steht ein extrem rechenintensiver Schritt - das KI-Training. Und nach dem Training folgt der Dauerbetrieb, die Inferenz. Wer KI zuverlässig, skalierbar und im produktiven Umfeld betreiben will, braucht deshalb spezialisierte Hardware, schnelle Netzwerke, durchdachte Kühlung und eine Infrastruktur, die diese Last trägt.

KI-Training ist der Prozess, in dem ein Modell aus Daten lernt. Bei modernen Verfahren desDeep Learning bedeutet das: Ein künstliches neuronales Netz mit Millionen bis Milliarden von Parametern verarbeitet riesige Datenmengen, vergleicht seine Vorhersagen mit dem gewünschten Ergebnis und passt seine internen Gewichte millionenfach an, bis es die gewünschte Genauigkeit erreicht. KI-Training ist damit ein Spezialfall desmaschinellen Lernens – jenes Teilgebiets der KI, in dem Systeme nicht explizit programmiert werden, sondern selbstständig Muster aus Daten ableiten.

In der Praxis durchläuft ein KI-Modell drei Phasen, die unterschiedliche Anforderungen an die Infrastruktur stellen. Im Training wird das Modell von Grund auf aufgebaut – der mit Abstand rechenintensivste Schritt, der je nach Modellgröße Tage bis Wochen auf großen Rechenverbünden dauern kann. Beim Fine-Tuning wird ein bereits trainiertes Basismodell mit zusätzlichen, oft unternehmenseigenen Daten nachjustiert; das ist deutlich günstiger, erfordert aber weiterhin spezialisierte Beschleuniger. In der Inferenz schließlich wird das fertige Modell produktiv genutzt – hier zählt nicht maximale Rechenleistung über Wochen, sondern niedrige Latenz und Effizienz im Dauerbetrieb.

Der Rechenhunger des KI-Trainings ergibt sich aus drei Faktoren: der Zahl der Modellparameter, der Menge der Trainingsdaten und der Zahl der Trainingsdurchläufe. Große Sprachmodelle (LLMs) bestehen aus Milliarden von Parametern, die in jeder Iteration neu berechnet werden. Dahinter steckt eine gewaltige Zahl an Matrix-Operationen – mathematisch simpel, aber in einer Größenordnung, die ein einzelner Server niemals in vertretbarer Zeit bewältigt.

Genau hier wird KI-Training zu einem klassischen Problem desHigh Performance Computing (HPC). Die Lösung lautet Parallelisierung: Eine große Aufgabe wird in tausende kleinere Teilaufgaben zerlegt, die gleichzeitig auf vielen Recheneinheiten bearbeitet werden. Das ist dasselbe Prinzip, mit dem Supercomputer seit Jahrzehnten Klimamodelle rechnen oder Crash-Simulationen durchführen. Die KI-Welle hat HPC nicht abgelöst – sie ist einer seiner größten Treiber geworden. HPC und KI verschmelzen: Dieselben Architekturen, die wissenschaftliche Simulationen ermöglichen, trainieren heute die größten KI-Modelle.

Das Herzstück jeder Trainings-Infrastruktur ist die GPU. Während eine CPU für wenige, sequenzielle Aufgaben optimiert ist, besitzt eine GPU tausende kleinerer Kerne, die parallele Berechnungen ausführen – ideal für das Training neuronaler Netze. Moderne Beschleuniger von NVIDIA (etwa die B200-, B300- und Rubin-Generation) und AMD (Instinct-Serie) verfügen zusätzlich über spezialisierte Tensor-Recheneinheiten, die die für KI typischen Matrix-Operationen mit hoher Geschwindigkeit und Energieeffizienz ausführen.

Eine einzelne GPU reicht für ernsthaftes KI-Training allerdings nicht aus. Mehrere Beschleuniger werden in Rechenknoten gebündelt, viele Knoten zu einem GPU-Cluster. Entscheidend ist dann das Zusammenspiel: Damit hunderte GPUs an einem Modell rechnen können, müssen sie mit minimaler Latenz kommunizieren. Hochgeschwindigkeits-Interconnects wie InfiniBand übernehmen das, ergänzt um parallele Dateisysteme (etwa Lustre oder BeeGFS) und schnellen Flash-Speicher, damit die Beschleuniger nie auf Daten warten müssen. Vorkonfigurierte Systeme wie die NVIDIA-DGX-Plattform zeigen dieses Prinzip im Kleinen; im großen Maßstab entstehen daraus maßgeschneiderte Cluster, wie sie MEGWARE als NVIDIA-Partner für Forschung und Industrie baut.

Eine Trainings-Infrastruktur ist also nie „nur GPU". Sie ist ein fein abgestimmtes Gesamtsystem aus Beschleunigern, Prozessoren, Netzwerk, Speicher, Kühlung und Software – und ihre Leistung hängt vom schwächsten Glied ab.

Sobald ein Modell trainiert ist, verlagert sich die Last vom Training zur Inferenz – dem produktiven Anwenden des Modells. Beide Phasen stellen unterschiedliche Anforderungen. Training läuft in langen Schüben auf maximaler Rechenleistung und ist tolerant gegenüber kurzen Unterbrechungen. Inferenz dagegen läuft permanent, muss in Millisekunden antworten und wird oft tausendfach parallel angefragt. Der wirtschaftliche Hebel verschiebt sich: Über die Lebensdauer eines Modells kann der Stromverbrauch der Inferenz den des Trainings deutlich übersteigen.

Daraus folgt eine eigene Disziplin der Infrastrukturplanung. Inferenz-Server werden auf Durchsatz, niedrige Latenz und Energieeffizienz ausgelegt statt auf reine Spitzenleistung. Verfahren wie Retrieval Augmented Generation (RAG), bei denen ein Sprachmodell zur Laufzeit auf eine eigene Wissensdatenbank zugreift, verschieben einen Teil der Arbeit von der GPU in vorgelagerte Daten- und Suchsysteme – was die Anforderungen an Storage und Anbindung erneut verändert. Wer KI ernsthaft einsetzt, plant Training und Inferenz deshalb getrennt, aber aufeinander abgestimmt.

Die vielleicht wichtigste strategische Frage lautet nicht „welche GPU?", sondern „wo läuft die Anlage?". Drei Modelle stehen zur Wahl – mit klaren Unterschieden:

Für viele Forschungseinrichtungen und Unternehmen mit kontinuierlicher Auslastung oder schützenswerten Daten spricht vieles für On-Premise-KI – also KI-Systeme im eigenen Rechenzentrum. Die Gründe sind Kontrolle, Datenschutz und, bei Dauerbetrieb, häufig die niedrigeren Gesamtkosten (Total Cost of Ownership). Voraussetzung ist allerdings, dass man den größten Betriebskostenblock im Griff hat: Energie.

Denn KI-Cluster sind Stromfresser, und der Großteil der Energie wird zu Wärme. Klassische Luftkühlung stößt bei der Leistungsdichte moderner GPU-Systeme an ihre Grenzen. Hier setzt die EUREKA-Plattform von MEGWARE an: eine direkte Warmwasserkühlung (Direct Liquid Cooling), die alle Komponenten eines Servers mit Vorlauftemperaturen von bis zu 50 °C kühlt. Das ermöglicht ganzjährige Freikühlung ohne energieintensive Kältemaschinen – und die entstehende Abwärme lässt sich für Gebäudeheizung oder Fernwärmenetze nutzen. Effiziente Kühlung ist damit kein Nebenschauplatz, sondern ein zentraler Kosten- und Nachhaltigkeitshebel jeder KI-Infrastruktur.

Mit der Standortfrage verbindet sich ein größeres Thema: souveräne KI (Sovereign AI). Gemeint ist die Fähigkeit eines Landes oder einer Organisation, KI mit eigener Infrastruktur, eigenen Daten und unter eigener rechtlicher Kontrolle zu entwickeln und zu betreiben – statt von außereuropäischen Cloud-Anbietern abhängig zu sein. Treiber sind Datenschutz (DSGVO), der EU AI Act und das strategische Interesse, sensible Daten auf europäischem Boden zu verarbeiten.

Europa investiert deshalb massiv in eigene Rechenkapazität. Im Rahmen von EuroHPC entstehen sogenannte KI-Fabriken – zentrale Ökosysteme, die Rechenleistung, Dateninfrastruktur und Expertise bündeln und auch kleineren Unternehmen den Zugang zu Höchstleistungsrechnen eröffnen. Mit JUPITER am Forschungszentrum Jülich ging das erste europäische Exascale-System in Betrieb, das KI-Rechenleistung in Deutschland vervielfacht. Solche Anlagen sind der praktische Beweis, dass digitale Souveränität ohne eigene HPC-Infrastruktur nicht zu haben ist – und dass die Hardware-Ebene zur strategischen Frage wird.

Nirgends zeigt sich der Zusammenhang von KI und HPC deutlicher als in der Wissenschaft. Forschende trainieren KI-Modelle, um das Wetter vorherzusagen, Klimaentwicklungen zu simulieren, Genome zu analysieren, neue Materialien und Batterietechnologien zu entwerfen oder in der Chemie aus Millionen möglicher Verbindungen die vielversprechendsten Kandidaten zu identifizieren. In all diesen Feldern beschleunigt KI die Forschung – aber nur, weil im Hintergrund Supercomputer die nötige Rechenleistung liefern.

MEGWARE baut genau diese Forschungssysteme. Das GPU-Cluster Helma der Universität Erlangen, ausgestattet mit modernen NVIDIA-Beschleunigern und einem mehrere Petabyte großen All-Flash-Speicher, rangiert auf Platz 51 der weltweiten TOP500-Liste. Das System Capella der TU Dresden belegt Platz 6 der Green500-Liste der energieeffizientesten Supercomputer – ein Beleg dafür, dass Höchstleistung und Effizienz zusammengehen. Insgesamt ist MEGWARE mit zahlreichen Systemen in der aktuellen TOP500-Liste vertreten. Für Forschungseinrichtungen, die KI-Modelle trainieren, ist das relevant: Die Wahl der Infrastruktur entscheidet mit darüber, wie schnell und wie nachhaltig Erkenntnisse entstehen. 

Und der Ausbau geht weiter: Im Rahmen von BayernKI entsteht am NHR@FAU in Erlangen derzeit die größte KI-Rechnerinfrastruktur der deutschen Hochschullandschaft. Der Freistaat Bayern investiert dafür 54,5 Millionen Euro in einen neuen KI-Supercomputer mit 1.024 zusätzlichen NVIDIA-B200-GPUs – die technische Umsetzung übernimmt erneut MEGWARE. Ab Herbst 2026 stehen damit rund 1.400 GPUs für das bayerische KI-Basismodell „Blue Swan" zur Verfügung, perspektivisch sogar bis zu 1.700.

Eine KI-Infrastruktur zu planen heißt, mehrere Größen gleichzeitig auszubalancieren: die Dimensionierung von Rechenleistung, Netzwerk und Speicher passend zum Workload (Training, Fine-Tuning oder Inferenz); die Energieeffizienz, gemessen etwa an der Green500-Logik von Leistung pro Watt; und die Gesamtbetriebskosten über die Laufzeit, in die Anschaffung ebenso einfließt wie Strom, Kühlung und Wartung. Eine überdimensionierte Anlage verbrennt Budget, eine unterdimensionierte bremst die Arbeit aus.

Als seit 1990 in Chemnitz ansässiger, vollständig in Deutschland entwickelnder und produzierender Spezialist begleitet MEGWARE solche Projekte ganzheitlich – von der Bedarfsanalyse über die Systemarchitektur bis zu Betrieb und Service. Die Cluster-Management-Software ClustWare® vereinfacht die Verwaltung großer Systeme von der Provisionierung über das Job-Scheduling bis zum Monitoring; mit XBAT lassen sich Anwendungen direkt im Cluster benchmarken; und im Benchmark Center können Workloads vor der Investition auf realer Hardware getestet werden. Wer den Einstieg in KI-Infrastruktur plant, findet einen Überblick über die Möglichkeiten in den MEGWARE-Lösungen für künstliche Intelligenz und High Performance Computing.

Was ist der Unterschied zwischen KI-Training und Inferenz? Training ist der einmalige, sehr rechenintensive Prozess, in dem ein Modell aus Daten lernt. Inferenz ist die anschließende produktive Nutzung des fertigen Modells. Training braucht maximale Rechenleistung über Stunden bis Wochen, Inferenz braucht niedrige Latenz und Effizienz im Dauerbetrieb.

Was bedeutet Inferenz bei KI? Inferenz bezeichnet das „Schlussfolgern" eines bereits trainierten Modells: Es bekommt eine neue Eingabe und erzeugt daraus eine Ausgabe – etwa eine Antwort, eine Klassifikation oder ein Bild. Über die Lebensdauer eines Modells entfällt häufig der größere Teil des Energieverbrauchs auf die Inferenz.

Wie viel Rechenleistung braucht das Training eines KI-Modells? Das hängt von der Modellgröße und Datenmenge ab. Kleine Modelle lassen sich auf wenigen GPUs trainieren, große Sprachmodelle erfordern GPU-Cluster mit hunderten Beschleunigern und Hochgeschwindigkeits-Interconnect – also HPC-Infrastruktur. Entscheidend ist nicht nur die reine Leistung, sondern das abgestimmte Zusammenspiel von Rechenknoten, Netzwerk und Speicher.

Was ist On-Premise-KI – und wann lohnt sie sich?
On-Premise-KI bedeutet, dass Training und / oder Inferenz im eigenen Rechenzentrum statt in der Cloud laufen. Sie lohnt sich besonders bei dauerhafter Auslastung, bei sensiblen oder regulierten Daten und wenn die Gesamtbetriebskosten über mehrere Jahre niedriger ausfallen als laufende Cloud-Mieten.

Was ist eine souveräne KI (Sovereign AI)?
Souveräne KI ist die Fähigkeit, KI mit eigener Infrastruktur, eigenen Daten und unter eigener rechtlicher Kontrolle zu entwickeln und zu betreiben. Sie reduziert die Abhängigkeit von außereuropäischen Anbietern und erleichtert die Einhaltung von DSGVO und EU AI Act.

Was hat KI mit Datenschutz zu tun?
Beim Training und bei der Inferenz werden oft personenbezogene oder vertrauliche Daten verarbeitet. Wo diese Daten gespeichert und berechnet werden, entscheidet über die Datenschutzkonformität. On-Premise- oder souveräne Lösungen halten die Daten im eigenen Verantwortungsbereich.

Welche Rolle spielt HPC für die KI-Forschung in Deutschland?
Eine zentrale: Vom Klimamodell bis zur Wirkstoffforschung trainieren Wissenschaftlerinnen und Wissenschaftler ihre KI-Modelle auf Supercomputern. Systeme wie JUPITER (Jülich) oder die von MEGWARE gebauten Cluster Helma (FAU Erlangen) und Capella (TU Dresden) liefern die dafür nötige Rechenleistung.

Welche deutsche Firma baut KI-Supercomputer?
MEGWARE aus Chemnitz zählt zu den führenden europäischen Supercomputing-Spezialisten, entwickelt und produziert in Deutschland und ist mit zahlreichen Systemen in der aktuellen TOP500-Liste vertreten – darunter mehrere GPU-Cluster für KI- und Forschungs-Workloads.