TrenchOps DE đŸ‡©đŸ‡Ș🐎

Erkenntnisse von der Tech-front

Cover Image

Die Cloud ist voll

SupportTrenches IT-Systeme & Prozesse 7 Minuten

Niemand hatte damit gerechnet, dass die ElastizitĂ€t eines Tages aufgebraucht sein wĂŒrde

FĂŒnfzehn Jahre lang war "die Cloud ist unendlich" die zuverlĂ€ssigste LĂŒge der Unternehmens-IT. Keine böswillige LĂŒge. Eine nĂŒtzliche. Sie erlaubte Architekten, fĂŒr Spitzenlast zu entwerfen, ohne KapazitĂ€ten zu planen. Sie erlaubte CFOs, Rechenleistung als Betriebskosten zu verbuchen. Und sie erlaubte mir, Kunden mit ernster Miene zu sagen: "Skalieren Sie einfach horizontal."

Dann begannen Kunden in Nordamerika und Großbritannien, Tickets zu schreiben, die klangen wie aus dem Jahr 2004. "Kann nicht provisionieren." "Kann nicht umplanen." "Versuchen Sie eine andere Region." Bei allen drei Hyperscalern, in bestimmten Regionen, bei bestimmten Instanzfamilien. AWS hat seinen eigenen Technikern Berichten zufolge aufgetragen, RechenkapazitĂ€t einzusparen "wo immer es geht" - interne Teams warten tagelang auf CPUs, weil Kundenworkloads Vorrang haben. Das ist die richtige PrioritĂ€t. Es ist aber auch ein Satz, der in einem GeschĂ€ftsmodell nicht existieren sollte, dessen Versprechen "on demand" lautet.

Vor zehn Jahren hĂ€tte ich jeden ausgelacht, der das vorhergesagt hĂ€tte. Das gesamte Verkaufsargument war: Amazon, Google und Microsoft haben so viel ĂŒberschĂŒssiges Eisen, dass Ihr Workload ein Rundungsfehler ist. Und das stimmte auch. Sie haben den Rundungsfehler nur an Sprachmodelle verkauft.

Die Zahl, die es nicht geben dĂŒrfte

Jetzt kommt der Teil, bei dem es jedem Architekten mulmig werden sollte. Cast AI hat 2026 Telemetriedaten aus ĂŒber 23.000 Produktionsclustern ausgewertet. Durchschnittliche GPU-Auslastung: rund 5%. Auf AKS: 2%. Auf EKS: 5%. Auf GKE: 6%.

Lesen Sie das noch einmal. Langsam. Und erinnern Sie sich dabei daran, dass die HĂ€lfte der GPU-Cloud-Anbieter angeblich keine H100- und H200-KapazitĂ€ten mehr hat, dass reservierte KapazitĂ€t sechs Monate im Voraus ausverkauft ist und dass AWS die Preise fĂŒr ML Capacity Blocks angehoben hat - die erste GPU-Preiserhöhung in ĂŒber einem Jahrzehnt Cloud-GPU-VerfĂŒgbarkeit.

Wir haben also einen globalen Engpass bei dem knappsten industriellen Rohstoff der Welt - und der durchschnittliche KĂ€ufer nutzt fĂŒnf Prozent dessen, was er gehortet hat.

Das ist kein Angebotsproblem. Das ist ein Hortungsproblem im Mantel eines Angebotsproblems. Ein 20-GPU-H100-Cluster, der bei dieser Auslastung vor sich hin döst, verbrennt rund 168.000 Dollar im Monat - fĂŒr nichts. Multiplizieren Sie das ĂŒber 23.000 Cluster, und Sie blicken auf den grĂ¶ĂŸten freiwilligen Transfer von Unternehmenswert in warme Luft in der Geschichte der Datenverarbeitung.

Nehmen Sie das VerhĂ€ltnis zwischen dem, was Sie bezahlen, und den tatsĂ€chlichen Rechensekunden nĂŒtzlicher Arbeit darin. Wenn dieses VerhĂ€ltnis 20:1 erreicht, ist nicht der Input teuer. Dann ist Ihr Prozess kaputt. Niemandem in dieser Knappheit fehlen GPUs. Es fehlt an Scheduling-Disziplin. Und weil reservierte KapazitĂ€t inzwischen ein Statussymbol ist - Ihr Wettbewerber hat seinen Cluster angekĂŒndigt, also brauchen Sie auch einen - ist der Engpass teilweise von Leuten hergestellt, die wollen, was andere sichtbar wollen.

Die wirklich komische Konsequenz: Es ist durchaus möglich, dass ein erheblicher Teil des KapazitĂ€tsengpasses, der Ihre Deployment-Pipeline abwĂŒrgt, von den GPUs anderer Unternehmen verursacht wird - GPUs, die bei 2% Auslastung im Leerlauf stehen, weil sie freizugeben wie ein RĂŒckzug aussĂ€he.

Warum der freie Markt das nicht einfach regelt

In einem Lehrbuchmarkt steigen die Preise, KapazitĂ€t folgt, die Kurve löst sich in ein, zwei Quartalen auf. Amazon hat Investitionen von rund 200 Milliarden Dollar angekĂŒndigt und ausdrĂŒcklich gesunkene Speicherpreise als Grund fĂŒr die Erhöhung genannt. Google liegt bei insgesamt 600 Milliarden Dollar.

Und trotzdem sagen sie, es wird nicht reichen. Bis 2027. Mit zugesagter Nachfrage bis 2028.

Denn Geld kauft Silizium, und Silizium kauft nichts ohne drei Dinge, die Geld schlecht schnell beschaffen kann:

  1. Fabs und HBM. High-Bandwidth-Memory reagiert nicht auf eine Bestellung. Er reagiert auf mehrjĂ€hrige Fab-Bauvorhaben, und die Lieferkette verlĂ€uft durch Regionen, die gerade ein Maß an geopolitischer Spannung genießen, fĂŒr das kein Einkaufsteam einen Plan B hat. Speicher, GPUs und sogar Festplatten sind knapp. PC- und Smartphone-AbsĂ€tze sinken, weil Hersteller keinen RAM bekommen. Ihr Laptop ist teurer, weil ein Chatbot ihn dringender brauchte.

  2. Land und Genehmigungen. Dieser Punkt ist der lehrreichste - und der am meisten ignorierte von Menschen, die ihr Berufsleben in Abstraktionen verbringen. Bitten Sie eine Gemeinde, ein Rechenzentrum aufzunehmen, und sie macht dieselbe Rechnung wie Sie. Was hat die Gemeinde davon? Einen Bauboom, dann eine Dauerbelegschaft, die in einen Kleinbus passt - ein paar Leute, die Dashboards beobachten, ab und zu eine Festplatte tauschen, und ein wirklich guter Klimatechniker. Was kostet es? Netzlast, KĂŒhlwasser und steigende Strompreise. In Phoenix hat der grĂ¶ĂŸte Versorger eine Erhöhung von 14% fĂŒr Privathaushalte und 45% fĂŒr Großabnehmer beantragt - nach einem Rekordmonat, in dem rund die HĂ€lfte des Wachstums auf Rechenzentren entfiel. Arizona hat Steuervorteile fĂŒr neue Rechenzentren drei Jahre lang ausgesetzt. Etwa vierzig StĂ€dte haben sich einem BĂŒndnis angeschlossen, das strengere Standards fordert.

    Das ist kein "Nicht in meinem Hinterhof"-Reflex. Das ist ein rationaler Akteur, der ein Term Sheet liest, in dem er das gesamte Risiko trĂ€gt und nichts vom Gewinn hat. Risikoteilung funktioniert in beide Richtungen. Wenn Sie wollen, dass eine Gemeinde Ihre externen Kosten schluckt, mĂŒssen Sie ihr etwas Besseres bieten als ArbeitsplĂ€tze, die es nicht gibt.

  3. Strom um drei Uhr nachts. Und hier wird es unangenehm. Wir haben mehr installierte Solar- und WindkapazitĂ€t als je zuvor, und das Stromnetz bleibt trotzdem der Flaschenhals - weil ein Trainingslauf das Lastprofil einer SchmelzhĂŒtte hat, nicht das eines Haushalts. Flach, gewaltig, wetterfest. FĂŒnfzehn Jahre Energiepolitik waren auf gĂŒnstige Durchschnittskilowattstunden optimiert. KI braucht garantierte, abrufbare, unterbrechungsfreie KapazitĂ€t direkt neben einem Glasfaserknoten. Ein völlig anderes Produkt. Die Rechnung fĂŒr diesen Mismatch kommt jetzt - aufgeschlĂŒsselt auf der Stromrechnung privater Haushalte.

Kurzer Exkurs: die doppelten MaßstĂ€be

Ich bin alt genug, mich zu erinnern, als der Stromverbrauch von Bitcoin ein moralischer Notfall war. Leitartikel, ESG-Papiere, Grafiken mit fragwĂŒrdiger Arithmetik - "jede Transaktion bringt einen Swimmingpool zum Kochen."

Bitcoin verbraucht rund 150-175 TWh pro Jahr. Rechenzentren insgesamt liegen bei etwa 415 TWh, Tendenz steil steigend, wobei KI das am schnellsten wachsende Segment ist. KI spielt also in derselben Gewichtsklasse, nicht GrĂ¶ĂŸenordnungen darĂŒber - und ein guter Teil der Ergebnisse sind Bilder von Katzen in RitterrĂŒstungen und LinkedIn-Posts, die Maschinen ĂŒber die Bedeutung von AuthentizitĂ€t geschrieben haben.

Dagegen protestiert niemand. Nicht, weil sich die Zahlen geĂ€ndert haben. Weil sich das Narrativ geĂ€ndert hat. Energieverbrauch war nie der eigentliche Einwand. Es war Rhetorik im Gewand der Arithmetik. Und sobald der Konsument nicht mehr "Spekulant" hieß, sondern "Innovator", hörte die Arithmetik leise auf, eine Rolle zu spielen.

Ich sage das nicht, um das eine oder andere zu verteidigen. Ich sage es, weil Sie jeden Budget-Kampf verlieren werden, wenn Sie nicht erkennen, wann Ihnen jemand Rhetorik statt Messdaten unterjubelt - gegen jemanden, der das kann.

Was das am Montag fĂŒr Sie bedeutet

👉 Ihr Data-Recovery-Plan enthĂ€lt eine Fiktion. "Wir schwenken auf Region B um" setzt voraus, dass Region B Platz hat. Testen Sie es. Versuchen Sie tatsĂ€chlich, Ihr vollstĂ€ndiges Failover-Kontingent zu provisionieren. Manche von Ihnen werden feststellen, dass Ihr Business-Continuity-Plan ein Gedicht ist.

👉 KapazitĂ€tsplanung ist wieder ein Job. Stellen Sie jemanden ein oder entwickeln Sie jemanden, der Bedarfsprognosen kann. Diese FĂ€higkeit wurde um 2014 fĂŒr obsolet erklĂ€rt, und die Leute, die sie behalten haben, werden bald sehr gut bezahlt. Unterdessen sitzt das Zugpferd 🐎 in Ihrem Infrastruktur-Team, das seit zwei Jahren ĂŒber brachliegende Reservierungen klagt, da und hat recht - unterbezahlt und ungelesen.

👉 Messen Sie die Auslastung, bevor Sie irgendetwas kaufen. Wenn Sie im Branchendurchschnitt liegen, können Sie Ihre effektive KI-KapazitĂ€t verfĂŒnffachen, ohne den Markt auch nur anzurĂŒhren. Das beste Bauteil ist kein Bauteil: Die gĂŒnstigste GPU ist die, die Sie schon haben - und die wach ist.

👉 Reservieren Sie pessimistisch, entwickeln Sie optimistisch. Setzen Sie hĂ€ufig Checkpoints. Machen Sie Jobs neustartbar und unterbrechungstolerant. Degradieren Sie elegant. Behandeln Sie Rechenleistung wie eine Spot-Ware - denn genau das ist sie geworden, wĂ€hrend Sie an Ihrem Cloud-Strategiepapier geschrieben haben.

👉 Gehen Sie davon aus, dass die Knappheit mindestens bis 2027 der Normalzustand bleibt. Sowohl die Hyperscaler als auch JP Morgans SchĂ€tzung einer AngebotslĂŒcke von 15-30% sagen dasselbe. Planen Sie fĂŒr Knappheit. Und falls der Überfluss zurĂŒckkehrt, genießen Sie die Überraschung.

Wir haben ein Jahrzehnt damit verbracht, einer Generation von Technikern beizubringen, dass Infrastruktur wie das Wetter ist - immer da, nie ihr Problem. Die Rechnung fĂŒr diese Abstraktion kam als Provisionierungsfehler. Und es stellte sich heraus: Die Cloud war nie unendlich. Sie war nur - bis vor Kurzem - unterbelebt.

👇 Haben Sie tatsĂ€chlich schon versucht, Ihre vollstĂ€ndige Failover-KapazitĂ€t in Ihrer Ausweichregion zu provisionieren - oder ist das noch immer nur ein Diagramm?


AICloudHardwareKITechnologieUSAZukunft

0 comment(s)

No comments yet. Be the first to comment.

Leave a comment

0 / 1000