Dieser Artikel basiert auf der Diskussion aus dem Lex Fridman Podcast: Hören Sie sich die Folge hier an.

In diesem Gespräch spricht Lex Fridman mit Dylan Patel und Nathan Lambert über die neuesten Entwicklungen in der KI, mit Schwerpunkt auf DeepSeek, Chinas KI-Ambitionen, NVIDIAs Rolle im globalen KI-Rennen und der Zukunft von KI-Megaclustern. Die Diskussion umfasst Durchbrüche in der KI-Effizienz, den geopolitischen Kampf um die Vorherrschaft im Halbleiterbereich und die wichtigsten Akteure, die die Zukunft der künstlichen Intelligenz gestalten.

Künstliche Intelligenz entwickelt sich in atemberaubender Geschwindigkeit, aber nicht in der Weise, die die meisten Menschen erwarten. 

Die Schlagzeilen schreien nach größeren Modellen, mehr Parametern und atemberaubenden neuen Möglichkeiten. Doch hinter all dem Hype findet eine leisere Revolution statt: KI effizienter, kostengünstiger und geopolitisch strategischer zu machen. 

Und wenn Sie genau hinschauen, werden Sie etwas Großes bemerken: Die KI-Szene in China erlebt einen Aufschwung, den nur wenige erwartet hätten.

Intelligentere KI-Modelle: Der Experten-Mix

Es ist kein Geheimnis, dass große Sprachmodelle (LLMs) eine enorme Rechenleistung erfordern. Ein solches Modell von Grund auf zu trainieren, kann Hunderte Millionen Dollar kosten, und es zu betreiben? Das ist ein weiteres Fass ohne Boden. Die Zukunft der KI wird nicht nur davon abhängen, wer die besten Algorithmen hat – sie wird davon abhängen, wer herausfindet, wie man leistungsstarke KI-Modelle baut. ohne Das BIP eines Landes wird durch Serverkosten aufgebraucht. Und genau hier findet eine große Veränderung statt.

Anstatt die Größe der Modelle endlos zu steigern, werden die Ingenieure immer schlauer, was die tatsächliche Funktionsweise dieser Systeme angeht.

 Eingeben Expertenmischung Modelle. 

Stellen Sie sich vor, Sie stellen ein Expertengremium zusammen, lassen aber nicht jeden Experten jede Frage bearbeiten, sondern aktivieren nur diejenigen, die für die Aufgabe am besten geeignet sind. Genau so funktionieren diese neuen Modelle. Anstatt ein riesiges neuronales Netzwerk jede einzelne Anfrage mit voller Kraft verarbeiten zu lassen, werden zu jedem Zeitpunkt nur einige wenige „Experten“-Untermodelle aktiviert. Das Ergebnis? Massive Effizienzgewinne – Reduzierung von Rechenleistung und Energieverbrauch – ohne Einbußen bei der Intelligenz.

Dies ist nicht bloß eine Theorie.

 Einige der neuesten KI-Modelle aus China beweisen, dass diese Methode in der Praxis funktioniert. Durch Feinabstimmung der Rechenleistungsverteilung erzielen sie eine Leistung, die mit den besten westlichen Modellen mithalten kann, allerdings zu einem Bruchteil der Kosten.

Der Durchbruch bei der Low-Level-Optimierung

Das bringt uns zur nächsten großen Veränderung: Low-Level-Optimierung.

 Die meisten KI-Unternehmen verlassen sich beim Trainieren ihrer Modelle auf vorhandene Software-Frameworks wie CUDA, das von NVIDIA entwickelt wurde. Diese Frameworks wurden jedoch nicht für höchste Effizienz entwickelt, sondern für allgemeine Benutzerfreundlichkeit. Die Unternehmen, die derzeit echte Durchbrüche erzielen, sind diejenigen, die Neugestaltung die Art und Weise, wie KI Hardware nutzt. 

Sie nutzen GPUs nicht einfach nur, sondern holen auch das letzte Quäntchen Leistung aus ihnen heraus und schreiben die Regeln der GPU-Programmierung neu, um Berechnungen schneller, schlanker und deutlich günstiger zu machen.

Das Rennen um die Rechenleistung

Und wenn es um Hardware geht, kommt es auf die Größe an.

 Einige der größten Akteure im Bereich der KI betreiben riesige Rechencluster, im Wesentlichen riesige Serverfarmen mit Zehntausenden von GPUs. Zum Vergleich: Meta verfügt über einen Trainingscluster mit etwa 60.000 bis 100.000 H100-äquivalenten GPUs. Chinas neueste KI-Modelle werden auf Clustern mit rund 50.000 GPUs trainiert – genug Feuerkraft, um mit den Besten der Welt mitzuhalten. 

Allein das Ausmaß dieser Investitionen zeigt, dass es sich bei der KI nicht mehr nur um ein Wettrüsten der Technologiebranche handelt, sondern um eine nationale Priorität.

Das geopolitische Schachbrett der KI

Natürlich geht es in der KI-Landschaft nicht nur darum, wer Modelle am schnellsten trainieren kann, sondern auch darum, wer tatsächlich bekommen die notwendige Hardware. Und hier kommt die Geopolitik ins Spiel. 

Die USA haben immer strengere Exportkontrollen für High-End-KI-Chips eingeführt und deren Verkauf nach China eingeschränkt. NVIDIA reagierte darauf, indem es abgespeckte Versionen seiner GPUs speziell für den chinesischen Markt herstellte. 

Das bedeutet, dass chinesische KI-Unternehmen zwar immer noch riesige Modelle trainieren können, aber dazu gezwungen sind, etwas weniger leistungsfähige Hardware zu verwenden. Aber hier ist das Interessante daran: Diese Einschränkungen zwingen Chinas KI-Unternehmen dazu, noch mehr effizient. Anstatt sich mit roher Gewalt und unbegrenzter Rechenleistung an die Spitze zu drängen, werden sie zu Innovationen gezwungen. 

Sie optimieren Software, überdenken Architekturen und finden Möglichkeiten, Leistungssteigerungen zu erzielen, an die westliche Unternehmen noch nicht einmal gedacht haben. Ironischerweise machen diese Einschränkungen sie zu stärkeren Konkurrenten.

Nähern wir uns der AGI?

Und dann ist da noch die große Frage, die über allem schwebt: Wie nah sind wir der künstlichen allgemeinen Intelligenz (AGI)? 

Manche argumentieren, dass die heutigen Modelle bereits Ansätze davon zeigen. Die Fähigkeit moderner KI, sich an mehrere Aufgaben anzupassen – Denken, Problemlösen, Kreativität – lässt darauf schließen, dass wir auf dem Weg zur AGI vielleicht schon weiter sind, als viele annehmen. 

Und mit seiner Fertigungsstärke ist China in einer einzigartigen Position, den Fortschritt zu beschleunigen. Während die USA und Europa den KI-Softwaremarkt dominieren, ist China das Rückgrat der KI-Hardware. Es kontrolliert einen großen Teil der weltweiten Halbleiter-Lieferkette und hat damit einen Vorsprung bei der Massenproduktion der Chips, die zum Trainieren und Einsatz von KI-Systemen in großem Maßstab benötigt werden.

Taiwan: Das Zentrum des KI-Universums

Damit kommen wir zu Taiwan, dem heimlichen Helden des gesamten globalen KI-Rennens. Die Taiwan Semiconductor Manufacturing Company (TSMC) produziert die fortschrittlichsten KI-Chips der Welt. Nahezu jedes KI-Modell – sei es OpenAIs GPT, Googles Gemini oder Chinas neueste Deep-Learning-Systeme – basiert auf Chips von TSMC.

 Wenn die Lieferkette von TSMC gestört würde, wären die Auswirkungen überall zu spüren. jeder Industrie, von Smartphones bis zu Supercomputern. Bei KI geht es nicht mehr nur um bahnbrechende Entwicklungen im Programmierbereich – es geht um globale Lieferketten, strategische Allianzen und geopolitische Stabilität.

Die Zukunft der KI: Effizienz gewinnt

Wohin führt uns das alles? 

KI entwickelt sich von einem rohen Wettbewerb, bei dem es darum geht, „wer das größte Modell hat“, zu einem viel strategischeren Spiel um Effizienz, Hardware-Beherrschung und geopolitische Positionierung. Die Unternehmen (und Länder), die herausfinden, wie sie KI effizient optimieren, skalieren und einsetzen können, werden diejenigen sein, die die Zukunft dominieren. Und wer diese Veränderungen nicht beachtet, verpasst die wahre Geschichte darüber, wohin sich die KI entwickelt.

Dabei geht es nicht nur um auffällige Demos oder rekordverdächtige Benchmark-Ergebnisse.

 Es geht darum, wer Genau genommen gewinnt das KI-Rennen auf lange Sicht – wer Modelle baut, die nicht nur leistungsstark, sondern auch praktisch, skalierbar und nachhaltig sind. Und dieses Rennen? Es wird von Tag zu Tag spannender.