Zum Inhalt springen
sw
en

Tippe um zu suchen

KI-Grundlagen

Kurze Geschichte der KI: von ELIZA bis heute

Von ELIZA über klassisches Machine Learning und den Transformer bis zum ChatGPT-Moment: die wichtigsten Etappen der KI-Entwicklung im Überblick.

8 Min Lesezeit Anfänger Zuletzt aktualisiert:

Warum sich die Geschichte lohnt

KI wirkt oft wie ein Ding, das plötzlich 2022 aus dem Nichts aufgetaucht ist. Stimmt aber nicht. Die Grundideen sind teils 70 Jahre alt, die meiste Zeit lief die Forschung eher im Hintergrund und mit viel Frust. Wenn du verstehst, wie es dazu kam, verstehst du auch besser, warum ChatGPT & Co. so funktionieren, wie sie funktionieren – und warum sie trotzdem keine “Wunder” sind, sondern das Ergebnis von Jahrzehnten Arbeit an ein paar zentralen Ideen.

Dieser Artikel ist der Überblick für die ganze KI-Sektion. Für die Technik im Detail gibt’s eigene Seiten, die am Ende verlinkt sind.

1966: ELIZA – der erste Chatbot

Fangen wir am Anfang an. 1966 baute Joseph Weizenbaum am MIT ein Programm namens ELIZA. Es simulierte eine Psychotherapeutin nach der Gesprächsmethode von Carl Rogers (“Rogerianische Therapie”) – im bekanntesten Skript hiess es DOCTOR.

Der Trick dahinter war simpel: ELIZA suchte nach Schlüsselwörtern im Satz des Nutzers und spiegelte sie in eine neue Frage zurück. Sagtest du “Ich habe Streit mit meiner Mutter”, antwortete ELIZA sinngemäss “Erzähl mir mehr über deine Familie.” Kein Verständnis, keine Bedeutung, nur Mustererkennung und ein paar hundert Zeilen Regelwerk.

Das Verblüffende: Es hat funktioniert. Menschen, die mit ELIZA chatteten – auch Weizenbaums eigene Sekretärin – fühlten sich verstanden und öffneten sich emotional. Dieses Phänomen, Software menschliche Verständnisfähigkeit zuzuschreiben, obwohl da nur Mustererkennung läuft, heisst bis heute ELIZA-Effekt. Weizenbaum selbst war darüber so beunruhigt, dass er den Rest seines Lebens als KI-Kritiker verbrachte.

Die KI-Winter: Hype, Ernüchterung, Wiederholung

Zwischen ELIZA und heute lagen mehrere Zyklen aus Euphorie und Ernüchterung, die sogenannten KI-Winter (grob Mitte der 1970er und Ende der 1980er/Anfang 1990er). Immer lief das gleiche Muster ab: Forscher versprachen zu viel, die Rechenleistung und Datenmengen reichten nicht, Fördergelder wurden gestrichen, das Thema verschwand für ein paar Jahre aus den Schlagzeilen.

Wichtig zu wissen: Die Ideen aus dieser Zeit sind nicht verschwunden, sie warteten nur auf genug Rechenleistung und Daten.

Klassisches Machine Learning: die Statistik-Ära

Ab den 1990ern verschob sich der Fokus von starren, handgeschriebenen Regeln (wie bei ELIZA) hin zu statistischem Machine Learning. Statt “wenn X, dann Y” programmierten Forschende Systeme, die aus Beispieldaten selbst Muster lernten.

Typische Verfahren dieser Ära:

VerfahrenGrundideeTypischer Einsatz
EntscheidungsbäumeSerie von Ja/Nein-FragenKreditwürdigkeit einschätzen
Support Vector MachinesTrennlinie zwischen Datenklassen findenTexte/Bilder klassifizieren
Naive BayesWahrscheinlichkeiten aus HäufigkeitenSpam-Filter
Neuronale Netze (klassisch, “flach”)Von Gehirn-Neuronen inspirierte RechenschritteHandschrifterkennung

Diese Verfahren sind bis heute im Einsatz, oft unsichtbar im Hintergrund von Apps, die du täglich nutzt (Betrugserkennung bei Kreditkarten, Empfehlungen im Onlineshop). Sie sind aber grundsätzlich anders als moderne LLMs: kleiner, spezialisierter auf eine einzige Aufgabe, und ohne das breite “Sprachverständnis”, das ChatGPT hat.

2012 markierte einen wichtigen Zwischenschritt: AlexNet, ein tiefes neuronales Netz, gewann überraschend deutlich einen Bilderkennungs-Wettbewerb (ImageNet). Das war der Startschuss für Deep Learning – neuronale Netze mit vielen Schichten, trainiert auf leistungsfähigen Grafikkarten (GPUs). Ohne diesen Schritt gäbe es die heutigen Sprachmodelle nicht.

2017: der Transformer

Der wichtigste Baustein für alles, was danach kam, entstand 2017 bei Google. Ein Team um Ashish Vaswani veröffentlichte das Paper “Attention Is All You Need” und stellte darin eine neue Architektur vor: den Transformer.

Was daran so wichtig war: Frühere Modelle für Sprache (sogenannte RNNs, “Recurrent Neural Networks”) mussten einen Satz Wort für Wort nacheinander verarbeiten. Das war langsam und Modelle “vergassen” den Anfang eines langen Satzes, bis sie am Ende ankamen. Der Transformer führte den Attention-Mechanismus ein: Das Modell kann für jedes Wort direkt berechnen, wie relevant jedes andere Wort im Satz dafür ist – parallel, nicht nacheinander. Das machte Training massiv schneller und liess Modelle sehr viel mehr Kontext gleichzeitig verarbeiten.

Genau diese Architektur steckt bis heute unter der Haube fast aller grossen Sprachmodelle: GPT steht wörtlich für Generative Pre-trained Transformer. Wie das im Detail funktioniert, erklärt Wie ein LLM funktioniert.

Der Weg zu GPT-3 und GPT-3.5

Nach dem Transformer-Paper folgte eine Reihe von Modellen, die zeigten, dass “einfach grösser bauen” erstaunlich gut funktioniert:

  • 2018: GPT-1 und BERT (Google) – erste grosse Transformer-Sprachmodelle.
  • 2019: GPT-2 – OpenAI hielt das Modell zunächst zurück, weil es “zu überzeugende” Texte erzeugen konnte.
  • 2020: GPT-3 – mit 175 Milliarden Parametern ein gewaltiger Sprung. Zugänglich zunächst nur über eine API, nicht für die breite Öffentlichkeit.
  • 2022: GPT-3.5 – eine verfeinerte Version, unter anderem trainiert mit RLHF (Reinforcement Learning from Human Feedback), also menschlichem Feedback zu Antwortqualität. Genau dieses Modell steckte hinter dem ChatGPT-Launch.

30. November 2022: der ChatGPT-Moment

Am 30. November 2022 veröffentlichte OpenAI ChatGPT als kostenlose “Research Preview” – eigentlich als eher nebensächliches Experiment. Die Reaktion überraschte selbst OpenAI: eine Million Nutzer in fünf Tagen, rund 100 Millionen monatliche Nutzer nach zwei Monaten – der am schnellsten wachsende Konsumenten-Dienst der Geschichte bis dahin.

Warum gerade dieser Moment und nicht GPT-3 zwei Jahre vorher, obwohl die zugrundeliegende Technik ähnlich war? Ein paar Gründe:

  1. Chat-Oberfläche statt API. GPT-3 war nur für Entwickler über eine Programmierschnittstelle nutzbar. ChatGPT hatte ein simples Chatfenster – jeder konnte es sofort verwenden, ohne eine Zeile Code.
  2. RLHF machte Antworten brauchbarer. Statt nur “wahrscheinlichste Fortsetzung eines Texts” zu liefern, war das Modell darauf trainiert, hilfreiche, klar strukturierte Antworten zu geben.
  3. Kostenlos und öffentlich zugänglich. Keine Warteliste, kein Preisschild am Anfang.
  4. Der richtige Zeitpunkt. Internetgeschwindigkeit, Smartphones, allgemeines Interesse an KI (auch durch Bildgeneratoren wie DALL-E und Midjourney im selben Jahr) trafen zusammen.

Bis heute: von Text zu allem

Nach dem ChatGPT-Moment ging die Entwicklung in mehrere Richtungen gleichzeitig weiter (Stand: 2026-07):

  • Multimodalität: Modelle verarbeiten heute nicht mehr nur Text, sondern auch Bilder, Audio und Video in derselben Konversation. Mehr dazu unter Multimodale KI.
  • Grössere Kontextfenster: Frühe Modelle konnten nur wenige Tausend Wörter “im Kopf behalten”, heutige Modelle verarbeiten ganze Bücher auf einmal. Siehe Tokens und Kontextfenster.
  • Agentenfähigkeiten: Modelle rufen selbstständig Werkzeuge auf, durchsuchen das Web, schreiben und führen Code aus, statt nur zu antworten.
  • Offene Modelle: Neben den grossen geschlossenen Anbietern (OpenAI, Anthropic, Google) etablierten sich frei verfügbare Modelle, die man selbst betreiben kann. Siehe Open- vs. Closed-Source-Modelle.
  • Wettlauf der Anbieter: Anthropic (Claude), Google (Gemini), Meta (Llama) und weitere veröffentlichen im Halbjahres- bis Quartalstakt neue, jeweils leistungsfähigere Modellversionen.

Warum kam der Durchbruch ausgerechnet jetzt?

Wenn man die ganze Geschichte zusammennimmt, braucht ein KI-Durchbruch eigentlich immer drei Dinge gleichzeitig:

Idee (oft Jahrzehnte alt)
   +
Rechenleistung (GPUs/TPUs, günstig genug und stark genug)
   +
Daten (genug Text/Bilder, meist aus dem Internet)
   =
Durchbruch

Bei ELIZA fehlten Rechenleistung und Daten komplett – die “Idee” war Mustererkennung per Hand. Bei Deep Learning 2012 gab’s plötzlich genug GPU-Leistung. Beim Transformer 2017 kam eine Architektur dazu, die genau diese Rechenleistung effizient nutzt. Und 2022 war die Kombination aus alledem endlich reif für ein Produkt, das jede und jeder bedienen kann.

Meilensteine im Überblick

JahrEreignisWarum wichtig
1966ELIZA (Weizenbaum)Erster Chatbot, zeigt den “ELIZA-Effekt”
~1974–1980, ~1987–1993KI-WinterErnüchterung nach überzogenen Versprechen
1997Deep Blue schlägt Kasparow im SchachKI schlägt Menschen in klar begrenzten Regelspielen
2012AlexNet gewinnt ImageNetStartschuss für die Deep-Learning-Ära
2016AlphaGo schlägt Lee Sedol im GoDeep Learning meistert auch sehr komplexe Spiele
2017”Attention Is All You Need” (Transformer)Architektur hinter praktisch allen heutigen LLMs
2020GPT-3Zeigt, dass “grösser skalieren” fähigere Modelle ergibt
30.11.2022ChatGPT-LaunchKI wird massentauglich, über Nacht
2023–2026Multimodalität, Agenten, offene ModelleRasante Weiterentwicklung in alle Richtungen

Weiterlernen

Videos

YouTube
Eine kurze Geschichte der KI

Kommentare

Frage, Verbesserungsvorschlag oder eigene Erfahrung zu diesem Artikel? Schreib einen Kommentar. Neue Beiträge erscheinen nach kurzer Moderation.

  • Lade Kommentare …
Kommentar schreiben