Wenn ChatGPT eine E-Mail formuliert, ein Algorithmus bei der Röntgenauswertung hilft oder ein Navigationssystem Staus vorhersagt, steckt dahinter immer dasselbe Grundprinzip: Ein System hat aus Millionen von Beispielen gelernt, Muster zu erkennen, und wendet dieses Wissen auf neue Situationen an. Der Begriff „Künstliche Intelligenz“ klingt nach Science-Fiction, beschreibt aber eine sehr konkrete mathematische Technik.
Von Regeln zu Wahrscheinlichkeiten
Frühe KI-Systeme der 1980er-Jahre arbeiteten mit festen Regeln. Programmierer schrieben vor: „Wenn Bedingung X, dann Aktion Y.“ Diese sogenannten Expertensysteme funktionieren gut in eng definierten Bereichen, versagen aber, sobald Ausnahmen auftauchen. Sprache, Bilder und gesprochene Sätze lassen sich so kaum beherrschen, weil die Zahl möglicher Kombinationen ins Unendliche geht.
Maschinelles Lernen geht den umgekehrten Weg: Statt Regeln vorzuschreiben, zeigt man dem System Beispieldaten und lässt es selbst Muster finden. Ein Bildklassifikator, der Katzen von Hunden unterscheiden soll, bekommt Hunderttausende beschriftete Fotos. Aus diesen extrahiert er statistische Merkmale, zum Beispiel typische Ohrformen oder Fellstrukturen, und lernt, neue Bilder anhand dieser Merkmale einzuordnen.
Wie neuronale Netze rechnen
Das Herzstück moderner KI-Systeme ist das künstliche neuronale Netz. Es ist lose dem menschlichen Gehirn nachempfunden, funktioniert aber grundlegend anders. Ein neuronales Netz besteht aus Schichten von Rechenknoten, den sogenannten Neuronen. Jede Verbindung zwischen zwei Neuronen hat ein Gewicht, also einen numerischen Wert, der angibt, wie stark ein Signal weitergegeben wird.
Beim Training läuft ein Datensatz durch das Netz, das Netz macht eine Vorhersage, und das Ergebnis wird mit der tatsächlichen Antwort verglichen. Der Fehler wird gemessen und über einen Algorithmus namens Backpropagation rückwärts durch das Netz geleitet. Dabei werden alle Gewichte minimal angepasst. Dieser Vorgang wiederholt sich Milliarden Mal, bis das Netz brauchbare Vorhersagen liefert. Googles Sprachmodell BERT wurde beispielsweise auf einem Textkorpus von rund 3,3 Milliarden Wörtern trainiert.
Grundlegende Konzepte hinter neuronalen Netzen sind seit Jahrzehnten bekannt. Eine gute Übersicht bietet der entsprechende Artikel auf Wikipedia zu künstlichen neuronalen Netzen, der auch die mathematischen Grundlagen verständlich beschreibt.
Große Sprachmodelle und das Transformer-Prinzip
Seit 2017 dominiert eine bestimmte Netzarchitektur den Bereich der Sprachverarbeitung: der Transformer. Er wurde von Google-Forschern vorgestellt und bildet die Grundlage für GPT-4, Gemini, Claude und andere große Sprachmodelle (Large Language Models, kurz LLMs). Das entscheidende Merkmal ist der sogenannte Attention-Mechanismus: Das Modell lernt, welche Wörter in einem Satz besonders relevant füreinander sind, auch wenn sie weit voneinander entfernt stehen.
LLMs werden auf gigantischen Textmengen vortrainiert, oft Billionen von Tokens aus Büchern, Webseiten und wissenschaftlichen Publikationen. Anschließend erfolgt meist ein zweiter Schritt namens Reinforcement Learning from Human Feedback (RLHF), bei dem menschliche Bewerter dem Modell zeigen, welche Antworten hilfreich und welche problematisch sind.
In diesem Zusammenhang gewinnt auch die Art, wie KI-Systeme Websites lesen, zunehmend an Bedeutung. Wer Inhalte für solche Modelle strukturieren möchte, stößt schnell auf Konzepte wie llms.txt: Die KI-Sitemap, eine neue Konvention, mit der Webseitenbetreiber maschinenlesbar kennzeichnen können, welche Inhalte für KI-Training oder KI-gestützte Indexierung freigegeben sind.
Training, Inferenz und die Kosten dahinter
KI-Entwicklung läuft in zwei klar getrennten Phasen ab. Das Training ist extrem rechenintensiv: GPT-4 soll nach Schätzungen von Experten über 100 Millionen US-Dollar an Rechenkosten verursacht haben, lief auf Tausenden spezieller Grafikprozessoren (GPUs) und dauerte Wochen. Das Training findet einmalig statt.
Die zweite Phase heißt Inferenz: Das fertig trainierte Modell beantwortet Anfragen in Echtzeit. Hier ist der Rechenaufwand pro Anfrage viel geringer, summiert sich aber bei Millionen Nutzern erheblich. Genau deshalb investieren Rechenzentrumsanbieter weltweit massiv in neue Hardware-Generationen.
- Trainingsdaten: Qualität und Diversität entscheiden maßgeblich darüber, ob ein Modell gut oder schlecht funktioniert.
- Modellgröße: GPT-4 soll laut Branchenberichten rund 1,8 Billionen Parameter haben. Mehr Parameter bedeuten mehr Ausdruckskraft, aber auch höheren Energiebedarf.
- Feinabstimmung (Fine-Tuning): Allgemeine Basismodelle lassen sich mit kleineren, spezialisierten Datensätzen für konkrete Aufgaben schärfen, etwa medizinische Dokumentation oder juristisches Schreiben.
Grenzen und blinde Flecken
KI-Systeme können keine Kausalität erkennen. Sie sehen Korrelationen in Daten, aber nicht, ob eine Ursache eine Wirkung ausgelöst hat. Sprachmodelle „verstehen“ Texte nicht im menschlichen Sinne, sie berechnen die wahrscheinlichste Fortsetzung einer Zeichenkette. Daraus entstehen sogenannte Halluzinationen: Das Modell erfindet Fakten, weil die Fortsetzung statistisch plausibel klingt, auch wenn sie inhaltlich falsch ist.
Hinzu kommen Verzerrungen in den Trainingsdaten. Wenn ein Datensatz bestimmte Bevölkerungsgruppen überrepräsentiert, spiegelt sich das im Modellverhalten wider. Dieses Problem wird in der Forschung unter dem Begriff Bias intensiv untersucht. Das Bundesbeauftragte für den Datenschutz und die Informationsfreiheit hat dazu bereits Hinweise veröffentlicht, weil KI-Systeme personenbezogene Daten auf neue Weisen verarbeiten und damit datenschutzrechtliche Fragen aufwerfen.
Regulierung und Ausblick
Die Europäische Union hat mit dem AI Act erstmals verbindliche Regeln für KI-Systeme geschaffen. Hochrisikoanwendungen, etwa in der Personalauswahl, der Kreditvergabe oder in medizinischen Geräten, unterliegen strengen Transparenz- und Dokumentationspflichten. Der vollständige Text ist über das Amtsblatt der EU zugänglich; eine Übersicht zu europäischen Digitalpolitiken bietet auch die offizielle Website des Bundes mit Verweisen auf nationale Umsetzungsmaßnahmen.
Technisch wird die Entwicklung schneller, nicht langsamer. Multimodale Modelle verarbeiten heute Text, Bild, Audio und Video gleichzeitig. Spezialisierte Hardware wie Googles TPUs oder Nvidias H100-Chips beschleunigen Training und Inferenz. Und mit Techniken wie Quantisierung lassen sich große Modelle so verkleinern, dass sie auf einem Smartphone laufen. Wer die Grundprinzipien versteht, kann diese Entwicklungen realistisch einschätzen, ohne in Hype oder Panikmache zu verfallen.