Frage: Wie funktioniert das Trainieren einer KI auf bestimmte Parameter oder Instructions? Wie kann ich meiner KI eine bestimmte Rolle oder Aufgabe geben und auf bestimmte Daten trainieren, dass sie automatisch Rechnungen durchführen und eine Sentimentanalyse auf gewissen Nachrichten durchführen kann?

Sebastian Gombert Beantwortet am 20 Mai 2025:

Wenn man eine KI trainieren will, nutzt man einen mathematischen Lernprozess namens Backpropagation. In der Praxis verwendet man heute meist modernere Varianten davon, wie RMSProp oder AdamW. Damit das funktioniert, braucht man ein Datenset – also eine große Sammlung von Beispielen, an denen die KI lernen kann. Jedes Beispiel besteht aus einer Eingabe (z. B. ein Text) und einer gewünschten Ausgabe (z. B. das Label „positiv“ oder „negativ“ bei einer Sentimentanalyse).

Bevor die KI mit der Eingabe etwas anfangen kann, muss der Text in eine Form gebracht werden, die sie versteht – nämlich in Zahlen. Dazu verwendet man sogenannte Word Embeddings. Stell dir vor, jedes Wort wird durch eine Liste von z. B. 768 Zahlen dargestellt. Diese Zahlen beschreiben das Wort im Kontext eines riesigen (768-dimensionalen) Raums. Wörter, die ähnlich sind (wie „gut“ und „toll“), liegen in diesem Raum näher beieinander als Wörter mit unterschiedlicher Bedeutung.

Wenn wir nun einen Satz eingeben, wandelt die KI jedes Wort in ein solches Embedding um. Diese Embeddings werden dann durch mehrere „Schichten“ der KI weiterverarbeitet, und am Ende kommt eine Ausgabe heraus – zum Beispiel eine Zahl zwischen 0 und 1, die ausdrücken soll, wie wahrscheinlich es ist, dass der Satz positiv gemeint ist.
Wie lernt die KI daraus?

Die KI vergleicht ihre Ausgabe mit dem richtigen Ergebnis aus dem Datensatz. Daraus berechnet sie einen Fehlerwert – also wie weit sie danebenliegt. Eine einfache Fehlerfunktion wäre zum Beispiel:
Fehler = |richtiger Wert − vorhergesagter Wert|

Jetzt will die KI wissen: Welche ihrer vielen internen Zahlen (Parameter) haben wie stark zum Fehler beigetragen? Um das herauszufinden, benutzt man Mathematik aus der Oberstufe: Ableitungen.

Man stellt sich das ganze KI-Modell wie eine riesige Gleichung vor, die aus vielen kleinen Rechenschritten besteht. Dann leitet man diese Gleichung partiell nach jedem Parameter ab – das nennt man den Gradienten. Dabei hilft die Kettenregel, weil spätere Rechenschritte von früheren abhängen.

Der Gradient zeigt, in welche Richtung man die Parameter ändern muss, damit der Fehler kleiner wird. Man ändert die Parameter also ein kleines Stück in diese Richtung – je nach Größe der sogenannten Lernrate (Learning Rate). Das wiederholt man für viele Datenpunkte, viele Male. So passt sich das Modell Schritt für Schritt an, wird besser im Vorhersagen und kann schließlich auch neue, unbekannte Eingaben gut einschätzen.