KI-Kurse im Praxistest: Back to the Basics mit „AI Capabilities and Limitations“

Neue Modelle, neue Features und neue Buzzwords kommen inzwischen im Wochentakt, und für meine Reihe „KI-Kurse im Praxistest“ wäre es leicht, jeden Monat dem neuesten Thema hinterherzulaufen.

Dabei passiert etwas Paradoxes: Gerade weil so viel Neues auf uns einprasselt, geraten die Grundlagen schnell aus dem Fokus. Dabei entscheiden genau diese Grundlagen darüber, ob man KI wirklich souverän nutzt oder nur „gut promptet“. Im April ging es für mich deshalb bewusst zurück zu den Basics.

Der Kurs: „AI Capabilities and Limitations“ der Anthropic Academy

Die Anthropic Academy bietet neben zahlreichen Claude-spezifischen Trainings auch Grundlagenkurse an, die unabhängig vom konkreten Tool funktionieren. Einer davon ist „AI Capabilities and Limitations“. Der Kurs ist kostenlos, benötigt lediglich ein Skilljar-Konto und schließt mit einem Quiz und einem Teilnahmezertifikat ab.

Er versteht sich als Gegenstück zum AI-Fluency-Kurs mit dem 4D-Framework: Dort geht es um die menschlichen Kompetenzen im Umgang mit KI, also Delegation, Description, Discernment und Diligence. „AI Capabilities and Limitations“ dreht die Perspektive um und erklärt die Eigenschaften der Maschine, auf die diese Kompetenzen reagieren. Eine unterhaltsame Ergänzung dazu ist das Buch, das ich in Die KI auf der Therapiecouch: Ein Buch über Chatbots mit Macken bespreche.

Aufgebaut ist der Kurs in vier Abschnitte:

• Getting Started: Einführung und die Frage, was wir eigentlich meinen, wenn wir „KI“ sagen
• How AI Gets Its Character: die vier zentralen Eigenschaften generativer KI, jeweils mit interaktiven „Try it out“-Elementen
• Integration: was passiert, wenn diese Eigenschaften aufeinandertreffen
• Assessment: abschließendes Quiz

Vier Eigenschaften, die erklären, wie KI „tickt“

Das Herzstück des Kurses ist ein mentales Modell, das auf vier Eigenschaften basiert. Wer sie verstanden hat, schaut anders auf jede KI-Antwort.

1. Next Token Prediction

Sprachmodelle erzeugen Text, indem sie Schritt für Schritt die wahrscheinlichste Fortsetzung berechnen. Das macht sie unglaublich sprachgewandt, bedeutet aber auch: Eine Antwort kann flüssig, plausibel und selbstbewusst klingen, ohne korrekt zu sein. Sprachliche Qualität ist kein Wahrheitsbeweis.

2. Knowledge

Das Wissen eines Modells stammt aus seinen Trainingsdaten. Es ist breit, aber ungleich verteilt, hat einen Stichtag und weist Lücken auf, besonders bei Nischenthemen, aktuellen Entwicklungen oder internem Unternehmenswissen.

3. Working Memory

Alles, was im laufenden Gespräch steht, also Anweisungen, Dokumente und bisherige Antworten, bildet das Arbeitsgedächtnis des Modells. Es ist groß, aber nicht unbegrenzt. In langen Konversationen können frühe Details an Gewicht verlieren. Umgekehrt gilt: Was nicht im Kontext steht, kann das Modell auch nicht berücksichtigen.

4. Steerability

KI lässt sich durch Anweisungen, Beispiele und Rollen gezielt steuern. Das ist eine enorme Stärke. Die Kehrseite: Das Modell folgt auch der Rahmung einer Frage und neigt mitunter dazu, Annahmen zu übernehmen, statt sie zu hinterfragen.

Wenn Eigenschaften kollidieren: Warum Halluzinationen entstehen

Richtig spannend wird es im Integrationsteil. Denn typische Fehler lassen sich selten auf eine einzelne Eigenschaft zurückführen. Sie entstehen dort, wo mehrere aufeinandertreffen.

Das bekannteste Beispiel sind Halluzinationen: Trifft die Logik der Next Token Prediction auf eine Wissenslücke, füllt das Modell diese Lücke mit der plausibelsten Fortsetzung, und die klingt eben oft überzeugend. Kommt dann noch eine suggestive Frage hinzu, verstärkt die Steerability den Effekt zusätzlich.

Der Kurs vermittelt dafür ein nützliches Bild: ein Kontinuum zwischen Fähigkeit und Grenze. Ziel ist, bei einem unerwarteten Ergebnis zu erkennen, welche Art von Fehler vorliegt, grob einzuordnen, wo auf diesem Kontinuum die eigene Aufgabe gelandet ist, und dann gezielt gegenzusteuern. Etwa durch zusätzliche Quellen im Kontext, eine neutralere Fragestellung oder eine Aufteilung der Aufgabe in kleinere Schritte. Statt pauschal „die KI hat sich geirrt“ also eine echte Diagnose.

Warum ich den Kurs empfehle

Aus meiner Sicht macht vor allem Folgendes den Kurs relevant:

• Er liefert ein mentales Modell, wie generative KI tatsächlich funktioniert, ohne sich in Mathematik zu verlieren.
• Er erklärt die vier zentralen Eigenschaften Next Token Prediction, Knowledge, Working Memory und Steerability verständlich und mit interaktiven Übungen.
• Und vor allem: Er zeigt, warum typische Fehler entstehen, und macht sie damit vorhersehbar und behebbar.

Wer KI nur „in Tools“ denkt, bleibt operativ. Erst wer die Mechanik dahinter versteht, kann strategisch mit ihr arbeiten. Gerade im Marketing, in der Lehre oder im E-Commerce ist das kein „Nice to have“, sondern die Grundlage für realistische Erwartungen und für kalibriertes statt blindes Vertrauen.

Einen kleinen Kritikpunkt gibt es: Der Kurs ist komplett auf Englisch. Wer Anthropics AI-Fluency-Kurs bereits kennt, wird außerdem einige Gedanken wiedererkennen. Das schmälert den Nutzen aber kaum, im Gegenteil: Beide Kurse ergänzen sich sehr gut.

Für wen sich der Kurs eignet

Empfehlenswert für:

• alle, die KI regelmäßig nutzen, aber das Gefühl haben, sie nicht wirklich zu „durchdringen“
• Dozierende und Trainer:innen, die KI-Grundlagen verständlich vermitteln wollen
• Fach- und Führungskräfte in Marketing, E-Commerce und Beratung, die KI-Ergebnisse bewerten müssen
• Teams, die gerade KI-Richtlinien oder Qualitätsprozesse aufbauen

Weniger geeignet für: Entwickler:innen oder Data Scientists, die bereits tief in Modellarchitekturen, Fine-Tuning oder Evaluation stecken. Für sie ist der Kurs eher eine gute Auffrischung als ein Erkenntnisgewinn.

Nebenbei: Claude Code 101

Parallel habe ich im April noch „Claude Code 101“ absolviert. Der Kurs richtet sich an Entwickler:innen und führt von der Installation über den Workflow „Explore → Plan → Code → Commit“ bis zu CLAUDE.md-Dateien, Subagents, MCP-Servern und Hooks. Spannend fand ich, wie direkt sich die Grundlagen aus „AI Capabilities and Limitations“ dort wiederfinden: Wer versteht, wie begrenzt das Working Memory ist, versteht auch sofort, warum Befehle wie /compact oder /clear und eine gut gepflegte CLAUDE.md so wichtig sind.

Fazit: Ein Schritt zurück, der nach vorne bringt

„AI Capabilities and Limitations“ ist kein Kurs über das nächste große Feature. Er ist ein Kurs über das Fundament, auf dem alle Features stehen. Wenn du das Gefühl hast, KI zwar zu nutzen, aber nicht wirklich zu verstehen, warum sie mal brillant und mal daneben liegt, dann lohnt sich genau dieser Schritt zurück zu den Basics.