KI-Kurse im Praxistest: „KI und Diversität“ der Hamburg Open Online University

Als Dozent für KI muss ich permanent am Ball bleiben. Deshalb habe ich mir vorgenommen, jeden Monat mindestens einen KI-Onlinekurs abzuschließen und hier festzuhalten, was er mir gebracht hat. Meist geht es dabei um Tools, Modelle und Techniken. Im Februar habe ich bewusst einen anderen Blickwinkel gewählt: Was macht KI eigentlich mit gesellschaftlicher Vielfalt, und was macht gesellschaftliche Vielfalt mit KI?

Die Antwort darauf suchte ich im Kurs „KI und Diversität“ der Hamburg Open Online University.

Der Kurs: „KI und Diversität“ der HOOU

Die Hamburg Open Online University (HOOU) ist ein Verbund Hamburger Hochschulen, der offene, frei zugängliche Lernangebote bereitstellt. Der Kurs „KI und Diversität“ stammt von der Hochschule für Angewandte Wissenschaften Hamburg (HAW Hamburg) und entstand unter Mitwirkung des Fraunhofer IAIS. Er ist kostenlos, auf Deutsch, im Selbstlernformat aufgebaut und als Open Educational Resource unter der Lizenz CC BY-SA 4.0 veröffentlicht.

Das Ziel formuliert der Kurs selbst sehr treffend: ein kritisches und zugleich praxisorientiertes Verständnis dafür zu vermitteln, wie sich KI im Kontext gesellschaftlicher Vielfalt auswirkt. Gelernt wird mit Texten, Grafiken, Reflexionsfragen, praktischen Übungen und Multiple-Choice-Tests.

Aufgebaut ist der Kurs in vier Module:

• KI und Biases: Grundlagen wie Machine Learning, Deep Learning und Natural Language Processing sowie die Frage, wie Verzerrungen in Datensätzen entstehen und wirken
• Ethische Herausforderungen bei KI-Systemen: moralische Dilemmata, Verantwortung und Haftung, die Ethik-Leitlinien der EU und mehrere Fallstudien aus der Praxis
• Vertrauenswürdige KI und KI-Absicherung: Prüfkataloge und Bewertungsrahmen, etwa von Fraunhofer, OECD und VDE, Monitoring, Auditierung und Zertifizierung sowie der EU AI Act mit seiner Risikoklassifizierung
• Prompt Engineering und Ethik: Prompting-Grundlagen, Halluzinationen, die C.R.E.A.T.E.-Methode und verantwortungsvolles Prompting, das Verzerrungen in generierten Inhalten reduziert

Warum Bias kein Randthema ist

KI-Systeme lernen aus Daten. Und Daten sind nie neutral: Sie spiegeln wider, wer erfasst wurde, wer nicht, und welche Muster in der Vergangenheit galten. Wird ein Modell mit solchen Daten trainiert, übernimmt es diese Muster und kann sie im schlimmsten Fall sogar verstärken.

Dass das keine theoretische Gefahr ist, zeigen bekannte Beispiele. Die Studie „Gender Shades“ von Joy Buolamwini und Timnit Gebru wies 2018 nach, dass kommerzielle Gesichtsanalyse-Systeme bei dunkelhäutigen Frauen deutlich höhere Fehlerquoten hatten als bei hellhäutigen Männern. Im selben Jahr wurde bekannt, dass Amazon ein experimentelles Recruiting-Tool eingestellt hatte, weil es Bewerbungen von Frauen systematisch schlechter bewertete. Das System hatte aus den Einstellungsentscheidungen der Vergangenheit gelernt.

Der Kurs macht solche Mechanismen greifbar, unter anderem mit Übungen zu neuronalen Netzen und Gesichtserkennung. Besonders hilfreich fand ich, dass er nicht bei der Problembeschreibung stehen bleibt, sondern die verschiedenen Arten von Bias systematisch unterscheidet und nach ihren Ursachen fragt.

Von der Ethik zur Regulierung

Die Module zwei und drei schlagen eine Brücke, die in vielen KI-Kursen fehlt: von der ethischen Diskussion hin zu konkreten Standards. Wer über vertrauenswürdige KI spricht, landet schnell bei der Frage, wie sich Vertrauenswürdigkeit eigentlich prüfen lässt. Genau hier setzt der Kurs an, mit einem Überblick über Prüfkataloge, Auditierungsverfahren und den EU AI Act.

Für mich war dieser Teil besonders wertvoll. Denn der AI Act ist längst kein Zukunftsthema mehr, sondern betrifft Unternehmen, Hochschulen und Bildungsanbieter ganz konkret. Wer KI in sensiblen Bereichen wie Personalauswahl oder Bildung einsetzt, muss die Risikoklassen kennen.

Prompting mit Verantwortung

Das vierte Modul holt das Thema in den Alltag: Wie prompte ich so, dass generative KI keine Stereotype reproduziert? Ein einfaches Beispiel: Wer ein Bild von „einer Führungskraft“ oder „einer Pflegekraft“ generieren lässt, bekommt häufig sehr einseitige Darstellungen. Bewusst formulierte Prompts und ein kritischer Blick auf die Ergebnisse sind hier die wichtigsten Gegenmittel.

Aus meiner Sicht ist das der Punkt, an dem Diversität und Prompting-Kompetenz zusammenfallen: Gutes Prompting heißt nicht nur, bessere Ergebnisse zu bekommen, sondern auch, Verantwortung für diese Ergebnisse zu übernehmen.

Für wen sich der Kurs eignet

Empfehlenswert für:

• Dozierende und Lehrkräfte, die KI im Unterricht einsetzen oder darüber sprechen
• Fach- und Führungskräfte in HR, Marketing und Kommunikation, deren KI-Ergebnisse Menschen direkt betreffen
• Verantwortliche, die sich mit dem EU AI Act und vertrauenswürdiger KI beschäftigen müssen
• alle, die einen deutschsprachigen, kostenlosen und fundierten Einstieg in KI-Ethik suchen

Weniger geeignet für: alle, die vor allem praktische Tool-Kenntnisse suchen oder bereits tief in Fairness-Metriken und technischer Bias-Korrektur stecken. Der Kurs ist eher Orientierung als Werkzeugkasten.

Fazit: Ein Kurs, der den Blick weitet

„KI und Diversität“ ist kein Kurs, nach dem man ein neues Tool beherrscht. Aber er schärft den Blick für etwas, das bei jeder KI-Anwendung mitläuft: die Frage, wessen Perspektive in den Daten steckt und wessen fehlt. Wer KI lehrt, einsetzt oder in Unternehmen verantwortet, sollte diese Frage stellen können. Dass die HOOU den Kurs als frei nutzbare Bildungsressource anbietet, macht ihn umso empfehlenswerter.

Wie es im März weitergeht

Im März wird es praktisch: Mit dem Lernpfad „Make Foundation“ geht es um Workflow-Automatisierung und die Frage, wie KI in Prozesse eingebunden wird.

Quellen: HOOU, KI und Diversität; Buolamwini & Gebru, Gender Shades (2018)