Chatbots mit künstlicher Intelligenz sind für Lehrkräfte überall zum Schrecken geworden. Doch zur Vorbereitung auf das neue Schuljahr versammelte sich eine Gruppe von Pädagogen in Charleston im Bundesstaat South Carolina im Auditorium einer Highschool, um darüber zu sprechen, KI ins Klassenzimmer einzuladen.

Die Lehrkräfte und Schulleiter sahen zu, wie eine Dozentin ein KI-Tool aufforderte, „eine Karte der Welt zu erstellen“.

Das Ergebnis löste ungläubiges Staunen und Gelächter aus. Auf einem großen Bildschirm erschien eine Karte voller skurriler Fehler. Mali war als „Mail“ geschrieben. Ägypten wurde als „Sopth“ bezeichnet. Anstelle von Libyen stand dort schlicht „Afrika“. Dutzende weitere Ländernamen waren falsch geschrieben oder bestanden aus purem Kauderwelsch.

„Wenn Kinder diesen Tools nicht übermäßig vertrauen sollen, probiert die Karten-Demo“, sagte die Dozentin Amanda Bickerstaff, Gründerin und CEO von AI For Education, einer Organisation, die Schulen beim Entwurf von KI-Richtlinien unterstützt und Lehrkräfte sowie Schüler in dem schult, was sie die sichere, ethische und wirksame Nutzung der Technologie nennt.

Nach anfänglichen Versuchen, die KI-Nutzung zu verbieten, setzen immer mehr öffentliche Schulen in den USA auf eine neue Strategie: Sie fördern das Experimentieren im Klassenzimmer – unter anderem, damit Schüler die Schwächen der Technologie erkennen, darunter die berüchtigte Neigung generativer KI zu „Halluzinationen“, also zur Erfindung von Informationen. Solche Fehler entstehen, weil Chatbots Antworten zusammensetzen, indem sie wahrscheinliche Wortmuster vorhersagen, statt überprüfte Fakten abzurufen. Deshalb können die Ergebnisse zugleich flüssig, selbstsicher und falsch sein.

KI-Kompetenz ist zum Schlagwort der diesjährigen Rückkehr-zur-Schule-Saison geworden, während Pädagogen versuchen, einen Ausgleich zu finden zwischen der Vermittlung der Fähigkeiten, die Schüler für eine von KI geprägte Zukunft benötigen, und dem Ziel, sie daran zu hindern, ihr Denken an Chatbots auszulagern. Das Dilemma klingt vertraut: Schulen haben einst Taschenrechner und Wikipedia eingeschränkt, bevor sie lernten, sie in den Unterricht einzubinden.

Es gibt keine einheitliche Definition dessen, was KI-Kompetenz bedeutet oder wie sie vermittelt werden sollte. Technologieriesen wie OpenAI, Google und Anthropic bieten Schulen Schulungen zur Nutzung ihrer KI-Tools an, und alle drei vertreiben zudem speziell für die Bildung konzipierte Versionen ihrer Chatbots – womit sie ein kommerzielles Interesse an der Nutzung im Klassenzimmer haben. Doch unter Pädagogen wächst der Konsens, dass KI-Kompetenz mehr bedeutet, als zu lernen, wie man generative KI bedient und gute Prompts schreibt.

„Gute KI-Kompetenz“, sagte Rebecca Winthrop, Direktorin des Center for Universal Education an der Brookings Institution, „beinhaltet auch zu wissen, wann man sie nicht nutzen sollte.“

Manche Bezirke entwickeln eigene Ansätze

Inzwischen haben 37 Bundesstaaten offizielle KI-Leitlinien veröffentlicht, die Schulen als Vorlage nutzen können. South Carolina gehört nicht dazu.

Daher machte sich der zweitgrößte Schulbezirk des Bundesstaates auf, es selbst in die Hand zu nehmen, sagte Lucas Clamp, stellvertretender Superintendent des Charleston County School District mit 50.000 Schülern. „Es war ein gewaltiges Unterfangen.“

Vor einem Jahr kontaktierte der Bezirk AI for Education, das bei der Ausarbeitung von Leitlinien für die Chicago Public Schools, Houston und Dutzende andere Bezirke geholfen hat.

Phase 1 bestand darin, das Fundament zu legen: Der Bezirk entwickelte eine KI-Richtlinie und holte dazu Meinungen von Lehrkräften, Schülern und Eltern ein.

Der Bezirk organisierte Schüler-Fokusgruppen und erfuhr, dass die KI-Nutzung unter Schülern allgegenwärtig, aber ohne Anleitung erfolgte. Lehrkräfte und Schüler sagten, sie erschlossen sich die Technologie auf eigene Faust und wünschten sich klare Regeln und Unterweisung.

Studien zeigen, dass landesweit eine Mehrheit der Jugendlichen und Lehrkräfte KI für Schularbeiten nutzt, sich die Nutzung aber selbst beibringt; nur sehr wenige sagen, dass sie über technisches Verständnis verfügen oder eine formale Schulung zur Funktionsweise erhalten haben.

Schulen und Eltern sind bestrebt, die Fehler zu vermeiden, die mit sozialen Medien gemacht wurden, wo Kinder die Online-Welt erkundeten, ohne etwas über abhängig machende Algorithmen, die Vergleichskultur und andere Nachteile zu lernen, die mit einer Krise der psychischen Gesundheit von Jugendlichen und schwindender Aufmerksamkeitsspanne in Verbindung gebracht wurden.

Mit Beginn des Schuljahres in Charleston startet Phase 2: das Training. Lehrkräfte sowie Schüler der Mittel- und Oberstufe erhalten eine Mischung aus Online- und Präsenzunterricht darüber, wie KI-Tools funktionieren und wie man sie wirksam einsetzt.

Der Schülerkurs durchläuft vertraute Szenarien – etwa einen Chatbot um Hilfe bei einer Facharbeit zu bitten –, um zu zeigen, dass generative KI mit unerschütterlicher Autorität völlig falsche Informationen liefern kann, einschließlich erfundener Studien. „Überprüfe stets alle sachlichen Informationen, die du von GenAI erhältst, insbesondere bei deinen Schularbeiten“, empfiehlt der Kurs.

Ein Abschnitt zum Datenschutz warnt davor, persönliche Informationen mit KI-Tools zu teilen, da Gespräche gespeichert, für das Datentraining verwendet und möglicherweise geleakt werden können. Schülerdaten unterliegen bereits lang bestehenden Bundesdatenschutzgesetzen wie FERPA und COPPA, und wie diese Regeln auf Chatbots anzuwenden sind, bleibt für viele Bezirke eine offene Frage.

Der Highschool-Lehrer Ray Knauer nahm am Sommertraining teil und ging mit „lehrreichen Momenten“ für seinen AP-Research-Kurs. Er plant, Beispiele für KI-Verzerrungen und Halluzinationen zu zeigen, um Diskussionen unter den Schülern anzustoßen.

„Wir versuchen gerade alle, das herauszufinden: Wo liegt die richtige Balance, damit wir Schüler nicht von der KI wegschrecken, sie aber auch nicht dazu ermutigen, ständig zu ihr zu laufen“, sagte Knauer. „Wir müssen den Schülern beibringen: Man kann nicht einfach eine Antwort bekommen und weitermachen. Man muss analytische Fähigkeiten einsetzen und tiefer graben.“

Manche Bundesstaaten bieten zentrale Vorgaben

Utah war ein früher Vorreiter bei einem bundesstaatweiten Ansatz für KI in der Bildung.

Im Jahr 2024 berief das Board of Education Matt Winters zu seinem KI-Bildungsspezialisten – womit Utah der erste Bundesstaat war, der eine hauptamtliche Stelle zur Beaufsichtigung dieser Technologie an Schulen schuf.

Im vergangenen Jahr leitete Winters KI-Schulungen für mehr als 7.000 Lehrkräfte – fast ein Drittel der Lehrkräfte an Utahs öffentlichen Schulen. Er hilft Bezirken dabei, KI-Richtlinien zu erarbeiten, die laut Landesgesetz bis Juli 2027 vorliegen müssen.

„In Utah gibt es eine klare Methode von oben nach unten“, sagte Chris Agnew, Direktor des Generative AI for Education Hub an der Stanford University. „Wenn man große Veränderungen anpackt, ist es leichter, Kohärenz zu erreichen, wenn alle aus demselben Gesangbuch singen.“

Eine Handvoll anderer Bundesstaaten hat die Stelle von Winters inzwischen kopiert, darunter Maine, West Virginia und Georgia.

In anderen Bundesstaaten ist ein Flickenteppich von KI-Ansätzen entstanden, mit Unterschieden von Schulbezirk zu Schulbezirk. Umfassende KI-Kompetenz-Schulungen erfordern hohe Investitionen, was Sorgen schürt, dass Kinder in unterversorgten Bezirken möglicherweise nicht dieselbe Aufmerksamkeit erhalten. Für Bundesstaaten, die noch über keine offiziellen Leitlinien verfügen, ist das bevorstehende Schuljahr ein früher Belastungstest dafür, ob Anstrengungen einzelner Bezirke wie in Charleston die Konsistenz eines zentral gesteuerten Modells erreichen können.

In Utah beginnen die Schulungen mit den Grundlagen der Funktionsweise von KI, um ein Verständnis für KI-Verzerrungen, Halluzinationen, ethische Fragen und Datenschutzanforderungen zu vermitteln, sagte Winters. Anschließend können Lehrkräfte zusätzliche Schulungen zu bestimmten Tools absolvieren.

„Wenn ich einen Rat geben müsste: Findet heraus, wie ihr Schulungen für alle zugänglich macht“, sagte Emma Moss, die beim Canyons School District für KI zuständig ist und zudem ein achtköpfiges Team leitete, das den Bundesstaat bereiste und mehr als 150 KI-Kompetenz-Schulungen durchführte. Finanziert wurden die Schulungen durch ein KI-Kompetenz-Stipendium in Höhe von 500.000 US-Dollar eines örtlichen Gesundheitsdienstleisters. „Wir sagten: ‚Wir kommen zu euch.‘ Egal, ob du in einem ländlichen Gebiet oder in der Stadt bist – das spielte keine Rolle.“

Der Bundesstaat spielt zudem beim Einkauf von KI-Tools eine wichtige Rolle, sagte Winters. Er verhandelte Datenschutzvereinbarungen ebenso wie vergünstigte Preise, wodurch ländliche und unterversorgte Bezirke Zugang erhalten haben.

„Jeder muss verstehen, was diese Technologie ist und wie sie funktioniert“, sagte Winters, der vor pauschalen Verboten warnt. „KI-Kompetenz bedeutet viel mehr, als zu sagen: ‚Nutze keine KI.‘ Es geht darum, wie wir Kinder auf die Zukunft vorbereiten können.“

Auch ein Umdenken bei den Erwachsenen sei entscheidend, sagte Kristina Yamada, Spezialistin für digitale Technologien im staatlichen Board of Education.

„Ich glaube, dass Lehrkräfte ihre Einstellung dazu ändern müssen, dass Schüler mit KI schummeln“, sagte Yamada. Betrug habe es schon immer gegeben, sagte sie. Es sei Aufgabe der Lehrkräfte, die Sprache der Schüler zu sprechen und sie davon zu überzeugen, dass sie sich nicht bei allen Antworten auf KI verlassen können.

Für jüngere Kinder bedeutet das, früh über KI zu sprechen, etwa mit Gesprächen wie: „Menschen können lügen. Ein Programm kann lügen. Ein Roboter kann lügen“, sagte Yamada. „Bei älteren Schülern ist es anders: ‚Klar kannst du ChatGPT nutzen, um Computercode zu schreiben. Aber wenn das Programm nicht mehr funktioniert, musst du es reparieren können.‘“

---

Gecker berichtete aus San Francisco.

---

Die Bildungsberichterstattung der Associated Press erhält finanzielle Unterstützung von mehreren privaten Stiftungen. Die AP ist allein für alle Inhalte verantwortlich.

Dieser Beitrag war ursprünglich auf Fortune.com zu finden.