Dass auch KI-Programme Fehler machen können, ist hinlänglich bekannt. Trotzdem halten sich auch bei vielen Schülerinnen und Schülern hartnäckig falsche Vorstellungen über ihre Fähigkeiten, wie eine Studie zeigt. Experten sehen darin ein Risiko für wachsende Bildungsunterschiede – und empfehlen einen einfachen Lösungsansatz für den Unterricht.

ChatGPT gibt falsche Antworten, erfindet Quellen oder scheitert an vermeintlich einfachen Aufgaben. Auch Jugendliche erleben solche Fehler sowohl in der Schule als auch privat regelmäßig. Doch führt diese Erfahrung auch dazu, dass sie die Fähigkeiten von KI realistischer einschätzen? Das haben Forschende der Universität Tübingen und des Leibniz-Instituts für die Pädagogik der Naturwissenschaften und Mathematik (IPN) untersucht*. Dafür befragten sie dieselben rund 870 Schülerinnen und Schüler 2023 und 2024. Die Jugendlichen besuchten die Klassen sechs bis acht an Gymnasien in Baden-Württemberg.

Das beruhigende Ergebnis: Nur eine Minderheit hält KI tatsächlich für unfehlbar. Der Aussage „KI weiß alles“ stimmten zunächst rund 13 Prozent zu, ein Jahr später noch zehn Prozent. Dass KI keine Fehler mache, glaubten knapp zehn beziehungsweise sechs Prozent.

Deutlich verbreiteter ist dagegen die Vorstellung, KI verfüge über mehr Wissen als die eigenen Lehrkräfte. 2023 glaubten das 39 Prozent der Befragten, ein Jahr später noch 34 Prozent. Ulrich Trautwein vom Hector-Institut für Empirische Bildungsforschung spricht von einer „immensen Wissensautorität“, die viele Jugendliche der Technik zuschreiben. Allerdings schränkt der Forscher ein: Angesichts der rasanten technischen Entwicklung lasse sich die Annahme, KI könne mehr wissen als eine Lehrkraft, sei die Annahme „zunehmend weniger eindeutig falsch“.

Negative KI-Erfahrungen allein reichen offenbar nicht

Besonders interessant ist, wie stabil die Einschätzungen blieben. Jugendliche, die KI 2023 für allwissend hielten, glaubten dies häufig auch ein Jahr später noch. Eigene Erfahrungen mit falschen KI-Antworten führten also keineswegs automatisch zu einem realistischeren Bild.

Studienleiterin Ann-Kathrin Jaggy beobachtet vielmehr, dass Fehler häufig einfach hingenommen werden. Obwohl Jugendliche erleben, dass eine KI falschliegt, hinterfragen sie trotzdem nicht unbedingt ihre grundsätzliche Einschätzung der Technik. Dabei zeigten sich Unterschiede zwischen den Befragten: Jugendliche mit besseren Ergebnissen in kognitiven Tests, größerer Freude an anspruchsvollem Denken und höherer Offenheit für Neues korrigierten ihre Vorstellungen häufiger.

Für Co-Autor Thorben Jansen steckt darin ein mögliches Bildungsproblem. Denn untersucht wurde keine durchschnittliche Schulklasse, sondern eine besondere Gruppe: Die rund 870 Gymnasiastinnen und Gymnasiasten nehmen am Begabtenförderprogramm „Hector-Seminar“ teil und gehören zu den kognitiv stärksten rund zehn Prozent ihres Jahrgangs. Die Ergebnisse lassen sich deshalb nicht auf alle Schülerinnen und Schüler übertragen. Die Forschenden vermuten jedoch, dass eine Überschätzung von KI in der gesamten Schülerschaft sogar noch stärker verbreitet sein könnte.

Lehrkräfte sollten KI im Unterricht auch mal scheitern lassen

Was können Lehrkräfte tun? Die Forschenden empfehlen, Fehlvorstellungen nicht nur anzusprechen, sondern für Schülerinnen und Schüler konkret erfahrbar zu machen. Eine Möglichkeit: die Antworten eines Chatbots so lange gemeinsam prüfen, bis die Klasse selbst Fehler, Widersprüche oder Wissenslücken entdeckt.

red

*Die englischsprachige Studie ist hier zum kostenlosen Download verfügbar