Am Dienstag, 5. Oktober ging der 11. PolitTalk Digitales Zürich über die Bühne. In den Räumlichkeiten der Digital Society Initiative (DSI) der Universität Zürich versammelten sich rund 50 Interessierte, um an der Diskussion teilzunehmen.

«Algorithmen im Klassenzimmer» lautete der Titel der Veranstaltung. Dabei ging es um Vorurteile in Mensch und Algorithmus, um das Zusammenspiel zwischen Lehrpersonen und KI sowie um menschliche Beziehungen, die von der künstlichen Intelligenz zwar unterstützt, aber nicht ersetzt werden sollen.

Fehlende Privatsphäre und fehlende Gesetzgebung

Den Abend eröffnete Abraham Bernstein, Professor am Institut für Informatik und geschäftsführender Direktor der DSI. Er stellte gleich zu Beginn mit einem Augenzwinkern klar, wie komplex und vielfältig das Thema KI ist:

In seinem Inputreferat sprach er unter anderem über die Möglichkeit, das Verhalten von Studierenden in Lernsoftwares oder Online-Programmen als sogenannte Lernspuren festzuhalten. So könne man beispielsweise nachvollziehen, wer welche Seiten zuerst besucht und welche Aufgaben zuerst löst. Und man könne danach etwa die Lerninhalte und Übungen individuell anpassen und Lernpfade zusammenstellen.

Natürlich werfe das dann immer direkt die Frage der Privatsphäre auf, so Bernstein: «Wie viel Privatsphäre bin ich bereit, für die Genauigkeit aufzugeben? Und wie viel Genauigkeit büsse ich ein, um die Privatsphäre zu wahren?»

Überhaupt seien Fragen im Zusammenhang mit KI knifflig, weil die konkrete Gesetzgebung fehle, erklärte Bernstein weiter. So gebe es zwar Datenschutzgesetze und erste Entwürfe zu KI-Gesetzen, zurzeit sei aber noch vieles unklar. Wer haftet? Wer sorgt dafür, dass KI gesetzeskonform ist? Und wenn die Gesetzgebung fehlt, was bedeutet das dann überhaupt? Einige dieser offenen Fragen übergab er direkt ans anschliessende Diskussionspanel.

Interesse und Skepsis

Am Panel diskutierten drei Expertinnen und Experten aus dem Bildungs- und Technologiebereich: Moria Zürrer, Schulleiterin in der Stadt Zürich und Mitglied der Geschäftsleitung im Verband Schulleiterinnen und Schulleiter Zürich VSLZH, Michael Anders, Direktor des Schulamtes der Stadt Zürich, und Steve Hinske, Mitgründer des Softwareunternehmens «Smartest Learning». Als Moderator führte Nico Leuenberger von der Podcastschmiede durch das Gespräch.

Michael Anders eröffnete die Diskussionsrunde sehr konkret: Er fragte die digitale Assistentin Siri auf seinem iPhone, was sie über den eZürich PolitTalk wisse. Mit Erfolg, denn Siri spuckte die entsprechende Webseite aus.
Anschliessend stellte Steve Hinske kurz sein Lerntool vor: «Smartest» erstellt personalisierte Lerninhalte aus unterschiedlichen Materialien, die ins Tool eingespeist werden. Vor Ort konnten die Teilnehmenden direkt selbst ausprobieren, wie «Smartest» funktioniert und sich zum Beispiel interaktive Aufgaben aus einem Harry-Potter-Buch zusammenstellen.

Damit traf Hinske unter anderem bei Moria Zürrer einen Nerv. Sie sei überzeugt, dass gerade interaktive Aufgaben – oder in ihren Worten «alles, was sich bewegt» – bei Kindern und Jugendlichen gut ankomme. Trotzdem schwang auch noch eine gewisse Skepsis mit. So wollte sie von Hinske etwa wissen, wer denn das Material im Vorfeld selektiere, das in das Tool eingespeist wird.

Er entgegnete, genau diese Erfahrungen habe man bei Pilottests in unterschiedlichen Schulen auch gemacht. Nämlich, dass Lehrpersonen der Automation noch nicht ganz vertrauen und selbst über das Material und die Aufgaben entscheiden möchten:

Genau das sah Michael Anders als eine grundsätzliche Frage bei KI, nämlich, wie viel wir denn noch selbst entscheiden können, wenn KI beginnt, uns Aufgaben abzunehmen. So sei KI ja bereits jetzt sehr gut darin, Daten zu sammeln und zu analysieren. Wenn es aber zu einer Entscheidung komme, brauche es bisher immer noch den Menschen.

Kultur oder KI – was bedeutet der Faktor Mensch?

Ein Grossteil der rund 40-minütigen Diskussion kreiste genau um diesen Punkt: Mensch vs. KI. Denn wenn KI doch unter Umständen dem Wissen und den Lernbedürfnissen einzelner Schülerinnen und Schüler viel besser gerecht werde, so stellte Anders die Frage in den Raum:

Zürrer hatte darauf direkt eine Antwort: Gewisse Daten erfasse KI nämlich nicht, so zum Beispiel emotionale Daten oder andere Verhaltensweisen, die Kinder im Klassenzimmer zeigen würden. Diese würden beeinflussen, wie eine Lehrperson ein Kind einschätzt.

Und was ganz wichtig sei: Bildung sei schliesslich nicht nur das Vermitteln von Wissen, so Zürrer: «Geht Bildung nur darum, Daten zu sammeln und Daten weiterzugeben, oder geht es auch ums Menschwerden?»

Denn Schülerinnen und Schüler sollten schlussendlich mündig sein und die Kompetenzen haben, sich etwa bei einer Abstimmung eine eigene Meinung bilden zu können.

Datenkrake KI?

Eine KI, die Kinder im Klassenzimmer begleitet, ihre Lernfortschritte misst und die Schulkarriere von Anfang bis Ende begleitet, wird sehr viele Daten erfassen, verarbeiten und speichern. Das birgt Chancen, aber auch Risiken.

Das sei tatsächlich eine grosse Herausforderung, bestätigte Anders. Natürlich, so sagte er leicht sarkastisch, könnte das den Vorteil haben, dass Bewerbungsverfahren quasi obsolet würden, denn man hätte bereits alle nötigen Informationen zum Verhalten und Potenzial eines jungen Menschen.

Andererseits müssten diese Daten aber auch entsprechend geschützt werden und es müsse klar sein, wer die Verantwortung dafür trägt. Das gehe wieder in die Richtung der Gesetzgebung, die Abraham Bernstein in seinem Inputreferat angetönt hatte. Diese müsse klar sein:

Steve Hinske brachte neben der unsicheren Datenlage und der Diskussion um den Faktor Mensch noch einen weiteren Punkt ins Spiel. Es gebe nämlich auch das andere Extrem: Viele hätten völlig überzogene Erwartungen an KI. Sie würden 100% Korrektheit erwarten, das könne eine KI heute aber einfach noch nicht leisten. Wenn er dann erkläre, dass die Grammatik in seinem Programm heute zu rund 95% korrekt sei, dann seien viele enttäuscht.

Und trotz aller Skepsis und den offenen Fragen sei es wichtig, am Puls der Zeit zu bleiben, betonte Moria Zürrer. Denn die Entwicklung und Digitalisierung finde nun einmal statt. Und es sei wichtig, dass Lehrpersonen diese Entwicklung mitmachten. So brauche es manchmal Impulse der Schulleitungen, die Lehrpersonen weiterzubilden oder ihnen gewisse Tools aufzuzeigen.

Schlussendlich waren sich alle Diskussionsteilnehmenden einig. KI sei ein gutes Hilfsmittel und könne jetzt schon vieles besser und schneller als der Mensch. Im Bildungsbereich sei sie aber noch lange nicht so weit, dass sie Menschen ersetzen kann.

Eine Diskussion ohne absehbares Ende

Wie es bereits Abraham Bernstein in seinem Inputreferat zu Beginn des Events sagte: Man könnte das Thema stundenlang erörtern.

So blieben denn auch zum Schluss der Diskussion zahlreiche Fragen offen, die unter anderem vom Publikum eingebracht wurden: Wie sieht die Schule der Zukunft aus? Welche Visionen sollen umgesetzt werden? Welche Tools kommen künftig zum Einsatz? Und selbst wenn geklärt ist, wie KI künftig in der Bildung zum Einsatz kommt, fragt man sich dennoch: Was wird denn überhaupt vermittelt?

Zürrer und Hinske etwa vereinbarten zum Schluss des Podiums gleich spontan noch einen Zoom-Termin, um sich etwas genauer über Hinskes Technologie auszutauschen und die Diskussion fortzuführen.

Und auch das Publikum vernetzte sich. Beim Stehapéro nach dem Anlass ergaben sich spontane Gespräche, in denen Denkanstösse aus dem Panel aufgenommen und weitergesponnen wurden.

Vertiefung in den Podcast-Vorgesprächen

Die Podiumsdiskussion wie alle Vorgespräche können Sie auch auf Spotify, bei Apple Podcasts und den anderen gängigen Podcastplattformen finden. Im Podcast hat Moderator Nico Leuenberger auch noch drei Einzelgespräche mit Anders, Zürrer und Hinske geführt. Diese gehen noch weiter in die Tiefe.