Zwischen der Rettung der Welt und ihrem Untergang entscheidet im Bereich der Künstlichen Intelligenz der Anwender: Ich befürchte, im Bereich der Schule wird KI-Pornografie uns viele Jahre weit zurückwerfen und unermesslichen Schaden anrichten.
‚Grand Challenges Annual Meeting‘ im Senegal: Einsatzgebiete von KI
Im Senegal fand Anfang des Monats ein Zusammentreffen vieler kluger Köpfe statt, um ‚Aufmerksamkeit und Anstrengung auf die Lösung wichtiger globaler Gesundheits- und Entwicklungsprobleme für die Bedürftigsten zu lenken‘ (Quelle). Mit dabei unter anderem Angela Merkel und auch Bill Gates, der seit vielen Jahren sehr viel Geld in Entwicklungsprojekte steckt. Der (beneidenswert erfolgreiche) YouTuber Arun Rupesh Maini führt mit Bill Gates ein ausführlicheres Interview (Link) und führt Bereiche an, bei denen KI die Welt besser machen soll: Landwirtschaft, Bildung, Patienten, Ärzte.
Mithilfe von gespeicherten Informationen, Wetterdaten, Nachrichten und lokalen Informationen könnten Farmer zukünftig zielgerichtet beraten und auf etwaige Schädlinge vorbereitet werden. Chatbot-Tutoren können Schüler:innen individuelle fördern und fordern. Patienten könnten schneller an potenzielle Diagnosen kommen – hochgradig relevant in einem Land, da viele Menschen während der Wartezeit auf einen Arzt versterben.
Alles cool also?
Snapdragon Summit 2023: ChatGPT in jedem Handy.
Qualcomm ist der Herrsteller von leistungsstarken Smartphone CPUs, die Liste der mit einem Qualcomm Prozessor ausgestatteten Geräte ist schier endlos (Link). Vergangene Woche hat die Firma ihren neuesten Prozessor vorgestellt, den Snapdragon 8 Gen 3. Abseits all des irrelevanten „30% schneller als die vorhergehende Generation“ sind es die KI-Features, die diese CPU besonders machen:
So lässt sich eine künstliche Intelligenz wie chatGPT darauf offline (!) ausführen. Schieße ich ein Foto, kann ich herauszoomen und die KI auf dem Chip konstruiert (erfindet!) einen passenden Weitwinkel und vergrößert das Foto. Und was immer uns in den letzten Monaten an lustigen Bild-Generatoren untergekommen ist (Beispiel): All das kann der Prozessor allein. Hier ein Kurzvideo, das diese Features demonstriert: Klick.
Verknüpfe ich die beiden Treffen zu einem, bieten sich herausragende Möglichkeiten, digitaler Unterstützung meiner Lebenswelt: Ein Bildungs-ChatBot für meine Schüler:innen. Ein auf Landwirtschaft trainierter KI-Bot für meinen Nachbarn. Und ein auf mitteleuropäische Krankheiten trainierter Bot für den Hypochonder in mir. In drei Monaten kommt der neue Chip im neuen Samsung Galaxy S24 auf den Markt – das Gerät ist jetzt schon in meinem digitalen Einkaufswagen.
Oder nicht?
KI-Pornos überschwemmen das Internet
Vor zwei Wochen wurde der Fall eines mexikanischen Studenten publik, der mittels KI Nacktbilder seiner Kommilitoninnen angefertigt und verkauft hat (Quelle). Auf seinem PC wurden „mehr als 20.000 Fotos“ gefunden, die „ohne die Zustimmung der Opfer verändert […] vertrieben und verkauft“ wurden. Das bedeutet: Mittels einer App werden Gesichter in existierende Pornos gesetzt – es entsteht der Eindruck, Max Mustermann habe ein privates Video mit seiner Frau Erika Mustermann im Internet vertrieben. Oder konkreter: Wer sich Zeki Müller und Lisi Schnabelstedt schon immer mal im Bett vorstellen wollte, kann sich das demnächst vermutlich direkt vor Augen führen.
Haben wir uns vor ein paar Jahren noch über mit Face-Swapping-Apps die Zeit vertrieben (eine App, die die Fotos von zwei Menschen vertauscht, bspw. von mir und meiner Tochter) kann jetzt via Klick die Kleidung jeder x-beliebigen Person entfernt werden.
„Deepfake Porn is out of Control“ schreibt wired und berichtet, dass auf den bekanntesten Webseiten für Pornos rund eine Viertelmillion Deepfake-Pornos als solche erkannt wurden und allein in 2023 mehr neue dazugekommen sind, als in alle den Jahren vorher zusammen.
Wenig überraschend: Die ersten Pornodarsteller gehen in die Offensive und bieten auf ihren Körper und ihre Stimme trainierte Modelle an, die man… nunja… nutzen kann (Link). Kurz: Die Sache ist nicht aufzuhalten.
Noch schrecklicher wird der Albtraum im Bereich der Kinderpornografie: Wer einmal als Opfer irgendwo im Netz gelandet ist, wird in unzähligen Variationen immer neu, immer wieder in Fotos hineingerechnet. Ein nie versiegender Strom von Verbrechen. Ein Albtraum für Ermittler, denen es zunehmend schwer fällt, zwischen echten und KI-generierten Bildern zu unterscheiden (Link).
Ein Blick in die Zukunft: Skandal und Verbote.
Eine Prophezeihung: 2024 wird es einen Fall wie den in Mexiko auch in Deutschland geben. Eine Fülle von „sexy-AI“ und „body-swap“-Apps werden den Markt fluten und insbesondere auf (offenen) Android-Handys maximale Verbreitung finden. App per sideloading installieren, fertig. Das geht mit einem Klick. Und ein einziges Foto von jemandem reicht aus, um damit Unfug zu treiben.
In der Konsequenz wird man versuchen, Smartphones in Schulen rigoros zu verbieten (was in der Praxis natürlich scheitert) und jede digitale Entwicklung, die wir in den letzten Jahren mühsam erkämpft haben, wird noch weiter verlangsamt.
Wenn wir uns nicht vorbereiten, werden in den nächsten zwei Jahren jede Menge Fakepornos von Lehrer:innen und Schüler:innen unser Bildungssystem penetrieren torpedieren und ihm großen Schaden zufügen.
Ich teile deine Sorgen. Die Tatsache, dass bestimmte Techniken niederschweflig und einfach zu nutzen sind hat sich in den vergangenen Jahren bestätigt. Wenn man sich ansieht, wie aufwändig greenscreen Effekte noch vor einigen Jahren waren und bedenkt, dass sie heute von Grundschülern mit ein paar Klicks erzeugt werden können, ist es nicht schwer vorstellbar, dass Deepfakes in allen Versionen zu großen Schwierigkeiten führen werden und Menschen sowie sinnvolle Anwendungen unter dem Missbrauch leiden werden.
Leider fehlt mir im Moment noch die Fantasie, um einzuschätzen, wie eine solche Vorbereitung aussehen soll. Allein auf Aufklärung, Appelle und Erziehung zu setzen (die natürlich notwendig und sinnvoll sind) scheint mir nicht ausreichend zu sein.
„In der Konsequenz wird man versuchen, Smartphones in Schulen rigoros zu verbieten (was in der Praxis natürlich scheitert)“
Sowohl die (liberalen) Niederlande als auch GB haben diese Richtung eingeschlagen. Ich wüsste auch nicht, was daran andernorts scheitern sollte. Hierzulande stehen dem („natürlich“, möchte ich fast sagen) wieder Präventionsphantasien und Heilsversprechen gegenüber.
Wir erleben an Schulen einen massiven Kompetenzverlust in vielen Bereichen. Wer glaubt, das habe nichts mit der Digitalisierung zu tun, ignoriert neurowissenschaftliche Erkenntnisse. Wer glaubt, es sei sinnvoll, Basiskompetenzen durch digitale Späße (oh, du kannst zwar nicht flüssig lesen, aber mit Google-Anleitung die Anton-App dazu bringen, die Millionen Münzen aufzuschalten, damit du spielen kannst – prima) aufzurechnen, hat definitiv einen anderen Bildungsbegriff als ich und auch nicht verstanden, dass unser Staatswesen auch auf Basiskompetenzen außerhalb der Informatik beruht. Und wer glaubt, Präventionsangebote könnten die Trigger fürs Belohnungssystem, die das Smartphone anspricht, außer Kraft setzen, hat vielleicht sehr viel Zutrauen in sich selbst und junge Menschen – präkognitive Reflexe verschwinden nicht, weil ich dem Kreisjugendpfleger gelauscht habe…
Sollten dann nicht jene Schulen mit rigorosem Handyverbot und OHP als einzig elektronischem Gerät im Klassenraum sensationelle Ergebnisse in PISA, ZAP etc. einfahren?
Wie kommt’s dass das nicht der Fall ist?
Weil es einerseits natürlich weitere Herausforderungen gibt (Migration z.B.) und die Smartphonenutzung außerhalb der Schulen ja nicht verfolgt wird. Wenn ich sehe, wie viele meiner Schüler:innen im geschützten Norden Deutschlands, gute Elternhäuser, wieviele Stunden (erklärtermaßen) pro Tag vor dem Handy verbringen, liegt das auch auf der Hand. Jede Stunde mit dem Smartphone ist nicht nur eine Stunde, die man potentiell nicht gute Sprache lesend verbringt, sondern – auch früher haben Kinder ja nicht nur gelesen, sondern anders – mit Sprache in den niedrigsten Ausdrucksformen (man muss sich ja in den Youtube-/TikTok-Kommentaren nur mal umsehen). Da hilft dann auch ein beschwichtigend gemeintes „Sprachwandel halt“ nicht mehr weiter, denn eine solche Degeneration in so kurzer Zeit ist wohl in der jüngeren Zeit beispiellos. Die Lesefreude hat z.B. massivst abgenommen, so eine OECD-Studie (https://www.oecd.org/pisa/PISA2018_Lesen_DEUTSCHLAND.pdf)
Wenn wir aber die Ergebnisse der obigen Studie (negativer Zusammenhang von Lesekompetenz und Nutzungsdauer digitaler Endgeräte im Unterricht), Stavanger Erklärung etc. ernst nähmen und nicht irgendwelchen unbelegten Hoffnungen – etwa Wampflers Theorie, das sei alles sozialisationsbedingt, sprich – überspitzt -, wenn die Kinder erstmal auch Pixi-Bücher auf dem iPad läsen, werde das schon alles gut – folgten und wir den Kernauftrag „Bildung“ wieder in den Mittelpunkt rückten, könnte Schule zumindest ein Schutzraum sein. NL und GB gehen diese Schritte ja nicht aus Dummheit, sondern weil sie uns in der Nutzung digitaler Medien im Unterricht voraus waren und schon sahen, wohin das führte. Deutschland muss aber natürlich alles selbst probieren. Besser spät selbst auf die Schnauze fallen als von anderen lernen.
Abgesehen von einer „die Eltern sollten Mal wieder…“ lese ich jetzt keine ernsthafte Strategie: die Eltern „werden nicht“ wieder so wie früher. Und nun?
GB tut eine ganze Menge und gemessen an den letzten Jahren sollten wir eigentlich immer genau das Gegenteil dessen tun, was die Insel tut.
Davon ab: https://www.gov.uk/government/news/new-support-for-teachers-powered-by-artificial-intelligence
„GB tut eine ganze Menge und gemessen an den letzten Jahren sollten wir eigentlich immer genau das Gegenteil dessen tun, was die Insel tut.“
Haha, witzig. Das Argument habe ich neulich bezüglich der Niederlande auch gehört. Nur: Es spielt hier keine Rolle, ob UK aus der EU austritt oder NL Bandenkriminalitätsprobleme hat. Das sind Argumente außerhalb des bildungswissenschaftlichen Zusammenhangs. Die Niederlande begründen ihr Vorgehen mit wissenschaftlichen Studien. Die Unesco hat übrigens auch eine Kehrtwende hingelegt: https://condorcet.ch/2023/07/unesco-fuer-handy-verbot-an-schulen/
Die Diskreditierung dieser Erwägungen auf Basis allgemeinpolitischer Aspekte ist argumentativ schwach.
Ebenso der Beleg, dass UK Lehrer (!) mit AI-Hilfen entlasten will. Wer gut analog lesen kann, kann es laut IGLU 2022 auch digital. Umgekehrt gilt das nicht. Da Lehrer mit abgeschlossenem Studium z.B. des Lesens fähig sind, sind sie auch fähiger für den Umgang mit Herausforderungen der Digitalisierung.
Ich lese bei Ihnen auch keine Reaktion auf die evidenten Ergebnisse auf Pisa. Auch forderte ich nichts von den Eltern außer einen kultuspolitischen Konsens, sie auch in die Verantwortung zu nehmen statt zu sagen: Es ist völlig okay, wenn eure elfjährigen Kinder acht Stunden/Tag am Smartphone sind, die Schule regelt das schon, lasst sie weiter vergammeln. Und für Schule fordere ich, sich die Kernaufgaben bewusst zu machen und daran, evidenzbasiert, zu arbeiten.
Die UNESCO hat keine Empfehlung gemacht: http://mehrals0und1.ch/Argumente/UnescoSmartphoneEmpfehlung?s=09
Das holländische Verbot, wenn es dann am 1.1.24 in Kraft tritt, ist recht löchrig, und erlaubt weiterhin deren Einsatz im Unterricht. Es ist eher so zu sehen, dass Handys nur noch willkommen sind, wenn die Schule weiß, wie sie diese einsetzen will. Ein totales Verbot wäre auch nicht zu vermitteln.
Wir sind eine handyfreie* Sekundarschule Schule nördlich des Ruhrgebietes in NRW.
Das es sich dabei um ein „hohes Gut“ handelt, erkennen wir daran, dass dieser Zustand Besucher von anderen Schulen durchaus positiv auffällt. Es wird bemerkt, dass die Schüler*innen sich in den Pausen miteinander unterhalten und nicht alle umgehend nach Stundenschluss in ihr Smartphone „abtauchen“. Heimliche Videos/Fotos gibt es selten (oder die sind wirklich gut verheimlicht).
Natürlich werden die Handys genutzt. In jeder Pause drängeln sich Schüler*innen in Toilettenkabinen und checken Tiktok oder Chatten. Diese Schüler „jagen“ wir nicht aktiv.
Auch wird hier und da mal ein Handy gezückt. Die Konsequenz ist bekannt: Die Lehrkraft lässt es im Safe einschließen und die Erziehungsberechtigten können es erst nach Unterrichtsschluss abholen.
Darüberhinaus kann die Nutzung während des Unterrichts von der Lehrkraft „genehmigt“ werden. Wie es z.B. beim Spielen von Kahoot, oder schneller Recherche sinnvoll ist.