Früher oder später mussten wir an jenen evolutionären Zeitpunkt der Technikgeschichte gelangen, an dem Systeme der „Künstlichen Intelligenz“ greifbarer werden. Dass wir spätestens jetzt diesen Zeitpunkt erreicht haben, bemerken derzeit vor allem jene Menschen, die ChatGPT oder einen Bilder-Generator wie Dall-E oder StableDiffusion nutzen. Oder die davon lesen oder hören.
Der Buzz um ChatGPT ist dabei zunächst einmal eines: eine gute Verkaufsshow. Microsoft investiert Milliarden, um die Technologie im Wettbewerb der großen Tech-Konzerne an sich zu binden. Demnächst könnte es also eine bessere Bing-Suchmaschine geben. Und vielleicht hofft bereits der eine oder andere, dass Outlook schon bald eigenständig E-Mails vorformuliert und verschickt. Das wäre dann auch der Moment, in dem ich erstmals auf Outlook-Nutzer:innen neidisch wäre.
Bei alledem darf man nicht vergessen, dass wir es bei ChatGPT mit einem proprietären System zu tun haben. Und hinter diesem stehen mächtige Konzerninteressen, die unsere Daten kommerziell verwerten wollen. Und die das Ziel haben, immer mächtiger zu werden. Gemeinwohlorientierte Alternativen, die offen und datenschutzfreundlich betrieben werden, sind daher umso wichtiger und sollten mehr gefördert werden.
Natürlich birgt ChatGPT – wie alle anderen Technologien – etliche Risiken. So fantasiert die KI mitunter vermeintliche Fakten herbei. Das tun allerdings auch zahlreiche Menschen im Netz. Man denke etwa an die vielen Verschwörungsgläubigen, die so etwas ohne Hilfe von Technologie prima hinbekommen. Und meistens sind sie dabei sogar noch kreativer als jede aktuelle KI.
Bildung, wir haben ein Problem!
Große Aufregung erzeugen die neuen KI-Anwendungen im Bildungssektor. Auch mir schoss der Gedanke durch den Kopf, noch rasch ein Studium zu absolvieren. Dank ChatGPT ist dies nun wohl einfacher denn je zuvor. Jedenfalls solange sich nichts ändert.
Und in der Tat zeigen sich Professor:innen verschiedener Fachrichtungen überaus besorgt, dass sie die Werke von ChatGPT nicht länger von jenen unterscheiden können, die ihre Studierenden aus eigener Leistung erstellen. Und auch Lehrende an den Schulen verzweifeln bereits daran, dass die neuen KI-Anwendungen die Schüler:innen vermeintlich noch fauler werden lässt. Sie müssten ihre Hausaufgaben – so die wachsende Sorge – künftig nicht einmal mehr von der Wikipedia abschreiben. Und das ließ sich bislang noch relativ leicht herausfinden. Sofern man es denn überhaupt herausfinden wollte.
Ich erinnere mich noch gut an meine Zeit in der Mittelstufe. Damals konnte ich den Erdkunde-Lehrer stets mit meinen Präsentationen beeindrucken, die ich daheim angeblich mühsam in Handarbeit erstellt hatte. Tatsächlich hatte ich sie nur mit Hilfe eines Computerprogramms namens „PC Globe“ ausgedruckt. Die meisten meiner Lehrer:innen besaßen damals noch keinen Computer. So neu und unbekannt sind die Folgen durch ChatGPT also gar nicht.
Trotzdem sperren erste Schulen auf ihren Rechnern den Zugang zu ChatGPT. Das ist allerdings kaum mehr als eine hilflose Geste. Denn Schüler:innen besitzen in der Regel ein eigenes Smartphone. Die Sperrung dürfte sie daher eher noch motivieren, die KI auszutesten. Eine bessere Werbebotschaft für ChatGPT können Schulen daher wohl kaum senden. Andere Lehrerende finden die Herausforderung hingegen hochspannend, wie etwa Bob Blume, der als @Netzlehrer bereits das Ende des Lernens, wie wir es kennen, verkündet.
Wir brauchen KI-Kompetenzen
Tatsächlich stehen unsere Bildungsinstitutionen vor einer gewaltigen Herausforderung. Denn während Digitalkompetenzen an unseren Schulen noch immer vergleichsweise rar sind, wartet mit ChatGPT bereits die nächste Herausforderung vor dem Schul- oder Uni-Tor. Nun wird es unter anderem darum gehen, seit Jahren bewährte Aufgabenstellungen so abzuändern, dass sich diese nicht innerhalb weniger Sekunden mit Hilfe eines Text-Generators beantworten lassen. Allerdings dürfte einige Zeit verstreichen, bevor diese Wende vollzogen ist. Man darf gespannt sein, ob heutige Grundschüler:innen dies im Laufe ihrer Schullaufbahn noch erleben werden.
Eigentlich müssten wir die Curricula so rasch wie möglich reformieren, damit die Schule ebenjene Fähigkeiten vermittelt, die junge Menschen so dringend benötigen. Dazu zählen ein noch intensiveres Hinterfragen vermeintlicher Gewissheiten als bisher, eine noch sorgfältigere Quellenarbeit sowie die Fähigkeit, die Ausgaben einer Text-KI kritisch zu prüfen und einordnen zu können. Lehrende wie Schüler:innen kommen dabei nicht umhin, sich auch mit den Grundlagen und Untiefen maschinellen Lernens vertraut zu machen. Und das ist längst nicht alles, wie die Initiative Critical AI anschaulich auflistet. Aber wer trainiert die Lehrer:innen und wollen die das überhaupt lernen?
Auf dem Weg in die redaktionelle Gesellschaft
Der übergroße Teil der Bevölkerung, der seine Schulbildung bereits abgeschlossen hat, steht vor einer ähnlich großen Herausforderung. Denn wir alle werden Teil einer redaktionellen Gesellschaft werden müssen. Dafür müssen wir alle uns mehr und mehr journalistische Fähigkeiten der Text- und Quellenkritik aneignen. Und wir alle müssen lernen, vieles zu hinterfragen – ohne dabei ins Kaninchenloch abzurutschen.
Das bedeutet auch eine kulturelle Wende. Bislang galt Vermittlung von Digitalkompetenzen vielen weniger als Muss, sondern vielmehr als ein Nice to have. So wichtig und richtig viele das Thema zwar finden, ist es letztlich eine Frage der Eigeninitiative – also von Zeit, Motivation und Kompetenz –, sich umfassende Fähigkeiten im digitalen Bereich anzueignen. Man muss sich dieses leisten können und wollen.
Auch das muss sich spätestens jetzt ändern. So sollte der Informationsauftrag des öffentlich-rechtlichen Systems künftig darin bestehen, im Sinne der redaktionellen Gesellschaft ebenfalls mehr Digitalkompetenzen zu vermitteln. Ich gehöre einer Generation an, die ihre Verkehrserziehung in Teilen über die Fernsehsendung „Der 7. Sinn“ erhielt. Warum werden die Kanäle des linearen Fernsehens heute nicht dazu genutzt, um uns alle – gerade aber auch die älteren Generationen – mit Blick auf ChatGPT und Folgen solcher KI-Werkzeuge weiterzubilden? Und natürlich dazu, auch die vielen anderen notwendigen Digitalkompetenzen zu vermitteln?
Die kommenden Jahre werden wir bei Text- und Bild-Generatoren ein ähnliches Katz-und-Maus-Spiel erleben, wie wir es bereits längerem rund um das Thema Deep Fakes beobachten: Die Technik wird weiterentwickelt, damit ausgefeilter und schwerer zu durchschauen. Im Gegenzug werden neue Möglichkeiten entstehen, mit KI generierte Daten aufzuspüren und entsprechend zu markieren – zumindest so lange, bis die KI-Werkzeuge einen weiteren Entwicklungssprung machen.
Die Technik, die ChatGPT ermöglicht, ist gekommen, um zu bleiben. Und die mächtigen Werkzeuge werden noch besser werden. Und in den falschen Händen können sie erheblichen Schaden anrichten. Auch deshalb müssen wir lernen, mit dieser neuen Technologie umzugehen – indem wir uns alle weiterbilden.
Bildung ja, aber bitte nicht nach dem Oblivion-Prinzip. D.h. bitte, bitte begleitet von Datenhaltungs- und Visualisierungswerkzeugen.
Den Wettlauf gegen die Maschinen haben wir bereits auf vielen Gebieten verloren.
Es geht jetzt nur noch darum herauszufinden worin der Mensch sich
von der Maschine(nintelligenz) unterscheidet.
Und diese Fähigkeit(en) müssen wir vergüten.
Nee, so einfach ist das nicht. Schon mal von gehört?
– Lieferkettenproblem
– Horizontproblem
– Lock-in-Problem
– Monokulturproblem
– Robustheit
– Strategische Ausrichtung
Alles gleichzeitig denken.
Wenn die Schule nicht immer allein versuchen würde, den Kindern Wissen zu vermitteln, sondern
sich stattdessen darauf konzentrieren würde, den Kindern zu vermitteln, wie man sinnvoll
lernt, Wissen speichert und abruft und sich damit kritisch auseinandersetzt, dann wäre
das Abschreiben von Wikipedia oder das Generieren von Texten mit ChatGPT überhaupt nicht so ein Problem.
Zum Beispiel könnten die beiden ja auch in Aufgaben integriert werden:
* Nimm Dir einen Text von Wikipedia her!
* Analysiere ihn (verwendete Sprache, Neutralität, Faktenlage usw.)!
* Verbessere ihn an den entsprechenden Stellen!
* Wie ist die Resonanz? Falls Ablehnung: Ist sie berechtigt?
Oder:
* Generiere einen Text mit ChatGPT zum Thema soundso.
* Ist der Text stimmig? Gibt es Syntax-/Semantikfehler? Ist der Text faktisch in Ordnung? Recherchiere!
* Gib die Analyse am soundsovielten als Hausaufgabe ab!
Klar, sind das keine Standardaufgaben und machen in der Bewertung Mühe. Aber sie sind fächerübergreifend und damit vielleicht auch viel interessanter und wertvoller. Stattdessen erhebt die Schule ein Wissensvermittlungsmonopol und es wird versucht, die Kinder mit vermeintlichen Fakten vollzustopfen (die heutzutage aber eh schnell überholt sind oder auch einfach nicht so eindeutig sind, wie einem die Schule glauben machen will).
Dass die Schule dabei aber auch nicht alles vermitteln kann, ist auch klar, da die Zeit einfach fehlt.
Das wird aber auch zu einem Problem, da die Filter natürlich auch Ideen hemmen (andere Wirtschaftssysteme in Wirtschaft oder nur eine Geschichte in Geschichte …).
Deshalb sollte die Schule sich in ihrer Pflichtausprägung genau auf die oben angesprochenen Metaebenen des Lernens konzentrieren. (Rest folgt nach Freischaltung :-))
Fortsetzung:
Ich meine, klar muss man irgendwie Rechnen, Lesen und Schreiben können. Aber danach könnten alle Spezialfächer weg und man macht durchgängig Lernmethoden und übt die. (Gibt ja sicher verschiedene Lernmethoden für verschiedene Wissensformen.) Den Rest kann man in Spezial-AGs vermitteln und da gehen die Kinder dann je nach Interessenslage hin. Da bräuchte man dann auch keine Filter mehr aus Zeitmangel setzen. (Dann könnte man auch die Stundenpläne drastisch reduzieren, so dass die Kinder keinen Arbeitstag wie ein Erwachsener haben….)
Auch das Notensystem könnte man in dem Zusammenhang zur Diskussion stellen: das führt nämlich zu einer Verschiebung der Motivation von „Wie eigne ich mir am besten Wissen an?“ zu „Wie bekomme ich mit Minimalaufwand die besten Noten?“. Das sind nur in Ausnahmefällen kongruente Zielstellungen, nämlich wenn der Stoff mit den Interessen zusammenfällt.
Und (um zum Thema zurückzukommen) solange der Informatikunterricht in der Schule sich noch mit Word beschäftigt (und das als Informatik bezeichnet), brauchen wir von ChatGPT gar nicht anfangen zu reden. Solange es noch als Leistung gilt, wenn man sich mal Linux installieren kann, oder MS mit seiner Schulhofdealer-Mentalität („Industriestandard haha“) überhaupt noch ein Thema ist, sind Hopfen und Malz schon verloren.
Im Übrigen finde ich es immer putzig, wenn man von älteren Generationen spricht, als ob sie standardmäßig keine Ahnung von Computern haben oder nicht mit der Digitalisierung klarkommen. Wir sollten nicht vergessen, dass es PCs und ihre Vorläufer schon eeewig gibt und die Alten sie erfunden haben. Und nur weil die Oma von nebenan kein Smartphone bedienen kann oder keine Musik bei Spotify hört, heisst das nicht, dass sie von Computern keine Ahnung hat. Wahrscheinlich hat sie in den 60ern schon Lisp programmiert und kann Euch allen was von KI erzählen. :-)
Kommt denn niemand auf die Idee, ChatGPT einen von ChatGPT erstellten Text zur Erkennung zu geben:
„ChatGPT, hast du diesen Text erstellt?“
„ChatGPT, wieviel Prozent dieses Textes stammt von Dir?“
und dann etwa noch: „Wer hat diesen oder ähnliche Texte von Dir bekommen?“
Fehlen diese Funktionen etwa? Wie lange noch?
Die Gefahr mit vermeintlichen Verbesserungen wird sein, dass diese als Datenbanken mit mehr oder weniger einfachen Filtern umgesetzt, den Menschen als verbesserte Fähigkeit der „KI“ erscheinen.
Naivität, Hype, Nebel. „Die KI kann jetzt…“
Die Idee ist gut. Menschen tendieren aber dazu alles „der Maschine“ zuzuschreiben, oder sich noch bessere Begriffe als „Toaster“ auszudenken.
Der Witz ist doch, dass Nachbesserungen nur (ohne weiteres) in gewissen Kategorien möglich sind. Trainingsdaten (Schlechte weg, bessere rein, etwas Supervision, …), Filtern der Ausgabe, die ja nicht nur aus einer Variante bestehen muss, Filtern von Varianten bei durchgeführter Auswahl, z.B. bei Interaktion verschiedener Systemkomponenten.
Hier wäre sowas vielleicht eine profane Datenbank für gegebene Antworten, denn wer wenn nicht OpenAI soll schon wissen, was jener Luxustoaster bisher schon so von sich katapultiert hat?
Wir dürfen wohl mit an Sicherheit grenzender Wahrscheinlichkeit davon ausgehen, dass mehr als nur profane Datenbanken existieren, die das Projekt schon immer begleiten. OpenAI kennt alle Anfragen und kennt alle Antworten, und will damit Profit machen. Darüber hinaus dürfte OpenAI überaus daran interessiert sein, zu wissen, an welcher Stelle von ChatGPT generierte Texte öffentlich werden und wo im Text Veränderungen vorgenommen wurden. Von erheblichem Interesse für OpenAI dürfte auch sein, welche Wirkung die Texte auf Rezipienten haben. Ich wollte OpenAI nicht als Überwacher seiner ChatGPT-Texte im Genick haben wollen.
Das wird gerne nicht mitdiskutiert. Selbe Chose bei Bildern.
„Der Schaffensprozess“, zumindest der Prompt, ist in der Hand des Unternehmens, die Ausgabe natürlich genauso. D.h. ++Profilbildung durch direkte Daten zu den Personen, sowie das Tracking der Ausgaben über das Internet hinaus.
Dann kommen noch Filtermöglichkeiten hinzu, und bei weitflächiger Nutzung noch die Effekte der Kanalisierung durch das überhaupt Sagbare (Ausdrückbare). Je wichtiger die Werkzeuge, umso interessanter sind sie auch gleich mit Strafverfolgung drangeklebt, nur um eine weitere Kategorie zu nennen. „Anonym etwas im Internet schreiben, mit dem bei DIENSTXYZ registrierten Account erstellt…“ (hust). Das ist die nächste Kategorie: „Wer nichts zu verbergen hat, schreibt mit KI-Verbesserung“, d.h. also mit Nutzeraccountkopplung. Was keine Kopplung hat ist dann schon mal verdächtig, natürlich dürfen nur die Guten die Datenbanken der Hersteller nach Textstücken durchforsten. (Ad infinitum.)
Damit droht so mittelkonkret eine neue Größenordnung von „Eingriff“, also auch Lenkung, Zensur, Auslieferung, usw. usf.
Hallo,
danke für Ihren Artikel.
Doch eine Kritik will ich schon lange mal loswerden gegenüber netzpolitik.org:
Am Anfang alles Lernens stehen ja bekanntlich immer erst mal Begriffs-Definitionen. Damit klar wird, worum es überhaupt geht.
Deshalb die Frage: Ist es denn zu viel verlangt, wenn Sie Begriffe, wie: ChatGpT, Bildgenerator Dall-E und Stable Diffusion im Vorneweg in Ihrem Artikel kurz definieren/umreißen?
Denn als interessierte Leserin will ich ja nicht erst mal hier- und dorthin eine halbe Stunde lang „googlen“ müssen, um zu verstehen, worüber Sie Lesende dann tiefer gehend informieren wollen. Also: ein bisschen Einzugehen auf lesende Laien, die nun mal des öfteren in anderen Berufssparten ihr Spezialwissen haben als eben in der IT-Welt, wäre schon hilfreich. Insbesondere wenn es, wie in Ihrem Artikel hier der Falls ist, eben gerade um gegenwärtiges (und zukünftiges) Lernen von IT-Knowhow selbst geht.
Freundliche Grüße
Eva-Maria
Hallo lieber Markus Beckedahl,
derzeit ergründe ich, ob ChatGPT etwas für mich sein könnte. Die ersten Stunden der Internet-Recherche hierzu, haben mich schon einmal zu einer wichtigen Erkenntnis gebracht: Je mehr im Netz Unsinn (sog. „Fakes“) verbreitet wird, bin ich, wenn ich einigermaßen wach geblieben bin, dazu gezwungen den Wahrheitsgehalt jeder Information zu überprüfen. Dieser Zwang bringt mich vielleicht weiter auf dem Weg zu einem aufgeklärten Menschen.
Seit 1979 beschäftige ich mich ohne Unterbrechung mit Digital-Technik als Nutzer. In dem von mir mitbegründeten Naturkost-Großhandel habe ich, damals gegen vielfältigen Widerstand, für bürokratisch notwendige Betriebsabläufe eine EDV eingeführt – einem Vorläufer des PC von IBM. Soweit mir bekannt, als erster Betrieb in dieser Szene überhaupt. Den damaligen Aufschrei in der Öko-Community würde man heute vermutlich als „Shitstorm“ bezeichnen. Aber ich habe den Schritt nie bereut.
Und nun KI.
Diese Technik kann nützlich oder gefährlich sein, KI in Form von ChatGPT kann mir vielleicht helfen in Zukunft mehr Texte mit weniger Aufwand zu erstellen. Was mich allerdings nicht von der Überprüfung, Konkretisierung und Individualisierung der Ergebnisse befreit. Ich werde es wohl ausprobieren. Vielleicht bietet mir ja ChatGPT eine gute Basis für effizienteres Arbeiten. Insbesondere auf die Kommerzialisierung des neuen Mediums werde ich jedoch ein wachsames Auge haben.
Mit freundlichen Grüßen, Jochen Robrandt
Ich finde das hier schon eine Diskussion „auf hohem Niveau“.
Nicht, dass ich das falsch finde.
Nur: Es hapert doch bei uns im (Not)Bildungsland vor allem an den „Basics“,
richtig Lesen, Schreiben und Rechnen zu erlernen.
Natürlich gilt das nicht für alle. Aber alle, auch weniger „schlaue“ Kinder, befinden sich zusammen in der Grundschule.
Und genau da haben wir LEHRERMANGEL – schon seit 50 Jahen !!!
Übrigens, da kann mir doch keiner erzählen, dass dafür „Quereinsteiger“ bestens geeignet sind, so nach dem Motto – Lesen, Schreiben und Rechnen den Kindern beibringen, kann jeder.
Fällt mir noch die geniale Schreibschrift Erlernung an den Grundschulen ein:
– nur Druckbuchstaben schreiben (also KEINE Schreibschrift) – oder gleich alles digital eingeben
– Rechschreibung „nach Gehör“ – Fehler werden später korrigiert – oder von der Autokorrektur
Viele Arbeitgeber bemängeln schon seit Jahren
– mangelhafte Rechtschreibung
– mangelhaftes Rechnen
Können wir bitte endlich erst mal diese Probleme meistern, ALLEN Kindern es zu ermöglichen, RICHTIG Lesen, Schreiben und Rechnen zu erlernen, in KLEINEN Klassen, wo die Lehrerinnen und Lehrer auch genügend Zeit haben, sich um ALLE zu kümmern ?
Danach können sich alle Schülerinnen und Schüler auch gut und gerne mit ChatGpT auseinandersetzen.