Künstliche Intelligenz Chancen und Risiken von ChatGPT

Wird ChatGPT in Zukunft unsere Hausaufgaben machen? Doktorarbeiten schreiben? In den sozialen Medien massenhaft Fake News verbreiten? Seit das Computersystem im November 2022 eingeführt wurde, wird überall darüber diskutiert. Der Bildungsausschuss des Bundestages hat deshalb beim Büro für Technikfolgen-Abschätzung (TAB) eine Studie in Auftrag gegeben, die Chancen und Risiken von ChatGPT ausloten sollte. Nun ist die Studie erschienen und wurde im Ausschuss diskutiert.

Vorab: Was genau ist ChatGPT eigentlich?

Der Chatbot ChatGPT beruht auf einem Computermodell, das mithilfe von künstlicher Intelligenz (KI) sprachliche Daten verarbeitet. Er kann in kürzester Zeit und auf sprachlich hohem Niveau Antworten auf die verschiedensten Fragen geben, Essays, Gedichte und Witze schreiben. Als Open Source Programm ist er für alle Menschen kostenlos verfügbar.

Mit diesem Programm im Speziellen und mit sprachverarbeitenden Systemen im Allgemeinen hat das TAB sich nun also beschäftigt. Denn, so der Vorsitzende des Bildungsausschusses Kai Gehring (Bündnis 90/Die Grünen): „Wir brauchen einen umfassenden Überblick über die technischen, ethischen und sozialen Auswirkungen von ChatGPT auf Bildung und Wissenschaft.“ Nur mit ausreichend Hintergrundwissen könne der Bundestag klug entscheiden, „welche Konsequenzen wir in der Bildungs- und Forschungspolitik ziehen müssen“. In der Anhörung im Ausschuss gab es dazu geteilte Meinungen.

Chancen: Wie kann ChatGPT uns entlasten?

Positiv wird in der Studie hervorgehoben, dass der Chatbot Menschen dabei unterstützen kann, Texte zu schreiben, zu übersetzen und zu vereinfachen, aber auch beispielsweise Software zu programmieren. Damit könnten ganz neue Branchen, die unter einem Fachkräftemangel litten, entlastet werden. Darin liege ein„enormes wirtschaftliches Potential“, fand Tina Klüwer vom KI Bundesverband. Sie forderte deshalb einen „chancenorientierten Blick“ auf KI in Europa.

Im Bildungsbereich sieht das TAB zum Beispiel die Möglichkeit, dass ChatGPT Lehrkräfte bei Routineaufgaben entlasten könne, damit sie sich mehr auf die direkte Arbeit mit den Schülerinnen und Schülern konzentrieren können.

Risiken: Welche Gefahren birgt ChatGPT?

Wenn man als Nutzer nicht mehr erkennt, ob man mit einem Programm oder mit einem Menschen kommuniziert, kann Vertrauen verloren gehen. Das ist ein Risiko, das das TAB sieht. Durch Chatbots könnten in sozialen Netzwerken außerdem zukünftig noch mehr Desinformationen gestreut werden.

Auf diese Gefahr machte auch Dirk Engling vom Chaos Computer Club aufmerksam. Durch KI-Anwendungen wie ChatGPT hätten politische Kampagnen aus dem In- und Ausland nun die Möglichkeit, Bürgerinnen und Bürger gezielt und persönlich anzusprechen, Realitätsblasen aufzubauen und Falschmeldungen zu verbreiten.

Die Autoren der TAB-Studie fürchten zudem, ChatGPT könnte unter Umständen Bildungsungleichheit weiter verstärken und Vorurteile weitertragen.

Wie stark sollte ChatGPT reguliert werden?

Tina Klüwer warnte vor zu viel Regulierung: „Technologie ist erstmal neutral.“ Daher müsse es bei Fragen der Regulierung eher um konkrete Anwendungsfälle als um KI als Ganzes gehen.

Dass KI-Systeme durch das Trainieren mit bestimmten Daten einen „Bias“, also eine gewisse Voreingenommenheit hätten und daher grundsätzlich nicht neutral seien, betonte dagegen Judith Simon von der Universität Hamburg. Sie plädierte daher für eine umfassende Regulierung.

Menschen im Umgang mit ChatGPT schulen

Einig waren sich die Expertinnen und Experten darin, dass es wichtig sei, Menschen die nötigen Kompetenzen beizubringen, um ChatGPT gut nutzen zu können.

Doris Weßels von der Fachhochschule Kiel forderte eine Task Force, die sich mit dem Thema KI im Bildungsbereich beschäftigen solle. Es sei wichtig zu überlegen, welche Kompetenzen Lehre künftig vermitteln müsse. Aktuell seien Lehrende noch nicht ausreichend geschult, um KI-Programme umfassend zu verstehen und dieses Wissen an Lernende weiterzugeben.

Hier seht ihr die Anhörung im Video: