Arbeiten mit ChatGPT und Co.

00:00:00: Die Anzahl der monatlichen Besuche bei ChatGPT ist von weltweit 2,4 Milliarden innerhalb eines Jahres auf 5,6 Milliarden gestiegen.

00:00:11: Auffällig ist, dass Männer ihren Kenntnisstand zu künstlicher Intelligenz im Durchschnitt höher einschätzen als Frauen.

00:00:17: Das zeigen Erhebungen des Online-Portals Statista.

00:00:21: GiL to go.

00:00:22: Lese und Hörimpulse für eine geschlechtergerechte

00:00:25: Lehre.

00:00:31: Willkommen zu einem neuen GiL Impuls.

00:00:33: Thema heute Arbeit mit ChatGPT und Co.

00:00:38: Warum ist das wichtig?

00:00:39: Large Language Models wie zum Beispiel ChatGPT, kurz LLMs, bringen für die universitäre Lehre einige Herausforderungen mit sich.

00:00:48: Ihr Einsatz lässt sich kaum steuern und sie können zum Beispiel unbemerkt in Prüfungen oder für Prüfungsleistungen genutzt werden.

00:00:56: LLM-Texte sind nicht zwangsläufig gut.

00:00:59: Doch ob eine schriftliche Aufgabe von einem LLM oder einer echten Person verfasst wurde, lässt sich oft kaum erkennen.

00:01:08: Auf der anderen Seite fehlen häufig noch erprobte Lehrkonzepte und neue Bewertungskriterien für einen sinnvollen und gewinnbringenden Einsatz.

00:01:16: Bezogen auf die Geschlechtergerechtigkeit sind vor allem folgende Aspekte von Bedeutung.

00:01:21: LLM-generierte Texte können problematische Stereotype oder sogar diskriminierende, sexistische oder queerphobe Äußerungen reproduzieren.

00:01:31: Weibliche Personen nutzen KI-Tools zu dem häufig zurückhaltender und fühlen sich weniger kompetent dafür.

00:01:37: Dies hat nicht zwingend etwas mit der tatsächlichen Kompetenz zu tun, kann aber Ungleichheiten verstärken.

00:01:45: Worum geht es?

00:01:46: Seit der Veröffentlichung von ChatGPT im Jahr 2022 sind Large Language Models in aller Munde und werden von unglaublich vielen Personen für alles Mögliche eingesetzt.

00:01:57: Sie schreiben E-Mails, machen Hausaufgaben und werden sogar als vermeintliche Ansprechpartner*innen bei persönlichen Problemen genutzt.

00:02:05: Die Bundeszentrale für politische Bildung schreibt, dass ganze Berufsbilder, Tätigkeiten und Arbeitsformen, aber auch Ansprüche an gute Arbeit, sich durch die rasante Entwicklung von künstlicher Intelligenz mit der Zeit wandeln können.

00:02:19: LLMs sind leistungsstarke Modelle, die darauf ausgelegt sind, auf sprachliche Eingaben zu reagieren und menschenähnliche Sprache zu erzeugen.

00:02:27: Sie werten riesige Mengen von Texten aus und berechnen, welches Wort wahrscheinlich als Nächstes kommt, oder was die wahrscheinlichste Antwort auf eine Frage ist.

00:02:36: So können sie Texte analysieren, Antworten auf Fragen generieren und andere sprachbezogene Aufgaben ausführen.

00:02:43: Was dabei oft in Vergessenheit gerät, ist der hohe Energieverbrauch der Modelle.

00:02:48: LLMs benötigen etwa zehn bis dreihundert Mal so viel Strom wie eine Google Suche.

00:02:54: Und auch wenn der Einsatz von LLMs auf den ersten Blick nach einer immensen Arbeitserleichterung aussieht, ist bei ihrer Verwendung einiges zu beachten.

00:03:02: Produkte von LLMs beruhen ausschließlich auf statistischen Auswertungen.

00:03:07: Sie liefern daher zwar häufig richtige Antworten, machen aber dennoch keinen Unterschied zwischen richtigen und falschen Aussagen.

00:03:14: Sie unterscheiden auch nicht zwischen mehr oder weniger seriösen Informationsquellen, und es ist meist überhaupt nicht klar, aus welcher Quelle die Informationen stammen.

00:03:23: Das bedeutet, dass von LLMs produzierte Texte immer auf ihre Korrektheit überprüft werden müssen.

00:03:29: Personen, die mit solchen Texten arbeiten, sollten sich daher immer sehr gut mit dem jeweiligen Thema auskennen.

00:03:35: LLMs haben keinen werteorientierten Anspruch und produzieren daher unter Umständen auch diskriminierende, sexistische, queerphobe oder rassistische Inhalte.

00:03:45: Ein unreflektierter Umgang mit LLM-Texten könnte daher zur Verfestigung solcher Ansichten führen.

00:03:52: Außerdem können Rollenstereotype reproduziert werden.

00:03:55: Wird das LLM beispielsweise nach Personen gefragt, die im Tischlerhandwerk arbeiten, werden wahrscheinlich nur männliche und bei der Frage nach pflegenen Personen nur weibliche Personen genannt.

00:04:06: Und bestimmte Einstellungen, die nicht oder nur sehr lückenhaft in Trainingsdaten vorkommen, werden logischerweise auch nicht wiedergegeben.

00:04:13: Das bedeutet, dass Personen bzw.

00:04:16: soziale Gruppen, die wenig Content für das Internet erzeugen, mit ihren Ansichten auch in LLM-Texten nicht oder kaum sichtbar sind.

00:04:25: Die fehlende Präsenz im Internet kann dadurch entstehen, dass bestimmte Personen wenig Zugang zu technischen Geräten haben.

00:04:31: Es kann aber auch sein, dass sie keinen Content produzieren, weil sie glauben, sich nicht gut genug auszukennen oder ihre Ansichten aus Angst vor Hasskommentaren lieber nicht veröffentlichen.

00:04:43: Was können wir tun?

00:04:45: Ich möchte vorwegnehmen, dass die folgenden Tipps keine Werbung dafür sein sollen, unbedingt mit LLMs zu arbeiten.

00:04:51: Es geht vor allem darum, was getan werden kann, wenn sich Lehrende dafür entscheiden.

00:04:56: Ein LLM kann explizit damit beauftragt werden, geschlechtergerechte Inhalte zu erstellen oder Texte auf Geschlechtergerechtigkeit zu überprüfen.

00:05:05: Fragen wir das Modell nach Möglichkeiten, wie wir unsere Lehre geschlechtergerecht gestalten können, kommt die eine oder andere gute Idee dabei heraus.

00:05:12: Wie immer gilt aber auch hier, dass jeder Text noch einmal verifiziert werden muss.

00:05:16: Wenn es darum geht, ob und wie Studierende die Modelle nutzen dürfen oder sollen, ist Transparenz sehr wichtig.

00:05:23: Es kann für sie sehr hilfreich sein, wenn sie genau wissen, ob und falls Jahr für welche Aufgaben ein LLM genutzt werden kann oder soll.

00:05:32: Sollen LLMs im Kurs verwendet werden, kann es hilfreich sein, diese zunächst gemeinsam auszuprobieren und über die Ergebnisse zu sprechen.

00:05:40: So kann über mögliche diskriminierende Äußerungen oder die Reproduktion von Rollenstereotypen aber auch über Falschaussagen reflektiert werden.

00:05:47: Es kann auch helfen, gemeinsam über gute Prompts nachzudenken und Raum dafür zu geben, diese auch auszuprobieren.

00:05:55: Das alles hilft auch Personen, die sich bisher noch nicht mit LLMs auseinandergesetzt haben, sich im Umgang mit den Modellen sicherer zu fühlen.

00:06:03: So, das war's für den Moment.

00:06:05: Ich wünsche allen viel Erfolg beim Ausprobieren und verabschiede mich bis zum nächsten GiL Impuls.

00:06:13: Das war ein

00:06:13: Impuls von GiL to go.

00:06:16: GiL to go. ist eine Produktion des Gleichstellungsbüros der Universität Bielefeld aus dem Programm Gleichstellung sehen

00:06:24: und hören.

00:06:25: Text:

00:06:26: Beate Lingnau, Siân Birkner und Nora Charlotte Gehlen.

00:06:31: Sprecherin: Beate Lingnau.