ChatGPT in der Wissenschaft – Pilotprojekt an der Uni Hamburg

Künstliche Intelligenzen insbesondere sogenannte Large Language Models (textbasierte Künstliche Intelligenzen) sind auf dem Vormarsch. Seit des Einzugs von ChatGPT in die Welt des Internets hat sich die Nutzung des Internets erheblich verändert. Immer mehr Menschen nehmen die Hilfe von ChatGPT für das Schreiben von Texten, E-Mails oder zum Generieren von Quelltext in Anspruch. Der Einsatz von Künstlichen Intelligenzen bleibt jedoch umstritten. Die mangelnde Transparenz und Erklärbarkeit, fehlende Quellenangaben und schlichtweg falsche Ergebnisse werden immer wieder kritisiert. Trotz alledem hat die Universität Hamburg nun für seine Mitglieder „UHHGPT“ veröffentlicht.

Kritik an der Nutzung von ChatGPT in der Wissenschaft

ChatGPT von der Firma OpenAI bietet ein breites Spektrum an Hilfestellungen für das wissenschaftliche Arbeiten an. So kann die Künstliche Intelligenz etwa für die Textgenerierung von Forschungsarbeiten oder zur Literaturrecherche genutzt werden, aber auch Texte oder Muster können mit der Software analysiert werden.

Das Problem? ChatGPT ist nahezu komplett intransparent in seiner Funktionsweise. Wenn die Software ein Ergebnis generiert, gibt die Künstliche Intelligenz weder eine Quelle an, auf der das Ergebnis beruht, noch erklärt sie, wie das Ergebnis zustande gekommen ist. Dies hat zur Folge, dass manche Ergebnisse zwar brauchbar sind, die entsprechende Quelle der Information bleibt jedoch im Verborgenen. Zudem macht ChatGPT auch Fehler. Die Software liefert zwar schnell, die Ergebnisse sind aber oft oberflächlich oder unlogisch bis schlichtweg falsch.

Ein weiteres Risiko birgt der unreflektierte Umgang mit den Ergebnissen von ChatGPT. Häufig werden die generierten Antworten der Künstlichen Intelligenz für bare Münze gehalten und ohne Hinterfragen übernommen. Dieses Vorgehen kann Desinformationen und falsches Wissen verbreiten. Dies bekommt insbesondere in der Wissenschaft eine neue Qualität: In der wissenschaftlichen Arbeit sind die Paradedisziplinen das kritische Hinterfragen und das Argumentieren aufgrund von Quellenanalyse. Diese beiden Methoden werden durch das unkritische Übernehmen von ChatGPTs „halbrichtigen“ Antworten untergraben und gefährden die Integrität der Wissenschaft.

Was ist „UHHGPT“?

Am 9. April veröffentlichte die Universität Hamburg, dass sie ihren Mitgliedern nun „UHHGPT“ für wissenschaftliche Aktivitäten zur Verfügung stellt. „UHHGPT“ ist ein Tool, das auf ChatGPT von der Firma OpenAI basiert. Dieses Tool soll Studierenden, Forschenden und Lehrenden an der Universität Hamburg einen „sicheren und leistungsfähigen Zugang zur generativen KI ChatGPT“ ermöglichen.

„Als Universität Hamburg wolle man ’sein Wissen und Erkenntnisse in die aktuellen Diskurse einbringen und die Zukunft der KI auch durch eigene Erfahrungen mitgestalten‘.“

Prof. Dr. Sebastian Gerling, Chief Digital Officer der UHH

Die Universität Hamburg stellt in ihrer Pressemitteilung klar, dass keine persönlichen Daten an ChatGPT weitergeleitet werden. Lediglich die sogenannten „Prompts“ sollen an OpenAI fließen. „Prompts“ sind beispielsweise Fragen oder Befehle, die ein Nutzer in die Künstliche Intelligenz eingibt, um ein Ergebnis oder eine Frage zu erhalten.

Anwendungsfelder für „UHHGPT“ sollen laut der Universität Ideenfindung, die Optimierung von Texten und die Unterstützung bei der Erstellung von Quellcode sein. Spezifische Regelungen, die umfassende Textgenerierung und das vollständige Übernehmen dieses Textes verbieten, gibt es nicht. Es wird sich lediglich auf die Prüfungsordnung und die „gute wissenschaftliche Praxis“ verlassen.

Überdies erklärt die Universität Hamburg, dass sie die Kosten für die Nutzung von ChatGPT trägt. In diesem Zusammenhang legt die Universität offen, dass ChatGPT die Nutzung von „UHHGPT“ mithilfe von Tokens abrechnet. Gleichzeitig ruft sie die Nutzer jedoch dazu auf, wenige kurze Anfragen zu verwenden, um die Kosten für die Universität gering zu halten.

Bis jetzt bietet die Universität Hamburg „UHHGPT“ nur in einer Pilotphase an. Es wird sich daher vorbehalten, auf die Nutzungsentwicklung und Kosten zu reagieren. Zudem verweist die Universität auf die dynamischen Verfahren der Aufsichtsbehörden. Sollten Aufsichtsbehörden zu dem Schluss kommen, dass das Angebot nicht rechtmäßig sei, würde man umgehend reagieren. Vertrauen in das eigene Tun hört sich zumindest anders an…

Umgang mit Trainingsdaten

In den FAQs zu „UHHGPT“ heißt es weiter, dass die „Prompts“ nicht für das Training der Künstlichen Intelligenz verwendet werden. Unklar bleibt dann jedoch, auf Grundlage welcher Daten die Software trainiert wird. Schließlich muss „UHHGPT“ eine Besonderheit gegenüber dem herkömmlichen „ChatGPT“ aufweisen. Sonst wäre die Veröffentlichung einer universitätsinternen GPT-Software schließlich obsolet.

Schutz von personenbezogenen Daten

Laut der Universität Hamburg ist die Eingabe von personenbezogenen Daten im Rahmen der Fragestellung oder Befehlseingabe verboten. Zudem soll auch die Anmeldung in „UHHGPT“ anonym verlaufen. Dennoch ist hier kritisch anzumerken, dass bei der Verwendung von „UHHGPT“ von Laien nicht vollends auszuschließen ist, dass bereits in den „Prompts“ personenbezogene Daten in die Software eingespeist werden. Da diese „Prompts“ an OpenAI fließen und, so die Universität Hamburg weiter, dort zumindest in anonymisierter Form analysiert werden (Kategorie des Nutzers, Anzahl der gestellten Anfragen und die genutzte Sprache), kann hier keine hundertprozentige Sicherheit gewährleistet werden.

Zudem ist anzumerken, dass die Universität Hamburg für den Einsatz von „UHHGPT“ keine speziell zugeschnittenen Datenschutzhinweise veröffentlicht hat. Auch in ihrer Datenschutzerklärung finden sich keinerlei Ausführungen zum Einsatz von Künstlicher Intelligenz. Und anders als beispielsweise die Universität Mannheim, distanziert sich die Universität Hamburg nicht von den Datenschutzvorgaben von OpenAI, die mitunter umstritten sind. Sie erklärt lediglich in ihren FAQs zu „UHHGPT“, dass die Künstliche Intelligenz datenschutzkonform sei. Restzweifel darüber bleiben…

Verwendung von Künstlichen Intelligenzen für das Wissenschaftliche Arbeiten

Doch wie kann man textbasierte Künstliche Intelligenzen dennoch für das Wissenschaftliche Arbeiten nutzen? Wichtig ist hierbei zu wissen, dass der aktuelle Wissensstand von ChatGPT von der Firma OpenAI von April 2023 ist. Alle Informationen nach April 2023 werden von der Software nicht berücksichtigt. Möchte man also eine Erklärung zu dem SCHUFA-Urteil aus Dezember 2023 haben, fragt man ChatGPT vergebens. Es ist daher ganz besondere Vorsicht geboten, wenn man wissenschaftliche Arbeiten über aktuelle Themen schreibt.

Anwendungsfelder für ChatGPT

Textbasierte Künstliche Intelligenzen sollten nicht für jede wissenschaftliche Tätigkeit verwendet werden, damit die Arbeit stets wissenschaftlich korrekt und integer bleibt. Es ist daher wichtig zu beachten, dass die Künstliche Intelligenz nicht wie ein Mensch denken oder Schlüsse ziehen kann, sondern nur bereits vorhandene Texte wiedergibt.

Daraus ergibt sich, dass ChatGPT beispielsweise Texte zusammenfassen kann. Dies macht das Lesen von Primärquellen zeiteffizienter. Bei Widersprüchen oder unbestimmten Ergebnissen kann die Primärquelle immer noch von dem Nutzer selbst bearbeitet werden.

ChatGPT kann aber auch bis zu einem gewissen Grad für ein besseres Verständnis einer Materie sorgen. Mit einigen präzisen Fragen zu einem Thema kann die Software dem Nutzer eine Einführung in das anvisierte Thema geben. Wertvoll kann in diesem Rahmen zum Beispiel die Frage nach praktischen Beispielen oder die Erklärung von Zusammenhängen sein. Zu bedenken ist jedoch, dass das Wissen mit einer Anfrage an ChatGPT zumeist nicht erschöpft ist und das wissenschaftliche Arbeiten auch die vertiefte Beschäftigung mit Primärquellen erfordert.

Außerdem kann man von Large Language Models auch Feedback für bereits geschriebenen Text erhalten. Diese Methode dient der Verbesserung der Sprache und ist ferner nicht als wissenschaftliches Arbeiten zu bezeichnen. Dennoch kann ChatGPT insbesondere hier hilfreich sein, da es keine inhaltlichen Änderungen vornimmt, sondern auf sprachliche Feinheiten fokussiert ist.

Übernehmen von Antworten

Verwendet man nun ChatGPT für seine wissenschaftliche Arbeit oder zur Erstellung von Lehrmaterial, stellt sich natürlich die Frage, inwiefern man die Ergebnisse, die ChatGPT generiert, übernehmen darf. Hierfür ist die Prüfung des Inhalts der Antwort essenziell wichtig. Die Antwort der Software kann zwar überzeugend klingen, dennoch kann es vorkommen, dass Fakten hier mit Falschinformationen vermischt werden.

Es kann zumindest nicht pauschalisiert werden, ob ChatGPT richtig oder falsch liegt. Meistens liegt die Wahrheit irgendwo dazwischen. Und sollte ChatGPT dann doch einmal nach einer Quelle für das generierte Ergebnisse gefragt werden, sind diese oft falsch oder schlichtweg erfunden. Auch hier sollten die angegebenen Quellen hinterfragt und geprüft werden.

Außerdem sollten auch die Perspektive und die Übereinstimmung der Antwort zu dem angefragten Thema überprüft werden. Ein häufiger Trugschluss ist, dass ChatGPT neutral Informationen wiedergibt. Dies ist jedoch nicht der Fall. Basierend auf den Informationen und Quellen, die die Software heranzieht, kann ChatGPT auch Meinungen reproduzieren oder befangen sein.

Eine weitere Frage, die sich bei der Nutzung von ChatGPT immer gestellt werden sollte, ist, ob die Antwort auch zu den eigenen Erwartungen und Ansprüchen passt. Es sollte hinterfragt werden, ob die Künstliche Intelligenz die gestellte Frage hinreichend verstanden und beantwortet hat. Ist dies nicht der Fall, sollte die Software erneut mithilfe umformulierter Fragestellungen oder Anweisungen befragt werden.

Kritisches Hinterfragen von Antworten

Nicht selten kommt es vor, dass in den Antworten von ChatGPT ein wahrer Fakt neben einer falschen Information steht. Der unreflektierte Umgang mit den Ergebnissen von Künstlicher Intelligenz birgt viele Risiken und Gefahren wie Desinformation und Verbreitung falscher Tatsachen. Gerade im wissenschaftlichen Zusammenhang ist dies problematisch. Es ist daher essenziell wichtig, die Ergebnisse, die uns ChatGPT ausspuckt, kritisch zu hinterfragen.

Wie bereits festgestellt, sollte eine Antwort vor Verwendung erst „auf Herz und Nieren“ geprüft werden. Oft fällt hierbei schon auf, dass sich die Antworten höchstens teilweise für das wissenschaftliche Arbeiten nutzen lassen. Insbesondere weil es bei der wissenschaftlichen Arbeit auf die Transferleistung von Informationsaufnahme über die Herstellung von Zusammenhängen bis hin zur Schlussfolgerung ankommt. Dies kann ChatGPT nicht leisten.

Es bleibt daher immer wieder zu überprüfen, ob der Einsatz ChatGPT überhaupt erforderlich ist und in einem zweiten Schritt, ob diese Ergebnisse für einen wissenschaftliche Arbeit wertvoll sein könnten.

Universitäres ChatGPT – Ein Schritt in die richtige Richtung?

„UHHGPT“ zeigt, dass Large Language Models nun auch in der Wissenschaft und an den Universitäten angekommen sind. Der Einsatz von ChatGPT bleibt jedoch umstritten – und dies nicht nur aus datenschutzrechtlicher Sicht. Bis dato gibt es leider noch keine harmonisierten Leitlinien, wie ChatGPT in der Wissenschaft und an Universitäten genutzt werden kann. Hier gibt es definitiv Handlungsbedarf.

Auch die Universität Hamburg ist mit „UHHGPT“ auf dem Weg in die richtige Richtung. Zwar bedarf es einigen Ergänzungen wie zum Beispiel dem Ergänzen von Datenschutzhinweisen oder einer Anleitung zur Nutzung von „UHHGPT“. Das Pilotprojekt ist jedoch sehr interessant und kann Vorreiter für viele weitere Universitäten und Bildungseinrichtungen sein.