ELMO

Generative KI in Studium und Lehre Handreichung & Tipps zum Umgang mit Künstlicher Intelligenz

Auf Basis meiner Erfahrungen und den Rückmeldungen aus der Lehrendenschaft (und nach Rücksprache mit Präsidium und Prüfungsausschuss der THGA) habe ich mal einige Informationen zusammengetragen und daraus eine "Handreichung" erstellt. Diese gibt es online als Volltext hier, außerdem als PDF in einer Langversion und jew. als Kurzversion für Lehrende und Studierende.

1. Ausgangslage

Auf künstlicher Intelligenz (KI) basierende generative Software (im Folgenden: „Generative KI“) hat in den letzten Jahren einige rasante Entwicklungssprünge gemacht und spielt heute in der Lebenswelt von Studierenden und Lehrenden eine immer größere Rolle. Seitdem im Herbst 2022 die Software ChatGPT der Öffentlichkeit zugänglich gemacht wurde, stehen immer mehr Angebote mit immer größerem Funktionsumfang und stetig wachsender Leistungsfähigkeit zur Verfügung. Diese Systeme sind auch längst in Bildungskontexte eingedrungen und aus jetzigen und zukünftigen Berufsrealitäten kaum noch wegzudenken.

Diese Handreichung beschreibt, welche Rolle solche Systeme in Studium und Lehre spielen können, welche Möglichkeiten und Gefahren mit dem Einsatz generativer KI einhergehen und welche rechtlichen Aspekte berücksichtigt werden müssen. Sie versucht, die Verwendbarkeit in Prüfungskontexten einzuordnen und gibt Empfehlungen für Lehrende und Studierende.

2. Generative KI und Aufgaben von Hochschule

Generative KI meint auf maschinellem Lernen und Deep Learning-Architekturen basierende Softwaresysteme, die automatisiert neue (textliche oder mediale) Inhalte auf Basis von meist Texteingaben durch Benutzende (sog. „Prompts“) generieren. Als Ergebnis können u.a. Texte, Bild-, Video-, Audiomaterial oder Kombinationen davon entstehen.

Dabei greift generative KI auf „gelernte“¹ Informationen und Zusammenhänge zurück, die - basierend auf einer großen Menge sog. Trainingsdaten - in künstlichen neuronalen Netzen mit Bedeutungen, Wahrscheinlichkeiten, Gewichtungen und semantischen Verknüpfungen aufgeladen wurden. Auf dieser Basis können beeindruckende Erzeugnisse entstehen, die einen professionellen und/oder kreativen Eindruck erzeugen. Der Einsatz solcher Systeme muss mit verschiedenen Kernaufgaben von Hochschule in ein Verhältnis gebracht werden:

(1) Einerseits soll eine zeitgemäße Lehre angeboten werden, um eine Qualifikation für immer weiter technisierte Berufe herzustellen. Die Absolventinnen und Absolventen sollen zu einem verantwortungsvollen, reflektierten Verhalten in einer immer weiter digitalisierten Wissensgesellschaft befähigt werden. Bestandteil der Hochschullehre muss also sein, die Vorteile und Einsatzmöglichkeiten neuer Technologien gleichermaßen wie ihre Risiken und die rechtlichen und ethischen Fragestellungen zu vermitteln und zu berücksichtigen: Hochschullehre soll Studierende dazu befähigen, generative KI sinnvoll zu nutzen und die Erzeugnisse kritisch einordnen zu können.

(2) Gleichzeitig sollen im Rahmen des Studiums erbrachte Studierendenleistungen und angeeignete Kompetenzen in fairer, vergleichbarer und verlässlicher Form bewertet werden. Hochschule ist dabei dem Grundsatz der Gleichbehandlung und den Prinzipien guter wissenschaftlicher Praxis verpflichtet, die nur sichergestellt werden können, wenn Studierendenleistungen von den Studierenden eigenständig und unter vergleichbaren und transparenten Bedingungen zustande kommen. Ein unkontrollierter Einsatz generativer KI kann der Gleichbehandlung und Standards wissenschaftlichen Arbeitens entgegenstehen.

Diese Handreichung soll helfen, das Spannungsfeld zwischen erwünschter Anwendung von KI-Werkzeugen einerseits und Eigenständigkeit von Studierendenleistungen und Gleichbehandlung in Prüfungen anderseits aufzulösen.

2.1 Einsatz generativer KI durch das Lehrpersonal

Der Einsatz generativer KI in der Hochschullehre birgt Chancen in Form neuer oder weiterentwickelter Lehrinhalte, medialer Anreicherungen, neuer didaktischer Szenarien, Prüfungsformen und -inhalte. Diese Werkzeuge können helfen, kreative, problemlösungsorientierte und studierendenzentrierte Lehr-Lern-Szenarien zu gestalten und die eigene Effizienz zu steigern. Die Potentiale sollten Lehrende für die eigene Lehre überprüfen und ggf. nutzen.

Ich empfehle allerdings, den Einsatz von KI-basiert generierten Lehr-, Lern- und Prüfungsinhalten entsprechenden kritisch zu reflektieren, da damit verschiedene inhaltliche, rechtliche und ethische Implikationen einhergehen. Lehrende sollten außerdem in Betracht ziehen, den Einsatz solcher Systeme im Sinne der Transparenz (als einem Grundsatz wissenschaftlichen Arbeitens) entsprechend zu kennzeichnen.

Der Einsatz generativer KI und ihrer Erzeugnisse in der Lehre könnte ein passender Anlass sein, zu dem Lehrende die mit dem Einsatz dieser Werkzeuge einhergehenden Risiken und Bedenken mit ihren Studierenden thematisieren.

2.2 Verwendung generativer KI durch Studierende

Der Einsatz generativer KI durch Studierende, z.B. als Tool zur Lernbegleitung und -organisation, als Coach und Ideengeber o.ä., kann nützlich sein und bleibt diesen natürlich unbenommen.

Daneben kann ein gezielter und durch die Lehrperson angeregter Einsatz von generativer KI Bestandteil einer gewollten Lernerfahrung sein und sich didaktisch sinnvoll in das Konzept einer Lehrveranstaltung einfügen.

Um den Einsatz dieser Werkzeuge im Rahmen zu erbringender Studierendenleistungen und Kompetenzmessungen - unter Berücksichtigung der Prinzipien von Vergleichbarkeit und Gleichbehandlung - zu regeln, finden sich in Abschnitt 6 entsprechende Hinweise.

3. Drei Leitfragen für die Nutzung KI-basierter Werkzeuge

Bei der Auswahl und Nutzung generativer KI in Lehre und Studium können Ihnen folgende Leitfragen helfen:

Grundsätzlich gilt: Jenseits der urheber- und datenschutzrechtlichen Aspekte (Details in den Abschnitten 5.4 und 5.5) ist ein Einsatz höchstwahrscheinlich erlaubt.

Für Studierende ist eine Nutzung im privaten Rahmen ok. Beispiele können die Zusammenfassung von Mitschriften, die Generierung von Übungsaufgaben zwecks Prüfungsvorbereitung oder die Erstellung von Lern- und Wochenplänen sein.

Im Rahmen von Prüfungsleistungen (s. auch Abschnitt 6) jeglicher Art beachten Sie unbedingt die Liste erlaubter Hilfsmittel und die Angaben der jeweiligen Lehrperson. In Zweifelsfällen fragen sie die Lehrenden konkret nach einer Einschätzung oder Erlaubnis. Fragen Sie lieber einmal zu viel als einen Täuschungsversuch zu riskieren, verzichten Sie im Zweifelsfall auf den Einsatz der KI-Werkzeuge. Falls die Nutzung erlaubt ist: Dokumentieren Sie den Einsatz, die genutzten Prompts und die Ergebnisse (s. Abschnitt 6.2), selbst wenn Sie nicht explizit dazu aufgefordert sind - allein um den Standards wissenschaftlichen Arbeitens zu genügen.

Für Lehrende ist die Nutzung in vielen Fällen wohl ebenfalls unbedenklich. Beispielhaft seien die Erstellung größerer Mengen von Testfragen oder Übungsaufgaben, auf Wunsch mit plausiblen, falschen Multiple-Choice-Antworten, oder die Generierung einer Liste von Fragestellungen für Referats- oder Hausarbeitsthemen, Gliederungen und Semesterzeitpläne genannt.

Viele dieser Erzeugnisse können - wenn auch nicht ohne Überprüfung und Anpassung - im Lehrkontext verwendet werden. Ich empfehle eine entsprechende Kennzeichnung der Erzeugnisse und die Thematisierung damit einhergehender Fragen und Risiken mit den Studierenden.

Grundsätzlich gilt: Eine Verlässlichkeit, Richtigkeit und Aktualität von KI-Erzeugnissen kann nicht vorausgesetzt werden (s. Abschnitte 5.1 und 5.2). Beachten Sie außerdem, dass bereits beim Anlegen von Accounts personenbezogene Daten (u.a. IP-Adresse, E-Mail-Adresse) an die Anbieter übertragen werden. Alle Daten, die Sie in ein solches System einfüllen, werden mit ihrem Account verknüpft und können weiterverarbeitet und für zukünftige Trainings verwendet werden.

Von Studierenden wird ein verantwortungsvoller Umgang erwartet: Wenn am Ende Ihr Name auf der Hausarbeit, dem Bericht oder der Klausur steht, verantworten Sie allein den gesamten Inhalt - und damit auch die Richtigkeit der Ausführungen, den Erstellungsprozess und den Einsatz solcher Werkzeuge. Jedes KI-System hat eigene Kernfunktionen, Stärken und Schwächen, die bei der Werkzeugauswahl beachtet werden sollten (Beispiel: Evtl. sind Übersetzungen von DeepL besser als die von ChatGPT?).

Für Lehrende geht durch die eingeschränkte Aktualität der Trainingsdaten und eventuelle Verzerrungen im Trainingsprozess mit den Einsatz KI-erzeugter Materialien eine besondere Verantwortung einher. Sie sollten daher Richtigkeit und Objektivität von Lehrmaterial immer vor dem Einsatz genau überprüfen und diesen Aufwand der mit dem Einsatz von KI-Systemen einhergehenden Zeitersparnis und Effizienzsteigerung gegenüberstellen.

Für Studierende gilt: Die KI kann und wird den für ein erfolgreiches Studium immer noch notwendigen Lernprozess nicht für Sie übernehmen. Auch wenn die Erzeugnisse plausibel klingen und eloquent formuliert oder gestaltet sind - verstehen müssen Sie die studiumsbezogenen Sachverhalte selbst.

Wenn Sie solche Systeme als Coach oder Tutor einsetzen, verlassen Sie sich nicht blind auf die Richtigkeit der Ausgaben. Um allerdings KI-Erzeugnisse überhaupt auf Richtigkeit überprüfen zu können, benötigen Sie entsprechendes Fachwissen, um falsche Angaben auch als solche identifizieren zu können. Daher eignen sich z.B. textgenerierende KI-Systeme bei für Sie unbekannten Themen vor allem für einen thematischen Überblick o.ä., und weniger zur Durchdringung komplexer Spezialgebiete oder für detaillierte Erklärungen. Und: Die von dem System gesetzten Schwerpunkte und das verwendete Fachvokabular können natürlich von den in einer Lehrveranstaltung etablierten Fachbegriffen, Schwerpunkten und Inhalten abweichen.

Für Lehrende ist der Einsatz unter anderem dann sinnvoll, wenn damit eine Zeitersparnis oder neue inhaltliche oder mediale Möglichkeiten einhergehen. Die Erstellung von Aufgaben, Lückentexten, Übersetzungen, Listen, Gliederungen oder Abbildungen kann sicherlich eine Menge Arbeit ersparen.

In Spezialfällen, z.B. der Erzeugung von Hörbeispielen durch KI-basierte Stimmsynthese für Fremdsprachenunterricht, der Erzeugung von Erklärtexten (z.B. „in einfacher Sprache“) für Ihr Lehrmaterial oder der Übersetzung von Untertiteln für Ihr Video, aber auch bei der Recherche kann generative KI neue Perspektiven eröffnen, neuartige Lehr-Lern-Settings erst ermöglichen oder Ihr Lehrangebot inklusiver machen.

4. Allgemeine Tipps zur Nutzung von KI-Systemen

Neben diesen Leitfragen möchte ich noch ein paar allgemeine Tipps zur Nutzung von KI-basierten Systemen geben:

• Setzen Sie sich mit diesen neuen Werkzeugen und ihren Möglichkeiten auseinander. Generative KI wird nicht wieder verschwinden oder so weit reguliert, dass ihre Auswirkungen auf Hochschullehre und Studium in Zukunft vernachlässigbar werden.
• Üben Sie die Nutzung KI-basierter Systeme zuerst, wenn Sie einen Einsatz in Betracht ziehen. Sammeln Sie Erfahrungen, welche Prompts zu welcher Art von Ergebnissen führen. Versuchen Sie, absichtlich falsche Berechnungen, erfundene Quellen und fehlerhafte Erläuterungen zu erzeugen, um ein Gefühl für die Funktionsweise, Stärken und Schwächen der einzelnen Systeme zu bekommen.
• Achten Sie auf eine adäquate Werkzeugauswahl: Manche Systeme sind für Texterstellung, andere für komplexe Berechnungen, wieder andere für Umformulierungen bestehender Texte, weitere für Übersetzungen oder Mediengenerierung geeignet. Viele Systeme haben funktionale Schwerpunkte und „Inselbegabungen“.
• Entwickeln Sie eine Prompting Expertise: „Gute“ Prompts zu erstellen, wird momentan unter dem etwas hochtrabenden Begriff „Prompt Engineering“ subsumiert. Jenseits des Begriffs hängt die Qualität von KI-Erzeugnissen aber tatsächlich maßgeblich von den Benutzendeneingaben ab: „Was ist [Fachbegriff]?“ führt zu völlig anderen Ergebnissen als „Erläutere mir die Bedeutung von [Fachbegriff] im Hinblick auf [verwandtes Thema]. Berücksichtige dabei vor allem den aktuellen Forschungsstand zu [theoretisches Modell].“ Je konkreter Sie einen Prompt formulieren, desto besser passt die Ausgabe zu Ihrer Anfrage, denn KI-Systeme können keine Gedanken lesen.
• Geben Sie bei der Nutzung von Chatbots eine Rolle oder einen Kontext vor: „Erkläre mir, wie [Fachbegriff] funktioniert, als wäre ich 10 Jahre alt.“ oder „Du bist ein:e [Rolle, z.B. Nobelpreisträgerin im Bereich …, Bürger von …, Fachmann für …, Anwenderin von …]. Erläutere mir [Fachbegriff]“.
• Prompts müssen nicht kurz und griffig sein. Denn kurze, wenig spezifische Prompts führen oft zu generischen, wenig spezifischen Ergebnissen. Zielführendere Prompts sind oft erstaunlich lang. Versuchen Sie, z.B. bei chatbasierten Systemen ein Thema einzukreisen, stellen Sie immer spezifischere Nachfragen, nehmen Sie Bezug auf bereits gegebene Antworten (auch um Widersprüche aufzudecken oder aufzuklären).
• Übernehmen Sie keine (vermeintlichen) Zitate oder Quellenangaben aus den Erzeugnissen textgenerierender KI-Systeme ohne Prüfung. Kontrollieren Sie darüber hinaus Berechnungen, überprüfen Sie die vom KI-System angewendete Formeln, kontrollieren Sie die Passgenauigkeit der Erzeugnisse zu Ihrem Anliegen, untersuchen Sie die Ergebnisse auf Richtigkeit, kurz: Übernehmen Sie keine KI-basierten Erzeugnisse völlig unkritisch.

Weitere Hinweise finden Sie im Abschnitt 8.

5. Kritische Reflexion von Risiken und Gefahren

Die mit dem Einsatz generativer KI einhergehenden verschiedenen Risiken und Gefahren sollten alle Benutzenden berücksichtigen und abwägen:

Lehrpersonen werden gebeten, die folgenden Aspekte beim Einsatz von KI-Werkzeugen in der Lehre zu thematisieren und mit ihren Studierenden entsprechend kritisch zu diskutieren. Studierende sind parallel ebenfalls aufgefordert, sich diese Aspekte beim Einsatz solcher Werkzeuge im Rahmen ihres Studiums regelmäßig zu vergegenwärtigen.

5.1 Verlässlichkeit und Richtigkeit

Die Erzeugnisse generativer KI resultieren aus unterschiedlichen Trainingsdaten, statistischen Wahrscheinlichkeiten und wenig transparenten Algorithmen. Sie sollten also weder als wahr, richtig oder verlässlich angesehen werden. Meist sind die generierten Inhalte nicht replizierbar, sondern werden bei jeder Benutzendeninteraktion mit dem jeweiligen System individuell und unmittelbar produziert.

Vor allem bei textgenerierenden KI-Systemen sind sog. „Halluzinationen“², Falschaussagen und Verkürzungen üblich. Bei bild-, video- und mediengenerierenden KI-Systemen sind analog dazu entsprechende Verzerrungen und Verfremdungen zu erwarten.

Auch die Aktualität der Trainingsdaten und die Möglichkeit, auf Informationen aus dem Internet zuzugreifen, variieren je nach System und Version. Von KI-Systemen generierte Erzeugnisse können also durchaus veraltet, nicht auf dem Stand einer aktuellen Diskussion oder Entwicklung sein oder nicht den aktuellen Forschungsstand wiedergeben.

5.2 Verzerrungen durch Biases

Die Trainingsdaten, auf denen die Ergebnisse von generativer KI basieren, sind in dem meisten Fällen intransparent und unbekannt.

Neben sachlich falschen Ergebnissen kann das auch z.B. in Form verschiedener und kombinierter (intersektionaler) Diskriminierungen Ausdruck finden. Im Trainingsmaterial nicht repräsentativ berücksichtigte Ausprägungen verschiedener Eigenschaften, Einstellungen, Fakten und Zahlen können u.a. zu rassistischen, antisemitischen, sexistischen, antifeministischen, homo- und transphoben, ableistischen, klassistischen oder in anderer Art diskriminierenden Ergebnissen führen. Die THGA und ihre Trägergesellschaft verpflichten sich in Verhaltenskodex und Gleichstellungsrahmenplan zu Förderung von Chancengleichheit, Abbau von Diskriminierung und Wertschätzung von Diversität. Diese Verpflichtung kann o.g., auch nur subtil oder unterschwellig vorhandenen, diskriminierenden KI-Ergebnissen diametral gegenüberstehen. Alle Benutzenden KI-basierter Werkzeuge sollten auf entsprechende Verzerrungen und Diskriminierungen in den generierten Erzeugnissen achten.

5.3 Verletzung der Chancengleichheit

KI-Werkzeuge sind bei kostenfreier Nutzung oft nur in eingeschränktem Umfang oder in veralteten Versionen nutzbar. Die Nutzung neuerer Versionen und größerer Funktionsumfänge steht also oft in direkter Verbindung mit den finanziellen Mitteln der Benutzenden.

Diese „digitale Spaltung“⁴ kann besonders Studierende betreffen und dem Prinzip der Gleichbehandlung zuwiderlaufen. Das - jenseits des Semesterbeitrags - zumeist kostenfreie Studium an der THGA würde durch eine Bevorzugung speziell der finanziell bessergestellten Gruppen konterkariert.

5.4 Urheberrechtliche Aspekte und Plagiate

Folgt man der momentanen juristischen Einschätzung zur Urheberschaft an KI-generierten Erzeugnissen, liegt diese weder bei den anbietenden Unternehmen oder den Programmiererinnen und Programmierern noch bei den Benutzenden dieser Systeme. Eine Freiheit von Urheberrechten an KI-basierten Ausgaben ist daher anzunehmen.

Dabei können u.a. die Rechte der ursprünglichen Rechteinhaberinnen und Rechteinhabern der Trainingsdaten auf Vervielfältigung, Vortrag, Aufführung, Vorführung und öffentliche Zugänglichmachung verletzt werden. Neben Urheberrechtsverstößen können bei Erzeugnissen generativer KI auch Plagiate vorliegen, die im engeren Sinne evtl. nicht gegen das Urheberrecht (aber z.B. gegen das Patent- oder Geschmacksmusterrecht) verstoßen.

Die Überprüfung der Ergebnisse von KI-basierten Systemen auf Verletzung der genannten und anderer Rechte obliegt immer den Benutzenden der Werkzeuge.

Die Eingabe urheberrechtlich geschützter Werke in ein KI-basiertes System, z.B. zur Zusammenfassung, Änderung, Überprüfung oder Weiterverarbeitung kann durch die Überführung dieses Werkes in die Trainingsdaten dagegen sehr wohl eine Urheberrechtsverletzung darstellen.

5.5 Datenschutzrechtliche Aspekte

Bei dem Anlegen eines Benutzendenaccounts oder der Bedienung KI-basierter Systeme kann es zur Eingabe und damit Verarbeitung personenbezogener Daten kommen. Dabei sind die geltenden Datenschutzbestimmungen, vor allem die DS-GVO, das BDSG, das LDSG NRW, aber auch das HG NRW und hochschuleigene Ordnungen zu berücksichtigen.

Viele Firmen, die KI-basierte Systeme anbieten, haben ihren Sitz bzw. die Standorte beteiligter technischer Infrastruktur nicht in Deutschland oder dem innereuropäischen Ausland. Mit einer Übertragung von personenbezogenen Daten in Länder außerhalb der EU gehen besondere datenschutzrechtliche Bedingungen einher.

In welcher Form durch Benutzende getätigte Eingaben verarbeitet werden und ob sie z.B. zum weiteren Training der zu Grunde liegenden Software genutzt werden, ist in den meisten Fällen unklar.

Die obigen Ausführungen gelten für andere Daten mit erhöhtem Schutzbedarf und Daten, die einer Form der Geheimhaltung oder einer Sperrklausel unterliegen, entsprechend.

5.6 Ethische Aspekte

Nicht zuletzt berührt der Einsatz generativer KI verschiedene ethische Aspekte: Die Lernarchitekturen werden während der Lernprozesse oft einer Justage und einem sog. „Finetuning“ unterzogen. Dafür wird in vielen Fällen auf sog. Clickworker, oft in prekären Arbeitsverhältnissen in Ländern des globalen Südens, zurückgegriffen („Digitaler Kolonialismus“).

Auch die ungefragte Nutzung von Texten, Bildern und Videos kreativschaffender Personen als Trainingsmaterial ohne entsprechende Lizenzierung und Vergütung kann für diese ein Problem darstellen. Das mittelfristige Ersetzen der Arbeit von z.B. Journalistinnen und Journalisten, Schriftstellerinnen und Schriftstellern, Grafikdesignerinnen und -designern, Videokünstlerinnen und -künstlern und vielen anderen Berufsgruppen sollte nicht außer Acht gelassen werden.

Darüber hinaus ist der Energiebedarf für Training und Nutzung KI-basierter Werkzeuge erstaunlich hoch: Z.B. hat das Training des Large Language Models hinter ChatGPT allein im Januar 2023 ca. 936 MWh verbraucht, das entspricht etwa 3.000 europäischen Durchschnittshaushalten⁵. Eine Frage an ChatGPT benötigt - Stand März 2023 - bis zu 1.000-mal so viel Energie wie eine Suchanfrage an eine „klassische“ Suchmaschine⁶.

Zuletzt sei darauf hingewiesen, dass die KI-Systeme und ihre Funktionsweise, die Auswahl der Trainingsdaten und die Trainings- und Finetuning-Methoden allein in der Hand von meist gewinnorientierten Unternehmen liegen. Alle Entwicklungsentscheidungen bzgl. der Fähigkeiten eines KI-Systems sind also nicht von Bildungsidealen oder dem Ziel größtmöglicher Wissens- und Nutzenmaximierung, sondern von Unternehmensinteressen getrieben.

6. Einsatz generativer KI in Prüfungskontexten

Diese Handreichung empfiehlt in Abhängigkeit unterschiedlicher Prüfungsformen verschiedene Regelungen. Für die vorliegende Betrachtung werden die Prüfungsformen in

1. „unter Anwesenheit von Prüfenden oder Aufsichtspersonen erbrachte Leistungen“ (Klausurarbeiten, mündliche Prüfungen incl. Kolloquien, auch: in elektronischer Form) einerseits und
2. „meist ohne Aufsicht erarbeitete Leistungen“ (Ausarbeitungen, Berichte, studienbegleitend gestellte Klausuren, Abschlussarbeiten) andererseits

unterschieden.

Da die Anwesenheit von Hochschulpersonal einen regelwidrigen Einsatz generativer KI für unter Nr. 1 genannte Prüfungsformen auszuschließen vermag, werden diese hier nicht weiter betrachtet. Eine explizite Erlaubnis des Einsatzes solcher Werkzeuge in diesen Prüfungsformen über die Liste zugelassener Hilfsmittel (s. Abschnitt 6.1) bleibt davon natürlich unberührt und ist möglich.

Für die unter Nr. 2 beschriebenen Studierendenleistungen können folgende Hinweise hilfreich sein: Ein striktes Verbot generativer KI bei solchen Arbeiten halte ich für weder durchsetzbar noch kontrollierbar (auch nicht durch etwaige „KI-Detektoren“, s. Abschnitt 6.3) und erscheint daher grundsätzlich nicht zielführend.

Prüfenden wird empfohlen, bei Erlaubnis des Einsatzes generativer KI in Prüfungskontexten die in Abschnitt 5 beschriebenen Risiken und Probleme zu thematisieren, die Studierenden auf die Einhaltung der Prinzipien guter wissenschaftlicher Praxis und eventuell die Hinweise dieser Handreichung hinzuweisen.

6.1 Hilfsmittelregelungen

Über die Zulassung von Hilfsmitteln bei der Erstellung von Prüfungsleistungen entscheiden natürlich die Prüfenden. Eine Liste der zugelassenen Hilfsmittel ist gem. Prüfungsordnungen durch die Prüfenden in einer festgesetzten Frist vor dem Prüfungstermin auf einer hochschulöffentlichen Plattform bekannt zu geben. Weitere Details regeln die entsprechenden Hochschulprüfungsordnungen.

Die Verwendung unerlaubter Hilfsmittel gilt als wissenschaftliche Unredlichkeit und als Täuschungsversuch. Sie führt zu einem Nichtbestehen der Prüfung und kann weitere Disziplinarmaßnahmen nach sich ziehen.

Den Prüfenden steht es frei, KI-Werkzeuge für Studierendenleistungen jeglicher Art zu erlauben oder zu verbieten. Folgende Absätze sind daher als Empfehlung zu begreifen.

Prüfungsleistungen unter Aufsicht:
Sofern nicht ausdrücklich für die Prüfungen zugelassen, wird der Einsatz von KI-basierten Werkzeugen während beaufsichtigter schriftlicher und mündlicher Prüfungen durch Studierende als Täuschungsversuch über die Eigenständigkeit ihrer Leistung gewertet und die Prüfungsleistung als nicht bestanden bewertet.

Prüfungsleistungen ohne Aufsicht:
Von einem Verbot KI-basierter Systeme für diese Leistungsarten wird abgeraten, da eine Einhaltung dieser Regelungen kaum überprüfbar ist (s. auch Abschnitt 6.3). Zum Umgang mit Verdachtsfällen s. Abschnitt 6.4.

6.2 Kennzeichnungspflicht und -form

Im Sinne der Transparenz der Eigenständigkeit, der wissenschaftlichen Integrität und der Vergleichbarkeit von Prüfungsleistungen sollte die Verwendung von generativer KI in Studierendenleistungen - sofern durch die Lehrpersonen erlaubt - durch die Studierenden transparent gemacht werden. Auch Lehrenden wird empfohlen, KI-basiert erzeugte Lehrinhalte entsprechend zu kennzeichnen.

Analog zur Kennzeichnung fremder Werke und Quellen sollte dabei ersichtlich sein, welche Teile der Leistung in welchem Umfang KI-basiert erstellt wurden. Formulierungsdienste, Überprüfungen korrekter Rechtschreibung und reine Inspirationen im Sinne von Gedankenanstößen können davon ausgenommen werden.

Diese Kennzeichnungspflicht sollte mindestens die Ausgaben von Übersetzungsdiensten, von sog. Chatbots (in Textform), von Bild-, Video- und Audiogeneratoren (in Form digitaler Medien), von Code-Generatoren (in Form von Programmcode) umfassen; diese Liste ist beispielhaft und sicherlich nicht abschließend.

Die Kennzeichnungspflicht sollte für alle Übernahmen von KI-Erzeugnissen vorgenommen werden, unabhängig davon, ob es sich um wortwörtliche oder paraphrasierte Übernahmen handelt. Dabei sollte das Ausmaß des Mitwirkens generativer KI an der schöpferischen Leistung der Studierenden für Dritte erkennbar sein.

Die Kennzeichnungen können den gängigen Regelungen für die Übernahme wörtlicher oder indirekter Zitate, von Gedanken und Ideen, von Abbildungen, Daten, Erkenntnissen und Schlussfolgerungen fremder Werke entsprechen.

Im Sinne der Transparenz sollten allerdings davon abweichend bzw. ergänzend beim Einsatz KI-basierter Systeme

• die eingesetzte Software,
• die Versionsnummer,
• die URL (soweit vorhanden),
• die genutzte Eingabe (der sog. „Prompt“),
• das Datum des Abrufs bzw. Einsatzes und
• das Ergebnis bzw. Erzeugnis

angegeben und dokumentiert werden. Die Dokumentation der Ergebnisse KI-basierter Systeme kann ggf. in Form von Transkriptionen oder Screenshots im Anhang einer schriftlichen Arbeit erfolgen.

Sofern KI-basierte Werkzeuge zwar als Hilfsmittel zugelassen sind, aber ohne entsprechende Kennzeichnung zur Anwendung gebracht werden, handelt es sich dabei um eine Täuschung über die Eigenständigkeit der Leistung (s. Abschnitt 6.4).

6.3 Überprüfung und Bewertung studentischer Leistungen mittels KI

Sowohl die Bewertung studentischer Leistungen und Arbeiten mit Hilfe generativer KI-Systeme als auch ihre Überprüfung auf den Einsatz KI-basierter Systeme bei der Erstellung dieser Arbeiten wird aus mehreren Gründen nicht empfohlen:

1. Alle momentan bekannten KI-basierten Systeme zur Überprüfung eines Werkes auf KI-basierte Generierung (sog. „KI-Detektoren“) sind nicht verlässlich. Auch die von einigen Anbietern solcher Werkzeuge selbst offerierten Überprüfungsmechanismen können den Einsatz KI-basierter Werkzeuge weder verlässlich nachweisen, noch ist eine falsch-positive Einschätzung auszuschließen.
2. Bei der Eingabe einer Studierendenleistung in ein KI-basiertes System durch den Lehrenden zwecks einer Überprüfung oder Bewertung wird es sich in den meisten Fällen um einen Urheberrechtsverstoß (s. Abschnitt 5.4) handeln. Die Studierendenarbeit hat in den allermeisten Fällen die notwendige Schöpfungshöhe überschritten und gilt als eigenständiges Werk, für das die oder der Studierende den entsprechenden Urheberrechtsschutz genießt. Eine Verarbeitung solcher Werke im Rahmen von weiterlernenden Systemen wird daher eine Verletzung des Urheberrechtsschutzes der betroffenen Studierenden sein.
3. Bei der Überprüfung und Bewertung von Studierendenleistungen mittels KI-basierter Werkzeuge gelten analog zu den Urheberrechts- auch die o.g. Datenschutzüberlegungen (s. Abschnitt 5.5) zur Verarbeitung personenbezogener oder personenbeziehbarer Daten.

Ebenso unzulässig sind abweichende Bewertungsmaßstäbe in Abhängigkeit davon, ob KI-basierte Werkzeuge bei der Leistungserbringung eingesetzt wurden oder nicht. Denn auch wenn deren Einsatz bei der Leistungserbringung z.B. über eine Hilfsmittelregelung explizit erlaubt ist, bleibt ihr Einsatz die freie Entscheidung der Studierenden.

6.4 Umgang mit Verdachtsfällen und Täuschungsversuchen

Ein Verdachtsfall auf unerlaubten Einsatz generativer KI im Rahmen einer Studierendenleistung soll gem. der geltenden Hochschulprüfungsordnungen durch den oder die Prüfenden je nach Prüfungsform angesprochen, aktenkundig gemacht und/oder in einem Protokoll vermerkt werden, wie es auch für andere Täuschungsversuche gilt.

„Prüfende entscheiden je nach der Schwere der Täuschung bzw. des Täuschungsversuchs im Rahmen des ihnen zustehenden Ermessens über die Berücksichtigung bei der Bewertung der Prüfungsleistung, hierbei kann auch die gesamte Prüfungsleistung mit ‚nicht bestanden‘ (n.b./5,0) bewertet werden.“

Darüber hinaus können alle schriftlichen Studierendenleistungen ohne Aufsicht gem. Hochschulprüfungsordnungen ggf. durch eine „Kurzpräsentation mit Diskussion“ ergänzt werden; Abschlussarbeiten sind immer durch ein Kolloquium begleitet. Diese mündlichen Zusatzprüfungen sollten im Verdachtsfall zeitnah vereinbart und dazu genutzt werden, auffällige Abweichungen der verdachtsbehafteten Leistungen vom bisherigen Leistungsverlauf der betroffenen Studierenden oder anderen vergleichbaren Leistungen zu überprüfen. Studierende müssten im Rahmen der Diskussion einer schriftlichen Arbeit in der Lage sein, die Entwicklungs- und Entstehungsprozesse der Arbeit transparent und nachvollziehbar zu verteidigen. Auffällige Diskrepanzen zwischen der verdachtsbehafteten schriftlichen Leistung und den in der mündlichen Diskussion feststellbaren Fachkompetenzen können entsprechend identifiziert und dokumentiert werden.

Die Kurzpräsentationen und mündlichen Zusatzprüfungen sind Bestandteil der Prüfungsleistung und können in der Bewertung entsprechend berücksichtigt werden. Die Möglichkeit der Studierenden, gegen eine Beurteilung der eigenen Leistung Widerspruch beim Prüfungsausschuss einzulegen, bleibt natürlich unbenommen.

Die Position der Hochschule zu schriftlichen Studierendenleistungen ohne Aufsicht wird sich mittelfristig sicherlich verändern. Aus pädagogischer Sicht müssen die Lernprozesse und die Anwendung von Fachexpertise in den Fokus rücken. Die Protokollierung der Lernergebnisse, die nun scheinbar auch „auf Knopfdruck“ erstellt werden können, werden an Bedeutung verlieren.

8. Weiterführende Links

Ein paar grundlegende Betrachtungen finden Sie im

• Blogbeitrag „Künstliche Intelligenz und Hochschullehre“ und in der
• Info- & Materialsammlung auf der Lernplattform „KI und Hochschullehre“.

Darüber hinaus bilden

• der KI-Campus des Stifterverbands für die Deutsche Wissenschaft e.V.,
• das Dossier „Künstliche Intelligenz“ des „Hochschulforums Digitalisierung“ (HFD),
• das Prompt-Labor von HFD und KI-Campus,
• die Vortragsreihe „KI in der Hochschullehre“ (YouTube) der Deutschen Gesellschaft für Hochschuldidaktik, und
• das Themenspecial „KI in der Hochschulpraxis“ von e-teaching.org

gute Einstiegs- und Vertiefungsmöglichkeiten zum Thema KI und Hochschule.

9. Fußnoten

• ¹ Die Zuschreibung menschlicher Fähigkeiten an Maschinen und Software ist mindestens umstritten, wird in Teilen der aktuellen Diskussion sogar kategorisch abgelehnt. Solche Technik-Anthropomorphismen stehen in dieser Handreichung daher in Anführungszeichen und sollten mit entsprechender Umsicht genutzt werden.
• ² Im Zusammenhang mit textgenerierenden KI-Systemen ist damit ein überzeugend formuliertes, aber frei erfundenes Resultat gemeint. Dabei handelt es sich nicht um eine Fehlfunktion, sondern um eine den KI-Systemen inhärente Funktionsweise, eine möglichst wahrscheinliche Antwort aus den Trainingsdaten zusammenzusetzen.
• ³ Bias meint meist „kognitive Verzerrungen“ beim Menschen. Auch dieser Anglizismus und Anthropomorphismus hat sich allerdings in der Diskussion rund um KI-basierte Systeme durchgesetzt.
• ⁴ Die „digitale Spaltung“ (auch: Digitale Kluft, digital divide) kann auf vielen Ebenen bestehen, z.B. bzgl. des generellen Zugangs zum Internet, der Nutzungsmöglichkeiten, der Nutzungskompetenzen, des Nutzungsgrades von Inhalten und Angeboten und - hier gemeint - der sozialökonomischen Möglichkeiten zur Teilhabe.
• ⁵ Jonas, T. (2023): Was kostet der Cloudbetrieb von ChatGPT? Online verfügbar (Stand 05.12.2023).
• ⁶ Ebcinoglu, M.S., et al. (2023). Feuilleton - Hidden Layer: Energie, in: Die Zeit 14/2023, S. 47 (52).
• ⁷ Die popkulturelle Referenz von "42" bezieht sich auf "die von einem Supercomputer errechnete Antwort auf die 'endgültige Frage nach dem Leben, dem Universum und dem ganzen Rest'." (Quelle) in der Romanreihe "Per Anhalter durch die Galaxis" (Details) 😉.