KI-Handlungsempfehlungen für MTV

Künstliche Intelligenz (KI) bezeichnet laut  Europäischem Parlament „die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren“. An der UOS umfasst die Verwendung des Begriffs „KI“ die Gesamtheit der von der Fach-Community akzeptierten Methoden und Software-Anwendungen. Beide Varianten haben ihren Nutzen und zeigen zugleich, dass der Begriff derzeit nicht trennscharf zu definieren ist.

KI-basierte Anwendungen, auch als KI-Systeme, KI-Werkzeuge oder KI-Tools bezeichnet, sind im vorliegenden Kontext Software-Anwendungen, die es durch KI-unterstützte Funktionen erlauben, große Datenmengen in hoher Geschwindigkeit auszuwerten. Auf Anfragen von Nutzenden können situativ Ergebnisse erzeugt werden, die auf der Verarbeitung von Daten beruhen. Diese Verarbeitung erfolgt in Prozessen, die zuvor "trainiert" wurden. Dabei können verschiedene Methoden und unterschiedliche Arten von Datensätzen zum Einsatz kommen. Einigen KI-basierten Anwendungen ist es möglich, die Qualität der ausgegebenen Ergebnisse durch die Verwertung neu hinzukommender Daten zu verbessern, also zu „lernen“. Sie sind jedoch nicht in der Lage, die verarbeiteten Daten inhaltlich zu verstehen, da sie lediglich mit Wahrscheinlichkeiten arbeiten, um auf Basis der Lerndaten bestmögliche Ergebnisse vorauszusagen. Da KI-basierte Anwendungen im Regelfall nicht mit dem Internet verbunden sind, greifen sie nur auf Daten zurück, die zu dem Zeitpunkt aktuell waren, als die Anwendungen veröffentlicht wurden sowie auf Daten, die Nutzende nach der Veröffentlichung eingegeben haben. Ihre Ausgaben und Ergebnisse sind also nicht immer aktuell.

Generative KI beschreibt Systeme, die mittels maschineller Lernverfahren und großer Datenmengen auf Eingaben reagieren und hierbei komplexe Inhalte erzeugen können. Am bekanntesten sind derzeit generative KI-Systeme, die auf Sprachmodellen, auch Large Language Models (LLMs) genannt, basieren. Diese können menschliche Sprache erkennen, verarbeiten und generieren. Ein textbasiertes Dialogsystem (ein Chatbot) ermöglicht dabei die Interaktion mit den Nutzenden. Bei generativen KI-basierten Anwendungen kann es sich neben textgenerierenden KI-Systemen aber z. B. auch um bildgenerierende KI-Systeme handeln oder um KI-Systeme, die Videos, Programmiercode etc. erstellen. Daher wird mittlerweile statt „Large Language Model“ eher die Bezeichnung „Foundation Model“ verwendet.

Der Input besteht aus dem, was die Nutzenden in ein KI-System eingeben (Prompts). Hierzu gehören z. B. die Eingaben in Textfelder von Chatbots, aber auch hochgeladene Text-, Bild- oder Audiodateien.

Als Output werden die ausgelieferten Ergebnisse bezeichnet, die eine KI-Anwendung auf Anfragen der Nutzenden generiert. Der Output baut auf einer wahrscheinlichkeitsbasierten Berechnung auf, weshalb sich die Antwort auf eine Anfrage ggf. nicht exakt reproduzieren lässt.

Durch gezieltes Prompting, also durch genaue Anweisungen, lässt sich die Ergebnisqualität des Outputs maßgeblich beeinflussen. Der Begriff „Prompt“ bezeichnet die konkrete Anfrage der bzw. des Nutzenden an die KI-basierte Anwendung. Ein Prompt kann neben der zentralen Frage auch Quellenmaterial und Anweisungen zur Bearbeitung der Anfrage enthalten.

Von "Halluzinieren" ist manchmal die Rede, wenn insbesondere KI-Sprachmodelle Ergebnisse produzieren, die keine Entsprechung in der Realität haben. Dies können z. B. Texte oder Quellenangaben sein, die als Antwort auf eine Anfrage ausgegeben werden und dem Muster entsprechen, mit dem ein KI-System trainiert wurde, die jedoch faktisch nicht als richtig zu bewerten sind. Dies geschieht, da KI-Systeme ihren Output auf Basis von Wahrscheinlichkeiten generieren, ohne die Inhalte verstehen zu können.

Ein Bias liegt vor, wenn Trainingsdaten Vorurteile enthalten, die z. B. auf Hautfarbe, Geschlecht oder Religionszugehörigkeit beruhen. Diese Vorurteile können in den ausgegebenen Ergebnissen reproduziert werden. Gleiches gilt für Korrelationen, die in den Trainingsdaten auftauchen. Wird z. B. der Begriff 'Professur' statistisch betrachtet häufiger mit männlichen Personenbezeichnungen kombiniert, enthalten aufgrund der Wort-für-Wort-Wahrscheinlichkeitsberechnung auch die ausgegebenen Antworten eher solche Kombinationen.

Bezüglich der Trainingsdaten, die für eine Anwendung genutzt werden, sind Anbieter von KI-Systemen unterschiedlich transparent (siehe  Gegenüberstellung verschiedener KI-Anwendungen in Bezug auf deren Transparenz). Trainingsdaten können z. B. Datensätze umfassen, die vor der Veröffentlichung eines KI-Systems für das Basistraining verwendet wurden, bei einigen KI-basierten Anwendungen aber auch Inhalte, die Nutzende nach Veröffentlichung des KI-Systems eingeben und die für ein fortlaufendes Training der Anwendung verwendet werden. Die Qualität der zur Berechnung verwendeten Daten hat dabei erheblichen Einfluss auf die Qualität des ausgegebenen Ergebnisses. Sie kann z. B. zur Wiedergabe von Vorurteilen oder Unwahrheiten führen, die in den Trainingsdaten enthaltenen sind.

Mehr Informationen zur Terminologie und zum Thema   "Was ist KI?" bietet das Digitale Lehre Portal der UOS. Es richtet sich grundsätzlich an Lehrende, enthält aber zahlreiche allgemeine Informationen, die auch für Mitarbeitende in Technik und Verwaltung interessant sein können.

Vor der Nutzung sollte definiert werden, welchen Funktionsumfang ein Werkzeug zum Lösen der vorliegenden Aufgabe und evtl. weiterer, wiederholt anfallender Aufgaben benötigt. KI-basierte Anwendungen mit einem Funktionsumfang, der tatsächlich anfallende Aufgaben übersteigt, sind oft komplexer in der Handhabung und verbrauchen meist mehr Ressourcen.

Informationen zu allen  von der UOS angebotenen und empfohlenen KI-Anwendungen bietet das Digitale Lehre Portal.

Nicht jede KI-basierte Anwendung darf für berufliche Zwecke bzw. auf beruflich genutzten IT-Geräten verwendet werden. Lassen die Allgemeinen Geschäfts- bzw. Nutzungsbedingungen eines Werkzeugs etwa auf mangelnden Schutz von sensiblen Daten oder Urheberrechten schließen, dürfen diese Werkzeuge nicht eingesetzt werden. Auch wenn seitens der Nutzenden grundlegende Anforderungen an eine zulässige Verwendung nicht erfüllt werden können, z. B. aus Mangel an Zeit oder Wissen, ist von der Nutzung KI-basierter Werkzeuge abzusehen.

Soll z. B. ein KI-Sprachmodell zum Einsatz kommen, empfiehlt die UOS hierfür ausschließlich selbst bereitgestellte Schnittstellen (z. B.  kiwi) oder die Schnittstelle der Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen (GWDG), die  Academic Cloud. Personenbezogene Daten der Mitarbeitenden werden beim Login mit der UOS-Kennung auf diese Weise nicht übertragen. Zudem steht der Input der Mitarbeitenden dem hinter der Schnittstelle liegenden KI-Sprachmodell (von OpenAI, Microsoft etc.) nicht für das fortlaufende Training zur Verfügung. Personenbezogene Daten sowie urheberrechtlich geschützte Materialen dürfen aber auch über eine solche datenschutzkonforme Schnittstelle nicht in KI-Systeme externer Anbieter eingegeben werden.

Auch Assistenzfunktionen (z. B. Copilot in Microsoft 365) dürfen nicht zur Verarbeitung personenbezogener Daten sowie urheberrechtlich geschützter Materialien verwendet werden.

Für die Arbeit mit personenbezogenen Daten steht seit April 2025 ein eigenes  KI-Sprachmodell der UOS zur Verfügung. Es handelt sich dabei um einen Prototyp, der auch auf Basis der Rückmeldungen der Nutzenden weiterentwickelt wird.

Wie schon bei der Frage nach der Eignung eines KI-basierten Werkzeugs, ist es ratsam abzuwägen, ob eine von der UOS zur Verfügung gestellte Anwendung zum Erledigen der vorliegenden Aufgabe gleichermaßen oder sogar besser geeignet ist als Anwendungen externer Anbieter. Hinsichtlich der Anschaffung und/oder Nutzung können so ggf. Kosten reduziert werden.

Auch  Energie- und Ressourcenverbrauch spielen eine Rolle. Ist die Verwendung eines KI-Werkzeugs innerhalb eines Arbeitsprozesses nicht zwingend erforderlich, lohnt sich die Frage, ob die Arbeitserleichterung den zusätzlichen Energieverbrauch rechtfertigt. Zudem kann geprüft werden, ob die Verwendung einer KI-basierten Anwendung tatsächlich eine Zeitersparnis mit sich bringt. Eine komplexe Handhabung oder ggf. vorhandene Medienbrüche (z. B. durch Wechsel zwischen verschiedenen Software-Systemen oder von digitalen zu Papierdokumenten) können dazu führen, dass der Aufwand den Ertrag der Verwendung einer KI-basierten Anwendung übersteigt.

Zunächst ist zu beachten, dass die Eingabe urheberrechtlich geschützter Materialien durch Hochladen sowie im Zuge des Prompting nicht zulässig ist.

Für KI-generierte Inhalte gilt bislang, dass diese in der Regel nicht urheberrechtlich geschützt sind, da Werkschutz laut UrhG menschliche Schöpfung erfordert. Es besteht also folgende Diskrepanz: Eine KI-basierte Anwendung kann rechtlich nicht als Urheberin der durch sie generierten Inhalte gelten; ebenso können die Nutzenden der KI-basierten Anwendung nicht als Urheber:innen solcher Inhalte gelten, wenn sie nicht hinreichend gestalterischen Einfluss auf das Werkschaffen haben. Auch hat der Anbieter einer generativen KI-Anwendung in der Regel keine Rechteinhaberschaft nach dem UrhG oder verwandten Schutzrechten. Dennoch können Nutzende theoretisch Urheber:innen KI-generierter Inhalte sein, sofern sie innerhalb des Schaffensprozesses hinreichend Einfluss auf die generierten Inhalte haben. Gleiches gilt auch dann, wenn sie KI-generierte Inhalte weiterbearbeiten oder arrangieren. Unterschieden wird zwischen:

• ausschließlich KI-generierten, nicht schutzfähigen Inhalten und
• KI-gestützten, menschlichen, schutzfähigen Schöpfungen (bei denen KI nur als Hilfsmittel verwendet wird).

Zu Schutzfähigkeit und Urheberschaft nach UrhG siehe:   Horn, 2023, Seite 2 und folgende.

Eine Herausforderung hinsichtlich KI-basierter Anwendungen stellt die Tatsache dar, dass eine Sorgfaltspflicht in Bezug auf ihre Nutzung „aufgrund der schwer durchschaubaren Prozesse der KI-Architekturen noch nicht definiert werden“ (  Horn, 2023, Seite 15) kann. Die Veröffentlichung KI-generierter Inhalte, die urheberrechtlich geschütztes Material Dritter enthalten, stellen eine Rechtsverletzung dar. Eine Verletzung der Sorgfaltspflicht, z. B. durch mangelnde Kennzeichnung KI-generierter Inhalte innerhalb eines Textes, müsste jedoch zunächst nachgewiesen werden können. Dies wird u. a. dadurch erschwert, dass eine KI-basierte Anwendung ggf. nicht alle genutzten Quellen angibt oder Angaben zu Quellen generiert, die nicht existieren.
Ausschließlich KI-generierte Inhalte sind grundsätzlich gemeinfrei daher frei verwendbar. Sie können jedoch urheberrechtlich geschützte Materialien enthalten, auf Trainingsdaten basieren, die urheberrechtlich geschütztes Material enthalten oder falsche Informationen beinhalten, ohne dass dies für die Nutzenden immer ersichtlich ist. KI-generierte Inhalte können jedoch entsprechend der folgenden gesetzlichen Nutzungserlaubnisse ohne Zustimmung der Rechteinhaber:innen weiterverwendet werden (  Horn, 2023, Seite 6):

• Zitatrecht, § 51 UrhG
• Karikatur, Parodie und Pastiche, § 51a UrhG
• Kopieren und Teilen zu Lehrzwecken, § 60a UrhG
• Übernahme in Lehrmedien, § 60b UrhG
• Verwendung von Datenbankinhalten zu Lehr- und Forschungszwecken, § 87c Absatz 1 Nr. 2 und Nr. 3 UrhG.

Werden KI-basierte Anwendungen zum Generieren von Texten, Bildern, Programmiercodes etc. verwendet, tragen die Nutzenden hierfür die Verantwortung. KI-generierte Inhalte müssen eigenständig verifiziert und auf Fehlerhaftigkeit und z. B. hetzerische oder diskriminierende Aussagen überprüft werden. Auch normative Über- oder Unterrepräsentationen und Auslassungen, sowohl bezogen auf Personen(-gruppen) als auch auf wissenschaftliche und anderweitige Inhalte, sind ggf. von den Nutzenden zu prüfen.
KI-generierte Ergebnisse ungeprüft und ungekennzeichnet zu übernehmen, birgt die Gefahr, Quellen nicht ausreichend sorgfältig kenntlich zu machen. KI-generierte Inhalte sollten daher generell als solche gekennzeichnet werden. Eine Kennzeichnungspflicht für KI-generierte Inhalte laut UrhG existiert zwar bislang nicht, sie kann sich jedoch z. B. aus den Lizenz- oder Nutzungsbedingungen von Anbietern KI-basierter Anwendungen ergeben ( Horn, 2023, Seite 15). Auch Hochschulen können eine Kennzeichnungspflicht mittels interner Vorschriften festlegen. An der UOS ist dies aktuell nicht der Fall. Angaben zur Nutzung KI-basierter Anwendungen beim Verfassen von Inhalten sollten jedoch im gleichen Maße erfolgen, wie Angaben zu sonstigen relevanten Quellen.

Die Verwendung KI-basierter Anwendungen und der Umfang ihres Einsatzes können auf verschiedene Arten dokumentiert werden. Insbesondere Listen und Tabellen bieten sich hierfür an. Eine einfache Liste kann Auskunft darüber geben, ob und zu welchem Zweck KI-basierte Anwendungen genutzt wurden, z. B.:

• für die Ideenfindung
• für die Recherche
• zur Übersetzung
• zur Visualisierung
• zum Generieren von Programmiercode
• zum Erstellen oder Bearbeiten von Bildern

Die Verwendung generativer KI-Anwendungen erfordert seitens der Nutzenden bei der Eingabe von Inhalten und Aufforderungen (Prompts) besondere Sorgfalt im Hinblick auf den Schutz personenbezogener Daten und die Wahrung von Persönlichkeitsrechten. Laut DSGVO stellen "alle Informationen, die sich auf eine identifizierte oder identifizierbare lebende Person beziehen", personenbezogene Daten dar ( Website der Europäischen Kommission: Was sind personenbezogene Daten?). Dies schließt u. a. Namen und Vornamen, E-Mail-Adressen, die Vor- und Nachnamen enthalten, Privatanschriften sowie Gesundheitsinformationen ein. Solche Daten Dritter dürfen ebenso wenig in KI-basierte Anwendungen eingegeben werden, wie Bilder, Video- oder Audioaufnahmen von Dritten.
Sobald personenbezogene Daten durch einen externen Dienst verarbeitet werden, bedarf es einer Vereinbarung zur Auftragsverarbeitung nach Artikel 28 der DSGVO, bei der die Hochschule eine entsprechende Kontrolle vornimmt (siehe   Horn, 2023, Seite 14). Eine Alternative stellen entsprechend gekennzeichnete KI-Systeme dar, die an der UOS gehostet werden. Hierzu zählt das seit April 2025 zur Verfügung stehende  KI-Sprachmodell der UOS.