Künstliche Intelligenz – rechtliche Aspekte
Künstliche Intelligenz als nächster logischer Schritt der Digitalisierung beeinflusst und verändert unsere Lebenswelt. Heute schon hilft KI bei der Entwicklung neuer Technologien wie zum Beispiel Impfstoffen. Wozu KI einmal fähig sein wird oder heute schon ist, kann für Menschen befremdlich oder beängstigend wirken. Hilfreich als Leitplanken sind rechtliche Regelungen. Sowohl auf Ebene der Europäischen Union als auch auf nationaler Ebene in Deutschland werden Gesetze und Verordnungen für den Umgang und Einsatz von KI verfasst und implementiert. Diese Gesetzgebungsverfahren sind im Aufbau. Entsprechend wird diese Seite kontinuierlich aktualisiert.
Neben dem AI-Act der Europäischen Union sind insbesondere Aspekte des Urheberrechts und des Datenschutzes (DSGVO) relevant.
wb-web stellt hier Gesetze, Verordnungen, Rechtsgutachten und Leitfäden für den Einsatz von KI vor. Für Bildungsbereiche und Lehrende, die KI in ihrer Tätigkeit einsetzen, gilt es verschiedene mögliche Rechtsfolgen zu beachten. Dabei freuen wir uns auf Ihre Mithilfe. Bitte senden Sie interessante und passende Quellen an die Redaktion. Vielen Dank!
Definition
Gesetze und Verordnungen
AI-Act: Gesetzestext
Die Webseite EU Artificial Intelligence Act stellt offiziell das Amtsblatt (2024) zur EU-AI-Akte in den europäischen Amtssprachen in den Formaten HTML und PDF zur Verfügung. Zudem finden Interessierte zwei weitere Möglichkeiten, sich den Text des AI-Gesetzes anzeigen zu lassen: den „AI Act Explorer“ sowie eine „Zusammenfassung des KI-Gesetzes“.
Weissbuch zur künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen
Die hier von der Europäischen Kommission vorgestellten politischen Optionen zielen darauf ab, "eine rasche und sichere Entwicklung der KI in Europa unter uneingeschränkter Achtung der Werte und Rechte der europäischen Bürgerinnen und Bürger zu ermöglichen.
Die wichtigsten Bausteine dieses Weißbuchs sind:
- Der politische Rahmen mit Maßnahmen zur Abstimmung der Anstrengungen auf europäischer, nationaler und regionaler Ebene. Der Rahmen zielt darauf ab, in Partnerschaft zwischen öffentlichem und Privatsektor Ressourcen zu mobilisieren, um ein „Ökosystem für Exzellenz“ aufzubauen, das bei Forschung und Innovation beginnt und sich über die gesamte Wertschöpfungskette erstreckt, und die richtigen Anreize zu schaffen, um die Akzeptanz von KI-Lösungen auch seitens kleiner und mittlerer Unternehmen (KMU) zu beschleunigen.
- Die Schlüsselelemente eines künftigen Rechtsrahmens für KI in Europa werden ein einzigartiges „Ökosystem für Vertrauen“ schaffen. Um dieses Ziel zu erreichen, muss durch den Rahmen sichergestellt werden, dass die EU-Vorschriften eingehalten werden, einschließlich der Vorschriften zum Schutz der Grundrechte und der Verbraucherrechte, insbesondere im Falle von in der EU eingesetzten KI-Systemen mit hohen Risikopotenzial. Ein Ökosystem für Vertrauen aufzubauen, ist schon an sich ein strategisches Ziel und sollte bei den Bürgerinnen und Bürgern das nötige Vertrauen schaffen, KI-Anwendungen zu nutzen, und Unternehmen und öffentlichen Stellen die Rechtssicherheit für KI-gestützte Innovationen. Die Kommission befürwortet nachdrücklich ein Konzept, bei dem der Mensch im Mittelpunkt steht, das auf der Mitteilung über die Schaffung von Vertrauen in eine auf den Menschen ausgerichtete KI8 beruht und auch die während der Pilotphase eingegangenen Rückmeldungen zu den Ethik-Leitlinien der Hochrangigen Expertengruppe für Künstliche Intelligenz berücksichtigt" (EU-Kommission, 2020).
Das Weissbuch bildete die Basis für den AI-Act, der im Jahr 2024 verabschiedet wurde und der im Beitrag "Welche Verpflichtungen ergeben sich aus dem AI-Act für Bildungseinrichtungen und Lehrende" beschrieben wird.
Quelle: Europäische Kommission (2020). Weissbuch zur künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen.
Leitfäden
Urheberrecht
Folge 3: Urheberrecht

Bei der Kursvorbereitung möchten Lehrende gerne das vorhandene Lehrbuchmaterial mit anschaulichen Beispielen ergänzen und ihre Materialsammlung wie einen bunten Blumenstrauß präsentieren.
Doch wieviel darf man kopieren oder aus fremden Werken verwenden? Die im Jahr 2017 beschlossene Angleichung des Urheberrechts an die Erfordernisse und Bedarfe der Wissensgesellschaft hat zum Ziel, die Regelungen zu vereinfachen. Hier finden Sie die neuen Paragrafen 60a-h zu "Unterricht und Lehre" sowie Unterrichts- und Lehrmedien".
Datenschutz
KI & Datenschutz – Checkliste für den Einsatz von KI
Der Beitrag von Dr. Thomas Schwenke für den Datenschutz-Generator.de bietet einen Überblick über zentrale Datenschutzaspekte, die beim Einsatz von KI-Diensten zu beachten sind, um eine datenschutzkonforme Nutzung von KI zu gewährleisten. Zu folgenden Themen können Sie relevante Informationen kompakt finden (Auswahl):
- Verarbeitung personenbezogener Daten und DSGVO-Relevanz
- Zuverlässigkeit und Rechtsgrundlage des Einsatzes der KI
- KI-Verbote und KI-Erlaubnisse für Beschäftigte und Mitarbeitende
- Verbot automatisierter Entscheidungen im Einzelfall
- EU-US-Datentransfer
- Auskunfts- und Löschungsrechte
- Datenschutz- Folgenabschätzung
Hier finden Sie die Checkliste.
Folge 4: Datenschutz

Die Datenschutz-Grundverordnung und die E-Privacy-Verordnung regeln zukünftig den Umgang mit personenbezogenen Daten in Europa. Der folgende Überblick soll die Inhalte der Datenschutz-Grundverordnung vereinfacht darstellen.
Zunächst finden Sie die Verlinkungen auf die Gesetze und Verordnungen, anschließend eine Erläuterung verschiedener Artikel und abschließend Hinweise zu weiteren Angeboten, wie Literaturtipps, Online-Angebote, Textbaustein-Generatoren und u.a. das Video des wEbtalks auf erwachsenenbildung.at oder Checklisten für Ihre Einrichtung.
Ethik-Rahmen für den Einsatz von KI
Code of Conduct
Quelle: Bundesministerium für Digitales und Verkehr (Hrsg.) (2023). „G7 veröffentlichen Verhaltenskodex für Künstliche Intelligenz". Pressemitteilung vom 30.10.2023
Die sieben führenden Industrienationen des Westens (G7) – Deutschland, Frankreich, Großbritannien, Italien, Japan, Kanada und die USA – haben sich auf gemeinsame Leitplanken für die Entwicklung Künstlicher Intelligenz verständigt.
Der „Code of Conduct“ richtet sich an die Entwickler*innen fortgeschrittener KI-Systeme. Demnach sind diese dazu angehalten, Maßnahmen zur Förderung sicherer und vertrauenswürdiger KI zu ergreifen, wie z.B. eine frühzeitige Identifizierung und Minderung von Risiken, Transparenz über die Fähigkeiten und Grenzen von KI sowie eine Kennzeichnung KI-generierter Inhalte.
Der Verhaltenskodex der G7 ist hier auf Englisch verfügbar: https://www.mofa.go.jp/files/100573473.pdf
Patentrecht
Kann eine Künstliche Intelligenz als Erfinder genannt werden? - Nein, so lautet das Urteil der Juristischen Beschwerdekammer des Europäischen Parlaments (EPA) in der Sache J8/20 (Das Urteil liegt ausschließlich in englischer Sprache vor). Eine KI kann demnach nicht als Erfinder auf Patentanmeldungen genannt werden. Auf die folgenden Gesetzestexte wird dabei Bezug genommen:
Artikel 81 Erfindernennung
In der europäischen Patentanmeldung ist der Erfinder zu nennen. Ist der Anmelder nicht oder nicht allein der Erfinder, so hat die Erfindernennung eine Erklärung darüber zu enthalten, wie der Anmelder das Recht auf das europäische Patent erlangt hat.
Regel 19 Einreichung der Erfindernennung
(1) Die Erfindernennung hat im Antrag auf Erteilung eines europäischen Patents zu erfolgen. Ist jedoch der Anmelder nicht oder nicht allein der Erfinder, so ist die Erfindernennung in einem gesonderten Schriftstück einzureichen. Sie muss den Namen, die Vornamen, den Wohnsitzstaat und den Wohnort des Erfinders, die in Artikel 81 genannte Erklärung und die Unterschrift des Anmelders oder Vertreters enthalten.
(2) Die Richtigkeit der Erfindernennung wird vom Europäischen Patentamt nicht geprüft." (Quelle: Europäisches Patentamt )
Europäisches Patentamt (2022). Künstliche Intelligenz (KI) kann nicht als Erfinder auf Patentanmeldungen genannt werden
Rechtsgutachten
Rechtsgutachten zu ChatGPT
Das Projektteam von KI:edu.nrw der Ruhr-Universität Bochum (Dr. Peter Salden) veröffentlichte in Zusammenarbeit mit Prof. Dr. Thomas Hoeren von der Westfälischen Wilhelms-Universität Münster (WWU) eine erste juristische Bewertung, die sich mit dem Einsatz von KI-Tools wie ChatGPT im Hochschulkontext beschäftigt. Erste Ergebnisse zeigen, eine Software kann keine Urheberschaft an einem Text haben und ein Verbot von KI-Tools in Hochschulen ist nicht zielführend.
Peter Salden, Jonas Leschke (Hrsg.): Didaktische und rechtliche Perspektiven auf KI-gestütztes Schreiben in der Hochschulbildung, 2023, DOI: 10.13154/294-9734.
Das Gutachten ist mit der CC BY-NC-ND 4.0 Lizenz lizensiert.
Folge 13: Künstliche Intelligenz in der Lehre

Das Dossier "Künstliche Intelligenz in der Lehre" bietet zum einen Informationen rund um das Thema KI und zum andern eine Vielzahl an Hilfestellungen zum Einsatz von KI im Lehr-Lern-Prozess. wb-web stellt einen Kompetenzrahmen vor, weist auf die Möglichkeiten hin, die KI-Nutzung zu lernen und mit Prompting umzusetzen. Ziel ist es, die KI im Arbeitsfeld einzusetzen. Hierzu stellt wb-web Methoden für dein Einsatz von KI im Lehr-Lern-Prozess vor, und wo KI in der Bildungsverwaltung assistieren kann. Zu beiden Bereichen verweisen wir auf Tools und Toolsammlungen. Einzelne Tools, die wb-web testen konnte, werden mit Handlungsanleitungen hervorgehoben, bevor auf die KI-Empfehlungssysteme für die Weiterbildung Bezug genommen wird.