Grundlagen zu KI: Ethik und Datenschutz

Referentinnen: Agnieszka Skwarek, Taissiya Sutormina

KI-Schulungsreihe für Migrationsberatungsstrukturen 17.06.2025

Grundlagen zu KI: Ethik und Datenschutz

Ablauf

• KI folgt mathematischen Regeln und Wahrscheinlichkeiten:

Mit welchen Wörtern ein Satz wahrscheinlich weitergeht, wird basierend auf Millionen von Texten berechnet. KI sucht die Wortkombination, die statistisch am häufigsten vorkommt.Eingabe: „Wie lange dauert das Asylverfahren?“KI-Chatbot erkennt: „Asyl“ + „Dauer“ = 87 % Wahrscheinlichkeit für Antwortblock XY.

• KI lernt aus Datenmustern, nicht aus der Bedeutung:

Statt Regeln zu bestimmen, werden dem System viele Beispiele „gezeigt“. Regelbasiert (nicht KI): E-Mail wird erkannt, weil sie das Format „@“ enthält. KI: System erkennt E-Mail, weil es aus Millionen Beispielen typische Muster gelernt hat , was eine E-mail ist.

„Künstliche Intelligenz bezeichnet Systeme, die Aufgaben ausführen, die typischerweise menschliche Intelligenz erfordern – z. B. Sprache "verstehen", Probleme lösen oder lernen.“ (DFKI)

Grundlagen von KI

KI für Bilderkennung mittrainieren:

Dynamisch und kontextsensitiv Lernfähig durch Daten arbeitet mit statistischen Wahrscheinlichkeiten

Wenn-Dann-Logik fest programmierte Regeln lernt nicht aus Daten

KI

• Überwachtes Lernen: Vorhersage auf Basis gekennzeichneter Daten

für Klassifikation, Sortierung und Filterung

• Unüberwachtes Lernen: Mustererkennung ohne Label

um Strukturen in großen Datenmengen zu entdecken (Analyse von wiederkehrenden Fragen)

• Bestärkendes Lernen: Lernen durch Belohnung/Strafe

für interaktive Systeme (z.B. KI-Chatbots mit Feedbacksystem)

Nicht KI

„Maschinelles Lernen (ML) ist ein Verfahren, bei dem Systeme aus Beispieldaten lernen, ohne explizit programmiert zu sein.“

Was ist Maschinelles Lernen?

Unterschied zwischen traditioneller (regelbasierter) Programmierung und KI-gestützten Verfahren

Interaktive Aufgabe: KI oder nicht?

Unterschied zwischen traditioneller (regelbasierter) Programmierung und KI-gestützten Verfahren

Interaktive Aufgabe: KI oder nicht?

Unterschied zwischen traditioneller (regelbasierter) Programmierung und KI-gestützten Verfahren

Interaktive Aufgabe: KI oder nicht?

• KI-gestützte Übersetzung: Mehrsprachigkeitsunterstützung

• KI-Chatbots für Erstberatung: Automatisierte Beantwortung einfacher Fragen

• Datenanalyse: Auswertung von Beratungskommunikation, Bedarfsidentifikation

• Dokumentenprüfung & -verarbeitung: Protokollierung und Berichtserfassung

• Lernunterstützungssysteme: Adaptive Sprachlernprogramme

• Öffentlichkeitsarbeit: Bild- und Videogenerierung für die Arbeit in sozialen Medien

KI & Migrationsberatung

@Postkartenmotiv/ak-ansichtskarten.de

"Kluger-Hans-Effekt"

Entscheidungsfindung: KI-Überleben (EN)

Bilderkennung: Mensch oder KI?

Chat: Mensch oder KI? (EN)

• Kompetenzverschiebung (De-Skilling, Abgabe von Kompetenzen)

• Gefahr vor Falschinformationen und Halluzinationen

• Intransparente Entscheidungsfindung („Black Box“-Problematik)

• Datenschutzsicherheit

• Nachhaltigkeitsproblematik

• Diskriminierung durch algorithmische Verzerrung

KI, Ethik & Risiken

Doktor (PhD) Hochschulabschluss ohne Bildung

hell-M/ dunkel-W

Hautfarbe

Geschlecht

Experiment zum Testen des Diskriminierungspotenzials bei KI-Bildgenerierung

• Direkte Diskriminierung

• Indirekte Diskriminierung (neutrale Merkmale wirken diskriminierend, weil sie mit sensiblen Merkmalen korrelieren)

• Datenbasierte Diskriminierung (verzerrte Trainingsdaten)

• Strukturelle Diskriminierung (Verstärkung bestehender Ungleichheiten)

KI & Diskriminierung

Agenda

1. ​Rechtsgrundlagen: KI und Datenschutz
2. Praxisbeispiele
3. Praxistipps: Dos & Dont`s
4. Urheberrecht
5. Transparenzpflichten und Deepfakes

KI & Recht

Risikostufen für KI-Systeme

Minimales Risiko

Inakzeptables Risiko

Begrenztes Risiko

Hohes Risiko

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

KI-Verordnung (AI-Act)​KI-VO: am 2. August 2024 in Kraft getreten​ und regelt Produktsicherheit​Je höher das Risiko einer KI-Anwendung, umso strenger sind die Anforderungen.​ Es wird unterschieden zwischen: ​

• verbotenen KI-Praktiken
• Hochrisiko-KI-Systemen ​
• KI-Systemen mit geringem Risiko ​
• sog. generativen KI-Systemen wie z.B. ChatGPT

Für Hochrisiko-KI-Systeme sind strenge Anforderungen an Technik und Organisation umzusetzen.​ Systeme mit einem geringen Risiko sollen lediglich Informations- und Transparenzpflichten unterliegen.

Rechtsgrundlage für KI

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

2. August 2024:​

• Inkrafttreten KI-VO​
• Es gelten Übergangsfristen, insbesondere:​

2. Februar 2025: ​

• Allgemeine Bestimmungen treten in Kraft. ​
• Anbieter und Betreiber von KI-Systemen müssen ausreichende KI-Kompetenz für Mitarbeitende sicherstellen.​
• Verbotene KI-Praktiken, die ein unvertretbares Risiko darstellen, dürfen nicht mehr verwendet werden.​

2. August 2026: ​

• KI-VO voll anwendbar (mit einigen Ausnahmen)​

​

Übergangsfristen in der KI-Verordnung

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

„Die Anbieter und Betreiber von KI‑Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen sind.“ ​

Art. 4 KI-VO zu KI-Kompetenz

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Art. 3 Ziff. 3 KI-VO: „Anbieter“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI‑System oder ein KI‑Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI‑System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;​ Art. 3 Ziff. 4 KI-VO: „Betreiber“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI‑System in eigener Verantwortung verwendet, es sei denn, das KI‑System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet;​

Betreiber oder Anbieter?​

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Art. 3 Ziff. 1 KI-VO: „KI‑System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;

Was ist ein KI-System? (laut KI-VO)

Generiert mit Chat GPT 4.o Prompt: "erstelle ein Bild zu KI-Kompetenz für MIgrationsberatung"

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Art. 3 Ziff. 56 KI-VO​: „KI‑Kompetenz“ die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

Was ist "KI-Kompetenz"?

DSGVO und BDSG regeln den Schutz der personenbezogenen Daten. ​ Datenschutz-Grundverordnung (DSGVO) gilt auch für KI-Systeme, wenn personenbezogene Daten tatsächlich verarbeitet werden.

Datenschutzgrund-Verordnung

Bundesdatenschutzgesetz

• Datenschutz-Grundverordnung (DSGVO): am 25. Mai 2018 in Kraft getreten
• Bundesdatenschutzgesetz (BDSG)

Rechtsgrundlagen Datenschutz

Beachte: Verschiedene Teilinformationen, die gemeinsam zur Identifizierung einer bestimmten Person führen können, stellen ebenfalls personenbezogene Daten dar!

• Name und Vorname​
• Geburtsdatum​
• Kontaktdaten (z.B. Adresse, E-Mail-Adresse, Telefonnummer etc.)​
• Körperliche Merkmale (z.B. Größe, Gewicht etc.)​
• Wohnverhältnisse/Vermögensverhältnisse/Bankverbindung​
• Geistige Zustände (z.B. Einstellungen, Überzeugungen etc.)​
• Weiter Daten (z.B. Standortdaten, Nutzungsdaten, Handlungen, Äußerungen, Werturteile, beruflicher Werdegang etc.)​
• usw.​

Datenschutzgrund-Verordnung

Bundesdatenschutzgesetz

Was sind personenbezogene Daten?​

Beachte: Die KI-Anwendungen (wie z.B. ChatGPT) untersagen in der Regel in den Nutzungsbedingungen die Eingabe von personenbezogenen Daten!

• sog. Verbot mit Erlaubnisvorbehalt in der DSGVO: Daten dürfen grds. nicht verarbeitet werden, es sei denn es greift einer der Erlaubnistatbestände des Art. 6 DSGVO (z. B. Einwilligung)​.

Datenschutzgrund-Verordnung

Bundesdatenschutzgesetz

Datenschutz

Lösung

Sie nutzen nach der Arbeit und ausschließlich für private Zwecke ChatGPT, um eine Antwort auf eine private E-Mail zu formulieren, wobei Sie...a) keine personenbezogenen Daten (Vorname/Nachname) verwenden​ b) personenbezogene Daten (Vorname/Nachname) verwenden​

​KI-VO anwendbar? DSGVO anwendbar?

Praxisbeispiel 1

Lösung

Sie nutzen im Rahmen Ihrer Arbeit DeepL, um einen in der deutschen Sprache erstellten Flyer, mit dem Sie Werbung für eine Veranstaltung machen möchten, in andere Sprachen zu übersetzen.

​KI-VO anwendbar? DSGVO anwendbar?

Praxisbeispiel 2

Lösung

Sie bekommen im Rahmen Ihrer Tätigkeit bei einer Beratungsstelle eine E-Mail mit einer rechtlichen Frage: „Guten Tag, mein Name ist Piotr Nowak und ich habe folgendes rechtliches Problem (Darstellung des Problems).“​ Sie fügen die E-Mail 1:1 in CoPilot ein und bitten um Erstellung einer Antwort.

​KI-VO anwendbar? DSGVO anwendbar?

Praxisbeispiel 3

Keine Eingabe von personenbezogenen Daten von Dritten in die KI-Systeme​​

Eingabe von ausschließlich anonymisierten Texten in die KI-Systeme ​

Vorsicht beim Verwenden von personenbezogenen Daten!

Praxistipps: Dos & Dont`s​

Keine Eingabe von Geschäftsgeheimnissen in die KI-Systeme​

Geschäftsgeheimnisse schützen und verantwortungsvoll behandeln

Vorsicht bei Geschäftsgeheimnissen (interne Informationen z. B.: E-Mail-Inhalte, Verträge, Ideen, etc.)!

Praxistipps: Dos & Dont`s​

Datenschutzerklärung OpenAI

Screenshot - Einstellungen von ChatGPT zu Modelltraining

Exkurs

• ​ Wichtig beim Verwenden von KI-Systemen: Auswahl der Opting-Out Funktion unter Einstellungen, um den Einsatz der eingegebenen Daten zum Training von KI-Modellen zu verhindern.

• ​ Um z. B. den Chatverlauf bei ChatGPT und das Modelltraining zu deaktivieren, kann unter den Einstellungen zur Datenkontrolle die Funktion „Chatverlauf&Training“ abgestellt werden.

Anpassung der Einstellungen bei KI-Systemen

Keine Verwendung der eingegebenen Texte zur Trainingszwecken seitens KI-Systeme

Auswahl der entsprechenden Opting-Out Funktionen, um das Modelltraining zu deaktivieren

Einstellungen

Praxistipps: Dos & Dont`s​

GPT-4.o/GPT-4.5: Wissen bis April 2023GPT-3.5 (kostenlose Version): Wissen bis September 2021

Exkurs

In Bezug auf Aktualität:​ Durchführung der Upgrades bisher in sehr großen Abständen, sodass aktuelle Daten (z.B. in Bezug auf Gesetzesänderungen) nicht enthalten und somit für die Beratung nur beschränkt anwendbar sind, da nicht aktuell.​ In Bezug auf Qualität:​ Vorhandene und aktualisierte Daten oft lückenhaft oder falsch.

Aktualität und Qualität der Daten in KI-Systemen am Beispiel von ChatGPT​

Keine generelle Zustimmung zur Verwendung von KI-Systemen

Festlegen der Verwendungszwecke für erlaubte Anwendung von KI-Systemen ​ z. B. als Orientierungshilfe und Sprachunterstützung​

Zweckfestlegung

Praxistipps: Dos & Dont`s​

Gesetz über Urheberrecht

• Das Urheberrecht schützt das geistige Eigentum. ​
• Für das Entstehen des Urheberrechts: Erfordernis einer persönlichen, geistigen Schöpfung, deren Urheber nur ein Mensch sein kann.​

• An den durch KI erstellten Texten/Bildern kann somit kein Urheberecht entstehen.

Dennoch: Nutzung der von KI generierten Texte/Bilder ist aus der urheberrechtlichen Sicht trotzdem problematisch.​ ​

Urheberrecht (1)

Gesetz über Urheberrecht

• Auch unbewusste Urheberechtverletzung möglich: z.B. wenn Daten mit denen KI gefüttert wurde, urheberrechtlich geschützt sind (wenn in den generierten Texten nur minimale Abweichungen von den ursprünglichen, urheberrechtlich geschützten Texten bzw. Übernahme von wesentlichen Elementen der Ursprungstexte stattfindet etc.)​

• Bei Veröffentlichung und Vervielfältigung besteht die Gefahr der Geltendmachung von Unterlassungs-, Schadensersatz- oder Beseitigungsansprüche seitens Dritten.

​

Urheberrecht (2)

Keine Verwendung von KI-generierten Bildern/Informationsgrafiken/Memes

Erstellen von Bildern/Informationsgrafiken/Memes mit Canva

Bildererstellung

Praxistipps: Dos & Dont`s​

Keine Veröffentlichung mittels KI erstellten Texten in Publikationen oder wissenschaftlichen Texten

Recherche und Kürzung/ Zusammenfassung von Informationen (z.B. zu Gesetzesänderungen), um einen Beitragstext zu erstellen, wenn Text abschließend vom Menschen geprüft wird ​

Texterstellung

Praxistipps: Dos & Dont`s​

Beachte: ​KI-Kennzeichnungspflicht bei Meta!

Klare Kennzeichnung: „Dieser Inhalt wurde mit Unterstützung einer KI erstellt“

Deepfake?

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

• Art. 50 Abs. 4 KI-VO: „Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“

Transparenzpflichten

Beispiel für die Formulierung einer Richtlinie für den Einsatz von künstlicher Intelligenz (21. Januar 2025)

Checkliste zum Einsatz LLM-basierter Chatbots von Hamburgischen Beauftragten für Datenschutz & Informationsfreiheit

Orientierungshilfe der Datenschutzkonferenz (6. Mai 2024)

Verfassen einer Richtlinie für den Einsatz von KI unter Berücksichtigung u.a. der folgenden Punkte:​

• Datenschutz

• Schutz der Geschäftsgeheimnisse​
• Urheberrecht​
• Deepfakes

Empfehlung

Referentinnen: Agnieszka Skwarek, Taissiya Sutormina

Vielen Dank für Ihre Aufmerksamkeit!

Grundlagen zu KI: Ethik und Datenschutz

KI-VO (+): Deepl ist ein KI-basiertes Übersetzungstool, somit verwenden Sie ein KI-System im Rahmen einer beruflichen Tätigkeit und sind Betreiber i.S.v. Art. 3 Ziff. 4 KI-VO​. DSGVO (-): ​ da keine Verarbeitung von personenbezogenen Daten stattfindet​.

Lösung zum Praxisbeispiel 2

KI-Systeme, die neue Inhalte erzeugen, anstatt nur bestehende Daten zu analysieren oder zu klassifizieren. Generative KI basiert meist auf großen neuronalen Netzen, die mit Milliarden von Texten, Bildern oder anderen Daten trainiert wurden. Generative KI zeichnet das multimodale System aus, das mehrere Datentypen (Modalitäten) wie Text, Bild, Ton oder Video als Eingabe und/oder Ausgabe verwenden kann.

Generative KI

KI-VO (-): Sie verwenden das KI-System (ChatGPT) im Rahmen einer persönlichen und nicht beruflichen Tätigkeit und sind somit kein Betreiber i.S.v. Art. 3 Ziff. 4 KI-VO.​ DSGVO (-): ​ a) keine Verarbeitung von personenbezogenen Daten​; b) Verarbeitung von personenbezogenen Daten passiert zwar (+), aber DSGVO findet trotzdem keine Anwendung, da die personenbezogenen Daten ausschließlich zur Ausübung persönlicher oder familiärer Tätigkeiten verarbeitet werden (Art. 2 Abs. 2 c DSGVO).

Lösung zum Praxisbeispiel 1

KI-VO (+): da Sie ein KI-System (CoPilot) im Rahmen einer beruflichen Tätigkeit verwenden und somit Betreiber i.S.v. Art. 3 Ziff. 4 KI-VO sind​. DSGVO (+): ​ da Verarbeitung von personenbezogenen Daten (Vorname/Nachname) im Rahmen beruflichen Tätigkeit​ stattfindet.

Lösung zum Praxisbeispiel 3

ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und ​einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

Deepfake

Art. 3 Ziff. 60 KI-VO