Grundlagen zu KI: Ethik und Datenschutz

Grundlagen zu KI: Ethik und Datenschutz

KI-Schulungsreihe für Migrationsberatungsstrukturen 17.06.2025

Referentinnen: Agnieszka Skwarek, Taissiya Sutormina

Ablauf

Grundlagen von KI

„Künstliche Intelligenz bezeichnet Systeme, die Aufgaben ausführen, die typischerweise menschliche Intelligenz erfordern – z. B. Sprache "verstehen", Probleme lösen oder lernen.“ (DFKI)

• KI folgt mathematischen Regeln und Wahrscheinlichkeiten:

Mit welchen Wörtern ein Satz wahrscheinlich weitergeht, wird basierend auf Millionen von Texten berechnet. KI sucht die Wortkombination, die statistisch am häufigsten vorkommt.Eingabe: „Wie lange dauert das Asylverfahren?“KI-Chatbot erkennt: „Asyl“ + „Dauer“ = 87 % Wahrscheinlichkeit für Antwortblock XY.

• KI lernt aus Datenmustern, nicht aus der Bedeutung:

Statt Regeln zu bestimmen, werden dem System viele Beispiele „gezeigt“. Regelbasiert (nicht KI): E-Mail wird erkannt, weil sie das Format „@“ enthält. KI: System erkennt E-Mail, weil es aus Millionen Beispielen typische Muster gelernt hat , was eine E-mail ist.

Was ist Maschinelles Lernen?

„Maschinelles Lernen (ML) ist ein Verfahren, bei dem Systeme aus Beispieldaten lernen, ohne explizit programmiert zu sein.“

• Überwachtes Lernen: Vorhersage auf Basis gekennzeichneter Daten

für Klassifikation, Sortierung und Filterung

• Unüberwachtes Lernen: Mustererkennung ohne Label

um Strukturen in großen Datenmengen zu entdecken (Analyse von wiederkehrenden Fragen)

• Bestärkendes Lernen: Lernen durch Belohnung/Strafe

für interaktive Systeme (z.B. KI-Chatbots mit Feedbacksystem)

Nicht KI

KI

Wenn-Dann-Logik fest programmierte Regeln lernt nicht aus Daten

Dynamisch und kontextsensitiv Lernfähig durch Daten arbeitet mit statistischen Wahrscheinlichkeiten

KI für Bilderkennung mittrainieren:

Interaktive Aufgabe: KI oder nicht?

Unterschied zwischen traditioneller (regelbasierter) Programmierung und KI-gestützten Verfahren

Interaktive Aufgabe: KI oder nicht?

Unterschied zwischen traditioneller (regelbasierter) Programmierung und KI-gestützten Verfahren

Interaktive Aufgabe: KI oder nicht?

Unterschied zwischen traditioneller (regelbasierter) Programmierung und KI-gestützten Verfahren

KI & Migrationsberatung

• KI-gestützte Übersetzung: Mehrsprachigkeitsunterstützung

• KI-Chatbots für Erstberatung: Automatisierte Beantwortung einfacher Fragen

• Datenanalyse: Auswertung von Beratungskommunikation, Bedarfsidentifikation

• Dokumentenprüfung & -verarbeitung: Protokollierung und Berichtserfassung

• Lernunterstützungssysteme: Adaptive Sprachlernprogramme

• Öffentlichkeitsarbeit: Bild- und Videogenerierung für die Arbeit in sozialen Medien

KI, Ethik & Risiken

Chat: Mensch oder KI? (EN)

• Kompetenzverschiebung (De-Skilling, Abgabe von Kompetenzen)

• Gefahr vor Falschinformationen und Halluzinationen

• Intransparente Entscheidungsfindung („Black Box“-Problematik)

• Datenschutzsicherheit

• Nachhaltigkeitsproblematik

• Diskriminierung durch algorithmische Verzerrung

Bilderkennung: Mensch oder KI?

"Kluger-Hans-Effekt"

@Postkartenmotiv/ak-ansichtskarten.de

Entscheidungsfindung: KI-Überleben (EN)

KI & Diskriminierung

Doktor (PhD) Hochschulabschluss ohne Bildung

• Direkte Diskriminierung

• Indirekte Diskriminierung (neutrale Merkmale wirken diskriminierend, weil sie mit sensiblen Merkmalen korrelieren)

• Datenbasierte Diskriminierung (verzerrte Trainingsdaten)

• Strukturelle Diskriminierung (Verstärkung bestehender Ungleichheiten)

Geschlecht

hell-M/ dunkel-W

Hautfarbe

Experiment zum Testen des Diskriminierungspotenzials bei KI-Bildgenerierung

KI & Recht

1. ​Rechtsgrundlagen: KI und Datenschutz
2. Praxisbeispiele
3. Praxistipps: Dos & Dont`s
4. Urheberrecht
5. Transparenzpflichten und Deepfakes

Agenda

Rechtsgrundlage für KI

Hohes Risiko

Begrenztes Risiko

Inakzeptables Risiko

Minimales Risiko

KI-Verordnung (AI-Act)​KI-VO: am 2. August 2024 in Kraft getreten​ und regelt Produktsicherheit​Je höher das Risiko einer KI-Anwendung, umso strenger sind die Anforderungen.​ Es wird unterschieden zwischen: ​

• verbotenen KI-Praktiken
• Hochrisiko-KI-Systemen ​
• KI-Systemen mit geringem Risiko ​
• sog. generativen KI-Systemen wie z.B. ChatGPT

Für Hochrisiko-KI-Systeme sind strenge Anforderungen an Technik und Organisation umzusetzen.​ Systeme mit einem geringen Risiko sollen lediglich Informations- und Transparenzpflichten unterliegen.

Risikostufen für KI-Systeme

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Übergangsfristen in der KI-Verordnung

2. August 2024:​

• Inkrafttreten KI-VO​
• Es gelten Übergangsfristen, insbesondere:​

2. Februar 2025: ​

• Allgemeine Bestimmungen treten in Kraft. ​
• Anbieter und Betreiber von KI-Systemen müssen ausreichende KI-Kompetenz für Mitarbeitende sicherstellen.​
• Verbotene KI-Praktiken, die ein unvertretbares Risiko darstellen, dürfen nicht mehr verwendet werden.​

2. August 2026: ​

• KI-VO voll anwendbar (mit einigen Ausnahmen)​

​

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Art. 4 KI-VO zu KI-Kompetenz

„Die Anbieter und Betreiber von KI‑Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI‑Systemen befasst sind, über ein ausreichendes Maß an KI‑Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI‑Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI‑Systeme eingesetzt werden sollen, zu berücksichtigen sind.“ ​

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Betreiber oder Anbieter?​

Art. 3 Ziff. 3 KI-VO: „Anbieter“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI‑System oder ein KI‑Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder das KI‑System unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb nimmt, sei es entgeltlich oder unentgeltlich;​ Art. 3 Ziff. 4 KI-VO: „Betreiber“ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI‑System in eigener Verantwortung verwendet, es sei denn, das KI‑System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet;​

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Was ist ein KI-System? (laut KI-VO)

Art. 3 Ziff. 1 KI-VO: „KI‑System“ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können;

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Was ist "KI-Kompetenz"?

Art. 3 Ziff. 56 KI-VO​: „KI‑Kompetenz“ die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI‑Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden.

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Generiert mit Chat GPT 4.o Prompt: "erstelle ein Bild zu KI-Kompetenz für MIgrationsberatung"

Rechtsgrundlagen Datenschutz

• Datenschutz-Grundverordnung (DSGVO): am 25. Mai 2018 in Kraft getreten
• Bundesdatenschutzgesetz (BDSG)

DSGVO und BDSG regeln den Schutz der personenbezogenen Daten. ​ Datenschutz-Grundverordnung (DSGVO) gilt auch für KI-Systeme, wenn personenbezogene Daten tatsächlich verarbeitet werden.

Datenschutzgrund-Verordnung

Bundesdatenschutzgesetz

Was sind personenbezogene Daten?​

• Name und Vorname​
• Geburtsdatum​
• Kontaktdaten (z.B. Adresse, E-Mail-Adresse, Telefonnummer etc.)​
• Körperliche Merkmale (z.B. Größe, Gewicht etc.)​
• Wohnverhältnisse/Vermögensverhältnisse/Bankverbindung​
• Geistige Zustände (z.B. Einstellungen, Überzeugungen etc.)​
• Weiter Daten (z.B. Standortdaten, Nutzungsdaten, Handlungen, Äußerungen, Werturteile, beruflicher Werdegang etc.)​
• usw.​

Datenschutzgrund-Verordnung

Beachte: Verschiedene Teilinformationen, die gemeinsam zur Identifizierung einer bestimmten Person führen können, stellen ebenfalls personenbezogene Daten dar!

Bundesdatenschutzgesetz

Datenschutz

• sog. Verbot mit Erlaubnisvorbehalt in der DSGVO: Daten dürfen grds. nicht verarbeitet werden, es sei denn es greift einer der Erlaubnistatbestände des Art. 6 DSGVO (z. B. Einwilligung)​.

Datenschutzgrund-Verordnung

Beachte: Die KI-Anwendungen (wie z.B. ChatGPT) untersagen in der Regel in den Nutzungsbedingungen die Eingabe von personenbezogenen Daten!

Bundesdatenschutzgesetz

Praxisbeispiel 1

​KI-VO anwendbar? DSGVO anwendbar?

Sie nutzen nach der Arbeit und ausschließlich für private Zwecke ChatGPT, um eine Antwort auf eine private E-Mail zu formulieren, wobei Sie...a) keine personenbezogenen Daten (Vorname/Nachname) verwenden​ b) personenbezogene Daten (Vorname/Nachname) verwenden​

Lösung

Praxisbeispiel 2

​KI-VO anwendbar? DSGVO anwendbar?

Sie nutzen im Rahmen Ihrer Arbeit DeepL, um einen in der deutschen Sprache erstellten Flyer, mit dem Sie Werbung für eine Veranstaltung machen möchten, in andere Sprachen zu übersetzen.

Lösung

Praxisbeispiel 3

​KI-VO anwendbar? DSGVO anwendbar?

Sie bekommen im Rahmen Ihrer Tätigkeit bei einer Beratungsstelle eine E-Mail mit einer rechtlichen Frage: „Guten Tag, mein Name ist Piotr Nowak und ich habe folgendes rechtliches Problem (Darstellung des Problems).“​ Sie fügen die E-Mail 1:1 in CoPilot ein und bitten um Erstellung einer Antwort.

Lösung

Praxistipps: Dos & Dont`s​

Vorsicht beim Verwenden von personenbezogenen Daten!

Eingabe von ausschließlich anonymisierten Texten in die KI-Systeme ​

Keine Eingabe von personenbezogenen Daten von Dritten in die KI-Systeme​​

Praxistipps: Dos & Dont`s​

Vorsicht bei Geschäftsgeheimnissen (interne Informationen z. B.: E-Mail-Inhalte, Verträge, Ideen, etc.)!

Keine Eingabe von Geschäftsgeheimnissen in die KI-Systeme​

Geschäftsgeheimnisse schützen und verantwortungsvoll behandeln

Anpassung der Einstellungen bei KI-Systemen

• ​ Wichtig beim Verwenden von KI-Systemen: Auswahl der Opting-Out Funktion unter Einstellungen, um den Einsatz der eingegebenen Daten zum Training von KI-Modellen zu verhindern.

• ​ Um z. B. den Chatverlauf bei ChatGPT und das Modelltraining zu deaktivieren, kann unter den Einstellungen zur Datenkontrolle die Funktion „Chatverlauf&Training“ abgestellt werden.

Exkurs

Screenshot - Einstellungen von ChatGPT zu Modelltraining

Datenschutzerklärung OpenAI

Praxistipps: Dos & Dont`s​

Einstellungen

Auswahl der entsprechenden Opting-Out Funktionen, um das Modelltraining zu deaktivieren

Keine Verwendung der eingegebenen Texte zur Trainingszwecken seitens KI-Systeme

Aktualität und Qualität der Daten in KI-Systemen am Beispiel von ChatGPT​

In Bezug auf Aktualität:​ Durchführung der Upgrades bisher in sehr großen Abständen, sodass aktuelle Daten (z.B. in Bezug auf Gesetzesänderungen) nicht enthalten und somit für die Beratung nur beschränkt anwendbar sind, da nicht aktuell.​ In Bezug auf Qualität:​ Vorhandene und aktualisierte Daten oft lückenhaft oder falsch.

GPT-4.o/GPT-4.5: Wissen bis April 2023GPT-3.5 (kostenlose Version): Wissen bis September 2021

Exkurs

Praxistipps: Dos & Dont`s​

Zweckfestlegung

Festlegen der Verwendungszwecke für erlaubte Anwendung von KI-Systemen ​ z. B. als Orientierungshilfe und Sprachunterstützung​

Keine generelle Zustimmung zur Verwendung von KI-Systemen

Urheberrecht (1)

• Das Urheberrecht schützt das geistige Eigentum. ​
• Für das Entstehen des Urheberrechts: Erfordernis einer persönlichen, geistigen Schöpfung, deren Urheber nur ein Mensch sein kann.​

• An den durch KI erstellten Texten/Bildern kann somit kein Urheberecht entstehen.

Dennoch: Nutzung der von KI generierten Texte/Bilder ist aus der urheberrechtlichen Sicht trotzdem problematisch.​ ​

Gesetz über Urheberrecht

Urheberrecht (2)

• Auch unbewusste Urheberechtverletzung möglich: z.B. wenn Daten mit denen KI gefüttert wurde, urheberrechtlich geschützt sind (wenn in den generierten Texten nur minimale Abweichungen von den ursprünglichen, urheberrechtlich geschützten Texten bzw. Übernahme von wesentlichen Elementen der Ursprungstexte stattfindet etc.)​

• Bei Veröffentlichung und Vervielfältigung besteht die Gefahr der Geltendmachung von Unterlassungs-, Schadensersatz- oder Beseitigungsansprüche seitens Dritten.

​

Gesetz über Urheberrecht

Praxistipps: Dos & Dont`s​

Bildererstellung

Keine Verwendung von KI-generierten Bildern/Informationsgrafiken/Memes

Erstellen von Bildern/Informationsgrafiken/Memes mit Canva

Praxistipps: Dos & Dont`s​

Texterstellung

Recherche und Kürzung/ Zusammenfassung von Informationen (z.B. zu Gesetzesänderungen), um einen Beitragstext zu erstellen, wenn Text abschließend vom Menschen geprüft wird ​

Keine Veröffentlichung mittels KI erstellten Texten in Publikationen oder wissenschaftlichen Texten

Transparenzpflichten

• Art. 50 Abs. 4 KI-VO: „Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.“

Deepfake?

Klare Kennzeichnung: „Dieser Inhalt wurde mit Unterstützung einer KI erstellt“

Grundsätze für eine vertrauenswürdige und ethisch vertretbare KI (EU-Verordnung)

Beachte: ​KI-Kennzeichnungspflicht bei Meta!

Empfehlung

Verfassen einer Richtlinie für den Einsatz von KI unter Berücksichtigung u.a. der folgenden Punkte:​

• Datenschutz

• Schutz der Geschäftsgeheimnisse​
• Urheberrecht​
• Deepfakes

Beispiel für die Formulierung einer Richtlinie für den Einsatz von künstlicher Intelligenz (21. Januar 2025)

Checkliste zum Einsatz LLM-basierter Chatbots von Hamburgischen Beauftragten für Datenschutz & Informationsfreiheit

Orientierungshilfe der Datenschutzkonferenz (6. Mai 2024)

Grundlagen zu KI: Ethik und Datenschutz

Vielen Dank für Ihre Aufmerksamkeit!

Referentinnen: Agnieszka Skwarek, Taissiya Sutormina

Lösung zum Praxisbeispiel 2

KI-VO (+): Deepl ist ein KI-basiertes Übersetzungstool, somit verwenden Sie ein KI-System im Rahmen einer beruflichen Tätigkeit und sind Betreiber i.S.v. Art. 3 Ziff. 4 KI-VO​. DSGVO (-): ​ da keine Verarbeitung von personenbezogenen Daten stattfindet​.

Generative KI

KI-Systeme, die neue Inhalte erzeugen, anstatt nur bestehende Daten zu analysieren oder zu klassifizieren. Generative KI basiert meist auf großen neuronalen Netzen, die mit Milliarden von Texten, Bildern oder anderen Daten trainiert wurden. Generative KI zeichnet das multimodale System aus, das mehrere Datentypen (Modalitäten) wie Text, Bild, Ton oder Video als Eingabe und/oder Ausgabe verwenden kann.

Lösung zum Praxisbeispiel 1

KI-VO (-): Sie verwenden das KI-System (ChatGPT) im Rahmen einer persönlichen und nicht beruflichen Tätigkeit und sind somit kein Betreiber i.S.v. Art. 3 Ziff. 4 KI-VO.​ DSGVO (-): ​ a) keine Verarbeitung von personenbezogenen Daten​; b) Verarbeitung von personenbezogenen Daten passiert zwar (+), aber DSGVO findet trotzdem keine Anwendung, da die personenbezogenen Daten ausschließlich zur Ausübung persönlicher oder familiärer Tätigkeiten verarbeitet werden (Art. 2 Abs. 2 c DSGVO).

Lösung zum Praxisbeispiel 3

KI-VO (+): da Sie ein KI-System (CoPilot) im Rahmen einer beruflichen Tätigkeit verwenden und somit Betreiber i.S.v. Art. 3 Ziff. 4 KI-VO sind​. DSGVO (+): ​ da Verarbeitung von personenbezogenen Daten (Vorname/Nachname) im Rahmen beruflichen Tätigkeit​ stattfindet.

Deepfake

Art. 3 Ziff. 60 KI-VO

ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und ​einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.