Bewertungs-schema
für KI in der Bildung zu Daten, Datenschutz, Ethik und EU-Werten
Start
Von der Europäischen Union finanziert. Die geäußerten Ansichten und Meinungen entsprechen jedoch ausschließlich denen des Autors bzw. der Autoren und spiegeln nicht zwingend die der Europäischen Union oder der Europäischen Exekutivagentur für Bildung und Kultur (EACEA) wider. Weder die Europäische Union noch die EACEA können dafür verantwortlich gemacht werden.
Hier klicken für das ganze Dokument
Inhalt
04
01
Zusammenfassung des Bewertungsschemas
Operationale Überlegungen
05
Bewertung des derzeitigen Einsatzes von KI, dem KI-Entwicklungsstand und der damit verbundenen ethischen Bedenken
02
Pädagogische Überlegungen
06
03
KI-Governance und Monitoring
Sonstige Überlegungen
Referenzen
Zusammenfassung des Bewertungsschemas
01
Bewertung des derzeitigen Einsatzes von KI, dem KI-Entwicklungsstands und der damit verbundenen ethischen Bedenken
01
05
Sonstige Überlegungen
02
KI-Governance und Monitoring
03
Operationale Überlegungen
04
Pädagogische Überlegungen
Zurück zur Inhaltsübersicht
Bewertung des derzeitigen Einsatzes von KI, dem KI-Entwicklungsstand und der damit verbundenen ethischen Bedenken
02
4a
4b
Wenn die Antwort auf 4a „ja“ lautet, bietet das Bildungszentrum Schulungen/Unterstützung für die Nutzung dieser Instrumente an?
Welche der folgenden Technologien werden derzeit im Bildungszentrum eingesetzt?
Stützen sich diese oder andere Technologien, die im Bildungszentrum eingesetzt werden, auf KI?
Verfügt das Zentrum über eine offizielle KI-Politik/ Strategie?
Befürwortet und unterstützt das Bildungszentrum offiziell den Einsatz bestimmter KI-Tools oder ist ihre Verwendung auf einzelne Lehrkräfte beschränkt, die sich dafür entschieden haben, sie eigenständig in ihre Unterrichts-praxis einzubauen?
4c
Wenn die Antwort auf 4a "ja" lautet, wer hat Zugang zu diesen Instrumenten und nutzt sie?
+info
+info
+info
+info
Zurück zur Inhaltsübersicht
Hier klicken für das ganze Dokument
03
KI Governance und Monitoring
Einhaltung der einschlägigen regionalen/ nationalen/ europäischen Politiken und Rechtsvorschriften
Fragen der Privatsphäre, des Datenschutzes, der technischen Robustheit und der Sicherheit
+info
+info
Vielfat, Antidiskiminierung, Fairness und Gerechtigkeit
Transparenz, Rechenschaftspflicht und Aufsicht
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Inhaltsübersicht
EU AI Act
Das neue EU-KI-Gesetz (Europäisches Parlament und Rat der Europäischen Union, 2024) legt einen Ansatz der geteilten Verantwortung fest, bei dem KI-Anbieter, -Entwickler und - Einrichter alle eine Rolle bei der Einhaltung der KI-Vorschriftenspielen. Im EU-KI-Gesetz werden KI-Systeme in verschiedene Risikostufen eingeteilt, für die jeweils unterschiedliche Verpflichtungen gelten. Diese Klassifizierungen sollen die Sicherheit und den ethischen Einsatz von KI gewährleisten. Nachstehend sind die wichtigsten Klassifizierungen aufgeführt:
Unannehmbares Risiko
Hohes Risiko
Geringes/ begrenztes Risiko
Quelle: EU Artificial Intelligence Act
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
Personenbezogene und sensible Daten
- Viele KI-Tools können ohne die Erhebung personenbezogener/ sensibler Daten verwendet werden. Wenn dies der Fall ist, besteht der einfachste Ansatz darin, ob das jeweilige Werkzeug mit der aktuellen nationalen/ regionalen/ europäischen Gesetzgebung im Einnklang steht. Zum Beispiel:
- Hält das Bildungszentrum die einschlägigen Datenschutzbestimmungen ein (z.B. die 2016 von der EU veröffentliche Datenschutz-Grundverordnung)?
- Verfügt es über ein System zur Vermeidung voon Datenschutzverstößen?
- Fragen der Privatsphäre und des Datenschutzes sind komplex, und in den meisten Fällen ist es für ein Zentrum schwierig, die Einhaltung der Vorschriften unabhängig vom KI-Anbieter zu gewährleisten. Gemäß dem EU-KI-Gesetz liegt die Verantwortung für die Einhaltung der Vorschriften zum Schutz der Privatsphäre und des Datenschutzes wahrscheinlich bei den KI-Entwicklern und - Anbietern, und diese Einhaltung wird von einer externen Organisation und nicht von der Bildungseinrichtung bewertet.
- Es ist wichtig, auch zu berücksichtigen:
+info
- Das Institute for Ethical AI in Education (Institut für ethische KI im Bildungswesen) weist in seinem Bericht 2021 darauf hin, dass es wichtig ist, ein Gleichgewicht „zwischen dem Schutz der Privatsphäre und der legitimen Nutzung von Daten zur Erreichung klar definierter und wünschenswerter Bildungsziele“ zu finden (The Institute for Ethical AI in Education, 2021, S.8).
- Darüber hinaus müssen sich Bildungseinrichtungen des umfassenderen Rechtsrahmens bewusst sein, der sich auf KI-Tools auswirkt, einschließlich des Gesetzes über digitale Dienste (DSA, Europäisches Parlament und Rat der Europäischen Union, 2022), das zusätzliche Anforderungen an Online-Plattformen stellt. Der DSA verlangt von Plattformen, auch von solchen, die KI einsetzen, mehr Transparenz und Rechenschaftspflicht, insbesondere in Bezug auf die Moderation von Inhalten und den Umgang mit Nutzerdaten. Einrichtungen müssen sicherstellen, dass KI-Systeme, die in der Bildung eingesetzt werden, sowohl der DSGVO als auch der DAS entsprechen, um den Datenschutz, die Transparenz und die Sicherheit der Nutzer zu gewährleisten.
Zurück zur Sektionsübersicht
Hier klicken für das ganze Dokument
04
Operationale Überlegungen
Gewährleistung von Schulungen/Unterstützung für dieImplementierung/Nutzung von KI
Sicherstellung von menschlichem Handeln und Aufsicht im Unterrichtsprozess
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Inhaltsübersicht
Sicherstellung von menschlichem Handeln und Aufsicht im Unterrichtsprozess
Gibt es Verfahren, die es den Lehrkräften ermöglichen, dasSystem zu überwachen und einzugreifen, z. B. in Situationen, indenen Einfühlungs-vermögen im Umgang mit Lernenden oderEltern erforderlich ist?
Werden die Entscheidungen, die sich auf die Schüler undSchülerinnen auswirken, von der Lehrkraft getroffen und ist dieLehrkraft in der Lage, Anomalien oder mögliche Diskriminierungenzu erkennen?
Verfügen Lehrkräfte und Schulleitende über alle erforderlichenSchulungen und Informationen, um das System effektiv zu nutzen und zu gewährleisten, dass es sicher ist und keinen Schadenanrichtet oder die Rechte der Lernenden verletzt?
Ist die Rolle der Lehrkraft klar definiert, um sicherzustellen,dass die Lehrkraft während des Einsatzes des KI-Systems unterstützt? Wie wirkt sich das KI-System auf die didaktische Rolle der Lehrkraft aus?
Gibt es einen Mechanismus, der es den Lernenden ermöglicht, aus dem Unterricht auszusteigen, wenn ihre Bedenken nichtangemessen berücksichtigt wurden?
Gibt es Überwachungs-systeme, um ein übermäßiges Vertrauen in das KI-System zu verhindern?
+info
+info
+info
+info
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
Pädagogische Überlegungen
05
Allgemeine ethische Aspekte im Zusammenhang mit KI und Bewertung, akademisches Fehlverhalten
Stärkung der Lehrkräfte und des Unterrichts
+info
+info
Ein ausgewogener Ansatz für den Einsatz von KI beimLernen im Bereich Lehren und Ausbildung und wie KI die Entwicklung von Kompetenzen, aber auch das gesellschaftliche Wohl-ergehen beeinflussen kann
Urheberrecht und geistiges Eigentum
+info
Sicherstellen, dass Lernende auf eine KI-affine Arbeitswelt vorbereitet sind
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Inhaltsübersicht
Sicherstellen, dass die Schüler:innen auf eine KI-gesteuerte Arbeitswelt vorbereitet sind
- Wenn das Zentrum diese Art von Schulung noch nicht anbietet, ist es wichtig, ihr im Lehrplan Priorität einzuräumen.
- Das Zentrum könnte ein Forschungsteam einrichten, das untersucht, wofür KI im Bereich der Ausbildung eingesetzt wird, und sich an die Industrie und Organisationen wenden, um Einblicke zu erhalten und möglicherweise sogar Unterstützung bei der Durchführung dieser Ausbildung zu erhalten (falls es nicht über die nötigen Ressourcen verfügt, um dies unabhängig zu tun).
- Dies kann schrittweise für verschiedene Kurse/Programme erfolgen, wird aber angesichts der sprunghaften Entwicklung von KI und ihrer zunehmenden Verwendung in verschiedenen Bereichen ein kontinuierlicher Prozess sein.
- Praktische KI-Schulungen vermitteln den Studierenden reale Fähigkeiten für den Arbeitsmarkt, und es ist wichtig, dass sie in allen Studiengängen einheitlich angeboten werden. Es lässt sich zwar nur schwer vorhersagen, welche Tools in einem bestimmten Bereich in fünf Jahren verwendet werden, aber für eine Person mit praktischer Erfahrung in KI wird es einfacher sein, sich an neue KI-Tools anzupassen.
Zurück zur Sektionsübersicht
Stärkung der Lehrkräfte und Ausbildenden
Starting situation / Client
- KI kann Lehrenden helfen, indem sie sich wiederholende Aufgabenautomatisiert und Zeit für kreativere Arbeit freisetzt. Schulung und Unterstützung sind für diesen Wandel entscheidend, unabhängig vom Bildungs-hintergrund einer Person.
- Das Zentrum sollte Möglichkeiten zur Schulung und Unterstützung von KI-Nutzenden durch interne oder externe Seminare/Workshops sowie online und berufsbegleitende Lernoptionen anbieten. Alle diese Formate bieten wertvolle Lernmöglichkeiten und können auf unterschiedliche Präferenzen und Umstände zugeschnitten werden.
- Die Förderung der Zusammenarbeit zwischen den Mitarbeitenden und der Austausch von Erfahrungen/Materialien usw. kann ebenfalls von Vorteil sein, um eine Gemeinschaft zu schaffen und über Entwicklungen auf dem Laufenden zu bleiben
- Um KI-Kenntnisse zu entwickeln, können Bildungseinrichtungen auf etablierte Rahmenwerke zurückgreifen, wie z.B. der KI-Kompetenzrahmen der UNESCO für Lernende und Lehrende (UNESCO, 2024a; UNESCO, 2024b), die die für einen effektiven Umgang mit KI-Technologien erforderlichen Fähigkeiten und Kenntnisse umreißen. Die AI Pioneers Erweiterung zum DigCompEdu Rahmenwerk (Bekiaridis, 2024) hebt ebenfalls die KI-Fähigkeiten hervor, die von Lehrenden in Bildungskontexten benötigt werden.
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
Allgemeine ethische Aspekte im Zusammenhang mit KI und Bewertung, akademisches Fehlverhaltent
Wenn KI-Tools bei Bewertungen eingesetzt werden, stehen sie dann im Einklang mit fairen und integrativenBewertungspraktiken?
Werden die Studierenden über den ethischen Einsatz von KI beim Lernen und bei der Bewertung aufgeklärt?
9.
7.
Genauer gesagt:
+info
+info
Wie kann das Zentrum sicherstellen, dass KI die Lehrkräfte bei der Bewertung des Lernerfolgs der Lernenden nicht ersetzt, sondern vielmehr unterstützt?
Welche Maßnahmen gibt es, um akademisches Fehlverhaltenim Zusammenhang mit KI zu verhindern?
8.
10.
Im Einzelnen:
+info
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
Ein ausgewogener Ansatz für den Einsatz von KI beim Lernen im Bereich Lehren und Ausbildung und wie KI die Entwicklung von Kompetenzen, aber auch dasgesellschaftliche Wohlergehen beeinflussen kann
+info
Hat der Einsatz von KI es den Lehrenden/Ausbildenden ermöglicht, Zeit zu sparen und so die Kapazität des Bildungszentrums zu erhöhen?
Hat die Implementierung von KI die Personalisierung von Lehrinhalten verbessert?
11.
15.
Hat die Implementierung von KI das Engagement der Lernenden verbessert oder verschlechtert?
Wurden durch den Einsatz von KI die Lehrmaterialien und -methoden verbessert und damit die Möglichkeiten des Zentrums erweitert?
12.
16.
Hat die KI-Implementierung die Leistungen/Noten /Ergebnisse der Lernenden bzw. den Zugang zum Arbeitsmarkt verbessert oder verschlechtert?
Hat die Implementierung von KI die Qualität der Bewertung, einschließlich der Fairness, verbessert oder verschlechtert?
17.
13.
Wie beeinflusst die KI-Implementierung die Entwicklung der transversalen Fähigkeiten oder der Fähigkeiten des 21. Jahrhunderts und das emotionale Wohlbefinden der Schüler?
14.
Hat der Einsatz von KI die Zugänglichkeit verbessert oder verschlechtert?
18.
Unesco, 2014; Van Laar et al., 2017; Vincent-Lancrin & van der Vlies, 2020)
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
06
Sonstige Überlegungen
1.
2.
3.
4.
Werden die von dem KI-Tool gesammelten Daten derzeit genutzt oder könnten sie in Zukunft für kommerzielle Zwecke verwendet werden?
Wie nachhaltig und umweltfreundlich ist das KI-Tool?
Ist die Gestaltung des KI-Tools ethisch vertretbar?
Ist das KI-Tool Open-Source?
+info
+info
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Inhaltsübersicht
Dieser Abschnitt richtet sich an Lehrende, Lernende und IT-Mitarbeiter. Hier geht es um ethische Fragen im Zusammenhang mit der Schulung und Unterstützung von Lehrenden, Ausbildenden, Mitarbeitenden, Schülern und Schülerinnen in Bezug auf KI. Die Bereitstellung dieser Schulungen ermöglicht es dem Bildungszentrum, die menschliche Handlungsfähigkeit und Aufsicht beim Einsatz von KI zu gewährleisten, die KI-Kompetenz zu fördern und damit sowohl die Lehrenden als auch die Lernenden zu befähigen, die demokratische Beteiligung an der bildungspolitischen Planung und den KI-Praktiken zu fördern und schließlich Gerechtigkeit und Verantwortlichkeit zu unterstützen.
Gehe zur Seite
Ein Ansatz besteht darin, sich auf die Gestaltung von Bewertungen zu konzentrieren, die eine authentische Auseinandersetzung mit dem Lernprozess fördern. Beispielsweise können Bewertungen so gestaltet werden, dass sie kritisches Denken und Problemlösung fördern - Bereiche, in denen KI das menschliche Denken möglicherweise nicht vollständig nachbilden kann. Aufgaben wie Diskussionen in der Klasse, projektbasierte Aufgaben und mündliche Präsentationen können es den Lernenden erschweren, sich ausschließlich auf KI-Tools zu verlassen, und gleichzeitig ein tieferes Lernen fördern.
Eine weitere Strategie besteht darin, die KI als legitimes Hilfsmittel für die Bewertung zu nutzen, anstatt sie lediglich als potenzielle Quelle für Fehlverhalten zu betrachten. Durch die Integration von KI in einer Weise, die ihren verantwortungsvollen Einsatz fördert, können Institutionen die Bewertungskriterien so anpassen, dass sie die KI-gestützte Arbeit berücksichtigen. Einige Institutionen, wie das University College London, haben Richtlinien für die Integration von KI als unterstützende oder integrale Komponente der Bewertung erstellt, die mit der zunehmenden Akzeptanz von KI als Lernwerkzeug und nicht als Bedrohung übereinstimmen (University College London, n.d.).
Obwohl der Einsatz von KI bei der Bewertung berechtigte Bedenken aufwirft, ist es wichtig, sich auf die Förderung eines fairen und verantwortungsvollen Ansatzes für den Einsatz von KI im Bildungsbereich zu konzentrieren, anstatt nur das Risiko akademischen Fehlverhaltens zu betonen. Anstatt sich auf KI-Erkennungstools zu verlassen, die derzeit unzuverlässig oder voreingenommen zu sein scheinen, zumindest wenn sie nicht auf der Grundlage angemessener Datensätze trainiert wurden (Jiang et al., 2024), könnte es effektiver sein, die Gestaltung von Bewertungen und Lernaktivitäten zu überdenken.
Dieser Abschnitt ist für die Geschäftsleitung des Zentrums und die IT-Mitarbeiter oder KI-Anbieter/ Entwickler relevant, die mit der Bildungseinrichtung zusammenarbeiten, um KI-Tools bereitzustellen. In diesem Abschnitt werden Schlüsselfragen wie die Einhaltung relevanter regionaler/nationaler/europäischer Politiken und Gesetze, Fragen der Privatsphäre und des Datenschutzes, Transparenz und Rechenschaftspflicht, Vielfalt, Antidiskriminierung, Fairness und Gerechtigkeit behandelt. Wie der Leser feststellen wird, sind einige der Themen wie die Einhaltung der einschlägigen Rechtsvorschriften und des Datenschutzes einfach zu behandeln, wenn die Gesetze bereits in Kraft sind, während andere Themen wie Antidiskriminierung und Fairness komplexer sein können. In diesen Abschnitten sollen die Kernkonzepte herausgearbeitet und den Einrichtungen und Einzelpersonen Anhaltspunkte dafür gegeben werden, wie sie ihren Lernenden und Mitarbeitern unter Berücksichtigung der verfügbaren Informationen und der aktuellen Politik am besten dienen können.
Gehe zur Seite
1.
Gibt es Unterstützung für Lehrende/ Ausbildende, damit sie ihren Unterrichts an den Einsatz von KI anpassen können? Betrachten Sie zum Beispiel die folgenden Aspekte?
Gibt es eine ausreichende Schulung/ Unterstützung für alle Personen, die mit den KI-Tools arbeiten werden?
7.
Ist das KI-Tool einfach zu bedienen?
9.
Gibt es ausreichende Schulungen/Unterstützung für den ethischen Einsatz von KI?
8.
KI nicht in Benutzung
KI in Benutzung, aber nicht offiziell
KI offiziell in Benutzung
- Welche/ wie viele Daten werden gesammelt?
- Wer hat Zugang zu diiesen Daten?
- Wie werden die Daten verwendet?
- Ist die Datenmenge notwendig?
- Können einzelne Nutzende ihre Zustimmung zur Verwendung der Daten zurückziehen (auch im Zusammenhang mit der Nutzerautonomie)?
- Ist es zu Datenschutzverletzungen oder zur versehentlichen Weitergabe von persönlichen/ sensiblen Informationen gekommen? Falls dies der Fall ist, welche Maßnahmen wurden ergriffen, um ähnliche Probleme in Zukunft zu vermeiden?
Dieser erste Abschnitt enthält Leitfragen, die helfen sollen, eine allgemeine Vorstellung des KI-Entwicklungsstands des Zentrums auf der Grundlage der aktuellen Nutzung und des Verständnisses von KI und anderen Technologien zu gewinnen. Das Konzept des KI-Entwicklungsstands (JISC, 2022) bewertet, wie intensiv Institutionen KI und andere digitale Technologien nutzen und wie gut diese Nutzung auf organisatorischer Ebene unterstützt und befürwortet wird. Die folgenden Abschnitte basieren auf den Dimensionen von Chan (2023), die mit dem Bericht von Şenocak et al. (2024) und den ethischen Leitlinien der Europäischen Kommission (2022) angepasst wurden. Sie basieren darüber hinaus auf weiteren Arbeiten zur KI-Ethik in der Bildung (z. B. Holmes et al., 2022, 2023; Nguyen et al., 2023; Europarat, 2023) und Richtlinien von Bildungseinrichtungen und anderen Institutionen (z.B. AI HLEG, 2019; Chinese University of Hong Kong, 2023; Monash University, n. d.; Russell Group, 2023; University College London, n. d.).
Gehe zur Seite
References
- AI HLEG (High-Level Expert Group on Artificial Intelligence) (2019). Ethics guidelines for trustworthy artificial intelligence. European Commission. Retrieved from: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60419
- Atwell, G., Bekiarides, G., Deitmer, L., Perini, M., Roppertz, S., Stieglitz, D., & Tutlys, V. (2021). Artificial intelligence & vocational education and training. How to shape the future. Taccle AI. Retrieved from: https://taccleai.eu/wp-content/uploads/2021/12/TaccleAI_Recommendations_UK_compressed.pdf
- Bekiaridis, G. (2024). Supplement to the DigCompEDU Framework. Outlining the skills and competences of educators related to AI in education (Attwell, G. Ed.). AIPioneers.org. Retrieved from: https://aipioneers.org/supplement-to-the-digcompedu-framework
- CAST (2024). Universal Design for Learning Guidelines version 3.0. Retrieved from https://udlguidelines.cast.org
- Chan, C. K. Y. (2023). A comprehensive AI policy education framework for university teaching and learning. International Journal of Educational Technology in Higher Education, 20(1), 38. https://link.springer.com/article/10.1186/s41239-023-00408-3
- Chinese University of Hong Kong (2023). Use of Artificial Intelligence Tools in Teaching, Learning and Assessments: A Guide for Students. Retrieved from: https://www.aqs.cuhk.edu.hk/documents/A-guide-for-students_use-of-AI-tools.pdf
- Council of Europe (2023). Human rights by design future-proofing human rights protection in the era of AI. Retrieved from: https://rm.coe.int/follow-up-recommendation-on-the-2019-report-human-rights-by-design-fut/1680ab2279
- European Commission, Directorate-General for Education, Youth, Sport, and Culture. (2022). Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for educators. Publications Office of the European Union. https://data.europa.eu/doi/10.2766/153756
- European Union. (2016). Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data (General Data Protection Regulation). Official Journal of the European Union, L 119, 1–88. https://eur-lex.europa.eu/eli/reg/2016/679/oj
- Holmes, W., Porayska-Pomsta, K., Holstein, K., Sutherland, E., Baker, T., Shum, S. B., Santos, O. C., Rodrigo, M. T., Cukurova, M., Bittencourt, I. I., & Koedinger, K. R. (2022). Ethics of AI in education: Towards a community-wide framework. International Journal of Artificial Intelligence in Education, 1-23. https://doi.org/10.1007/s40593-021-00239-1
- Holmes, W., Iniesto, F., Anastopoulou, S., & Boticario, J. G. (2023). Stakeholder perspectives on the ethics of AI in distance-based higher education. International Review of Research in Open and Distributed Learning, 24(2), 96-117. https://doi.org/10.19173/irrodl.v24i2.6089
- JISC (2022). AI in tertiary Education. A summary of the current state of play. JISC Repository. Retrieved from https://repository.jisc.ac.uk/8783/1/ai-in-tertiary-education-report-june-2022.pdf
- Martínez-Comesaña, M., Rigueira-Díaz, X., Larrañaga-Janeiro, A., Martínez-Torres, J., Ocarranza-Prado, I., & Kreibel, D. (2023). Impacto de la inteligencia artificial en los métodos de evaluación en la educación primaria y secundaria: revisión sistemática de la literatura. Revista de Psicodidáctica, 28(2), 93-103. https://doi.org/10.1016/j.psicod.2023.06.001
- Monash University (n.d.). Assessment policy and process. Retrieved from: https://www.monash.edu/learning-teaching/teachhq/Teaching-practices/artificial-intelligence/assessment-policy-and-process
- Nguyen, A., Ngo, H. N., Hong, Y., Dang, B., & Nguyen, B. P. T. (2023). Ethical principles for artificial intelligence in education. Education and Information Technologies, 28(4), 4221-4241. https://doi.org/10.1007/s10639-022-11316-w
- Redecker, C. (2017). European Framework for the Digital Competence of Educators: DigCompEdu (Punie, Y. Ed.). Publications Office of the European Union. https://doi.org/10.2760/178382
- Russell Group (2023). Russell Group principles on the use of generative AI tools in education. Retrieved from: https://russellgroup.ac.uk/media/6137/rg_ai_principles-final.pdf
- Şenocak, D., Bozkurt, A., & Koçdar, S. (2024). Exploring the Ethical Principles for the Implementation of Artificial Intelligence in Education: Towards a Future Agenda. In Transforming Education With Generative AI: Prompt Engineering and Synthetic Content Creation (pp. 200-213). IGI Global.
- The Institute for Ethical AI in Education (2021). The Ethical Framework for AI in Education. Buckingham.ac.uk. Retrieved from: https://www.buckingham.ac.uk/wp-content/uploads/2021/03/The-Institute-for-Ethical-AI-in-Education-The-Ethical-Framework-for-AI-in-Education.pdf
- Tommasi, F., & Perini, M. (2024). Guidelines to design your own AI projects and initiatives (Wubbels, C. & Sartori, R. Eds.). AIPioneers.org Retrieved from: https://aipioneers.org/knowledge-base/report-guidelines-to-design-your-own-ai-projects-and-initiatives/
- UCL (n.d.). Using AI tools in assessment. Retrieved from: https://www.ucl.ac.uk/teaching-learning/generative-ai-hub/using-ai-tools-assessment
- UNESCO (2023a). ChatGPT and artificial intelligence in higher education. IESALC UNESCO. Retrieved from: https://www.iesalc.unesco.org/wp-content/uploads/2023/04/ChatGPT-and-Artificial-Intelligence-in-higher-education-Quick-Start-guide_EN_FINAL.pdf
- UNESCO (2023b). Guidance for generative AI in education and research. Retrieved from: https://unesdoc.unesco.org/ark:/48223/pf0000386693
- UNESCO (2019). Artificial Intelligence in Education: Challenges and Opportunities for Sustainable Development. Retrieved from: https://unesdoc.unesco.org/ark:/48223/pf0000366994
- UNESCO (2014). UNESCO Education Policy Brief (Vol.2), Skills for holistic human development. Retrieved from: unesdoc.unesco.org/ark:/48223/pf0000245064/PDF/245064eng.pdf.multi
- Van Laar, E., Van Deursen, A. J., Van Dijk, J. A., & De Haan, J. (2017). The relation between 21st-century skills and digital skills: A systematic literature review. Computers in human behavior, 72, 577-588. https://doi.org/10.1016/j.chb.2017.03.010
- Van Wynsberghe, A. (2021). Sustainable AI: AI for sustainability and the sustainability of AI. AI and Ethics, 1(3), 213-218. https://doi.org/10.1007/s43681-021-00043-6
- Vincent-Lancrin, S., & van der Vlies, R. (2020). Trustworthy artificial intelligence (AI) in education: Promises and challenges., OECD Education Working Papers, (218), OECD Publishing. https://doi.org/10.1787/a6c90fa9-en
- World Health Organization. (2015). Public health implications of excessive use of the internet, computers, smartphones, and similar electronic devices: Meeting report, Main Meeting Hall, Foundation for Promotion of Cancer Research, National Cancer Research Centre, Tokyo, Japan, 27–29 August 2014. World Health Organization. https://apps.who.int/iris/handle/10665/184264
- Yan, L., Sha, L., Zhao, L., Li, Y., Martinez‐Maldonado, R., Chen, G., Li, X., Jin, Y., & Gašević, D. (2024). Practical and ethical challenges of large language models in education: A systematic scoping review. British Journal of Educational Technology, 55(1), 90-112. http://dx.doi.org/10.1111/bjet.13370
Ist der Zweck des Einsatzes des KI-Tools allen Beteiligten klar?
8.
Gibt es ein Verfahren, das es den Beteiligten ermöglicht,Bedenken und Rückmeldungen zum Einsatz des KI-Tools unddessen Einfluss auf den Unterricht, das Lernen und das allgemeine Wohlbefinden vorzubringen?
9.
Wie plant das Zentrum, die Leistung des KI-Toolslangfristig zu überwachen/zu prüfen, um dieÜbereinstimmung mit den angestrebten Ergebnissen zu gewährleisten?
10.
Über die Darlegung der Regeln in einem offiziellen Dokument hinausist die Bereitstellung von Schulungen in Form von Workshops und Ressourcen der beste Weg, um über die ethische Nutzung von KI für das Lernen und die Bewertung aufzuklären.
Die Schule muss in ihrer KI-Politik oder ihrem Verhaltenskodex diespezifischen Regeln festlegen, die in Bezug auf den ethischenEinsatz von KI beim Lernen und bei der Bewertung befolgt werdenmüssen.
Lernende und Lehrende müssen verstehen, wann der Einsatz von KI für das Lernen angemessen ist, wann sie den Einsatz offenlegenmüssen und wann er verboten ist. Ein klares Verständnis der Grenzen von KI und ihrer ethischen Implikationen imBildungsbereich ist für die Wahrung der akademischen Integrität und der Rechenschafts-pflicht unerlässlich.
Welche Richtlinien und Vorschriften haben die Schulen bisher in ihre Entscheidungsprozesse über den Einsatz von KI einbezogen?
1.
Gibt es regionale, nationale oder europäische Richtlinien und Vorschriften, die berücksichtigt werden müssen?
2.
EU AI Act
Wir sind der Ansicht, dass die folgenden Fragen, die von der EuropäischenKommission in den 2022 veröffentlichten ethischen Leitlinien (Europäische Kommission, 2022) gestellt wurden, bei der Bewertung dieses Aspekts sehr hilfreich sein können.
5.
6.
Bietet das Zentrum allgemeine Schulungen (Seminare/ Workshops/Ressourcen) an, die die Entwicklung der KI-spezifischen Fähigkeiten der Lernenden unterstützen (z.B.promptes Engineering, ethische Überlegungen)?
Bietet das Zentrum eine praktische Ausbildung in KI-Tools an, die in dem spezifischen Studien-/Ausbildungsbereich(Leben) verwendet werden?
Der Einsatz von KI bei der Bewertung ermöglicht escBildungszentrenund Lehrkräften, Fortschritte häufiger zu verfolgen, standardisiertes Feedback zu geben und bestimmte Arten von Aufgaben zu benoten. Dies kann die Lernerfahrung potenziell verbessern.
Dennoch ist es wichtig, dass der Einsatz dieser KI-Tools nicht zueinem Rückschritt in Sachen Fairness und Inklusion führt. Die Einrichtungen sollten sicherstellen, dass die KI-Bewertungsmethoden nicht zu Voreingenommenheit führen unddass alle Lernende, unabhängig von ihrem Hintergrund,gleichberechtigt bewertet werden.
KI kann zur Ergänzung der Bewertung eingesetzt werden, um während des Lernprozesses kontinuierlichere Bewertungen vorzunehmen und den Lehrkräften die Arbeit zu erleichtern, so dass sie sich um mehr Schüler und Schülerinnen kümmern und auf ihre spezifischen Bedürfnisse eingehen können, während sie weniger Zeit für bestimmte Aufgaben aufwenden müssen. Eine vollständige Automatisierung der Benotung und Bewertung ist jedoch nicht das Ziel. Die Lehrkräfte sollten stets die Aufsicht behalten und für die endgültige Entscheidungsfindung verantwortlich sein, da sie die Fähigkeiten der Schüler und Schülerinnen in verschiedenen Kontexten und Aufgabentypen berücksichtigen und ihre Bildungsbedürfnisse und Fortschritte auf eine Weise verstehen können, die nicht allein auf der Grundlage von KI möglich ist.
Zentren, die bereits mehrere Technologien einsetzen, sind besser in der Lage KI zu implementieren, da sie wahrscheinlich sowohl überdie technische Infrastruktur als auch über das Fachwissen ihrerMitarbeitenden verfügen, um sie verantwortungsvoll einzusetzenund ihre Grenzen und ethischen Implikationen zu verstehen..
Wenn eine der bereits genutzten Technologien auf KI basiert, wäreein erster Schritt zu überlegen, was diese Technologie kann und wer mit dieser KI interagiert oder ihr ausgesetzt ist. Es ist wichtig, sich mit dem Personal und den Schülern und Schülerinnen zu beraten, die die KI nutzen bzw. nutzen werden, um eine demokratische Beteiligung an der Planung der Bildungspolitik und die Ermächtigung zur Nutzung sicherzustellen.
Dieser Abschnitt befasst sich fast ausschließlich mit Lehrenden, Ausbildenden, Schülern und Schülerinnen, also mit denjenigen, die am meisten mit den pädagogischen Aspekten des Einsatzes von KI im Bildungswesen zu tun haben. Die Leitfragen unterstützen ebenfalls die Entwicklung von Strategien, die die Befähigung von Lehrenden und Lernenden für ihre jeweiligen Aufgaben fördern, sodass Lerndende besser auf eine KI-gesteuerte Arbeitswelt vorbereitet werden (besonders wichtig im Kontext der Erwachsenenbildung und der beruflichen Aus- und Weiterbildung, siehe auch Attwell et al., 2021; UNESCO, 2019). Darüber hinaus werden in diesem Abschnitt allgemeine ethische Dilemmata im Zusammenhang mit dem Einsatz von KI bei der Bewertung sowie Fragen des Urheberrechts berücksichtigt. Schließlich wird überlegt, ob und wie die potenziellen Auswirkungen von KI auf die Entwicklung von Kompetenzen und das gesellschaftliche Wohlergehen angegangen werden können.
Gehe zur Seite
Dies kann erstens durch die Einhaltung der Grundsätze des universellen Designs beim Lernen erreicht werden (CAST, 2024). Durch die Berücksichtigung der Grundsätze des universellen Designs können KI-Tools im Bildungsbereich besser auf unterschiedliche Lernende, einschließlich solcher mit Behinderung oder Lernschwierigkeiten, eingehen und so eine integrative Lernumgebung fördern. Universal Design-Prinzipien können zum Beispiel Funktionen wie anpassbare Schritfgrößen, Text-to-Speech-Funktionen und alternative Methoden zur Bereitstellung von Inhalten umfassen.
Ethisches Desihn bezieht sich auf die Entwicklung von KI-Tools, die inklusiv und sicher sind und das Wohlergehen der Schüler:innen unterstützen.
Ein weiterer Ansatz für die ethische Gestaltung von KI-Tools ist die Berücksichtigung des Suchtpotenzials von Tools, das zu übermäßigem Engagemen oder übermäßiger Nutzung anregt. Dies ist auch deshalb eine wichtige Überlegung, weil es immer mehr Studien gibt, die die Auswirkungen von übermäßiger Bildschirmzeit, sozialen Medien oder Internetkonsum auf die psychische Gesundheit zeigen (Tang et al., 2021; World Health Organisation, 2015).
KI-basierte personalisierte Lernplattformen können beispielsweiseanonyme Daten über die Fortschritte, Stärken und Schwächen der Schüler und Schülerinnen sammeln, die zur Verbesserung der Plattform verwendet und möglicherweise an Drittunternehmen verkauft werden können, die andere Bildungsprodukte entwickelnund an den Profilen der Lernenden interessiert sind.
Im Abschnitt „KI-Governance und Monitoring“ haben wir unsbereits mit dem Thema personenbezogene oder sensible Daten befasst. Doch auch wenn diese Daten nicht vom KI-Tool erfasst werden, können andere Daten gesammelt und für kommerzielle Zwecke verwendet werden.
Die Zentren sollten wissen, ob dies bei dem von ihnen verwendetenKI-Tool der Fall ist und ob die Betroffenen über die Verwendungihrer Daten Bescheid wissen und diese möglicherweise ablehnen können. Viele Zentren oder Einzelpersonen sind vielleicht nichtdagegen, dass ihre Daten für kommerzielle Zwecke verwendetwerden, aber es ist wichtig, dass sie informiert sind und entscheidenkönnen.
Auch wenn viele Personen mit einem neuen Tool ohnespezielle Schulung und Problemlösung zurechtkommen,trifft dies nicht immer auf alle zu. Daher werden einigePersonen benachteiligt sein, wenn das Zentrum keine Schulung anbietet.
Von vielen KI-Tools gibt es kostenlose und kostenpflichtige Versionen. Wenn das Zentrum beschließt, ein KI-Tooleinzubinden, ist es wichtig, den Zugang für alle zugewährleisten.
Wenn sowohl der Zugang als auch die Schulung gewährleistet sind, wird das Risiko vermieden, die digitale Kluft zwischen den Nutzern von KI zu vergrößern. Sie fördern auch Transparenz, Fairness, Rechenschafts-pflicht und minimieren Diskriminierung, während sie gleichzeitig Mitarbeitende und Lernende befähigen und die menschliche Aufsicht aufrechterhalten. In den folgenden Abschnitten finden Sie weitere Informationen zu diesen Themen.
Die Teilnahme an Forschungsarbeiten zu diesen Aspekten oder die Aufwendung von Zeit für die Überprüfung der vorhandenen Evidenz kann ebenfalls dazu beitragen, diese Fragen zu bewerten, auchwenn dies zugegebenermaßen zeitaufwändig ist und nicht immer für alle Zentren in Frage kommt.
Auch wenn es für das Zentrum schwierig sein mag, jeden dieserAspekte zu bewerten, ist es wichtig, die Vorteile und potenziellen Nachteile des Einsatzes des/der KI-Tools zu berücksichtigen und zuversuchen, deren negative Folgen abzumildern.
Ein relativ einfacher Ansatz besteht darin, regelmäßige Treffenabzuhalten (z. B. am Ende eines Lehrmoduls, Semesters oderJahres) und die Beteiligten nach ihrer Meinung zu den obengenannten Fragen zu fragen. Getrennte Treffen könnten mitStudierenden, Lehrkräften oder Ausbildern und Verwaltungs- oderIT-Personal abgehalten werden. Beachten Sie, dass je nacheingesetztem KI-Tool einige der Fragen möglicherweise nichtrelevant sind und daher weggelassen werden können. Wenn beispielsweise AI nicht zur Bewertung eingesetzt wird, kann Frage 10 weggelassen werden.
Werden durch das/ die KI-Tool(s), das/die im Bildungszentrum verwendet werden soll(en), personenbezogene/ sensible Daten erhoben?
3.
Wie sehr sind sich die Mitarbeitenden der Bedeutung des Datenschutzes und ihrer Rolle beim Schutz der Daten bewusst? Erhalten die Mitarbeitenden regelmäßig Schulungen zum Thema Datenschutz und Datensicherheit?
4.
Dieser vierte und letzte Abschnitt des Bewertungsschemas konzentriert sich auf eine Reihe von Themen, die komplexer zu behandeln sind (Şenocak et al., 2024). Dabei handelt es sich um Nachhaltigkeit, ethisches Design und Kommerzialisierung.
Gehe zur Seite
KI hat große Auswirkungen auf die Umwelt, und dieAuseinandersetzung mit Fragen der Nachhaltigkeit ist ein wichtiger Schritt auf unserem Weg nach vorn (Van Wynsberghe, 2021). Bildungszentren könnten daher überlegen, wie sie Nachhaltigkeitgewährleisten können, indem sie entweder weniger ressourcen-intensive KI-Tools auswählen und/oder Tools und Unternehmen auswählen, di nachhaltigere Praktiken anwenden.
Zu berücksichtigen sind u. a.: Die ethische Nutzung von KI, die Einhaltung von Gesetzen und Vorschriften, Datenschutzund -sicherheit, die Integration relevanter KI in den Lehrplan, eine mögliche Zusammenarbeit mit der Industrie, die sowohl die Integration von KI in den Lehrplan als auch die Aktualisierung von KI-Fortschritten erleichtern kann, dieZuweisung von Ressourcen und die Schulung von Mitarbeitenden.
Es gibt mehrere Richtlinien, die sich mit KI-Politik und ethischen Fragen befassen. Während sich die KI-Gesetzgebung weiterentwickelt, ist der KI-Akt der EU (Europäisches Parlament und Rat der Europäischen Union, 2024) ein Schlüssel-dokument, das neben der regionalen und nationalen Gesetzgebung bei der Entwicklung einer offiziellen KI-Politik oder -Strategie zu berücksichtigen ist (dies wird im nächsten Abschnitt über KI-Governance und Monitoring nähererläutert).
Selbst wenn das Zentrum KI einsetzt, bedeutet dies nichtunbedingt, dass es über eine offizielle KI-Politik/Strategieverfügt. Es ist jedoch wichtig, die Entwicklung einer solchenPolitik/Strategie gleichzeitig mit der Einführung/Ausweitungdes Einsatzes von KI in Erwägung zu ziehen.
Wenn KI-Tools quelloffen sind, können Nutzende auf sie zugreifen und sie verändern. Dies kann zu mehr Transparenz, Datenschutz, Sicherheit und Kontrolle beitragen (Yan et al., 2023) und auch zu Flexibilität und Anpassung.
Entspricht diese Nutzung ethischen und wissenschaftlichenStandards?
4.
Werden die Datensätze, die zum Training der KI verwendetwerden, auf ethische und legale Weise beschafft?
2.
Wer besitzt die Rechte an den von der KI erzeugten Inhalten?
3.
Gibt es Vorurteile und wie können sie zu Ungerechtigkeit oder Diskriminierung führen?
7.
Gibt es eine kostenlose Version des Tools und wenn nicht, kann das Zentrum den Zugang für alle seine Mitglieder sicherstellen? Kann das Zentrum generell die Zugänglichkeit für alle Nutzer gewährleisten? Gibt es Hindernisse für die Nutzung des Tools durch bestimmte Personen?
5.
Ist der Inhalt angemessen und an die Bedürfnisse der Zielgruppe angepasst?
6.
Evaluation Schema_Deutsch
Frieda Klaus
Created on April 14, 2025
Start designing with a free template
Discover more than 1500 professional designs like these:
View
Momentum: Onboarding Presentation
View
Dynamic Visual Presentation
View
Corporate Christmas Presentation
View
Customer Service Manual
View
Business Results Presentation
View
Meeting Plan Presentation
View
Business vision deck
Explore all templates
Transcript
Bewertungs-schema
für KI in der Bildung zu Daten, Datenschutz, Ethik und EU-Werten
Start
Von der Europäischen Union finanziert. Die geäußerten Ansichten und Meinungen entsprechen jedoch ausschließlich denen des Autors bzw. der Autoren und spiegeln nicht zwingend die der Europäischen Union oder der Europäischen Exekutivagentur für Bildung und Kultur (EACEA) wider. Weder die Europäische Union noch die EACEA können dafür verantwortlich gemacht werden.
Hier klicken für das ganze Dokument
Inhalt
04
01
Zusammenfassung des Bewertungsschemas
Operationale Überlegungen
05
Bewertung des derzeitigen Einsatzes von KI, dem KI-Entwicklungsstand und der damit verbundenen ethischen Bedenken
02
Pädagogische Überlegungen
06
03
KI-Governance und Monitoring
Sonstige Überlegungen
Referenzen
Zusammenfassung des Bewertungsschemas
01
Bewertung des derzeitigen Einsatzes von KI, dem KI-Entwicklungsstands und der damit verbundenen ethischen Bedenken
01
05
Sonstige Überlegungen
02
KI-Governance und Monitoring
03
Operationale Überlegungen
04
Pädagogische Überlegungen
Zurück zur Inhaltsübersicht
Bewertung des derzeitigen Einsatzes von KI, dem KI-Entwicklungsstand und der damit verbundenen ethischen Bedenken
02
4a
4b
Wenn die Antwort auf 4a „ja“ lautet, bietet das Bildungszentrum Schulungen/Unterstützung für die Nutzung dieser Instrumente an?
Welche der folgenden Technologien werden derzeit im Bildungszentrum eingesetzt?
Stützen sich diese oder andere Technologien, die im Bildungszentrum eingesetzt werden, auf KI?
Verfügt das Zentrum über eine offizielle KI-Politik/ Strategie?
Befürwortet und unterstützt das Bildungszentrum offiziell den Einsatz bestimmter KI-Tools oder ist ihre Verwendung auf einzelne Lehrkräfte beschränkt, die sich dafür entschieden haben, sie eigenständig in ihre Unterrichts-praxis einzubauen?
4c
Wenn die Antwort auf 4a "ja" lautet, wer hat Zugang zu diesen Instrumenten und nutzt sie?
+info
+info
+info
+info
Zurück zur Inhaltsübersicht
Hier klicken für das ganze Dokument
03
KI Governance und Monitoring
Einhaltung der einschlägigen regionalen/ nationalen/ europäischen Politiken und Rechtsvorschriften
Fragen der Privatsphäre, des Datenschutzes, der technischen Robustheit und der Sicherheit
+info
+info
Vielfat, Antidiskiminierung, Fairness und Gerechtigkeit
Transparenz, Rechenschaftspflicht und Aufsicht
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Inhaltsübersicht
EU AI Act
Das neue EU-KI-Gesetz (Europäisches Parlament und Rat der Europäischen Union, 2024) legt einen Ansatz der geteilten Verantwortung fest, bei dem KI-Anbieter, -Entwickler und - Einrichter alle eine Rolle bei der Einhaltung der KI-Vorschriftenspielen. Im EU-KI-Gesetz werden KI-Systeme in verschiedene Risikostufen eingeteilt, für die jeweils unterschiedliche Verpflichtungen gelten. Diese Klassifizierungen sollen die Sicherheit und den ethischen Einsatz von KI gewährleisten. Nachstehend sind die wichtigsten Klassifizierungen aufgeführt:
Unannehmbares Risiko
Hohes Risiko
Geringes/ begrenztes Risiko
Quelle: EU Artificial Intelligence Act
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
Personenbezogene und sensible Daten
+info
Zurück zur Sektionsübersicht
Hier klicken für das ganze Dokument
04
Operationale Überlegungen
Gewährleistung von Schulungen/Unterstützung für dieImplementierung/Nutzung von KI
Sicherstellung von menschlichem Handeln und Aufsicht im Unterrichtsprozess
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Inhaltsübersicht
Sicherstellung von menschlichem Handeln und Aufsicht im Unterrichtsprozess
Gibt es Verfahren, die es den Lehrkräften ermöglichen, dasSystem zu überwachen und einzugreifen, z. B. in Situationen, indenen Einfühlungs-vermögen im Umgang mit Lernenden oderEltern erforderlich ist?
Werden die Entscheidungen, die sich auf die Schüler undSchülerinnen auswirken, von der Lehrkraft getroffen und ist dieLehrkraft in der Lage, Anomalien oder mögliche Diskriminierungenzu erkennen?
Verfügen Lehrkräfte und Schulleitende über alle erforderlichenSchulungen und Informationen, um das System effektiv zu nutzen und zu gewährleisten, dass es sicher ist und keinen Schadenanrichtet oder die Rechte der Lernenden verletzt?
Ist die Rolle der Lehrkraft klar definiert, um sicherzustellen,dass die Lehrkraft während des Einsatzes des KI-Systems unterstützt? Wie wirkt sich das KI-System auf die didaktische Rolle der Lehrkraft aus?
Gibt es einen Mechanismus, der es den Lernenden ermöglicht, aus dem Unterricht auszusteigen, wenn ihre Bedenken nichtangemessen berücksichtigt wurden?
Gibt es Überwachungs-systeme, um ein übermäßiges Vertrauen in das KI-System zu verhindern?
+info
+info
+info
+info
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
Pädagogische Überlegungen
05
Allgemeine ethische Aspekte im Zusammenhang mit KI und Bewertung, akademisches Fehlverhalten
Stärkung der Lehrkräfte und des Unterrichts
+info
+info
Ein ausgewogener Ansatz für den Einsatz von KI beimLernen im Bereich Lehren und Ausbildung und wie KI die Entwicklung von Kompetenzen, aber auch das gesellschaftliche Wohl-ergehen beeinflussen kann
Urheberrecht und geistiges Eigentum
+info
Sicherstellen, dass Lernende auf eine KI-affine Arbeitswelt vorbereitet sind
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Inhaltsübersicht
Sicherstellen, dass die Schüler:innen auf eine KI-gesteuerte Arbeitswelt vorbereitet sind
Zurück zur Sektionsübersicht
Stärkung der Lehrkräfte und Ausbildenden
Starting situation / Client
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
Allgemeine ethische Aspekte im Zusammenhang mit KI und Bewertung, akademisches Fehlverhaltent
Wenn KI-Tools bei Bewertungen eingesetzt werden, stehen sie dann im Einklang mit fairen und integrativenBewertungspraktiken?
Werden die Studierenden über den ethischen Einsatz von KI beim Lernen und bei der Bewertung aufgeklärt?
9.
7.
Genauer gesagt:
+info
+info
Wie kann das Zentrum sicherstellen, dass KI die Lehrkräfte bei der Bewertung des Lernerfolgs der Lernenden nicht ersetzt, sondern vielmehr unterstützt?
Welche Maßnahmen gibt es, um akademisches Fehlverhaltenim Zusammenhang mit KI zu verhindern?
8.
10.
Im Einzelnen:
+info
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
Ein ausgewogener Ansatz für den Einsatz von KI beim Lernen im Bereich Lehren und Ausbildung und wie KI die Entwicklung von Kompetenzen, aber auch dasgesellschaftliche Wohlergehen beeinflussen kann
+info
Hat der Einsatz von KI es den Lehrenden/Ausbildenden ermöglicht, Zeit zu sparen und so die Kapazität des Bildungszentrums zu erhöhen?
Hat die Implementierung von KI die Personalisierung von Lehrinhalten verbessert?
11.
15.
Hat die Implementierung von KI das Engagement der Lernenden verbessert oder verschlechtert?
Wurden durch den Einsatz von KI die Lehrmaterialien und -methoden verbessert und damit die Möglichkeiten des Zentrums erweitert?
12.
16.
Hat die KI-Implementierung die Leistungen/Noten /Ergebnisse der Lernenden bzw. den Zugang zum Arbeitsmarkt verbessert oder verschlechtert?
Hat die Implementierung von KI die Qualität der Bewertung, einschließlich der Fairness, verbessert oder verschlechtert?
17.
13.
Wie beeinflusst die KI-Implementierung die Entwicklung der transversalen Fähigkeiten oder der Fähigkeiten des 21. Jahrhunderts und das emotionale Wohlbefinden der Schüler?
14.
Hat der Einsatz von KI die Zugänglichkeit verbessert oder verschlechtert?
18.
Unesco, 2014; Van Laar et al., 2017; Vincent-Lancrin & van der Vlies, 2020)
Hier klicken für das ganze Dokument
Zurück zur Sektionsübersicht
06
Sonstige Überlegungen
1.
2.
3.
4.
Werden die von dem KI-Tool gesammelten Daten derzeit genutzt oder könnten sie in Zukunft für kommerzielle Zwecke verwendet werden?
Wie nachhaltig und umweltfreundlich ist das KI-Tool?
Ist die Gestaltung des KI-Tools ethisch vertretbar?
Ist das KI-Tool Open-Source?
+info
+info
+info
+info
Hier klicken für das ganze Dokument
Zurück zur Inhaltsübersicht
Dieser Abschnitt richtet sich an Lehrende, Lernende und IT-Mitarbeiter. Hier geht es um ethische Fragen im Zusammenhang mit der Schulung und Unterstützung von Lehrenden, Ausbildenden, Mitarbeitenden, Schülern und Schülerinnen in Bezug auf KI. Die Bereitstellung dieser Schulungen ermöglicht es dem Bildungszentrum, die menschliche Handlungsfähigkeit und Aufsicht beim Einsatz von KI zu gewährleisten, die KI-Kompetenz zu fördern und damit sowohl die Lehrenden als auch die Lernenden zu befähigen, die demokratische Beteiligung an der bildungspolitischen Planung und den KI-Praktiken zu fördern und schließlich Gerechtigkeit und Verantwortlichkeit zu unterstützen.
Gehe zur Seite
Ein Ansatz besteht darin, sich auf die Gestaltung von Bewertungen zu konzentrieren, die eine authentische Auseinandersetzung mit dem Lernprozess fördern. Beispielsweise können Bewertungen so gestaltet werden, dass sie kritisches Denken und Problemlösung fördern - Bereiche, in denen KI das menschliche Denken möglicherweise nicht vollständig nachbilden kann. Aufgaben wie Diskussionen in der Klasse, projektbasierte Aufgaben und mündliche Präsentationen können es den Lernenden erschweren, sich ausschließlich auf KI-Tools zu verlassen, und gleichzeitig ein tieferes Lernen fördern.
Eine weitere Strategie besteht darin, die KI als legitimes Hilfsmittel für die Bewertung zu nutzen, anstatt sie lediglich als potenzielle Quelle für Fehlverhalten zu betrachten. Durch die Integration von KI in einer Weise, die ihren verantwortungsvollen Einsatz fördert, können Institutionen die Bewertungskriterien so anpassen, dass sie die KI-gestützte Arbeit berücksichtigen. Einige Institutionen, wie das University College London, haben Richtlinien für die Integration von KI als unterstützende oder integrale Komponente der Bewertung erstellt, die mit der zunehmenden Akzeptanz von KI als Lernwerkzeug und nicht als Bedrohung übereinstimmen (University College London, n.d.).
Obwohl der Einsatz von KI bei der Bewertung berechtigte Bedenken aufwirft, ist es wichtig, sich auf die Förderung eines fairen und verantwortungsvollen Ansatzes für den Einsatz von KI im Bildungsbereich zu konzentrieren, anstatt nur das Risiko akademischen Fehlverhaltens zu betonen. Anstatt sich auf KI-Erkennungstools zu verlassen, die derzeit unzuverlässig oder voreingenommen zu sein scheinen, zumindest wenn sie nicht auf der Grundlage angemessener Datensätze trainiert wurden (Jiang et al., 2024), könnte es effektiver sein, die Gestaltung von Bewertungen und Lernaktivitäten zu überdenken.
Dieser Abschnitt ist für die Geschäftsleitung des Zentrums und die IT-Mitarbeiter oder KI-Anbieter/ Entwickler relevant, die mit der Bildungseinrichtung zusammenarbeiten, um KI-Tools bereitzustellen. In diesem Abschnitt werden Schlüsselfragen wie die Einhaltung relevanter regionaler/nationaler/europäischer Politiken und Gesetze, Fragen der Privatsphäre und des Datenschutzes, Transparenz und Rechenschaftspflicht, Vielfalt, Antidiskriminierung, Fairness und Gerechtigkeit behandelt. Wie der Leser feststellen wird, sind einige der Themen wie die Einhaltung der einschlägigen Rechtsvorschriften und des Datenschutzes einfach zu behandeln, wenn die Gesetze bereits in Kraft sind, während andere Themen wie Antidiskriminierung und Fairness komplexer sein können. In diesen Abschnitten sollen die Kernkonzepte herausgearbeitet und den Einrichtungen und Einzelpersonen Anhaltspunkte dafür gegeben werden, wie sie ihren Lernenden und Mitarbeitern unter Berücksichtigung der verfügbaren Informationen und der aktuellen Politik am besten dienen können.
Gehe zur Seite
1.
Gibt es Unterstützung für Lehrende/ Ausbildende, damit sie ihren Unterrichts an den Einsatz von KI anpassen können? Betrachten Sie zum Beispiel die folgenden Aspekte?
Gibt es eine ausreichende Schulung/ Unterstützung für alle Personen, die mit den KI-Tools arbeiten werden?
7.
Ist das KI-Tool einfach zu bedienen?
9.
Gibt es ausreichende Schulungen/Unterstützung für den ethischen Einsatz von KI?
8.
KI nicht in Benutzung
KI in Benutzung, aber nicht offiziell
KI offiziell in Benutzung
Dieser erste Abschnitt enthält Leitfragen, die helfen sollen, eine allgemeine Vorstellung des KI-Entwicklungsstands des Zentrums auf der Grundlage der aktuellen Nutzung und des Verständnisses von KI und anderen Technologien zu gewinnen. Das Konzept des KI-Entwicklungsstands (JISC, 2022) bewertet, wie intensiv Institutionen KI und andere digitale Technologien nutzen und wie gut diese Nutzung auf organisatorischer Ebene unterstützt und befürwortet wird. Die folgenden Abschnitte basieren auf den Dimensionen von Chan (2023), die mit dem Bericht von Şenocak et al. (2024) und den ethischen Leitlinien der Europäischen Kommission (2022) angepasst wurden. Sie basieren darüber hinaus auf weiteren Arbeiten zur KI-Ethik in der Bildung (z. B. Holmes et al., 2022, 2023; Nguyen et al., 2023; Europarat, 2023) und Richtlinien von Bildungseinrichtungen und anderen Institutionen (z.B. AI HLEG, 2019; Chinese University of Hong Kong, 2023; Monash University, n. d.; Russell Group, 2023; University College London, n. d.).
Gehe zur Seite
References
Ist der Zweck des Einsatzes des KI-Tools allen Beteiligten klar?
8.
Gibt es ein Verfahren, das es den Beteiligten ermöglicht,Bedenken und Rückmeldungen zum Einsatz des KI-Tools unddessen Einfluss auf den Unterricht, das Lernen und das allgemeine Wohlbefinden vorzubringen?
9.
Wie plant das Zentrum, die Leistung des KI-Toolslangfristig zu überwachen/zu prüfen, um dieÜbereinstimmung mit den angestrebten Ergebnissen zu gewährleisten?
10.
Über die Darlegung der Regeln in einem offiziellen Dokument hinausist die Bereitstellung von Schulungen in Form von Workshops und Ressourcen der beste Weg, um über die ethische Nutzung von KI für das Lernen und die Bewertung aufzuklären.
Die Schule muss in ihrer KI-Politik oder ihrem Verhaltenskodex diespezifischen Regeln festlegen, die in Bezug auf den ethischenEinsatz von KI beim Lernen und bei der Bewertung befolgt werdenmüssen.
Lernende und Lehrende müssen verstehen, wann der Einsatz von KI für das Lernen angemessen ist, wann sie den Einsatz offenlegenmüssen und wann er verboten ist. Ein klares Verständnis der Grenzen von KI und ihrer ethischen Implikationen imBildungsbereich ist für die Wahrung der akademischen Integrität und der Rechenschafts-pflicht unerlässlich.
Welche Richtlinien und Vorschriften haben die Schulen bisher in ihre Entscheidungsprozesse über den Einsatz von KI einbezogen?
1.
Gibt es regionale, nationale oder europäische Richtlinien und Vorschriften, die berücksichtigt werden müssen?
2.
EU AI Act
Wir sind der Ansicht, dass die folgenden Fragen, die von der EuropäischenKommission in den 2022 veröffentlichten ethischen Leitlinien (Europäische Kommission, 2022) gestellt wurden, bei der Bewertung dieses Aspekts sehr hilfreich sein können.
5.
6.
Bietet das Zentrum allgemeine Schulungen (Seminare/ Workshops/Ressourcen) an, die die Entwicklung der KI-spezifischen Fähigkeiten der Lernenden unterstützen (z.B.promptes Engineering, ethische Überlegungen)?
Bietet das Zentrum eine praktische Ausbildung in KI-Tools an, die in dem spezifischen Studien-/Ausbildungsbereich(Leben) verwendet werden?
Der Einsatz von KI bei der Bewertung ermöglicht escBildungszentrenund Lehrkräften, Fortschritte häufiger zu verfolgen, standardisiertes Feedback zu geben und bestimmte Arten von Aufgaben zu benoten. Dies kann die Lernerfahrung potenziell verbessern.
Dennoch ist es wichtig, dass der Einsatz dieser KI-Tools nicht zueinem Rückschritt in Sachen Fairness und Inklusion führt. Die Einrichtungen sollten sicherstellen, dass die KI-Bewertungsmethoden nicht zu Voreingenommenheit führen unddass alle Lernende, unabhängig von ihrem Hintergrund,gleichberechtigt bewertet werden.
KI kann zur Ergänzung der Bewertung eingesetzt werden, um während des Lernprozesses kontinuierlichere Bewertungen vorzunehmen und den Lehrkräften die Arbeit zu erleichtern, so dass sie sich um mehr Schüler und Schülerinnen kümmern und auf ihre spezifischen Bedürfnisse eingehen können, während sie weniger Zeit für bestimmte Aufgaben aufwenden müssen. Eine vollständige Automatisierung der Benotung und Bewertung ist jedoch nicht das Ziel. Die Lehrkräfte sollten stets die Aufsicht behalten und für die endgültige Entscheidungsfindung verantwortlich sein, da sie die Fähigkeiten der Schüler und Schülerinnen in verschiedenen Kontexten und Aufgabentypen berücksichtigen und ihre Bildungsbedürfnisse und Fortschritte auf eine Weise verstehen können, die nicht allein auf der Grundlage von KI möglich ist.
Zentren, die bereits mehrere Technologien einsetzen, sind besser in der Lage KI zu implementieren, da sie wahrscheinlich sowohl überdie technische Infrastruktur als auch über das Fachwissen ihrerMitarbeitenden verfügen, um sie verantwortungsvoll einzusetzenund ihre Grenzen und ethischen Implikationen zu verstehen..
Wenn eine der bereits genutzten Technologien auf KI basiert, wäreein erster Schritt zu überlegen, was diese Technologie kann und wer mit dieser KI interagiert oder ihr ausgesetzt ist. Es ist wichtig, sich mit dem Personal und den Schülern und Schülerinnen zu beraten, die die KI nutzen bzw. nutzen werden, um eine demokratische Beteiligung an der Planung der Bildungspolitik und die Ermächtigung zur Nutzung sicherzustellen.
Dieser Abschnitt befasst sich fast ausschließlich mit Lehrenden, Ausbildenden, Schülern und Schülerinnen, also mit denjenigen, die am meisten mit den pädagogischen Aspekten des Einsatzes von KI im Bildungswesen zu tun haben. Die Leitfragen unterstützen ebenfalls die Entwicklung von Strategien, die die Befähigung von Lehrenden und Lernenden für ihre jeweiligen Aufgaben fördern, sodass Lerndende besser auf eine KI-gesteuerte Arbeitswelt vorbereitet werden (besonders wichtig im Kontext der Erwachsenenbildung und der beruflichen Aus- und Weiterbildung, siehe auch Attwell et al., 2021; UNESCO, 2019). Darüber hinaus werden in diesem Abschnitt allgemeine ethische Dilemmata im Zusammenhang mit dem Einsatz von KI bei der Bewertung sowie Fragen des Urheberrechts berücksichtigt. Schließlich wird überlegt, ob und wie die potenziellen Auswirkungen von KI auf die Entwicklung von Kompetenzen und das gesellschaftliche Wohlergehen angegangen werden können.
Gehe zur Seite
Dies kann erstens durch die Einhaltung der Grundsätze des universellen Designs beim Lernen erreicht werden (CAST, 2024). Durch die Berücksichtigung der Grundsätze des universellen Designs können KI-Tools im Bildungsbereich besser auf unterschiedliche Lernende, einschließlich solcher mit Behinderung oder Lernschwierigkeiten, eingehen und so eine integrative Lernumgebung fördern. Universal Design-Prinzipien können zum Beispiel Funktionen wie anpassbare Schritfgrößen, Text-to-Speech-Funktionen und alternative Methoden zur Bereitstellung von Inhalten umfassen.
Ethisches Desihn bezieht sich auf die Entwicklung von KI-Tools, die inklusiv und sicher sind und das Wohlergehen der Schüler:innen unterstützen.
Ein weiterer Ansatz für die ethische Gestaltung von KI-Tools ist die Berücksichtigung des Suchtpotenzials von Tools, das zu übermäßigem Engagemen oder übermäßiger Nutzung anregt. Dies ist auch deshalb eine wichtige Überlegung, weil es immer mehr Studien gibt, die die Auswirkungen von übermäßiger Bildschirmzeit, sozialen Medien oder Internetkonsum auf die psychische Gesundheit zeigen (Tang et al., 2021; World Health Organisation, 2015).
KI-basierte personalisierte Lernplattformen können beispielsweiseanonyme Daten über die Fortschritte, Stärken und Schwächen der Schüler und Schülerinnen sammeln, die zur Verbesserung der Plattform verwendet und möglicherweise an Drittunternehmen verkauft werden können, die andere Bildungsprodukte entwickelnund an den Profilen der Lernenden interessiert sind.
Im Abschnitt „KI-Governance und Monitoring“ haben wir unsbereits mit dem Thema personenbezogene oder sensible Daten befasst. Doch auch wenn diese Daten nicht vom KI-Tool erfasst werden, können andere Daten gesammelt und für kommerzielle Zwecke verwendet werden.
Die Zentren sollten wissen, ob dies bei dem von ihnen verwendetenKI-Tool der Fall ist und ob die Betroffenen über die Verwendungihrer Daten Bescheid wissen und diese möglicherweise ablehnen können. Viele Zentren oder Einzelpersonen sind vielleicht nichtdagegen, dass ihre Daten für kommerzielle Zwecke verwendetwerden, aber es ist wichtig, dass sie informiert sind und entscheidenkönnen.
Auch wenn viele Personen mit einem neuen Tool ohnespezielle Schulung und Problemlösung zurechtkommen,trifft dies nicht immer auf alle zu. Daher werden einigePersonen benachteiligt sein, wenn das Zentrum keine Schulung anbietet.
Von vielen KI-Tools gibt es kostenlose und kostenpflichtige Versionen. Wenn das Zentrum beschließt, ein KI-Tooleinzubinden, ist es wichtig, den Zugang für alle zugewährleisten.
Wenn sowohl der Zugang als auch die Schulung gewährleistet sind, wird das Risiko vermieden, die digitale Kluft zwischen den Nutzern von KI zu vergrößern. Sie fördern auch Transparenz, Fairness, Rechenschafts-pflicht und minimieren Diskriminierung, während sie gleichzeitig Mitarbeitende und Lernende befähigen und die menschliche Aufsicht aufrechterhalten. In den folgenden Abschnitten finden Sie weitere Informationen zu diesen Themen.
Die Teilnahme an Forschungsarbeiten zu diesen Aspekten oder die Aufwendung von Zeit für die Überprüfung der vorhandenen Evidenz kann ebenfalls dazu beitragen, diese Fragen zu bewerten, auchwenn dies zugegebenermaßen zeitaufwändig ist und nicht immer für alle Zentren in Frage kommt.
Auch wenn es für das Zentrum schwierig sein mag, jeden dieserAspekte zu bewerten, ist es wichtig, die Vorteile und potenziellen Nachteile des Einsatzes des/der KI-Tools zu berücksichtigen und zuversuchen, deren negative Folgen abzumildern.
Ein relativ einfacher Ansatz besteht darin, regelmäßige Treffenabzuhalten (z. B. am Ende eines Lehrmoduls, Semesters oderJahres) und die Beteiligten nach ihrer Meinung zu den obengenannten Fragen zu fragen. Getrennte Treffen könnten mitStudierenden, Lehrkräften oder Ausbildern und Verwaltungs- oderIT-Personal abgehalten werden. Beachten Sie, dass je nacheingesetztem KI-Tool einige der Fragen möglicherweise nichtrelevant sind und daher weggelassen werden können. Wenn beispielsweise AI nicht zur Bewertung eingesetzt wird, kann Frage 10 weggelassen werden.
Werden durch das/ die KI-Tool(s), das/die im Bildungszentrum verwendet werden soll(en), personenbezogene/ sensible Daten erhoben?
3.
Wie sehr sind sich die Mitarbeitenden der Bedeutung des Datenschutzes und ihrer Rolle beim Schutz der Daten bewusst? Erhalten die Mitarbeitenden regelmäßig Schulungen zum Thema Datenschutz und Datensicherheit?
4.
Dieser vierte und letzte Abschnitt des Bewertungsschemas konzentriert sich auf eine Reihe von Themen, die komplexer zu behandeln sind (Şenocak et al., 2024). Dabei handelt es sich um Nachhaltigkeit, ethisches Design und Kommerzialisierung.
Gehe zur Seite
KI hat große Auswirkungen auf die Umwelt, und dieAuseinandersetzung mit Fragen der Nachhaltigkeit ist ein wichtiger Schritt auf unserem Weg nach vorn (Van Wynsberghe, 2021). Bildungszentren könnten daher überlegen, wie sie Nachhaltigkeitgewährleisten können, indem sie entweder weniger ressourcen-intensive KI-Tools auswählen und/oder Tools und Unternehmen auswählen, di nachhaltigere Praktiken anwenden.
Zu berücksichtigen sind u. a.: Die ethische Nutzung von KI, die Einhaltung von Gesetzen und Vorschriften, Datenschutzund -sicherheit, die Integration relevanter KI in den Lehrplan, eine mögliche Zusammenarbeit mit der Industrie, die sowohl die Integration von KI in den Lehrplan als auch die Aktualisierung von KI-Fortschritten erleichtern kann, dieZuweisung von Ressourcen und die Schulung von Mitarbeitenden.
Es gibt mehrere Richtlinien, die sich mit KI-Politik und ethischen Fragen befassen. Während sich die KI-Gesetzgebung weiterentwickelt, ist der KI-Akt der EU (Europäisches Parlament und Rat der Europäischen Union, 2024) ein Schlüssel-dokument, das neben der regionalen und nationalen Gesetzgebung bei der Entwicklung einer offiziellen KI-Politik oder -Strategie zu berücksichtigen ist (dies wird im nächsten Abschnitt über KI-Governance und Monitoring nähererläutert).
Selbst wenn das Zentrum KI einsetzt, bedeutet dies nichtunbedingt, dass es über eine offizielle KI-Politik/Strategieverfügt. Es ist jedoch wichtig, die Entwicklung einer solchenPolitik/Strategie gleichzeitig mit der Einführung/Ausweitungdes Einsatzes von KI in Erwägung zu ziehen.
Wenn KI-Tools quelloffen sind, können Nutzende auf sie zugreifen und sie verändern. Dies kann zu mehr Transparenz, Datenschutz, Sicherheit und Kontrolle beitragen (Yan et al., 2023) und auch zu Flexibilität und Anpassung.
Entspricht diese Nutzung ethischen und wissenschaftlichenStandards?
4.
Werden die Datensätze, die zum Training der KI verwendetwerden, auf ethische und legale Weise beschafft?
2.
Wer besitzt die Rechte an den von der KI erzeugten Inhalten?
3.
Gibt es Vorurteile und wie können sie zu Ungerechtigkeit oder Diskriminierung führen?
7.
Gibt es eine kostenlose Version des Tools und wenn nicht, kann das Zentrum den Zugang für alle seine Mitglieder sicherstellen? Kann das Zentrum generell die Zugänglichkeit für alle Nutzer gewährleisten? Gibt es Hindernisse für die Nutzung des Tools durch bestimmte Personen?
5.
Ist der Inhalt angemessen und an die Bedürfnisse der Zielgruppe angepasst?
6.