RISKS AND ETHICAL IMPLICATIONS
Bias
Social Inequality and Unfairness
Uniformity
Copyright Infringement / Plagiarism
Large Ecological Footprint
Unreliability and Fake News
Impact on (Acquiring) Competencies
Loss of Human Interaction
Violation of Privacy
Grotere ecologische voetafdruk
Voor de ontwikkeling van de tools en het gebruik ervan is veel rekenkracht nodig. De datacenters waar de tools worden getraind en de data worden bijgehouden veroorzaken een stijging van elektriciteits- en waterverbruik. Dat water is nodig om de chips af te koelen.
Inclusie
- Je bent je bewust van bepaalde aannames in zowel de eigen input in de tools als in de gegenereerde output. Je kan mogelijke stereotypen, vooroordelen en bias in de eigen input detecteren en corrigeren. Je herkent stigmatiserende, discriminerende, onrechtvaardige of onethische output.
- Je bent je bewust van de bestaande digitale kloof bij collega’s en studenten (bijv. toegankelijkheid van de generatieve-AI-tools voor specifieke doelgroepen, AI-kennis, …)
Ecologische impact
Generatieve-AI-systemen verbruiken erg veel energie. Weet dat je, telkens je een generatieve-AI-tool gebruikt, een pak meer energie verbruikt dan wanneer je een gewone zoekmachine gebruikt. Kies bij enkelvoudige zoekopdrachten een zoekmachine zoals Google of vertaal korte teksten via vertaalsoftware.
Sociale ongelijkheid en unfairness
Het lijkt soms alsof generatieve AI in staat is om ongelijkheid weg te werken: iedereen heeft toegang tot de tools, waardoor extra ondersteuning niet meer enkel weggelegd is voor de rijkeren. De betalende versies van de tools zijn echter veel performanter dan de gratis versies. Dat werkt net ongelijkheid in de hand. Die ongelijkheid uit zich ook in het al dan niet willen en kunnen gebruiken van de tools, door uiteenlopende redenen.
De training van de modellen roept ook heel wat ethische vragen op. De bedrijven bouwden weliswaar veiligheidsmechanismen in om ethisch verwerpelijke antwoorden te vermijden, op basis van menselijke feedback, maar gebruikten daarvoor goedkope werkkrachten in erbarmelijke arbeidsomstandigheden. Bovendien zijn de ethische keuzes cultureel en ideologisch bepaald.
Copyright Infringement/Plagiarism
The companies behind AI models are often less than transparent about the sources of their training data. Furthermore, the tools frequently omit references or include ones that do not exist. These issues contribute to the fact that you may (unintentionally) contribute to copyright infringement whenever you use AI-generated output. Please never knowingly contribute to such practices by feeding the system someone else’s work without their permission. Conversely, claiming copyright on AI-generated output is only possible if you can demonstrate that you have creative control. The latter remains a complex legal issue.
Betrouwbaarheid & kritische zin
- Je kent de werking van generatieve-AI-tools: ze weten dat de systemen output genereren op basis van patroonherkenning en dus niet kunnen redeneren. Ze weten dat gegenereerde informatie inhoudelijk onbetrouwbaar kan zijn.
- Je toetst de output van GAI altijd kritisch af aan eigen (vakinhoudelijke) kennis.
Bias
De tools putten enkel uit de voorbeelden waarmee ze getraind zijn en die zijn niet noodzakelijk representatief voor de taak die opgelost moet worden. Die bias ontstaat echter niet alleen door de kwantiteit, maar ook door de kwaliteit van de data. Ze zijn namelijk van het internet gehaald en dus zelf niet vrij van onwaarheden, vooroordelen en bias.
Large Ecological Footprint
Developing and using AI tools demands substantial computing power. The data centres where the tools are trained and data are stored lead to a notable rise in energy and water consumption. Water is required to cool the chips.
Impact op competenties (verwerven)
De tools vaak gebruiken kan ervoor zorgen dat bepaalde vaardigheden (onbewust) stilletjes aan verdwijnen. Denk maar aan vertalingen naar die ene taal die je minder machtig bent. AI-tools kunnen die vaardigheden van je overnemen. Dat kan handig zijn, maar in een context van onderwijs en onderzoek moeten bepaalde vaardigheden nog wel worden aangeleerd.
Vervaging grens – machine
Het lijkt alsof de computer praat en denkt als een mens waardoor we de systemen overmatig gaan vertrouwen. Bovendien bestaat de kans dat we ze als mensen gaan beschouwen, wat een daling kan veroorzaken van menselijke interactie.
Loss of Human Interaction
The computer appears to think and speak like a human, which might lead us to trust it excessively. Additionally, there is a risk of anthropomorphism, which could reduce human interaction.
It is essential to understand that the tools may have learnt to use several thought patterns from texts, but they contain no explicit logic and are, in fact, very limited in their reasoning.
Bias
De tools putten enkel uit de voorbeelden waarmee ze getraind zijn en die zijn niet noodzakelijk representatief voor de taak die opgelost moet worden. Die bias ontstaat echter niet alleen door de kwantiteit, maar ook door de kwaliteit van de data. Ze zijn namelijk van het internet gehaald en dus zelf niet vrij van onwaarheden, vooroordelen en bias.
Uniformity
Frequently used words and sentences will appear more often in the tools' data and thus be more prominent in their output. The more we depend on AI to compose our texts, the more these texts will start to resemble each other, leading to sameness in content and form.
Language models will continue to repeat these texts, resulting in even greater similarities and uniformity. This uniformity affects both the language employed and the content of the texts, stifling creativity.
Onbetrouwbaarheid / fake nieuws
De output van de tools kan inhoudelijk onbetrouwbaar zijn. Dat komt door de beperkingen van de data waarop de antwoorden gebaseerd zijn. Als er onvoldoende of geen data zijn om een specifieke vraag te beantwoorden, zal je een antwoord krijgen dat overtuigend maar niet noodzakelijk waar is. Dat heet “hallucineren”. Bovendien kunnen die teksten met fouten, valse afbeeldingen enz. een eigen leven leiden.
Violation of Privacy
Free-to-use tools often store your data to improve their systems. Therefore, never share confidential or sensitive information with the system. Feeding such systems data subject to GDPR is punishable by law unless these systems have clear rules and regulations on data processing.
Impact op competenties (verwerven)
De tools vaak gebruiken kan ervoor zorgen dat bepaalde vaardigheden (onbewust) stilletjes aan verdwijnen. Denk maar aan vertalingen naar die ene taal die je minder machtig bent. AI-tools kunnen die vaardigheden van je overnemen. Dat kan handig zijn, maar in een context van onderwijs en onderzoek moeten bepaalde vaardigheden nog wel worden aangeleerd.
Vervaging grens – machine
Het lijkt alsof de computer praat en denkt als een mens waardoor we de systemen overmatig gaan vertrouwen. Bovendien bestaat de kans dat we ze als mensen gaan beschouwen, wat een daling kan veroorzaken van menselijke interactie.
Impact op competenties (verwerven)
De tools vaak gebruiken kan ervoor zorgen dat bepaalde vaardigheden (onbewust) stilletjes aan verdwijnen. Denk maar aan vertalingen naar die ene taal die je minder machtig bent. AI-tools kunnen die vaardigheden van je overnemen. Dat kan handig zijn, maar in een context van onderwijs en onderzoek moeten bepaalde vaardigheden nog wel worden aangeleerd.
Grotere ecologische voetafdruk
Voor de ontwikkeling van de tools en het gebruik ervan is veel rekenkracht nodig. De datacenters waar de tools worden getraind en de data worden bijgehouden veroorzaken een stijging van elektriciteits- en waterverbruik. Dat water is nodig om de chips af te koelen.
Wetenschappelijke integriteit
In de gratis tools worden je data vaak bijgehouden om de systemen verder te trainen. Voer dus nooit vertrouwelijke of privacygevoelige informatie in het systeem in. Dit kan risico’s met zich meebrengen waarbij de privacy of vertrouwelijkheid van jezelf of anderen, en de beginselen van de algemene verordening gegevensbescherming (AVG) geschonden worden.
Sociale ongelijkheid en unfairness
Het lijkt soms alsof generatieve AI in staat is om ongelijkheid weg te werken: iedereen heeft toegang tot de tools, waardoor extra ondersteuning niet meer enkel weggelegd is voor de rijkeren. De betalende versies van de tools zijn echter veel performanter dan de gratis versies. Dat werkt net ongelijkheid in de hand. Die ongelijkheid uit zich ook in het al dan niet willen en kunnen gebruiken van de tools, door uiteenlopende redenen.
De training van de modellen roept ook heel wat ethische vragen op. De bedrijven bouwden weliswaar veiligheidsmechanismen in om ethisch verwerpelijke antwoorden te vermijden, op basis van menselijke feedback, maar gebruikten daarvoor goedkope werkkrachten in erbarmelijke arbeidsomstandigheden. Bovendien zijn de ethische keuzes cultureel en ideologisch bepaald.
Social Inequality and Unfairness
At first glance, it may seem that generative AI has the potential to eliminate inequality: everyone has access to the tools, which means that, for example, relying on private tutoring is no longer a privilege of the wealthy. However, the paid versions of these tools are much more powerful than the free ones. If anything, this actually increases inequality. This inequality is also evident in whether people want or are able to use such tools, for any reason. The way the systems are fine-tuned also raises ethical questions. The companies behind these tools have incorporated safety mechanisms to prevent ethically objectionable answers. To achieve this, they relied on cheap labour under appalling working conditions. Furthermore, ethical decisions are influenced by cultural and ideological factors. As American tech companies currently take the lead, this results in a predominantly American perspective.
Onbetrouwbaarheid / fake nieuws
De output van de tools kan inhoudelijk onbetrouwbaar zijn. Dat komt door de beperkingen van de data waarop de antwoorden gebaseerd zijn. Als er onvoldoende of geen data zijn om een specifieke vraag te beantwoorden, zal je een antwoord krijgen dat overtuigend maar niet noodzakelijk waar is. Dat heet “hallucineren”. Bovendien kunnen die teksten met fouten, valse afbeeldingen enz. een eigen leven leiden.
Privacy & databeheer
Je voert geen (privacy)gevoelige informatie in de generatieve-AI-tools in. Onder (privacy)gevoelige informatie verstaan we bedrijfsinformatie, persoonsgegevens van studenten, van respondenten, …. Het is strafbaar om die data die onder de algemene verordening gegevensbescherming (AVG) vallen in te voeren of te delen met zulke systemen, tenzij er expliciete afspraken zijn hoe die informatie wordt verwerkt.
Wetenschappelijke integriteit
In de gratis tools worden je data vaak bijgehouden om de systemen verder te trainen. Voer dus nooit vertrouwelijke of privacygevoelige informatie in het systeem in. Dit kan risico’s met zich meebrengen waarbij de privacy of vertrouwelijkheid van jezelf of anderen, en de beginselen van de algemene verordening gegevensbescherming (AVG) geschonden worden.
Schending van auteursrecht / plagiaat
De bedrijven achter AI-modellen zijn vaak niet transparant over de oorsprong van hun trainingsdata. Bovendien geven de tools vaak geen of onbestaande bronnen weer. Beide zaken zorgen ervoor dat je (onbewust) auteursrechten schendt wanneer je output van de tools gebruikt. Zorg er ook voor dat je zelf hier niet aan bijdraagt door zonder toestemming andermans werk in te voeren. Zelf auteursrechten claimen op output kan dan weer enkel wanneer je creatieve controle kan aantonen. Dat laatste ligt juridisch nog moeilijk.
Unreliability and Fake News
In terms of content, the tools might produce unreliable information. This results from the limited data upon which the answers are based.
If there is insufficient or no data to answer a particular question, the tool may generate convincing but not necessarily correct output. In AI-speak, this feature is called 'hallucination'.
Moreover, these incorrect texts or texts containing false images, etc., may begin to take on a life of their own, feeding into fake news.
Verantwoordelijkheid
Bij gebruik van GAI blijf je verantwoordelijk voor het eigen werk.
Schending van auteursrecht / plagiaat
De bedrijven achter AI-modellen zijn vaak niet transparant over de oorsprong van hun trainingsdata. Bovendien geven de tools vaak geen of onbestaande bronnen weer. Beide zaken zorgen ervoor dat je (onbewust) auteursrechten schendt wanneer je output van de tools gebruikt. Zorg er ook voor dat je zelf hier niet aan bijdraagt door zonder toestemming andermans werk in te voeren. Zelf auteursrechten claimen op output kan dan weer enkel wanneer je creatieve controle kan aantonen. Dat laatste ligt juridisch nog moeilijk.
Wetenschappelijke integriteit
- Auteursrecht: Je dient de gegenereerde output van de generatieve-AI-tool niet letterlijk in als eigen werk zonder vermelding van de originele bronnen die aan de oorsprong liggen van de output van de tool, en zorgen er zo voor dat de auteursrechten gerespecteerd worden.
- Plagiaat: Je controleert de gegenereerde bronnen.
Impact op competenties (verwerven)
De tools vaak gebruiken kan ervoor zorgen dat bepaalde vaardigheden (onbewust) stilletjes aan verdwijnen. Denk maar aan vertalingen naar die ene taal die je minder machtig bent. AI-tools kunnen die vaardigheden van je overnemen. Dat kan handig zijn, maar in een context van onderwijs en onderzoek moeten bepaalde vaardigheden nog wel worden aangeleerd.
Bias
The tools generate input solely based on the samples they were trained on. These are not necessarily representative of the task they are assigned.
Bias arises not only from the amount of data but also from its quality. After all, since the data are obtained from the internet, they are not free from inaccuracies, prejudices, or bias.
Impact on (Acquiring) Competencies
A frequent reliance on AI tools can cause an (unconscious) decline in skill over time. For example, translating into a language you haven't fully mastered. AI tools can easily replace those skills, which might seem convenient, but in educational and research contexts, specific skills still need to be developed.
ENG_RISICO'S EN ETHISCHE IMPLICATIES ENG
DOWA1 - OO
Created on October 1, 2025
Start designing with a free template
Discover more than 1500 professional designs like these:
View
Practical Interactive Image
View
Akihabara Square Interactive Image
View
Akihabara Interactive Image
View
Essential Interactive Image
View
Interactive Team Image
View
Image with Audio
View
Image with interactive hotspots
Explore all templates
Transcript
RISKS AND ETHICAL IMPLICATIONS
Bias
Social Inequality and Unfairness
Uniformity
Copyright Infringement / Plagiarism
Large Ecological Footprint
Unreliability and Fake News
Impact on (Acquiring) Competencies
Loss of Human Interaction
Violation of Privacy
Grotere ecologische voetafdruk
Voor de ontwikkeling van de tools en het gebruik ervan is veel rekenkracht nodig. De datacenters waar de tools worden getraind en de data worden bijgehouden veroorzaken een stijging van elektriciteits- en waterverbruik. Dat water is nodig om de chips af te koelen.
Inclusie
Ecologische impact
Generatieve-AI-systemen verbruiken erg veel energie. Weet dat je, telkens je een generatieve-AI-tool gebruikt, een pak meer energie verbruikt dan wanneer je een gewone zoekmachine gebruikt. Kies bij enkelvoudige zoekopdrachten een zoekmachine zoals Google of vertaal korte teksten via vertaalsoftware.
Sociale ongelijkheid en unfairness
Het lijkt soms alsof generatieve AI in staat is om ongelijkheid weg te werken: iedereen heeft toegang tot de tools, waardoor extra ondersteuning niet meer enkel weggelegd is voor de rijkeren. De betalende versies van de tools zijn echter veel performanter dan de gratis versies. Dat werkt net ongelijkheid in de hand. Die ongelijkheid uit zich ook in het al dan niet willen en kunnen gebruiken van de tools, door uiteenlopende redenen. De training van de modellen roept ook heel wat ethische vragen op. De bedrijven bouwden weliswaar veiligheidsmechanismen in om ethisch verwerpelijke antwoorden te vermijden, op basis van menselijke feedback, maar gebruikten daarvoor goedkope werkkrachten in erbarmelijke arbeidsomstandigheden. Bovendien zijn de ethische keuzes cultureel en ideologisch bepaald.
Copyright Infringement/Plagiarism
The companies behind AI models are often less than transparent about the sources of their training data. Furthermore, the tools frequently omit references or include ones that do not exist. These issues contribute to the fact that you may (unintentionally) contribute to copyright infringement whenever you use AI-generated output. Please never knowingly contribute to such practices by feeding the system someone else’s work without their permission. Conversely, claiming copyright on AI-generated output is only possible if you can demonstrate that you have creative control. The latter remains a complex legal issue.
Betrouwbaarheid & kritische zin
Bias
De tools putten enkel uit de voorbeelden waarmee ze getraind zijn en die zijn niet noodzakelijk representatief voor de taak die opgelost moet worden. Die bias ontstaat echter niet alleen door de kwantiteit, maar ook door de kwaliteit van de data. Ze zijn namelijk van het internet gehaald en dus zelf niet vrij van onwaarheden, vooroordelen en bias.
Large Ecological Footprint
Developing and using AI tools demands substantial computing power. The data centres where the tools are trained and data are stored lead to a notable rise in energy and water consumption. Water is required to cool the chips.
Impact op competenties (verwerven)
De tools vaak gebruiken kan ervoor zorgen dat bepaalde vaardigheden (onbewust) stilletjes aan verdwijnen. Denk maar aan vertalingen naar die ene taal die je minder machtig bent. AI-tools kunnen die vaardigheden van je overnemen. Dat kan handig zijn, maar in een context van onderwijs en onderzoek moeten bepaalde vaardigheden nog wel worden aangeleerd.
Vervaging grens – machine
Het lijkt alsof de computer praat en denkt als een mens waardoor we de systemen overmatig gaan vertrouwen. Bovendien bestaat de kans dat we ze als mensen gaan beschouwen, wat een daling kan veroorzaken van menselijke interactie.
Loss of Human Interaction
The computer appears to think and speak like a human, which might lead us to trust it excessively. Additionally, there is a risk of anthropomorphism, which could reduce human interaction. It is essential to understand that the tools may have learnt to use several thought patterns from texts, but they contain no explicit logic and are, in fact, very limited in their reasoning.
Bias
De tools putten enkel uit de voorbeelden waarmee ze getraind zijn en die zijn niet noodzakelijk representatief voor de taak die opgelost moet worden. Die bias ontstaat echter niet alleen door de kwantiteit, maar ook door de kwaliteit van de data. Ze zijn namelijk van het internet gehaald en dus zelf niet vrij van onwaarheden, vooroordelen en bias.
Uniformity
Frequently used words and sentences will appear more often in the tools' data and thus be more prominent in their output. The more we depend on AI to compose our texts, the more these texts will start to resemble each other, leading to sameness in content and form. Language models will continue to repeat these texts, resulting in even greater similarities and uniformity. This uniformity affects both the language employed and the content of the texts, stifling creativity.
Onbetrouwbaarheid / fake nieuws
De output van de tools kan inhoudelijk onbetrouwbaar zijn. Dat komt door de beperkingen van de data waarop de antwoorden gebaseerd zijn. Als er onvoldoende of geen data zijn om een specifieke vraag te beantwoorden, zal je een antwoord krijgen dat overtuigend maar niet noodzakelijk waar is. Dat heet “hallucineren”. Bovendien kunnen die teksten met fouten, valse afbeeldingen enz. een eigen leven leiden.
Violation of Privacy
Free-to-use tools often store your data to improve their systems. Therefore, never share confidential or sensitive information with the system. Feeding such systems data subject to GDPR is punishable by law unless these systems have clear rules and regulations on data processing.
Impact op competenties (verwerven)
De tools vaak gebruiken kan ervoor zorgen dat bepaalde vaardigheden (onbewust) stilletjes aan verdwijnen. Denk maar aan vertalingen naar die ene taal die je minder machtig bent. AI-tools kunnen die vaardigheden van je overnemen. Dat kan handig zijn, maar in een context van onderwijs en onderzoek moeten bepaalde vaardigheden nog wel worden aangeleerd.
Vervaging grens – machine
Het lijkt alsof de computer praat en denkt als een mens waardoor we de systemen overmatig gaan vertrouwen. Bovendien bestaat de kans dat we ze als mensen gaan beschouwen, wat een daling kan veroorzaken van menselijke interactie.
Impact op competenties (verwerven)
De tools vaak gebruiken kan ervoor zorgen dat bepaalde vaardigheden (onbewust) stilletjes aan verdwijnen. Denk maar aan vertalingen naar die ene taal die je minder machtig bent. AI-tools kunnen die vaardigheden van je overnemen. Dat kan handig zijn, maar in een context van onderwijs en onderzoek moeten bepaalde vaardigheden nog wel worden aangeleerd.
Grotere ecologische voetafdruk
Voor de ontwikkeling van de tools en het gebruik ervan is veel rekenkracht nodig. De datacenters waar de tools worden getraind en de data worden bijgehouden veroorzaken een stijging van elektriciteits- en waterverbruik. Dat water is nodig om de chips af te koelen.
Wetenschappelijke integriteit
In de gratis tools worden je data vaak bijgehouden om de systemen verder te trainen. Voer dus nooit vertrouwelijke of privacygevoelige informatie in het systeem in. Dit kan risico’s met zich meebrengen waarbij de privacy of vertrouwelijkheid van jezelf of anderen, en de beginselen van de algemene verordening gegevensbescherming (AVG) geschonden worden.
Sociale ongelijkheid en unfairness
Het lijkt soms alsof generatieve AI in staat is om ongelijkheid weg te werken: iedereen heeft toegang tot de tools, waardoor extra ondersteuning niet meer enkel weggelegd is voor de rijkeren. De betalende versies van de tools zijn echter veel performanter dan de gratis versies. Dat werkt net ongelijkheid in de hand. Die ongelijkheid uit zich ook in het al dan niet willen en kunnen gebruiken van de tools, door uiteenlopende redenen. De training van de modellen roept ook heel wat ethische vragen op. De bedrijven bouwden weliswaar veiligheidsmechanismen in om ethisch verwerpelijke antwoorden te vermijden, op basis van menselijke feedback, maar gebruikten daarvoor goedkope werkkrachten in erbarmelijke arbeidsomstandigheden. Bovendien zijn de ethische keuzes cultureel en ideologisch bepaald.
Social Inequality and Unfairness
At first glance, it may seem that generative AI has the potential to eliminate inequality: everyone has access to the tools, which means that, for example, relying on private tutoring is no longer a privilege of the wealthy. However, the paid versions of these tools are much more powerful than the free ones. If anything, this actually increases inequality. This inequality is also evident in whether people want or are able to use such tools, for any reason. The way the systems are fine-tuned also raises ethical questions. The companies behind these tools have incorporated safety mechanisms to prevent ethically objectionable answers. To achieve this, they relied on cheap labour under appalling working conditions. Furthermore, ethical decisions are influenced by cultural and ideological factors. As American tech companies currently take the lead, this results in a predominantly American perspective.
Onbetrouwbaarheid / fake nieuws
De output van de tools kan inhoudelijk onbetrouwbaar zijn. Dat komt door de beperkingen van de data waarop de antwoorden gebaseerd zijn. Als er onvoldoende of geen data zijn om een specifieke vraag te beantwoorden, zal je een antwoord krijgen dat overtuigend maar niet noodzakelijk waar is. Dat heet “hallucineren”. Bovendien kunnen die teksten met fouten, valse afbeeldingen enz. een eigen leven leiden.
Privacy & databeheer
Je voert geen (privacy)gevoelige informatie in de generatieve-AI-tools in. Onder (privacy)gevoelige informatie verstaan we bedrijfsinformatie, persoonsgegevens van studenten, van respondenten, …. Het is strafbaar om die data die onder de algemene verordening gegevensbescherming (AVG) vallen in te voeren of te delen met zulke systemen, tenzij er expliciete afspraken zijn hoe die informatie wordt verwerkt.
Wetenschappelijke integriteit
In de gratis tools worden je data vaak bijgehouden om de systemen verder te trainen. Voer dus nooit vertrouwelijke of privacygevoelige informatie in het systeem in. Dit kan risico’s met zich meebrengen waarbij de privacy of vertrouwelijkheid van jezelf of anderen, en de beginselen van de algemene verordening gegevensbescherming (AVG) geschonden worden.
Schending van auteursrecht / plagiaat
De bedrijven achter AI-modellen zijn vaak niet transparant over de oorsprong van hun trainingsdata. Bovendien geven de tools vaak geen of onbestaande bronnen weer. Beide zaken zorgen ervoor dat je (onbewust) auteursrechten schendt wanneer je output van de tools gebruikt. Zorg er ook voor dat je zelf hier niet aan bijdraagt door zonder toestemming andermans werk in te voeren. Zelf auteursrechten claimen op output kan dan weer enkel wanneer je creatieve controle kan aantonen. Dat laatste ligt juridisch nog moeilijk.
Unreliability and Fake News
In terms of content, the tools might produce unreliable information. This results from the limited data upon which the answers are based. If there is insufficient or no data to answer a particular question, the tool may generate convincing but not necessarily correct output. In AI-speak, this feature is called 'hallucination'. Moreover, these incorrect texts or texts containing false images, etc., may begin to take on a life of their own, feeding into fake news.
Verantwoordelijkheid
Bij gebruik van GAI blijf je verantwoordelijk voor het eigen werk.
Schending van auteursrecht / plagiaat
De bedrijven achter AI-modellen zijn vaak niet transparant over de oorsprong van hun trainingsdata. Bovendien geven de tools vaak geen of onbestaande bronnen weer. Beide zaken zorgen ervoor dat je (onbewust) auteursrechten schendt wanneer je output van de tools gebruikt. Zorg er ook voor dat je zelf hier niet aan bijdraagt door zonder toestemming andermans werk in te voeren. Zelf auteursrechten claimen op output kan dan weer enkel wanneer je creatieve controle kan aantonen. Dat laatste ligt juridisch nog moeilijk.
Wetenschappelijke integriteit
Impact op competenties (verwerven)
De tools vaak gebruiken kan ervoor zorgen dat bepaalde vaardigheden (onbewust) stilletjes aan verdwijnen. Denk maar aan vertalingen naar die ene taal die je minder machtig bent. AI-tools kunnen die vaardigheden van je overnemen. Dat kan handig zijn, maar in een context van onderwijs en onderzoek moeten bepaalde vaardigheden nog wel worden aangeleerd.
Bias
The tools generate input solely based on the samples they were trained on. These are not necessarily representative of the task they are assigned. Bias arises not only from the amount of data but also from its quality. After all, since the data are obtained from the internet, they are not free from inaccuracies, prejudices, or bias.
Impact on (Acquiring) Competencies
A frequent reliance on AI tools can cause an (unconscious) decline in skill over time. For example, translating into a language you haven't fully mastered. AI tools can easily replace those skills, which might seem convenient, but in educational and research contexts, specific skills still need to be developed.