La IA en Educación
¿Enemiga o aliada?
La IA hace referencia al concepto general de crear sistemas que pueden
realizar tareas que normalmente requieren inteligencia humana, como
el aprendizaje, la resolución de problemas y la toma de decisiones. No se trata de replicar la consciencia humana, sino de crear
herramientas que puedan automatizar y mejorar procesos. En la práctica, la IA abarca una amplia gama de técnicas y enfoques,
desde sistemas basados en reglas hasta algoritmos de aprendizaje
automático más avanzados. En resumen: Es equivalente a darle un cerebro
digital a una máquina para que haga cosas
"inteligentes".
La IA vista desde dos ángulos
Pero entonces....¿Qué es la IA?
Objetivos de la IA
Los tres principales objetivos de la IA en la actualidad son los siguientes:
Tipos de IA
Entre las múltiples clasificaciones de la IA, encontramos la basada en en la capacidad humana que agrupa los sistemas en dos categorías, IA débil e IA fuerte:
IA Débil o estrecha
IA Fuerte
Ramas de la IA
Entendiendo todas las variables
Procesamiento del Lenguaje Natural (PLN o NLP)
Machine Learning (ML)
Modelos generativos
IA conversacional
Análisis predictivo
Visión por computadora
Aspectos clave
IA y Educación
La IA necesita
datos para
aprender
Riesgos para
la privacidad
Legislación y
cumplimiento
(como el RGPD)
Ética y
responsabilidad
IA al servicio
de la
protección de
datos
Peligros en el uso de la IA en Educación
Los 11 Pecados Capitales
1. Vulneración de la privacidad y protección de datos
2. Falta de transparencia y explicabilidad
3. Discriminación algorítmica o sesgos
4. Brecha digital y desigualdad
5. Reducción del papel del profesorado
6.Ciberseguridad y filtraciones
7. Impacto en la salud mental
8.Falta de competencia.
9.Falta de calidad y precisión
en el contenido generado
por la IA. DeepFakes
10.Consumo
energético
Decálogo del buen uso de la IA
11.EXCESIVA DEPENDENCIA
TECNOLÓGICA
IA generativa:
La Gran Revolución en la IA
La IA generativa se refiere a una categoría de algoritmos de IA que generan nuevas salidas basadas en los datos que han sido entrenados. A diferencia de los sistemas de IA tradicionales que están diseñados para reconocer patrones y hacer predicciones. la IA generativa crea nuevos contenidos en forma de imágenes, texto, audio y más. El uso de herramientas de IA generativa ha marcado un hito en la forma en que interactuamos con la tecnología. A través de su capacidad para crear contenido novedoso como imágenes, texto y más, estas herramientas ofrecen ventajas significativas.
Conocemos las desventajas pero....
¿Como me puede ayudar la IA generativa en el aula?
Tres vertientes distintas pero interconectadas
Enseñar para la IA, lo que conlleva el desarrollo y adquisición de habilidades y
competencias relevantes para los desafíos y oportunidades que la IA trae consigo. Ejemplo: comprender los sesgos en los datos.
Enseñar sobre IA, se trata de un enfoque más técnico que se manifiesta al comprender
y aplicar conocimientos relacionados con esta disciplina para utilizarla eficazmente y
contribuir al desarrollo de nuevas herramientas y tecnologías en este campo.Ejemplo: entrenar una IA mediante Learning ML
Enseñar con la IA, lo cual implica la integración de la IA en el entorno educativo para
potenciar el proceso de enseñanza-aprendizaje. Ejemplo: utilizar herramientas de
personalización, de gestión o de generación de recursos y contenidos.
Se concretan tres perfiles dentro del centro para el uso de la IA de manera ética
Un nuevo aliado para impulsar a los alumnos
ALUMNADO COMO CREADOR
Aprendizaje sobre la IA, donde el alumnado podría diseñar y programar una solución
simple basada en IA para adquirir los conceptos básicos de la misma, aplicándolos en
un contexto práctico y relevante para su aprendizaje. Es decir, que el alumno entienda cómo funciona la IA y pueda utilizarla en sus creaciones.Ejemplo: crear un clasificador con Machine Learning for Kids
Creación de contenido digital utilizando herramientas de IA como generadores de
contenido automatizado, chatbots educativos o software de diseño asistido por IA.Ejemplo: generador de test con feedback, crear mapas mentales, etc.
Análisis de datos y predicciones mediante herramientas de IA, ofreciendo al
alumnado la oportunidad de emplear algoritmos de aprendizaje automático y técnicas
de procesamiento de lenguaje natural en diversos campos.
Un nuevo aliado para impulsar a los alumnos
ALUMNADO COMO CONSUMIDOR
Programas de tutoría personalizada que utilizan algoritmos de IA para adaptar el
contenido y la metodología de enseñanza según las necesidades individuales de cada
estudiante. Así mismo, estas herramientas de práctica adaptativa ajustan
automáticamente el nivel de dificultad y el tipo de ejercicios según el progreso del
estudiante, lo que permite al alumnado practicar y reforzar conceptos específicos de
manera eficiente y personalizada.Ejemplo: usar una plataforma en línea para ofrecer actividades de repaso al alumnado que, según su nivel de habilidad, se irían ajustando y adaptando automáticamente.
Asistentes virtuales educativos basados en IA que proporcionan respuestas a
preguntas comunes, ofrecen explicaciones adicionales sobre conceptos difíciles y
brindan apoyo en la resolución de problemas.Ejemplo: tutor Socrático, obtención de ayuda para explicar un problema o tarea,etc.
Sistemas de gestión del aprendizaje (LMS) para facilitar la administración, entrega y
seguimiento de actividades de aprendizaje en entornos educativos mediante la
adaptación de contenidos, recomendaciones personalizadas, seguimiento del
progreso y/o automatización de notificaciones y recordatorios.Ejemplo: si un estudiante aprende mejor mediante la visualización de contenido, el LMS puede priorizar la entrega de recursos multimedia en lugar de textos largos.
Y el profesorado...
CREACIÓN DE RECURSOS
La IA, especialmente la generativa, ofrece
herramientas y tecnologías que pueden potenciar la creación de estos recursos.
Generadores de contenido automatizado que posibilitan la generación de materiales
educativos como cuestionarios, ejercicios, actividades, vídeos, simulaciones, juegos,
presentaciones multimedia, programaciones, situaciones de aprendizaje... Estos
recursos pueden adaptarse a diferentes estilos de aprendizaje y facilitar la
comprensión de conceptos complejos.Ejemplo: crear automáticamente un texto adaptado a las necesidades del alumnado, teniendo en cuenta variables como el número de caracteres, temática, tipo de letra, dificultad,inclusión de imágenes, organización en párrafos, entre otros aspectos.
Adaptación de contenidos a diferentes idiomas, posibilitando que los materiales
educativos sean accesibles para todo el alumnado proveniente de diversos contextos
lingüísticos y culturales.Ejemplo: traducir una actividad de clase al idioma original del alumno o alumna.
Y el profesorado...
PERSONALIZACIÓN DEL APRENDIZAJE
Análisis de datos del alumnado. Esto implica la recopilación, el procesamiento y el
análisis de datos sobre el rendimiento, las preferencias de aprendizaje y otros factores
relevantes del alumnado. Los modelos predictivos pueden ayudar al profesorado a
identificar patrones y tendencias en los datos del alumnado, lo que les permitiría
anticiparse y ajustar su enfoque pedagógico
Sistemas de recomendación de contenidos. Estos sistemas utilizan algoritmos de IA
para sugerir recursos educativos específicos y actividades de aprendizaje
personalizadas, relevantes y adecuadas a sus necesidades individuales. La IA generativa ya contempla tanto el DUA como los alumnos ACNEAE a la hora de plantear actividades y Situaciones de Aprendizaje.
Una pequeña joya que nunca decepciona
Destruyamos los muros del miedo a lo desconocido
La IA multiplica nuestras capacidades: acelera diagnósticos, personaliza el aprendizaje, automatiza tareas tediosas y libera tiempo para lo humano; potencia creatividad, eficiencia y acceso al conocimiento. Sus sombras existen —sesgos, opacidad, brecha digital, privacidad—, pero se reducen con diseño responsable, datos de calidad, auditoría y educación digital. No es un oráculo ni un enemigo: es una herramienta poderosa. Como cualquier invento humano, su valor moral no es intrínseco; dependerá de nuestras decisiones. Usemos la IA para mejorar vidas; lo contrario sería renunciar a nuestro progreso.
Y como reflexión...
Interacción natural y colaboración con humanos
La IA se está enfocando en desarrollar sistemas que puedan interactuar de manera más natural con los humanos. Esto incluye avances en el procesamiento del lenguaje natural, la comprensión de emociones y la colaboración en tareas complejas que involucren la interacción persona-máquina.
Cuando no se protege adecuadamente la información que se usa para entrenar modelos de IA, pueden ocurrir:
- Filtraciones de datos
- Identificación no deseada (por ejemplo, aunque los datos estén"anonimizados", la IA podría identificar personas si los datos no están bien protegidos)
- Discriminación o sesgos algorítmicos (cuando los datos reflejan prejuicios y la IA los reproduce)
Comprensión y razonamiento de sentido común.
La IA busca mejorar su capacidad para comprender y razonar sobre el mundo de manera similar a los humanos. Esto implica la incorporación de conocimiento de sentido común y el desarrollo de sistemas que puedan tomar decisiones éticas y morales.
Generalización y flexibilidad.
Uno de los objetivos clave de la IA es lograr una inteligencia más general, que pueda adaptarse y aplicarse a diferentes dominios y tareas. La idea es desarrollar sistemas que puedan aprender y razonar en entornos cambiantes, sin requerir una programación o instrucción específica para cada situación.
Centrada en realizar tareas específicas de manera eficiente, como los asistentes virtuales, los sistemas de recomendación y los vehículos autónomos. Sus características son:
Especializada: enfocada en tareas específicas y se desarrolla para realizarlas de manera precisa y eficiente. Algunos ejemplos incluyen reconocimiento de voz (Siri, Alexa, etc), detección de fraudes, recomendaciones de productos(Netflix, Youtube,...) y conducción autónoma. Datos limitados: los sistemas de IA débil dependen en gran medida de datos específicos del dominio en el que están programados. Estos datos se utilizan para entrenar al sistema y permitirle tomar decisiones o realizar predicciones. Sin conciencia ni autoconciencia: la IA débil no tiene una comprensión general del mundo o de sí misma. No posee conciencia ni emociones y no puede reflexionar sobre su propio estado o tomar decisiones éticas o morales.
Busca replicar la inteligencia humana general en una máquina. Aún se encuentra en desarrollo y plantea desafíos éticos y filosóficos significativos. Estas serían sus características:
Generalizada: la IA fuerte tiene como objetivo lograr una inteligencia general, lo que significa que puede comprender y realizar tareas en diferentes dominios. Esto implica la capacidad de aplicar conocimientos y habilidades en múltiples áreas y adaptarse a situaciones nuevas. Autoaprendizaje: los sistemas de IA fuerte tienen la capacidad de aprender por sí mismos, adquiriendo nuevos conocimientos y mejorando su rendimiento a lo largo del tiempo. Pueden razonar, resolver problemas y realizar tareas de manera autónoma sin requerir una programación o instrucción continua. Conciencia y autoconciencia: la IA fuerte busca desarrollar sistemas que sean conscientes de sí mismos y del mundo que los rodea. Estos sistemas podrían tener una comprensión de su propio estado, emociones y cognición, y podrían participar en discusiones éticas y morales.
Inteligencia artificial es un
concepto amplío que
engloba tecnologías
diferentes, muchas
conectadas entre ellas o
que se han ido
construyendo apoyándose
en las anteriores (machine
learning, redes neuronales,
deep learning...). Muchas
veces se habla de
inteligencia artificial cuando
en realidad nos estamos
refiriendo a una de estas
tecnologías en particular.
Los algoritmos de IA se entrenan con grandes volúmenes de datos. Si estos
datos incluyen información personal (como nombres, direcciones, hábitos de
consumo, historial médico, etc.), entonces entra en juego la protección de
datos personales.
Se están desarrollando marcos éticos para asegurarse de que la IA no solo cumpla con la ley, sino que también respete
valores como la dignidad humana, la equidad y la autonomía personal.
Leyes como el Reglamento General de Protección de Datos (RGPD) en Europa establecen principios clave que deben
seguir los sistemas de IA que tratan datos personales:
- información
- Consentimiento informado
- Finalidad específica
- Minimización de datos
- Transparencia en el funcionamiento de los algoritmos
- Derecho a explicación (por decisiones tomadas por sistemas automatizados)
También se puede usar IA para mejorar la protección de datos:
- Detectar filtraciones o accesos no autorizados
- Anonimizar o enmascarar datos automáticamente
- Automatizar auditorías y análisis de cumplimiento legal
Sistema de IA:
Es un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.
La IA en Educación
joaquin lorenzo cremades cremades
Created on November 4, 2025
Start designing with a free template
Discover more than 1500 professional designs like these:
View
3D Corporate Reporting
View
Discover Your AI Assistant
View
Vision Board
View
Periodic Table
View
SWOT Challenge: Classify Key Factors
View
Explainer Video: Keys to Effective Communication
View
Explainer Video: AI for Companies
Explore all templates
Transcript
La IA en Educación
¿Enemiga o aliada?
La IA hace referencia al concepto general de crear sistemas que pueden realizar tareas que normalmente requieren inteligencia humana, como el aprendizaje, la resolución de problemas y la toma de decisiones. No se trata de replicar la consciencia humana, sino de crear herramientas que puedan automatizar y mejorar procesos. En la práctica, la IA abarca una amplia gama de técnicas y enfoques, desde sistemas basados en reglas hasta algoritmos de aprendizaje automático más avanzados. En resumen: Es equivalente a darle un cerebro digital a una máquina para que haga cosas "inteligentes".
La IA vista desde dos ángulos
Pero entonces....¿Qué es la IA?
Objetivos de la IA
Los tres principales objetivos de la IA en la actualidad son los siguientes:
Tipos de IA
Entre las múltiples clasificaciones de la IA, encontramos la basada en en la capacidad humana que agrupa los sistemas en dos categorías, IA débil e IA fuerte:
IA Débil o estrecha
IA Fuerte
Ramas de la IA
Entendiendo todas las variables
Procesamiento del Lenguaje Natural (PLN o NLP)
Machine Learning (ML)
Modelos generativos
IA conversacional
Análisis predictivo
Visión por computadora
Aspectos clave
IA y Educación
La IA necesita datos para aprender
Riesgos para la privacidad
Legislación y cumplimiento (como el RGPD)
Ética y responsabilidad
IA al servicio de la protección de datos
Peligros en el uso de la IA en Educación
Los 11 Pecados Capitales
1. Vulneración de la privacidad y protección de datos
2. Falta de transparencia y explicabilidad
3. Discriminación algorítmica o sesgos
4. Brecha digital y desigualdad
5. Reducción del papel del profesorado
6.Ciberseguridad y filtraciones
7. Impacto en la salud mental
8.Falta de competencia.
9.Falta de calidad y precisión en el contenido generado por la IA. DeepFakes
10.Consumo energético
Decálogo del buen uso de la IA
11.EXCESIVA DEPENDENCIA TECNOLÓGICA
IA generativa:
La Gran Revolución en la IA
La IA generativa se refiere a una categoría de algoritmos de IA que generan nuevas salidas basadas en los datos que han sido entrenados. A diferencia de los sistemas de IA tradicionales que están diseñados para reconocer patrones y hacer predicciones. la IA generativa crea nuevos contenidos en forma de imágenes, texto, audio y más. El uso de herramientas de IA generativa ha marcado un hito en la forma en que interactuamos con la tecnología. A través de su capacidad para crear contenido novedoso como imágenes, texto y más, estas herramientas ofrecen ventajas significativas.
Conocemos las desventajas pero....
¿Como me puede ayudar la IA generativa en el aula?
Tres vertientes distintas pero interconectadas
Enseñar para la IA, lo que conlleva el desarrollo y adquisición de habilidades y competencias relevantes para los desafíos y oportunidades que la IA trae consigo. Ejemplo: comprender los sesgos en los datos.
Enseñar sobre IA, se trata de un enfoque más técnico que se manifiesta al comprender y aplicar conocimientos relacionados con esta disciplina para utilizarla eficazmente y contribuir al desarrollo de nuevas herramientas y tecnologías en este campo.Ejemplo: entrenar una IA mediante Learning ML
Enseñar con la IA, lo cual implica la integración de la IA en el entorno educativo para potenciar el proceso de enseñanza-aprendizaje. Ejemplo: utilizar herramientas de personalización, de gestión o de generación de recursos y contenidos.
Se concretan tres perfiles dentro del centro para el uso de la IA de manera ética
Un nuevo aliado para impulsar a los alumnos
ALUMNADO COMO CREADOR
Aprendizaje sobre la IA, donde el alumnado podría diseñar y programar una solución simple basada en IA para adquirir los conceptos básicos de la misma, aplicándolos en un contexto práctico y relevante para su aprendizaje. Es decir, que el alumno entienda cómo funciona la IA y pueda utilizarla en sus creaciones.Ejemplo: crear un clasificador con Machine Learning for Kids
Creación de contenido digital utilizando herramientas de IA como generadores de contenido automatizado, chatbots educativos o software de diseño asistido por IA.Ejemplo: generador de test con feedback, crear mapas mentales, etc.
Análisis de datos y predicciones mediante herramientas de IA, ofreciendo al alumnado la oportunidad de emplear algoritmos de aprendizaje automático y técnicas de procesamiento de lenguaje natural en diversos campos.
Un nuevo aliado para impulsar a los alumnos
ALUMNADO COMO CONSUMIDOR
Programas de tutoría personalizada que utilizan algoritmos de IA para adaptar el contenido y la metodología de enseñanza según las necesidades individuales de cada estudiante. Así mismo, estas herramientas de práctica adaptativa ajustan automáticamente el nivel de dificultad y el tipo de ejercicios según el progreso del estudiante, lo que permite al alumnado practicar y reforzar conceptos específicos de manera eficiente y personalizada.Ejemplo: usar una plataforma en línea para ofrecer actividades de repaso al alumnado que, según su nivel de habilidad, se irían ajustando y adaptando automáticamente.
Asistentes virtuales educativos basados en IA que proporcionan respuestas a preguntas comunes, ofrecen explicaciones adicionales sobre conceptos difíciles y brindan apoyo en la resolución de problemas.Ejemplo: tutor Socrático, obtención de ayuda para explicar un problema o tarea,etc.
Sistemas de gestión del aprendizaje (LMS) para facilitar la administración, entrega y seguimiento de actividades de aprendizaje en entornos educativos mediante la adaptación de contenidos, recomendaciones personalizadas, seguimiento del progreso y/o automatización de notificaciones y recordatorios.Ejemplo: si un estudiante aprende mejor mediante la visualización de contenido, el LMS puede priorizar la entrega de recursos multimedia en lugar de textos largos.
Y el profesorado...
CREACIÓN DE RECURSOS
La IA, especialmente la generativa, ofrece herramientas y tecnologías que pueden potenciar la creación de estos recursos.
Generadores de contenido automatizado que posibilitan la generación de materiales educativos como cuestionarios, ejercicios, actividades, vídeos, simulaciones, juegos, presentaciones multimedia, programaciones, situaciones de aprendizaje... Estos recursos pueden adaptarse a diferentes estilos de aprendizaje y facilitar la comprensión de conceptos complejos.Ejemplo: crear automáticamente un texto adaptado a las necesidades del alumnado, teniendo en cuenta variables como el número de caracteres, temática, tipo de letra, dificultad,inclusión de imágenes, organización en párrafos, entre otros aspectos.
Adaptación de contenidos a diferentes idiomas, posibilitando que los materiales educativos sean accesibles para todo el alumnado proveniente de diversos contextos lingüísticos y culturales.Ejemplo: traducir una actividad de clase al idioma original del alumno o alumna.
Y el profesorado...
PERSONALIZACIÓN DEL APRENDIZAJE
Análisis de datos del alumnado. Esto implica la recopilación, el procesamiento y el análisis de datos sobre el rendimiento, las preferencias de aprendizaje y otros factores relevantes del alumnado. Los modelos predictivos pueden ayudar al profesorado a identificar patrones y tendencias en los datos del alumnado, lo que les permitiría anticiparse y ajustar su enfoque pedagógico
Sistemas de recomendación de contenidos. Estos sistemas utilizan algoritmos de IA para sugerir recursos educativos específicos y actividades de aprendizaje personalizadas, relevantes y adecuadas a sus necesidades individuales. La IA generativa ya contempla tanto el DUA como los alumnos ACNEAE a la hora de plantear actividades y Situaciones de Aprendizaje.
Una pequeña joya que nunca decepciona
Destruyamos los muros del miedo a lo desconocido
La IA multiplica nuestras capacidades: acelera diagnósticos, personaliza el aprendizaje, automatiza tareas tediosas y libera tiempo para lo humano; potencia creatividad, eficiencia y acceso al conocimiento. Sus sombras existen —sesgos, opacidad, brecha digital, privacidad—, pero se reducen con diseño responsable, datos de calidad, auditoría y educación digital. No es un oráculo ni un enemigo: es una herramienta poderosa. Como cualquier invento humano, su valor moral no es intrínseco; dependerá de nuestras decisiones. Usemos la IA para mejorar vidas; lo contrario sería renunciar a nuestro progreso.
Y como reflexión...
Interacción natural y colaboración con humanos
La IA se está enfocando en desarrollar sistemas que puedan interactuar de manera más natural con los humanos. Esto incluye avances en el procesamiento del lenguaje natural, la comprensión de emociones y la colaboración en tareas complejas que involucren la interacción persona-máquina.
Cuando no se protege adecuadamente la información que se usa para entrenar modelos de IA, pueden ocurrir:
Comprensión y razonamiento de sentido común.
La IA busca mejorar su capacidad para comprender y razonar sobre el mundo de manera similar a los humanos. Esto implica la incorporación de conocimiento de sentido común y el desarrollo de sistemas que puedan tomar decisiones éticas y morales.
Generalización y flexibilidad.
Uno de los objetivos clave de la IA es lograr una inteligencia más general, que pueda adaptarse y aplicarse a diferentes dominios y tareas. La idea es desarrollar sistemas que puedan aprender y razonar en entornos cambiantes, sin requerir una programación o instrucción específica para cada situación.
Centrada en realizar tareas específicas de manera eficiente, como los asistentes virtuales, los sistemas de recomendación y los vehículos autónomos. Sus características son:
Especializada: enfocada en tareas específicas y se desarrolla para realizarlas de manera precisa y eficiente. Algunos ejemplos incluyen reconocimiento de voz (Siri, Alexa, etc), detección de fraudes, recomendaciones de productos(Netflix, Youtube,...) y conducción autónoma. Datos limitados: los sistemas de IA débil dependen en gran medida de datos específicos del dominio en el que están programados. Estos datos se utilizan para entrenar al sistema y permitirle tomar decisiones o realizar predicciones. Sin conciencia ni autoconciencia: la IA débil no tiene una comprensión general del mundo o de sí misma. No posee conciencia ni emociones y no puede reflexionar sobre su propio estado o tomar decisiones éticas o morales.
Busca replicar la inteligencia humana general en una máquina. Aún se encuentra en desarrollo y plantea desafíos éticos y filosóficos significativos. Estas serían sus características:
Generalizada: la IA fuerte tiene como objetivo lograr una inteligencia general, lo que significa que puede comprender y realizar tareas en diferentes dominios. Esto implica la capacidad de aplicar conocimientos y habilidades en múltiples áreas y adaptarse a situaciones nuevas. Autoaprendizaje: los sistemas de IA fuerte tienen la capacidad de aprender por sí mismos, adquiriendo nuevos conocimientos y mejorando su rendimiento a lo largo del tiempo. Pueden razonar, resolver problemas y realizar tareas de manera autónoma sin requerir una programación o instrucción continua. Conciencia y autoconciencia: la IA fuerte busca desarrollar sistemas que sean conscientes de sí mismos y del mundo que los rodea. Estos sistemas podrían tener una comprensión de su propio estado, emociones y cognición, y podrían participar en discusiones éticas y morales.
Inteligencia artificial es un concepto amplío que engloba tecnologías diferentes, muchas conectadas entre ellas o que se han ido construyendo apoyándose en las anteriores (machine learning, redes neuronales, deep learning...). Muchas veces se habla de inteligencia artificial cuando en realidad nos estamos refiriendo a una de estas tecnologías en particular.
Los algoritmos de IA se entrenan con grandes volúmenes de datos. Si estos datos incluyen información personal (como nombres, direcciones, hábitos de consumo, historial médico, etc.), entonces entra en juego la protección de datos personales.
Se están desarrollando marcos éticos para asegurarse de que la IA no solo cumpla con la ley, sino que también respete valores como la dignidad humana, la equidad y la autonomía personal.
Leyes como el Reglamento General de Protección de Datos (RGPD) en Europa establecen principios clave que deben seguir los sistemas de IA que tratan datos personales:
También se puede usar IA para mejorar la protección de datos:
Sistema de IA: Es un sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.