SdA_Deep fakes

Situación de aprendizaje

FAKE VOICES

Empezar >

Situación de aprendizaje//Fake voices

Saberes básicos

Descripción

• Programación por bloques
• Fundamentos de la inteligencia artificial y el aprendizaje automático.
• Principios éticos y aspectos legales del uso de sistema de IA.

Los estudiantes explorarán los medios sintéticos mediante la creación de una app para smartphones que puede hablar con diferentes voces cambiando el ritmo y el tono del habla.

Metodología

Duración

1º Bachillerato

Esta situación de aprendizaje se aborda mediante el aprendizaje basado en proyectos. Los alumnos trabajarán en grupos de 3 de manera colaborativa.

3 sesiones

Asignatura: Inteligencia artificial

Anexos

evaluación

ACTIVIDADES

recursos

Sesión 3

Sesión 1

Sesión 2

Preparación de las exposiciones orales sobre deepfakes.

Introducción a las deepfakes.

Deepfakes en IA

Creación de la app que genera voces falsas.

Exposiciones orales.

¿Cómo se crean las deepfkes?

Puesta en común.

Ejemplos de audio y video deepfake.

Prueba de las app.

Sesión 1 // Introducción a las deepfakes.

Detonador de conocimientos previos

• ¿Has oído hablar de las deepfakes?
• ¿Qué sabes sobre este tema?

+ info

Sesión 1 // Introducción a las deepfakes.

Ideas clave

Estos sistemas crean deepfakes aprendiendo de grabaciones existentes de humanos.

Idea Clave

Los deepfake son archivos de audio y video hechos por sistemas de IA..

Idea Clave

Idea Clave

El nombre deepfake proviene de deep learning (aprendizaje profundo)

Las nuevas tecnologías pueden tener implicaciones positivas y negativas, según el uso que hagamos de ellas.

Idea Clave

Sesión 1 // Introducción a las deepfakes.

• En el video de Jay-Z, ¿el deepfake sonaba como una persona real? Para quienes conocéis al rapero, ¿suena como él? ¿Podéis identificar el texto que estaba leyendo?
• ¿Cómo ha aprendido el sistema a recrear la voz del rapero?
• ¿Qué crees que significa el término inteligencia artificial?
• Definición de inteligencia artificial: Cuando las máquinas hacen cosas que parecen inteligentes de la misma manera que los humanos.

En esta pista de audio, Jay-Z ha sido manipulado mediante un audio fake para decir cosas que nunca ha dicho.

Sesión 1// Programación de la app

Fake voices

• Vamos a diseñar una app que genera voces generadas por ordenador.
• Nota: Las voces generadas por dispositivos móviles en el tutorial no son verdaderos deepfakes porque no utilizan inteligencia artificial, ¡pero aun así son bastante convincentes!

• Tutorial para desarrollar la app en App Inventor:

TUTORIAL

Sesión 2 // Deepfakes

Analizamos nuestra app

• ¿La voz falsa de tu aplicación suena realista?
• ¿Cómo podría usarse la voz para engañar a alguien?
• ¿Qué puedes hacer para que tu voz sintética suene mejor?

Sesión 2 // Deepfakes

• ¿Qué diferencia hay entre la forma como suena la voz en vuestra app y la voz del vídeo?
• Los deepfakes se crean utilizando inteligencia artificial para entrenar al sistema a partir de muchos ejemplos de cómo habla la gente real. De hecho, el nombre deepfake proviene de “aprendizaje profundo”.
• ¿De qué forma se podría utilizar el vídeo de Kennedy con fines positivos?
• ¿Has visto deepfakes de otros políticos en línea?
• ¿De qué forma se podría utilizar el vídeo de Kennedy con fines dañinos?

Sesión 2// Analizamos ejemplos de deepfakes

¿Qué vamos a hacer?

Cada grupo debe elegir una de las siguientes categorías y analizar los ejemplos propuestos:

Producto final

Agrupamiento

Debéis entregar un informe con las conclusiones que habéis sacado de vuestro análisis. Las siguientes preguntas os pueden ayudar.

• Comercio
• Tecnologías de apoyo.
• Müsica Pop
• Historia
• Crimen

Trabajaremos en grupos de 3 para analizar ejemplos de deepfakes.

Sesión 2// Analizamos ejemplos de deepfakes

Categorías

Historia

Comercio

Música Pop

Tecnologías de apoyo

Crimen

Sesión 3// Preparación de las exposiciones

• Cada grupo prepara una exposición oral con las conclusiones a las que llegaron en la sesión anterior.
• Durante la exposición, los grupos deben contestar a las siguientes preguntas:

1. Según vuestra opinión, ¿cuáles son algunas posibles consecuencias positivas o negativas de los deepfakes como los de vuestra categoría?
2. Haz una predicción sobre cómo podrían evolucionar este tipo de deepfakes en el futuro.
3. ¿Qué recomendaciones de leyes o políticas haría vuestro grupo a los líderes gubernamentales o a las empresas de redes sociales? ¿Deberían apoyar o desaconsejar vídeos como los que habéis analizado?
4. Si vuestro grupo no tiene una respuesta definitiva, ¿qué podéis hacer para explorar más a fondo las consecuencias?

Sesión 3// Preparación de las exposiciones

• ¿En qué parte de la línea abajo representada creéis que encaja vuestra categoría?
• Dad al menos 2 razones por las que vuestro grupo ha decidido colocar la categoría ahí.

Beneficioso

Perjudicial

Sesión 3 // Exposiciones orales

• Cada grupo presenta y escribe su categoría en la línea de beneficios y perjuicios.
• Las exposiciones deben durar entre 3 y 4 minutos.

Sesión 3// Puesta en común y conclusiones

• ¿Tiene sentido la ubicación de cada categoría en la línea de beneficios y perjuicios?
• ¿Estáis de acuerdo con las decisiones de los otros grupos? ¿Por qué o por qué no?

Evaluación

Rúbricas de evaluación

App fake voices Rúbrica de coevaluación. Cada grupo probará la app de otros compañeros.

Exposición oral Exposición oral sobre las consecuencias de las deepfakes.

Informe Análisis de deepfakes en diferentes categorías.

App fake voices Rúbrica de evaluación para el profesor.

Anexos

01

App Inventor: https://appinventor.mit.edu/

02

Fake voices: The ethics of deep fakes: https://appinventor.mit.edu/explore/resources/ai/fake_voices_unit

Entra en App Inventor mediante el siguiente enlace:

http://ai2.appinventor.mit.edu/?locale=en&repo=http://appinventor.mit.edu/yrtoolkit/yr/aiaFiles/Fake_Voices/FakeVoices_Starter.asc

Desastre lunar.

Recursos

• Ficha de trabajo de los alumnos.
• Presentación de diapositivas.
• Ordenadores
• Smartphones (1 por cada grupo)
• Tutorial en App Inventor para desarrollar la aplicación
• Conexión a internet por wifi.

Atracan un banco utilizando voces falsas generadas con IA.

¿Pueden causar un colapso económico los vídeos manipulados con IA?

Ayudando a personas que han perdido la voz

Un actor recupera su voz

Asistente de IA Google Duplex

Una cantante de pop vuelve a cantar.

Jay Z lee a Hamlet

Analizamos ejemplos de deepfakes

1. ¿Se ha manipulado a una persona real en el vídeo? ¿A quíen? (Si el grupo tiene dos videos, escribid respuestas para ambos).
2. ¿Qué fue lo más convincente del deepfake? ¿Qué aspectos no son convincentes?
3. ¿Quién hizo el deepfake (si se conoce)?
4. ¿Por qué crees que se hizo el deepfake? ¿Cuál crees que fue la intención del creador?
5. ¿Crees que la persona real que fue manipulada estará conforme con aparecer en el vídeo? Por qué o por qué no.
6. En el futuro, ¿cómo se podría utilizar este tipo de deepfake para bien o para mal?