Simple Tech Presentation

Inteligencia Artificial y desigualdades

Impactos de la IA y los sistemas algorítmicos en las vidas de las personas más allá del hype

Start

un apunte

La narrativa de la Inteligencia Artificial es una enorme campaña de publicidad, pero la tecnología es mucho más que las imágenes atractivas. Nos preocupan esas otras derivadas de la tecnología que quedan sepultadas por la narrativa más extendida. La narrativa sobre la IA se apoya en principios casi filosóficos:

• Cualquier avance tecnológico es bueno
• La tecnología es neutra
• La tecnología es infalible

ÍNDice

Narrativa

corporaciones

La cadena de suministro de la IA es larga y paradigmáticamente global. Cada acción relacionada con un sistema algorítmico tiene implicaciones diversas y consecuencias multidimensionales

lógicas neoextractivistas

Impacto ecosocial

Industria armamentística

Discriminación racial

Creación de conocimiento

Trabajo digno

democracia

Protección social

impacto de género

Narrativas

Todo pasa de una manera éterea. Una orden en un ordenador devuelve un resultado como por arte de magia. El léxico

Inmaterialidad

La tecnología es tan evolucionada que habla, entiende, responde e incluso piensa

Humanización

La automatización de los procesos nos lleva a la excelencia y a un mundo sin errores (humanos)

Infalibilidad

La tecnología mejora todos los procesos, aunque de momento las únicas proyecciones son las de la industria... y no se están compliendo

Eficiencia

Corporaciones

El modelo actual de desarrollo de la IA beneficia a las grandes corporaciones que son las que tienen capacidad para investigar y desplegar innovaciones con un alto nivel de tecnificación. Esto se traduce en:

• Acumulación de riqueza
• Captura de espacios de poder
• Promoción de lógicas extractivistas
• Maximización del beneficio
• Vulnerabilidad de los derechos

Lógicas extractivistas

Reproduce y perpetúa los desequilibrios norte-sur.Remite a las relaciones económicas de la época colonial.Explota las diferentes capacidades de desarrollo y consumo de tecnología

+INFO

Esta lógica en el caso de la IA ha diversificado los "materiales" de expolio:

• Materias primas
• Datos
• Mano de obra cualificada

Impacto ecosocial

La IA llegó con la promesa de ser la mejor aliada contra el cambio climático. De momento solo ha demostrado una voracidad inesperada. Ha disparado los consumos

• De materias primas
• De energía
• De agua
• De espacios

Genera:

• Contaminación en la explotación de recursos
• Deforestación
• Aumento de los residuos
• Dificultades en las comunidades

Industria armamentística

Proliferan las armas autónomasLos sistemas de vigilancia y control Aumento de capacidad letal de las armas Deshumanización de la guerra

+INFO

Transferencia entre las diferentes divisiones de las empresas tecnológicas.Uso de tecnologías no bélicas para fines bélicos Conflicto con los principios de funcionamiento de las empresas y de los centros de investigación

Discriminación racial

El sesgo de raza, etina u origen es uno de los más extendidos y tiene consecuencias concretas.

• Desde el mal funcionamiento de algunos sistemas (como los de reconocimiento facial)
• Hasta las decisiones basadas en estereotipos
• O el aumento de los mecanismos de control. IA para el control de fronteras como una excepcionalidad
• Pasando por la perpetuación de los estereotipos raciales de la sociedad

Creación de conocimiento

Empobrecimiento de la producción de conocimientoDificultad de representación de la diversidad Dificultad para atender a situaciones no hegemónicas Dificultad para reconocerse en un contexto no diverso Necesidad de introducir la diversidad cultural y lingüísitca en el desarrollo de modelos y herramientas

+INFO

La IA es poco nutritiva. Las capacidades cognitivas se empobrecen cuando se alimentan de IA y la propia IA se empobrece cuando se canivaliza.

Trabajo digno

El futuro del trabajo es una de las grandes incógnitas.La IA ¿complementa o sustituye? Cuestiones diversas:

• Reorientación del empleo (sospecha de precarización)
• Condiciones laborales de los data workers
• Algorithmic management en la economía de plataforma

Protección social

La automatización de los servicios públicos ha generado enormes escándalos. Cuando estos servicios son mecanismos de protección social, las consecuencias pueden ser irreparables. Aumenta la indefensión / infalibilidad de la máquina Perpetua los sesgos

+INFO

Si la automatización de decisiones va hacer más efectivos los servicios públicos, ¿por qué se usa desde la sospecha para detectar el fraude y no para generalizar el acceso?

Democracia

El impacto de la IA en la democracia tiene múltiples caras: Captura de espacios de decisión. Lobby extremo Condicionamiento del voto. Información errónea o manipulada Campañas de desinformación (dinamita la conciencia ciudadana y la legitimidad de las instituciones)

Discriminación de género

Es uno de los ejes de discriminación más comunes y más extendidos:Se proyecta al mundo del trabajo Se proyecto a la violencia en las redes a través de la moderación de contenidos. Perpetua estereotipos a través de la GenAI

+INFO

A menudo se dice que los datos reflejan la sociedad. Pero si estamos construyendo un nuevo mundo... tenemos que decidir si queremos que siga estando marcado por el patriarcado... Eso ya es nuestra decisión.

Gracias por vuestra atención.Todo lo que hemos dicho puede ser discutido por seres humanos