IA Act et IA générative

Soazig Le Leuch - 15 septembre 2024

IA Act et IA générative

Philosophie de l'IA Act

Cependant, l’IA Act ne doit pas non plus négliger les enjeux de souveraineté et d’innovation tout en assurant la protection des consommateurs.

C’est le premier règlement au monde sur l’intelligence artificielle. L'objectif principal a été de veiller à ce que les sytèmes d'intelligence artificielle (SIA), utilisés dans l'Union européenne (UE), soient sûrs, transparents, traçables, non discriminatoires et respectueux de l'environnement.L’Union européenne a aussi voulu apparaître comme un des fondateurs des technologies éthiques, grâce à la mise en place de normes internationales et l’utilisation d’une approche géographique globale.

Un texte pionnier

• Les fournisseurs qui distribuent ou proposent des SIA dans l'UE, que ces fournisseurs soient établis dans l'Union ou dans un pays tiers ;

• Les utilisateurs de SIA situés dans l'Union Européenne ;

• Les fournisseurs et utilisateurs de SIA situés dans un pays tiers et dont la solution produite par le système est utilisée dans l'Union européenne.

Démarche identique à celle du RGPD

Presque tout le monde concerné !

3 catégories de personnes sont visées par l’IA Act :

Un système de classification

4 - Les systèmes d'intelligence artificielle à usage général

Les jeux vidéo et les filtres anti-spam activés par l'IA

3 - Les systèmes d'intelligence artificielle à risque limité

La reconnaissance d'images et de paroles, la génération d'images audio et vidéo, la détection de formes, la réponse à des questions, la traduction, etc. (OpenAI, Google, Deepl...)

La notation sociale à des fins générales par les autorités publiques, les systèmes d'identification biométrique en temps réel et à distance (reconnaissance faciale)...

2 - Les systèmes d'intelligence artificielle à haut risque

1 - Les systèmes d'intelligence artificielle interdits

La gestion et l'exploitation des infrastructures critiques, l'éducation et la formation professionnelle, l'emploi, la gestion des travailleurs et l'accès au travail indépendant

4 catégories

ChatGPT, Midjourney, Perplexity, Stable Diffusion, Bard, Dall-E...

Les intelligences artificielles génératives (IAG) rentrent dans cette 3e catégorie

Des obligations à respecter

Rédiger, tenir à jour et mettre à disposition des informations et de la documentation à l'intention des intégrateurs

Rédiger et mettre à la disposition du public un résumé suffisamment détaillé du contenu utilisé

Coopérer avec les autorités

Les obligations des fournisseurs de SIAG

Les fournisseurs de SIA à usage général ont des obligations plus légères que ceux qui fournissent un SIA à haut risque.

Mettre en place une politique conforme à la législation sur le droit d'auteur

Rédiger et mettre à jour la documentation technique

• Les moyens permettant de s'assurer que les informations sont mises à jour à la lumière des différentes évolutions,

• Le bon niveau de détail pour le résumé des contenus utilisés pour l'entraînement du système,
• L'identification des risques systémiques au niveau de l'UE,
• Les mesures, procédures et modalités d'évaluation et de gestion des risques systémiques, y compris pour la documentation associée.

Mise en place : au plus tard début 2025

Ils doivent couvrir les éléments visés ci-dessous :

Le Bureau de l'IA encourage et facilite l'élaboration de codes de bonnes pratiques au niveau de l'UE car cela permet d’appliquer correctement l’IA Act, en tenant compte des approches internationales.

Les codes de bonne conduite

Il est important de mentionner qu'un contenu a été généré partiellement ou totalement par un outil d'intelligence artificielle.Un des objectifs est de lutter contre les deepfakes.

La transparence

Mot d'ordre pour les utilisateurs d'IAG

Des sanctions importantes

C'est la somme la plus élevée qui sera retenue.La Commission considère que ces amendes sont "effectives, proportionnées et dissuasives".

• 3% du chiffre d'affaires annuel mondial ou,
• 15 millions d'euros.

En cas de faute intentionnelle ou de négligence sur une IAG, la Commission européenne peut infliger aux fournisseurs une amende pouvant aller jusqu'à :