Le règlement européen sur l’intelligence artificielle: Zoom sur l’article 5

« Un système d’intelligence artificielle (système IA) est défini comme un système basé sur une machine conçu pour fonctionner avec différents niveaux d’autonomie, qui peut s’adapter après son déploiement et qui, pour des objectifs explicites ou implicites, déduit, à partir des données qu’il reçoit, comment générer des résultats tels que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer des environnements physiques ou virtuels ».( Source : Article 3, point 1 Article 3, point 1)

Le règlement européen sur l’intelligence artificielle (IA) est entré en vigueur le 1er août 2024. Il vise à favoriser un développement et un déploiement responsables de l’intelligence artificielle dans l’UE.

Les interdictions de l’article 5

L’article 5 du règlement européen sur l’intelligence artificielle (IA) établit des interdictions strictes concernant certaines pratiques d’IA jugées particulièrement préjudiciables ou manipulatrices. Parmi les pratiques interdites, on retrouve l’utilisation de techniques subliminales ou manipulatrices, l’exploitation des vulnérabilités de groupes spécifiques, l’évaluation sociale basée sur des comportements ou caractéristiques personnelles, et l’utilisation de systèmes d’IA pour évaluer le risque criminel sans preuves objectives.

L’article interdit également la création de bases de données de reconnaissance faciale par extraction non ciblée d’images, ainsi que l’utilisation de systèmes d’IA pour déduire les émotions dans certains contextes, sauf pour des raisons médicales ou de sécurité. La catégorisation biométrique pour déduire des caractéristiques sensibles comme la race ou les opinions politiques est également proscrite, sauf dans des contextes légaux spécifiques.

L’utilisation de systèmes d’identification biométrique à distance en temps réel dans des espaces publics :

L’utilisation de systèmes d’identification biométrique à distance en temps réel dans des espaces publics est strictement réglementée.

L’utilisation de systèmes d’identification biométrique à distance en temps réel dans des espaces accessibles au public est généralement interdite. Cette interdiction vise à protéger la vie privée et les libertés individuelles des citoyens.

L’utilisation de ces systèmes est néanmoins autorisée dans des cas très spécifiques et limités, notamment :

   – La recherche de victimes d’enlèvement, de traite des êtres humains ou d’exploitation sexuelle.

   – La prévention d’une menace spécifique, substantielle et imminente pour la vie ou la sécurité physique de personnes.

   – La localisation ou l’identification de personnes soupçonnées d’avoir commis une infraction pénale grave, dans le cadre d’une enquête ou de poursuites pénales.

Notons que cela nécessite une autorisation préalable délivrée par une autorité judiciaire ou une autorité administrative indépendante. Cette autorisation doit être motivée et conforme aux règles nationales. En cas d’urgence, l’utilisation peut commencer sans autorisation préalable, mais celle-ci doit être demandée sans retard injustifié.

L’autorité compétente s’assurera que l’utilisation du système est nécessaire et proportionnée à la réalisation des objectifs spécifiques mentionnés. L’utilisation doit être limitée dans le temps et l’espace, et ne doit pas entraîner de décisions juridiques défavorables basées uniquement sur les résultats du système. Une analyse d’impact sur les droits fondamentaux devra également être réalisée.

Chaque utilisation de ces systèmes doit être notifiée à l’autorité de surveillance du marché et à l’autorité nationale chargée de la protection des données, en France il s’agira donc de la CNIL. Les États membres doivent soumettre des rapports annuels à la Commission européenne sur l’utilisation de ces systèmes.

Pour conclure…

Les conséquences pratiques de ces interdictions sont significatives. Les entreprises et les autorités doivent s’assurer que leurs systèmes d’IA respectent ces règles sous peine de sanctions. Les développeurs d’IA devront intégrer des garanties éthiques et de protection des droits fondamentaux dès la conception de leurs systèmes. La CNIL jouera un rôle crucial dans la mise en œuvre et le contrôle de ces dispositions.

  Article partiellement écrit avec l’aide de l’IA