Passer au contenu

IA : le cri d’alarme de l’ONU sur la reconnaissance faciale

Un rapport publié par les Nations unies demande aux États de mieux réglementer ces technologies pour prévenir les dérives.

« Les technologies d’intelligence artificielle peuvent avoir des effets négatifs, voire catastrophiques s’ils sont utilisés sans prendre en compte suffisamment la manière dont ils affectent les droits humains ». Michelle Bachelet, la Haute-commissaire des droits de l’homme de l’ONU, et ancienne présidente du Chili, s’est voulue très claire ce mercredi lors de la présentation d’un rapport.

La dirigeante appelle de ses vœux à une évaluation plus poussée des risques que peuvent entraîner ces outils en matière de droit à la vie privée, mais aussi de liberté de circulation et d’expression. Une fois ce diagnostic effectué, elle suggère de passer à l’action en interdisant ou en réglementant fortement les systèmes les plus dangereux.

L’Union européenne veut mieux réguler l’IA

Selon Michelle Bachelet, les États ne doivent pas s’abriter derrière ce travail d’évaluation avant d’agir. Citée par BFM TV, la Haute-commissaire souhaite estime qu’ils « devraient imposer un moratoire sur les technologies qui présentent potentiellement un grand risque ». Elle pense notamment aux technologies de prises de décision automatiques, par exemple pour le recrutement, ou aux algorithmes utilisés par les géants du web.

Le rapport évoque par ailleurs les dérives que peuvent générer ces technologies et notamment des arrestations d’innocents suite à des erreurs de la reconnaissance faciale, ou encore des difficultés pour toucher des aides sociales. Le constat n’est ici pas nouveau et de nombreuses études ont souligné les biais possibles de l’IA qui peut adopter des comportements racistes et sexistes dans certains cas.

Cet appel devrait être entendu par les autorités européennes. On sait en effet qu’un texte est actuellement discuté au sein l’UE. Il prévoit de réglementer davantage les systèmes d’intelligence artificielle. Ce projet n’est pas du goût des industriels du secteur qui en déplorent les effets négatifs sur le plan économique. De leurs côtés, des organisations de défense des libertés publiques et des citoyens ont lancé une pétition pour bannir la surveillance biométrique de masse. On peut signer le texte à cette adresse.

📍 Pour ne manquer aucune actualité de Presse-citron, suivez-nous sur Google Actualités et WhatsApp.

Newsletter 🍋

Abonnez-vous, et recevez chaque matin un résumé de l’actu tech

1 commentaire
1 commentaire
  1. Une manière simple de contrer ces dérives serait d’obiger les fonds de recherche à verser la moitiè des budgets aux “hackers” qui produiraient les systèmes de contre-mesure à ces technologies de surveillance…

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *