Face aux dérives, l’ONU appelle à un moratoire sur l’utilisation de l’IA

(Agence Ecofin) - Les multiples applications de l’intelligence artificielle suscitent un intérêt croissant aussi bien dans les entreprises qu’au niveau des services publics. Ce développement fulgurant s’accompagne néanmoins de quelques ratés, ce qui nécessite donc que des mesures d’encadrement soient prises.

La haute-commissaire des Nations unies aux droits de l’homme, Michelle Bachelet (photo), a lancé la semaine dernière un appel pour l’instauration d’un moratoire sur certaines applications de l’intelligence artificielle (IA). Selon un rapport publié le 13 septembre par le Conseil des droits de l'homme de l'ONU, il s'agit du profilage, de la reconnaissance faciale, de la prise de décision automatisée et des technologies d'apprentissage automatique.

L’objectif de ce moratoire est de travailler à la mise en œuvre de règles encadrant leur utilisation, car ces technologies d’intelligence artificielle peuvent avoir des effets négatifs, voire catastrophiques, s’ils sont utilisés sans prendre en compte suffisamment la manière dont ils affectent les droits humains ».

Selon le rapport, les bases de données utilisées pour entrainer les technologies d’intelligence artificielle contiennent déjà des biais qui, non corrigés, se transmettent à la machine et renforcent les discriminations. De nombreux exemples sont disponibles sur ces dérives de l’IA, notamment dans le recrutement, les aides sociales, ou même des arrestations à cause de systèmes de reconnaissance faciale mal entrainés.

Rappelons que l’ONU n’est pas le premier à dénoncer ces dérives de l’IA. Chez Amazon par exemple, plusieurs témoignages rapportent que le programme informatique chargé de gérer certaines catégories de livreurs procède à des licenciements sans « véritable raison ».

Lire aussi : 02/07/2021 - Chez Amazon, des employés se font licencier par un algorithme