L’IA de Facebook a pris les Noirs pour des singes

09/06/2021 à 11:32 CEST

L’intelligence artificielle n’est pas raciste. Après tout, ce sont des machines qui ne peuvent pas avoir ce genre de pensées. Cependant, nous vivons dans un monde raciste, ce qui les amène à être programmés avec des préjugés insurmontables qui provoquent des dérives qui s’avèrent racistes.

Dans ce cas, Facebook a dû s’excuser après que son intelligence artificielle ait placé un tag flagrant sur une vidéo d’hommes noirs. Selon Engadget, les utilisateurs qui ont récemment visionné une vidéo publiée par le Daily Mail mettant en vedette des hommes noirs ont vu un message leur demandant s’ils l’auraient aimé. « continuez à regarder des vidéos sur les primates ». Le réseau social s’est excusé pour « l’erreur inacceptable » dans un communiqué envoyé à la publication. Il a également désactivé la fonction de recommandation qui était responsable du message.

La porte-parole de la société, Dani Lever, a déclaré dans un communiqué : « Comme nous l’avons dit, bien que nous ayons apporté des améliorations à notre intelligence artificielle, nous savons qu’elle n’est pas parfaite et nous avons encore des progrès à faire. Nous nous excusons auprès de tous ceux qui ont vu ces recommandations. offensant ». « 

Les préjugés sexistes et raciaux en intelligence artificielle ne sont pas un problème propre au réseau social : les technologies de reconnaissance faciale sont encore loin d’être parfaites et ils ont tendance à mal identifier les minorités et les femmes en général. L’année dernière, de faux matchs de reconnaissance faciale ont conduit à l’arrestation injustifiée de deux hommes noirs à Detroit. En 2015, Google Photos a étiqueté des photos de Noirs comme des « gorilles »., et Wired a découvert quelques années plus tard que la solution du géant de la technologie était de censurer le mot « gorille » des recherches et des balises d’image.

Share