Facebook dit que son IA qualifiant à tort une vidéo d’hommes noirs de « primates » était « inacceptable »

Facebook s’excuse pour un incident au cours duquel son IA a mal étiqueté une vidéo d’hommes noirs avec une étiquette de « primates », la qualifiant d’« erreur inacceptable » qu’elle examinait pour éviter que cela ne se reproduise. Tel que rapporté par le New York Times, les utilisateurs qui ont regardé une vidéo du 27 juin publiée par le tabloïd britannique Daily Mail ont reçu une invite automatique leur demandant s’ils voulaient « continuer à voir des vidéos sur les primates ».

Facebook a désactivé toute la fonction de recommandation de sujet dès qu’il a réalisé ce qui se passait, a déclaré samedi un porte-parole dans un e-mail à The Verge.

« C’était clairement une erreur inacceptable », a déclaré le porte-parole. La société enquête sur la cause pour éviter que le comportement ne se reproduise, a ajouté le porte-parole. « Comme nous l’avons dit, bien que nous ayons apporté des améliorations à notre IA, nous savons qu’elle n’est pas parfaite et nous avons encore des progrès à faire. Nous nous excusons auprès de tous ceux qui ont pu voir ces recommandations offensantes. »

L’incident n’est que le dernier exemple d’outils d’intelligence artificielle montrant des préjugés sexistes ou raciaux, les outils de reconnaissance faciale ayant un problème particulier d’identification erronée des personnes de couleur. En 2015, Google s’est excusé après que son application Photos ait qualifié des photos de Noirs de « gorilles ». L’année dernière, Facebook a déclaré qu’il étudiait si ses algorithmes formés à l’aide de l’IA, y compris ceux d’Instagram, dont Facebook est propriétaire, étaient racistes.

En avril, la Federal Trade Commission des États-Unis a averti que les outils d’IA qui ont démontré des préjugés raciaux et sexistes « troublants » pourraient enfreindre les lois sur la protection des consommateurs s’ils sont utilisés pour prendre des décisions en matière de crédit, de logement ou d’emploi. « Tenez-vous responsable – ou soyez prêt à ce que la FTC le fasse pour vous », a écrit l’avocate de la FTC, Elisa Jillson, dans un article publié sur le site Web de l’agence.

Share