L’ONU avertit que l’intelligence artificielle pourrait constituer une menace « négative, voire catastrophique » pour les droits humains

par Katabella Roberts, militante Post :

Les Nations Unies ont averti que les systèmes d’intelligence artificielle (IA) pourraient constituer une menace « négative, voire catastrophique » pour les droits de l’homme et ont demandé l’interdiction des applications d’IA qui ne sont pas utilisées dans le respect des droits de l’homme.

Le 15 septembre, la chef des droits humains de l’ONU, Michelle Bachelet, a exhorté les États membres à interdire temporairement la vente et l’utilisation de l’IA jusqu’à ce que les risques potentiels qu’elle pose aient été traités et que des garanties adéquates soient mises en place pour garantir que la technologie ne sera pas utilisée abusivement.

« Nous ne pouvons pas nous permettre de continuer à rattraper notre retard concernant l’IA – en autorisant son utilisation avec des limites ou une surveillance limitées ou inexistantes et en traitant les conséquences presque inévitables sur les droits de l’homme après coup », a déclaré Bachelet dans un communiqué.

LA VÉRITÉ VIT sur https://sgtreport.tv/

« Le pouvoir de l’IA de servir les gens est indéniable, mais il en va de même de la capacité de l’IA à alimenter les violations des droits de l’homme à une échelle énorme sans pratiquement aucune visibilité. Des mesures sont nécessaires maintenant pour mettre des garde-fous des droits de l’homme sur l’utilisation de l’IA, pour le bien de nous tous », a ajouté le chef des droits de l’homme.

Ses remarques interviennent peu de temps après que son bureau a publié un rapport qui analyse comment l’IA affecte le droit des personnes à la vie privée, ainsi qu’une série d’autres droits concernant la santé, l’éducation, la liberté de mouvement et la liberté d’expression, entre autres.

Le document comprend une évaluation du profilage, de la prise de décision automatisée et d’autres technologies d’apprentissage automatique.

Alors que le rapport note que l’IA peut être utilisée à bon escient et peut aider « les sociétés à surmonter certains des grands défis de notre époque », son utilisation comme outil de prévision et de profilage peut avoir un impact considérable sur « les droits à la vie privée, à un procès équitable, à la protection contre les arrestations et détentions arbitraires et le droit à la vie.

Selon le rapport, de nombreux États et entreprises échouent souvent à faire preuve de diligence raisonnable tout en se précipitant pour intégrer des applications d’IA, et dans certains cas, cela a entraîné des erreurs dangereuses, certaines personnes auraient été maltraitées et même arrêtées en raison d’un logiciel de reconnaissance faciale défectueux. .

Pendant ce temps, la reconnaissance faciale a le potentiel de permettre un suivi illimité des individus, ce qui pourrait bien conduire à un éventail de problèmes liés à la discrimination et à la protection des données.

Un robot IA (L) de CloudMinds est vu lors de la Mobile World Conference à Shanghai le 27 juin 2018. (-/./.)

Photo d'époque

Les visiteurs regardent un système de ville intelligente d’IA par iFLY à l’Exposition internationale de l’industrie du transport intelligent 2018 à Hangzhou, dans la province chinoise du Zhejiang, en décembre 2018. (STR/./.)

Comme de nombreux systèmes d’IA reposent sur de grands ensembles de données, d’autres problèmes liés à la manière dont ces données sont stockées à long terme posent également un risque, et il est possible que ces données soient exploitées à l’avenir, ce qui pourrait entraîner des risques importants pour la sécurité nationale.

Lire la suite @ ActivistPost.com

Share