Le réseau social Twitter a annoncé vendredi qu'il accorderait des récompenses aux utilisateurs et chercheurs découvrant d'éventuels parti-pris, sexistes ou racistes par exemple, dans les algorithmes fonctionnant sur sa plateforme. Les prix vont jusqu'à 3500 dollars.

L'idée est calquée sur les concours proposés par certains sites Internet pour déceler des failles de sécurité, expliquent Rumman Chowdhury et Jutta Williams, deux responsables de l'entreprise, dans un message.

"Il est difficile de trouver des préjugés dans les modèles d'apprentissage automatique et, parfois, les entreprises découvrent qu'elles ont involontairement porté atteinte à l'éthique seulement après leur déploiement", expliquent ces responsables. "Nous voulons que cela change".

Algorithme recadrant les images

Dans le modèle développé pour déceler les failles de sécurité, les chercheurs tout comme les pirates informatiques ont aidé les responsables de la sécurité informatique "à établir des bonnes pratiques pour identifier et gérer les vulnérabilités afin de protéger le public", expliquent Rumman Chowdhury et Jutta Williams. "Nous voulons développer une communauté similaire" pour déceler les parti-pris des algorithmes.

Twitter avait présenté en avril ses travaux en cours pour rendre plus éthiques les algorithmes qui sont à l'oeuvre dans les coulisses de la plateforme, une façon de répondre aux critiques sur les dangers liés à ces technologies.

Le réseau social avait quelques semaines plus tard renoncé à un algorithme recadrant les photographies, ayant découvert qu'il était notamment légèrement biaisé en faveur des personnes blanches.

ats, afp