API et Biais Algorithmiques : L'Amplification des Discriminations

Les API (Interfaces de Programmation Applicatives) sont des outils essentiels permettant aux développeurs d’accéder aux données des plateformes numériques. Cependant, ces interfaces ne sont pas neutres : elles exposent des contenus filtrés et classés par des algorithmes qui peuvent refléter des biais sociaux et culturels. Ce phénomène, étudié par des chercheurs comme Safiya Umoja Noble dans son ouvrage « Algorithms of Oppression », soulève des questions cruciales sur la manière dont les technologies numériques peuvent reproduire et amplifier des discriminations raciales.

01. API et algorithmes : des amplificateurs de biais sociaux

Les API offrent un accès direct aux données des plateformes, permettant d'extraire des informations telles que des tweets, des posts ou des images. Cependant, ces données sont filtrées et classées par des algorithmes qui privilégient certains contenus en fonction de critères tels que l'engagement des utilisateurs. Ainsi, les contenus qui suscitent davantage de réactions (likes, partages, commentaires) sont mis en avant, ce qui peut entraîner une amplification des stéréotypes et des discours discriminatoires.

Les algorithmes de recommandation et de classement sont conçus pour maximiser l'engagement des utilisateurs. Cependant, cette logique peut avoir des conséquences inattendues : des contenus stéréotypés ou discriminatoires peuvent générer plus d'interactions et, par conséquent, être davantage mis en avant. Ce phénomène a été observé sur diverses plateformes, y compris Twitter, où des contenus islamophobes ou stigmatisants envers certains groupes peuvent être amplifiés par les algorithmes de recommandation.

Voici des exemples de types de biais qui peuvent être amplifiés par les API et les algorithmes :

• Biais dans la reconnaissance vocale : Les systèmes de reconnaissance vocale peuvent présenter des biais envers certains accents, dialectes ou groupes démographiques, entraînant des erreurs de reconnaissance et des discriminations.
• Biais dans les systèmes de recrutement automatisés : Les systèmes de recrutement automatisés peuvent présenter des biais envers certains candidats en fonction de critères non pertinents, entraînant des discriminations.
• Biais dans les décisions administratives automatisées : Les systèmes de décisions administratives automatisées peuvent prendre des décisions en fonction de critères non pertinents, entraînant des discriminations.
• Biais dans les systèmes de recommandation de contenu : Les systèmes de recommandation de contenu peuvent présenter des biais envers certains types de contenu, entraînant une amplification des stéréotypes et des discours discriminatoires.

02. Biais dans les systèmes d'IA

En effet, il est juste de souligner que les biais ont pris le contrôle des données et que les domaines de l'intelligence artificielle et du machine learning en sont maintenant envahis. Ces determinations injustes sont retrouvées partout dans les systèmes d'IA comme dans :

• Vision par ordinateur - (Machine vision systems) : Par exemple, les jeux de données sont souvent saturés d'images de personnes blanches, jeunes, occidentales. Ainsi, un profil différent pourrait créer un dysfonctionnement lors de l'analyse.
• Reconnaissance d'objets - (Object recognition) : En effet, les objets courants sont mieux identifiés que les objets rares. Ceci peut engendrer la marginalisation de certains groupes sociaux.
• Traitement du langage naturel - (Natural language processing) : Les langues dominantes sont bien mieux traitées que les langues minoritaires. Ceci peut engendrer la marginalisation de certains groupes sociaux.
• Plongements lexicaux - (Word embedding) :Par exemple, dans des modèles classiques, certains noms associés à des minorités sont rapprochés de mots négatifs (« crime », « pauvreté »), pendant que les autres noms s'alignent sur des termes plus positifs (« succès », « intelligence »).

Ces biais ont un impact majeur sur notre société. Les combattre n'est pas qu'un défi technique : c'est d'abord un enjeu sociétal, presque une lutte révolutionnaire face à une société gangrenée depuis trop longtemps par des préjugés.

À regarder : Les biais dans l'IA et ses difficultés

Conférence sur l'impact des biais algorithmiques dans notre société

03. Études de cas : Twitter et les biais raciaux

Une étude menée par Huszár et ses collègues (2021) a mesuré l'amplification algorithmique de Twitter sur la visibilité du contenu politique dans sept pays. Les résultats ont montré que les partis ou contenus de droite bénéficient systématiquement d'une plus grande amplification par l'algorithme que les partis de gauche.

Plus récemment encore, une étude de Fonseca et ses collègues (2024) a analysé la dynamique des discours haineux sur le Twitter Portugais désormais appelé X. Les résultats démontrent que le discours de haine sur X (anciennement Twitter) se propage rapidement, surtout au début des conversations. Aussi, ils démontrent que la structure des interactions sociales et le profil des utilisateurs influencent sa diffusion. En d'autres termes, plus il y a de discours de haine dans une conversation, moins les interactions sont transitoires et moins les utilisateurs expriment librement leurs opinions.

Pour limiter ce phénomène, il faut viser un plan de restructuration global en améliorant les algorithmes de détection, mettant en place des politiques plus strictes et en éduquant et sensibilisant le publique.

04.Vers des pratiques plus responsables

L'amplification de contenus discriminatoires par les algorithmes des plateformes numériques peut avoir des conséquences sociales profondes. Elle peut renforcer les stéréotypes raciaux, ethniques ou religieux, marginaliser certaines communautés et favoriser la polarisation des opinions. De plus, les développeurs qui utilisent les API peuvent, sans le vouloir, reproduire et amplifier ces biais dans leurs propres applications ou analyses. Ainsi, il est nécessaire de trouver le moyen de diminuer ces discriminations.

Pour limiter les effets négatifs des biais algorithmiques, il ne suffit pas d'invoquer la bonne volonté des développeurs. Il faut des pratiques concrètes et contraignantes à chaque étape :

• Amélioration des algorithmes de détection : Les plateformes doivent investir dans la recherche et le développement de systèmes de détection plus sophistiqués pour identifier et limiter la diffusion de contenus discriminatoires.
• Politiques plus strictes : Les plateformes doivent mettre en place des politiques claires et strictes concernant les contenus discriminatoires, avec des sanctions appropriées pour les contrevenants.
• Éducation et sensibilisation : Il est crucial d'éduquer les utilisateurs sur les dangers des biais algorithmiques et de promouvoir une utilisation responsable des plateformes numériques.

Sommes-nous tous racistes ?

Documentaire France TV Slash (Juin 2025) illustrant l'impact des biais inconscients sur notre société

05. Conclusion

Les API et les algorithmes jouent un rôle central dans la manière dont les contenus sont filtrés et classés sur les plateformes numériques. Cependant, ils peuvent également amplifier des biais sociaux et culturels, contribuant ainsi à la reproduction et à l'amplification de discriminations raciales. Il est crucial de reconnaître ces enjeux et de mettre en place des pratiques responsables pour limiter les effets négatifs des biais algorithmiques sur notre société.