{"id":23293,"date":"2026-08-17T10:00:00","date_gmt":"2026-08-17T10:00:00","guid":{"rendered":"https:\/\/atiasavocats.com\/?p=23293"},"modified":"2026-07-28T13:22:05","modified_gmt":"2026-07-28T13:22:05","slug":"discrimination-algorithmique-plateforme","status":"publish","type":"post","link":"https:\/\/atiasavocats.com\/en\/discrimination-algorithmique-plateforme\/","title":{"rendered":"Algorithme de matching et non-discrimination : ce que dit la loi aux plateformes"},"content":{"rendered":"


Par\u00a0<\/em>David Joseph Atias<\/em><\/a>, avocat au Barreau de Paris \u00b7\u00a0<\/em>LinkedIn<\/em><\/a>\u00a0\u00b7 Ao\u00fbt 2026<\/em><\/em><\/p>\n\n\n\n

\n

Un algorithme de matching trie des candidats, des locataires ou des freelances. Souvent, il reproduit des biais sans le vouloir. Or, la discrimination algorithmique est illicite, qu’elle soit voulue ou non. Ce guide d\u00e9taille donc le fondement p\u00e9nal, l’article 22 du RGPD et l’AI Act, puis la m\u00e9thode pour s’en pr\u00e9munir.<\/p>\n<\/blockquote>\n\n\n\n

SOMMAIRE<\/p>\n\n\n\n

    \n
  1. Pourquoi la discrimination algorithmique est un risque majeur<\/a><\/li>\n\n\n\n
  2. Le cadre juridique applicable<\/a><\/li>\n\n\n\n
  3. Comment na\u00eet un biais algorithmique<\/a><\/li>\n\n\n\n
  4. Tableau : les trois r\u00e9gimes qui se cumulent<\/a><\/li>\n\n\n\n
  5. Auditer son algorithme en 5 \u00e9tapes<\/a><\/li>\n\n\n\n
  6. Pourquoi faire appel \u00e0 Atias Avocats<\/a><\/li>\n\n\n\n
  7. Conclusion<\/a><\/li>\n\n\n\n
  8. FAQ \u2014 Questions fr\u00e9quentes<\/a><\/li>\n<\/ol>\n\n\n\n

    1. Pourquoi la discrimination algorithmique est un risque majeur<\/h2>\n\n\n\n

    Les plateformes trient des personnes \u00e0 grande \u00e9chelle. Logement, emploi, freelance, services : le matching d\u00e9cide qui acc\u00e8de \u00e0 quoi. Or, la discrimination algorithmique de plateforme se glisse facilement dans ces syst\u00e8mes. Le risque de discrimination algorithmique sur une plateforme devient alors syst\u00e9mique. Elle frappe alors des milliers de personnes en une seule fois. Le sujet \u00ab discrimination algorithmique plateforme \u00bb n’est donc plus th\u00e9orique.<\/p>\n\n\n\n

    Le risque juridique est souvent sous-estim\u00e9. En effet, beaucoup d’acteurs croient qu’un algorithme est neutre par nature. Pourtant, un syst\u00e8me apprend sur des donn\u00e9es parfois biais\u00e9es. Ainsi, il reproduit et amplifie des in\u00e9galit\u00e9s existantes. Le ph\u00e9nom\u00e8ne passe souvent inaper\u00e7u, car il se cache dans les chiffres. De plus, il se diffuse \u00e0 chaque nouvelle d\u00e9cision du syst\u00e8me.<\/p>\n\n\n\n

    L’exposition d\u00e9passe la seule sanction financi\u00e8re. Une condamnation pour discrimination touche directement la r\u00e9putation. De plus, elle peut engager la responsabilit\u00e9 p\u00e9nale des dirigeants. Par cons\u00e9quent, pr\u00e9venir la discrimination algorithmique de plateforme devient strat\u00e9gique. Aucune direction ne peut d\u00e9sormais l’ignorer. Le sujet concerne autant les \u00e9quipes techniques que les \u00e9quipes juridiques du projet. En effet, la conformit\u00e9 se construit pr\u00e9cis\u00e9ment \u00e0 leur intersection quotidienne.<\/p>\n\n\n\n

    Ce risque rejoint un ensemble plus large. En effet, il s’inscrit parmi les pi\u00e8ges juridiques des marketplaces et plateformes<\/strong><\/a>. La ma\u00eetrise de l’algorithme y occupe une place centrale. Un audit \u00ab discrimination algorithmique plateforme \u00bb s’impose d\u00e9sormais avant tout d\u00e9ploiement.<\/p>\n\n\n\n

    2. Le cadre juridique applicable<\/h2>\n\n\n\n

    La discrimination algorithmique mobilise trois corps de r\u00e8gles. Ils se combinent et, souvent, se cumulent.<\/p>\n\n\n\n

    D’abord, le droit p\u00e9nal. L’article 225-1 du Code p\u00e9nal d\u00e9finit la discrimination comme une distinction fond\u00e9e sur un crit\u00e8re prohib\u00e9. Origine, sexe, apparence physique, lieu de r\u00e9sidence, \u00e9tat de sant\u00e9, \u00e2ge ou handicap en font partie. L’article 225-2 punit cette discrimination de trois ans d’emprisonnement et 45 000 euros d’amende, notamment le refus d’un bien ou d’un service. De plus, une personne morale encourt une amende aggrav\u00e9e et des peines compl\u00e9mentaires.<\/p>\n\n\n\n

    Ensuite, le droit des donn\u00e9es. L’article 22 du RGPD sur les d\u00e9cisions automatis\u00e9es<\/strong><\/a> s’applique d\u00e8s qu’un matching d\u00e9cide seul du sort d’une personne. Le responsable doit alors garantir une intervention humaine et une possibilit\u00e9 de contestation. Par ailleurs, l’article 35 impose souvent une analyse d’impact, d\u00e9sormais enrichie d’une dimension d’\u00e9quit\u00e9.<\/p>\n\n\n\n

    Enfin, l’AI Act. Le r\u00e8glement (UE) 2024\/1689 classe \u00e0 haut risque les syst\u00e8mes qui \u00e9valuent des personnes. L’acc\u00e8s \u00e0 l’emploi, au logement ou au cr\u00e9dit en rel\u00e8ve directement. Ce classement impose des obligations de gouvernance des donn\u00e9es et de r\u00e9duction des biais. Nos analyses des obligations AI Act des entreprises<\/strong><\/a> et de l’IA \u00e0 haut risque<\/strong><\/a> le d\u00e9taillent.<\/p>\n\n\n\n

    3. Comment na\u00eet un biais algorithmique<\/h2>\n\n\n\n

    Comprendre l’origine du biais aide \u00e0 le neutraliser. Six m\u00e9canismes reviennent le plus souvent dans les syst\u00e8mes de matching.<\/p>\n\n\n\n

    3.1 Les donn\u00e9es d’entra\u00eenement biais\u00e9es<\/h3>\n\n\n\n

    L’algorithme apprend sur des donn\u00e9es historiques. Or, ces donn\u00e9es refl\u00e8tent souvent des discriminations pass\u00e9es. Ainsi, le syst\u00e8me reproduit fid\u00e8lement un biais qu’il aurait d\u00fb corriger.<\/p>\n\n\n\n

    3.2 Les variables indirectes<\/h3>\n\n\n\n

    Un crit\u00e8re prohib\u00e9 peut se cacher derri\u00e8re une variable neutre. Le lieu de r\u00e9sidence, par exemple, peut approcher l’origine. C’est pourquoi la discrimination indirecte reste illicite, m\u00eame sans crit\u00e8re explicite.<\/p>\n\n\n\n

    3.3 L’optimisation aveugle<\/h3>\n\n\n\n

    Un algorithme optimise un objectif d\u00e9fini par ses concepteurs. Toutefois, maximiser un taux de conversion peut exclure certains profils. De ce fait, la performance commerciale cr\u00e9e parfois un effet discriminatoire. L’objectif poursuivi m\u00e9rite donc un examen juridique attentif.<\/p>\n\n\n\n

    3.4 Les boucles de r\u00e9troaction<\/h3>\n\n\n\n

    Le syst\u00e8me apprend de ses propres r\u00e9sultats. Ainsi, un profil rarement propos\u00e9 devient de moins en moins visible. Par cons\u00e9quent, le biais initial s’aggrave au fil du temps.<\/p>\n\n\n\n

    3.5 Le manque de transparence<\/h3>\n\n\n\n

    Beaucoup de mod\u00e8les fonctionnent comme des bo\u00eetes noires. Or, sans explicabilit\u00e9, le biais reste invisible et incontr\u00f4l\u00e9. La transparence devient donc une condition de la conformit\u00e9. Sans elle, aucune d\u00e9fense s\u00e9rieuse n’est possible en cas de contr\u00f4le.<\/p>\n\n\n\n

    3.6 L’absence de test d’\u00e9quit\u00e9<\/h3>\n\n\n\n

    Un syst\u00e8me non test\u00e9 par groupe cache ses \u00e9carts. En effet, seule une mesure compar\u00e9e r\u00e9v\u00e8le une discrimination. Nos clauses IA pour les contrats fournisseurs<\/strong><\/a> aident \u00e0 imposer ces tests au prestataire.<\/p>\n\n\n\n

    4. Auditer son algorithme en 5 \u00e9tapes<\/h2>\n\n\n\n

    La pr\u00e9vention repose sur une m\u00e9thode structur\u00e9e. Cinq \u00e9tapes permettent de r\u00e9duire le risque de discrimination algorithmique de plateforme.<\/p>\n\n\n\n

    4.1 Cartographier les d\u00e9cisions \u00e0 impact<\/h3>\n\n\n\n

    Recensez d’abord tous les matchings qui affectent des personnes. Acc\u00e8s au logement, \u00e0 une mission ou \u00e0 un service. En effet, chaque d\u00e9cision automatis\u00e9e m\u00e9rite une analyse d\u00e9di\u00e9e. Cette cartographie fonde toute la d\u00e9marche \u00ab discrimination algorithmique plateforme \u00bb.<\/p>\n\n\n\n

    4.2 Analyser les donn\u00e9es et les variables<\/h3>\n\n\n\n

    Examinez ensuite les donn\u00e9es d’entra\u00eenement et les crit\u00e8res utilis\u00e9s. Traquez les variables indirectes qui masquent un crit\u00e8re prohib\u00e9. Ainsi, vous r\u00e9v\u00e9lez les biais cach\u00e9s du syst\u00e8me.<\/p>\n\n\n\n

    4.3 Tester l’\u00e9quit\u00e9 par groupe<\/h3>\n\n\n\n

    Mesurez les r\u00e9sultats par cat\u00e9gorie de population. Un \u00e9cart significatif signale un risque de discrimination. Par exemple, un taux de s\u00e9lection tr\u00e8s in\u00e9gal entre deux groupes doit alerter. De plus, ce test fournit une preuve document\u00e9e de vigilance. Il peut \u00eatre r\u00e9p\u00e9t\u00e9 \u00e0 chaque \u00e9volution majeure du mod\u00e8le de matching.<\/p>\n\n\n\n

    4.4 Instaurer une supervision humaine<\/h3>\n\n\n\n

    Pr\u00e9voyez un contr\u00f4le humain r\u00e9el sur les d\u00e9cisions sensibles. Ce contr\u00f4le doit rester effectif, et non une simple validation de fa\u00e7ade. La personne doit pouvoir corriger un r\u00e9sultat injuste. Par ailleurs, ce contr\u00f4le r\u00e9pond aussi \u00e0 l’article 22 du RGPD.<\/p>\n\n\n\n

    4.5 Documenter et r\u00e9auditer<\/h3>\n\n\n\n

    Consignez la m\u00e9thode, les tests et les corrections apport\u00e9es. R\u00e9alisez une analyse d’impact quand elle s’impose. Enfin, r\u00e9auditez r\u00e9guli\u00e8rement, car un mod\u00e8le \u00e9volue ; notre guide complet du RGPD<\/strong><\/a> encadre cette d\u00e9marche.<\/p>\n\n\n\n

    5. Pourquoi faire appel \u00e0 Atias Avocats<\/h2>\n\n\n\n

    Traiter la discrimination algorithmique exige une triple comp\u00e9tence. Il faut lier le droit p\u00e9nal, le RGPD et l’AI Act. Il faut aussi comprendre le fonctionnement r\u00e9el d’un mod\u00e8le de matching. Atias Avocats r\u00e9unit ces expertises. En effet, un audit purement technique ignore le risque p\u00e9nal. De m\u00eame, une analyse juridique sans lecture des donn\u00e9es reste incompl\u00e8te. Cette approche crois\u00e9e s\u00e9curise le syst\u00e8me dans sa globalit\u00e9. Pour aller plus loin, consultez nos services en protection des donn\u00e9es<\/strong><\/a>.<\/p>\n\n\n\n

    Conclusion<\/h2>\n\n\n\n

    La discrimination algorithmique se juge sur une id\u00e9e simple : un algorithme n’excuse rien. La loi sanctionne le r\u00e9sultat, pas l’outil. Invoquer la seule technique ne constitue jamais, en soi, une d\u00e9fense suffisante. Or, le fondement p\u00e9nal se cumule avec le RGPD et l’AI Act. C’est pourquoi la pr\u00e9vention doit \u00eatre organis\u00e9e d\u00e8s la conception. De plus, l’audit d’\u00e9quit\u00e9 devient \u00e0 la fois une obligation et une preuve de bonne foi. Tester r\u00e9guli\u00e8rement son algorithme reste, ainsi, le meilleur r\u00e9flexe. \u00c0 d\u00e9faut, un biais invisible peut se transformer en contentieux p\u00e9nal retentissant.<\/p>\n\n\n\n

    FAQ \u2014 Questions fr\u00e9quentes<\/h2>\n\n\n\n

    Qu’est-ce qu’une discrimination algorithmique ?<\/h3>\n\n\n\n

    C’est une discrimination produite ou relay\u00e9e par un syst\u00e8me automatis\u00e9. Un algorithme de matching peut, sans intention, \u00e9carter des personnes selon un crit\u00e8re prohib\u00e9. Le droit ne distingue pas selon l’outil : une discrimination reste illicite qu’elle soit humaine ou algorithmique. L’article 225-1 du Code p\u00e9nal vise toute distinction fond\u00e9e sur un crit\u00e8re prohib\u00e9. La responsabilit\u00e9 p\u00e8se alors sur la plateforme qui d\u00e9ploie le syst\u00e8me.<\/p>\n\n\n\n

    Un biais algorithmique peut-il \u00eatre p\u00e9nalement sanctionn\u00e9 ?<\/h3>\n\n\n\n

    Oui. L’article 225-2 du Code p\u00e9nal punit la discrimination de trois ans d’emprisonnement et 45 000 euros d’amende, notamment lorsqu’elle consiste \u00e0 refuser un bien ou un service. Une personne morale encourt une amende aggrav\u00e9e et des peines compl\u00e9mentaires. La discrimination indirecte, produite par un crit\u00e8re apparemment neutre, entre aussi dans le champ. L’absence d’intention n’exon\u00e8re pas toujours de responsabilit\u00e9.<\/p>\n\n\n\n

    L’algorithme de matching rel\u00e8ve-t-il de l’AI Act ?<\/h3>\n\n\n\n

    Souvent, oui. Lorsqu’un syst\u00e8me \u00e9value des personnes pour l’acc\u00e8s \u00e0 l’emploi, au logement, au cr\u00e9dit ou \u00e0 des services essentiels, l’AI Act le classe g\u00e9n\u00e9ralement \u00e0 haut risque. Ce classement impose une gouvernance des donn\u00e9es, une supervision humaine et une documentation technique. Le r\u00e8glement (UE) 2024\/1689 exige aussi de tester et de r\u00e9duire les biais. Les manquements exposent \u00e0 des sanctions atteignant 15 millions d’euros ou 3 % du chiffre d’affaires mondial.<\/p>\n\n\n\n

    Quel lien avec l’article 22 du RGPD ?<\/h3>\n\n\n\n

    L’article 22 du RGPD encadre les d\u00e9cisions enti\u00e8rement automatis\u00e9es \u00e0 effet significatif. Un matching qui \u00e9carte automatiquement un candidat peut relever de ce texte. La personne doit alors pouvoir obtenir une intervention humaine, exprimer son point de vue et contester. Une analyse d’impact est souvent n\u00e9cessaire, avec une dimension d’\u00e9quit\u00e9 algorithmique. Les trois r\u00e9gimes, p\u00e9nal, RGPD et AI Act, peuvent se cumuler.<\/p>\n\n\n\n

    Comment pr\u00e9venir la discrimination algorithmique sur une plateforme ?<\/h3>\n\n\n\n

    La pr\u00e9vention passe par un audit de l’algorithme et de ses donn\u00e9es. Il faut identifier les crit\u00e8res utilis\u00e9s, y compris les variables indirectes qui masquent un crit\u00e8re prohib\u00e9. Ensuite, il faut tester les r\u00e9sultats par groupe pour d\u00e9tecter les \u00e9carts. Une documentation, une supervision humaine et une gouvernance des donn\u00e9es compl\u00e8tent le dispositif. Cet audit devient un r\u00e9flexe de conformit\u00e9, mais aussi une preuve de bonne foi.<\/p>\n\n\n\n


    Contact :     david@atiasavocats.com<\/a> | LinkedIn: David Joseph Atias<\/em><\/a> | https:\/\/www.atiasavocats.com<\/a> | 42 rue de la Clef, 75005 Paris<\/p>\n\n\n\n

    Atias Avocats \u2014 Discrimination algorithmique, audit d’algorithmes, AI Act, RGPD & plateformes<\/em><\/p>","protected":false},"excerpt":{"rendered":"

    Par\u00a0David Joseph Atias, avocat au Barreau de Paris \u00b7\u00a0LinkedIn\u00a0\u00b7 Ao\u00fbt 2026 Un algorithme de matching trie des candidats, des locataires ou des freelances. Souvent, il reproduit des biais sans le…<\/p>","protected":false},"author":1,"featured_media":23294,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"footnotes":""},"categories":[186],"tags":[],"class_list":["post-23293","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-legal-services"],"_links":{"self":[{"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/posts\/23293","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/comments?post=23293"}],"version-history":[{"count":1,"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/posts\/23293\/revisions"}],"predecessor-version":[{"id":23295,"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/posts\/23293\/revisions\/23295"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/media\/23294"}],"wp:attachment":[{"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/media?parent=23293"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/categories?post=23293"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/atiasavocats.com\/en\/wp-json\/wp\/v2\/tags?post=23293"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}