Au secours, mon IA est raciste !

Maintenant que j’ai votre attention grâce à ce titre ô combien stratégique, parlons peu mais bien. Des biais technologiques peuvent inconsciemment se glisser lors du développement d’innovations. En prendre conscience est donc essentiel pour des questions de mixité et d’accessibilité.

En 2018, une étude menée sur plusieurs algorithmes de reconnaissance faciale a mis en lumière une triste réalité. Les hommes blancs sont plus facilement identifiés par ces algorithmes que ne le sont les femmes noires (par exemple). Face à ce constat, et sans mener de chasse aux sorcières, posons-nous les bonnes questions. Quelles-sont les causes de ces résultats  ? Comment y remédier  ?

La question de l’environnement de développement

Prenons pour exemple le marché de l’emploi informatique des États-Unis (largement concerné pas l’étude susmentionnée). En 2017, plus des trois quarts des développeurs étaient des hommes. La moyenne d’âge dans ce secteur était d’environ 42 ans. Quant aux développeurs à la peau blanche, ils représentent plus de 70 % de la profession. En étant entouré des mêmes personnes, il est (trop) facile d’en faire le reflet de la société. Et d’utiliser son entourage comme principal cobaye de ses expériences.

La diversification des bases de données destinées à la reconnaissance faciale constituerait certes un premier pas vers l’amélioration des algorithmes. Mais plus que cela, il s’agit d’apporter un équilibre dans la société. C’est à la fois un enjeu de mixité et d’accessibilité pour les développeurs comme pour les usagers. Dès lors il faut cesser de reproduire les erreurs du passé en assurant un renouvellement des innovateurs qui soit toujours plus proche du reflet complexe de notre société.

L’accessibilité, ou le numérique pour toutes et tous

Le mot accessibilité renvoie trop souvent à l’unique notion de handicap. Bien que cet aspect soit concerné, il ne concerne qu’une partie de la notion d’accessibilité. Dans le cadre du numérique, auquel nous nous intéressons ici, l’accessibilité est la promesse d’innovations pour toutes et tous. Pour certains cela semble être une évidence. Pour d’autres, l’accessibilité relève de l’utopie. Selon moi, l’accessibilité, ça s’apprend.

Une bonne façon de se rendre compte de ce que recouvre l’accessibilité est la lecture du RGAA (Référentiel Général d’Accessibilité pour les Administrations). Ce document regroupe plusieurs règles et niveaux d’accessibilité pour les sites internet. Dès lors on remarque que l’accessibilité, c’est pas automatique ! Cela demande des efforts, en particulier quand on n’y est pas habitué. Ainsi, inculquer des notions d’accessibilité et de mixité avant, pendant et après toute formation pourrait progressivement transformer l’accessibilité en un réflexe.

Néanmoins, il ne suffira pas de dispenser des cours théoriques tout au long de la scolarité des écolières, écoliers et étudiantes, étudiants. Il s’agit de leur ouvrir des portes. Des portes qui parfois peuvent leur sembler clauses. Encore une évidence, me direz-vous. Mais si c’était vraiment le cas, aurais-je besoin d’écrire ces quelques lignes  ?

Olivier Menguy

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *