Nous connaissions le savon mais il existe aussi l’application raciste ! Au printemps dernier, l’application FaceApp se trouvait au cœur d’une sérieuse polémique. Programme permettant de retoucher instantanément des selfies, celui-ci lançait, en avril dernier un nouveau filtre « sexy » qui consistait, en réalité, à blanchir la peau de ses utilisateurs ! Sur la toile, les internautes se sont rapidement indignés et il ne s’agit pas d’une première. Les détails.

Des filtres pour transformer son visage

Le principe de FaceApp demeure assez simple : tout comme Snapchat et autres applications dédiées au partage et retouche de photographies, ce programme propose d’appliquer des « filtres » au visage de ses utilisateurs. Autrement dit, il propose des thèmes qui permettent de modifier le visage sur une image donnée afin de lui conférer une attitude particulière. Il suffit de prendre un selfie et de faire défiler les options pour choisir une façon de se grimer. Lancée au début de l’année, l’application semblait plutôt appréciée jusqu’au printemps de cette année. Les filtres « vieux » et « sexe opposé » connaissaient notamment un grand succès. En avril dernier, un nouveau thème voyait le jour, dénommé « hot », soit « sexy ». Comme son nom l’indique, l’objectif de ce filtre consistait à embellir la personne sur une photo, sauf que les internautes se sont, rapidement, aperçus de la supercherie : ce filtre leur blanchissait la peau et affinait leur nez !

Une conception raciste de la « sexytude » ?

Très vite, les utilisateurs de FaceApp commencent à partager les résultats obtenus avec le fameux filtre et tous établissent le même constat : l’application éclaircit leur peau. Ni une, ni deux, face aux images, les réactions se font sans appel : FaceApp se voit immédiatement qualifiée de raciste. Pour interpeller la communauté Twitter, un internaute a soumis le visage d’une star, Will Smith, à l’application. L’acteur en ressortait le teint très blanchi et le nez extrêmement affiné. La précision des images délivrées, en retour, par l’application n’arrangeait pas les choses, les détails de certaines versions « embellies » se révélaient aussi saisissants que dérangeants. Le célèbre visage noir icône de la marque Uncle Ben’s a également été soumis à FaceApp, qui l’a largement blanchi au moment du passage au filtre « sexy ». De nombreux Afro-américains ont posté, outrés, les versions « hots » que le programme leur renvoyait d’eux sur Twitter. « FaceApp n’est pas simplement nul, c’est raciste. Le filtre hot a blanchi ma peau et modifié mon nez pour le rendre plus européen », « Donc j’ai téléchargé l’appli et j’ai décidé d’utiliser le filtre hot en ne sachant pas qu’il me rendrait blanc. Sérieux les gars, c’est pas possible » ou encore « Cette appli est manifestement hyperraciste », pouvait-on lire sur le réseau social.

Plus attirant… sans lunettes ni yeux bridés !

Les utilisateurs n’étaient pas au bout de leurs surprises ! L’option « sexy » ne rendait pas que les peaux mates ou foncées plus blanches, elle retouchait aussi les Asiatiques. Après passage au filtre « hot », finis les yeux bridés, par exemple. « FaceApp a retiré mes lunettes et changé mes yeux par des yeux de blanc », tweetait, interloquée, une utilisatrice asiatique dont les yeux ainsi que la peau avaient été européanisés et dont les lunettes avaient disparu ! Plusieurs autres personnes se sont interrogées quant au retrait de cet accessoire en mode « sexy ». Des dizaines d’entre eux mettaient en évidence ce phénomène systématique et témoignaient sur la toile : « FaceApp ça permet de dire que finalement, la VO n’est pas si mal et que le filtre hot, ça retire les lunettes » ou « Pourquoi on enlève mes lunettes en mode hot ? C’est un message ? ». Nouvelle coquille pour le filtre, ce qui a valu à l’application l’obligation d’expliquer ces changements.

Un programme « mal entraîné »

Devant l’étendue des dégâts, le fondateur de FaceApp a dû s’expliquer auprès des utilisateurs de l’application. Yaroslav Goncharov, son PDG, s’était platement excusé après les accusations de « whitewashing » dont son programme faisait l’objet. L’éclaircissement systématique de la peau des utilisateurs résulterait, selon lui, d’un bug dans le fonctionnement de l’intelligence artificielle gérant le programme. Ce problème résiderait dans le réseau neuronal de cette dernière, qui reproduirait les mêmes stéréotypes que certains humains… « Nous sommes profondément désolés pour ce problème très sérieux. Il s’agit d’un regrettable effet secondaire du réseau neuronal sous-jacent, causé par des biais dans l’entraînement du programme, un comportement qui n’était pas prévu », a indiqué le créateur de l’application. En guise de réparation, le filtre n’a pas été supprimé, simplement renommé « sparkle », soit « étincelle » en français.

Un phénomène récurrent dans le secteur

Le racisme dans ce type d’applications demeure, malheureusement, monnaie courante. Le géant du domaine, Snapchat, a également eu droit à son lot d’accusations mettant en avant une part de racisme. Son filtre « Bob Marley », qui ajoutait des dreadlocks aux utilisateurs et leur fonçait la peau, avait suscité quelques critiques, au même titre que celui de 2016, baptisé « Yellowface ». Ce dernier faisait de grandes joues et bridait, outrageusement, les yeux des personnes sur les photos… Un nouveau manque de subtilité contre lequel les internautes s’étaient, une fois encore, révoltés.