Il y a les légumes et il y a les oignons… trop sexy pour Facebook ! Un magasin canadien de semences et d’engrais en a fait les frais il y a quelques jours.

The Seed Company by E.W. Gaze est une enterprise qui commercialise des engrais et semences a St John’s, dans la province de Terre Neuve au Canada. Le 2 octobre dernier, la société a voulu publier sur Facebook une publicité apparemment innocente pour faire la promotion de ses graines d’oignons Walla Walla.

Contenu suggestif

A sa grande surprise, cette publication a été rejetée pour être « ouvertement sexuelle ». La publicité signalée par Facebook montrait une variété d’oignons connus pour leur taille et leur saveur sucrée, empilés dans un panier en osier.

Il a fallu un moment au gérant du magasin pour comprendre quel était le problème, puis il a compris que quelque chose à propos des formes rondes et de la couleur des oignons pouvait suggérer des seins ou des fesses. Parce qu’il savait que ses clients trouveraient le motif de rejet drôle, il n’a pas hésité à poster le message automatique d’avertissement envoyé par Facebook. Il a aussi fait appel de la décision auprès du réseau social qui a invoqué l’utilisation d’une technologie automatisée pour empêcher l’utilisation de la nudité sur les publications. Dans un communiqué publié mercredi 7 octobre, le géant des réseaux sociaux s’est excusé pour l’erreur commise par ses robots de modération.

Thank you Facebook 🙏😅

Posted by The Seed Company by E.W. Gaze on Thursday, October 8, 2020

Oignons superstars

Sans surprise, la publication n’a pas tardé à générer des milliers de likes. Le gérant de la société a saisi l’occasion pour renommer les Walla Walla « Sexy Onions » sur le site Web. M. McLean a également déclaré à la BBC qu’ils avaient vendu plus au cours des trois derniers jours qu’au cours des cinq dernières années en raison de la controverse.

Cette histoire attire surtout notre attention sur l’utilisation de l’intelligence artificielle dans la modération. Sans surprise, l’IA de Facebook n’est pas infaillible. Facebook affirme d’ailleurs qu’au cours des six premiers mois de 2020, ils ont supprimé 75,2 millions de contenus en raison de «la nudité des adultes et de l’activité sexuelle». Selon le réseau social, ce nombre est inférieur à la normale en raison de la diminution de la main-d’œuvre suite à la crise de la COVID-19. Cela suggère donc que beaucoup de ces contenus sont également contrôlés par des humains, mais il n’est pas surprenant que l’IA se trompe parfois.