Une vidéo choquante a récemment capté l’attention du public, mettant en scène une femme courant au milieu des décombres de Gaza. L’algorithme de TikTok a pourtant choisi de promouvoir des articles en ligne en se basant sur cette scène violente, ce qui a engendré beaucoup de controverses.
Dans le contexte actuel, TikTok est sur le devant de la scène. Aux États-Unis, les perspectives de sa vente avancent, avec des plans précis concernant une nouvelle entité majoritairement détenue par des investisseurs américains, qui maintiendrait son algorithme existant, reconnu comme essentiel pour la popularité de la plateforme.
Cependant, la plateforme sociale fait face à une polémique inattendue. Comme The Verge l’a révélé, TikTok a confondu des vidéos des ruines de Gaza avec des propositions d’achat de produits. Par exemple, une vidéo montre une femme palestinienne parmi les débris, cherchant des membres de sa famille disparus. De cette manière, TikTok affichait des suggestions de mode, par exemple, des robes étiquetées « Dubai Middle East Turkish Elegant Lace-Up Dress ».
Cette situation découle d’une nouvelle fonctionnalité en test, utilisant l’intelligence artificielle pour identifier automatiquement les objets d’une vidéo lorsque celle-ci est mise sur pause. Ensuite, elle affiche les produits similaires d’une boutique TikTok. Cependant, il semble que l’entreprise ait négligé d’adapter son algorithme aux contextes appropriés.
Une erreur regrettable de l’algorithme
Joint par The Verge, un porte-parole de TikTok a reconnu qu’il s’agissait d’un “test qui a mal tourné”. Il a ajouté : “Nous exécutons un test limité d’une fonctionnalité de recherche visuelle qui n’aurait pas dû apparaître sur ces vidéos” et a annoncé que l’entreprise s’efforçait de résoudre le problème.
Des plateformes majeures telles que TikTok, Instagram ou YouTube souhaitent depuis longtemps mixer recommandations et achats à leurs contenus vidéo, afin de transformer tout type de publication en opportunité d’achat rapide. Grâce à cette recherche visuelle automatique, l’algorithme peut maintenant lier des produits à n’importe quelle image, qu’il s’agisse de contenus de mode ou de simples objets en visualisation. Néanmoins, cette fonctionnalité a soulevé des critiques, surtout quand elle est appliquée à des vidéos sensibles.
Arrivé en France en mars dernier, TikTok Shop a déjà montré son efficacité aux États-Unis, où les ventes ont explosé. Selon Reuters, 11 % des foyers américains y ont déjà effectué un achat. Pour le Black Friday de 2023, la plateforme a généré, en à peine un an depuis son lancement, 100 millions de dollars de ventes. En France, 61 % des jeunes de 18 à 27 ans achètent déjà via des réseaux sociaux.
