in

Comment fonctionne l’algorithme de TikTok : une analyse inquiétante

Le fonctionnement de l’algorithme de TikTok est probablement le secret le mieux gardé de l’entreprise. Mais le WSJ pense qu’il a pu le résoudre en utilisant un tas de comptes de bots – et les résultats ont été à la fois fascinants et dérangeants.

Un ancien ingénieur de Google qui a travaillé sur l’algorithme de YouTube dit qu’il adopte essentiellement la même approche, mais sous une forme moins extrême…

Officiellement, TikTok dit qu’il utilise quatre signaux : ce que vous regardez, partagez, aimez et suivez. Mais l’analyse a suggéré que l’un des quatre est de loin le plus important…

Le WSJ a créé une vidéo de 13 minutes pour partager ses conclusions.

Nous avons découvert que TikTok n’a besoin que d’un de ces éléments pour vous comprendre : combien de temps vous vous attardez sur un élément de contenu.

Chaque seconde que vous hésitez ou revoyez, l’application vous suit. Grâce à ce signal puissant, TikTok apprend vos intérêts et émotions les plus cachés et vous plonge dans des trous de lapin de contenu dont il est difficile d’échapper.

L’expérience TikTok commence de la même manière pour tout le monde. Ouvrez l’application et vous verrez immédiatement une chaîne interminable de vidéos dans votre flux For You. TikTok commence par proposer au compte une sélection de vidéos très populaires vérifiées par les modérateurs de l’application.

À partir de ceux-ci, il travaille à identifier vos intérêts.

Le WSJ a programmé les robots pour qu’ils aient un âge, un emplacement et un ensemble d’intérêts particuliers. Ces intérêts n’ont jamais été saisis dans l’application, mais simplement utilisés comme base pour choisir les vidéos que le bot regardait. Le bot a vérifié chaque vidéo dans son flux pour les hashtags ou les images identifiées par l’IA en rapport avec ses intérêts. Il arrêterait alors de faire défiler pour regarder ces vidéos, et en reverrait certaines.

Ce que le journal a découvert, c’est que les sélections de vidéos et le nombre de vues se sont contractés, des vidéos populaires sur n’importe quoi, à celles étroitement axées sur les intérêts qu’il avait identifiés.

Les résultats ont été analysés par le data scientist et expert en algorithmes Guillaume Chaslot, un ancien ingénieur de Google qui a travaillé sur l’algorithme de YouTube.

Il est maintenant un défenseur de la transparence des algorithmes. Il dit que TikTok est différent des autres plateformes de médias sociaux.

“L’algorithme sur TikTok peut devenir beaucoup plus puissant et il peut être capable d’apprendre vos vulnérabilités beaucoup plus rapidement.”

En fait, TikTok a pleinement appris de nombreux intérêts de nos comptes en moins de deux heures. Certains l’ont compris en moins de 40 minutes.

Un bot a été programmé avec la tristesse et la dépression comme « intérêts ».

Moins de trois minutes après avoir utilisé TikTok, à sa 15e vidéo, [bot] kentucky_96 fait une pause là-dessus [sad video about losing people from your life]. Kentucky_96 regarde deux fois la vidéo de 35 secondes. Ici, TikTok a la première idée que le nouvel utilisateur se sent peut-être mal ces derniers temps.

Les informations contenues dans cette seule vidéo ont fourni à l’application des indices importants. L’auteur de la vidéo, la piste audio, la description de la vidéo, les hashtags. Après la première vidéo triste de kentucky_96, TikTok en propose une autre 23 vidéos plus tard – ou après environ quatre minutes de visionnage supplémentaires.

Celui-ci est une vidéo de rupture avec le hashtag #sad. TikTok essaie toujours de découvrir ce nouvel utilisateur, avec plus de vidéos à nombre de vues élevé [but] à la vidéo 57, kentucky_96 continue de regarder une vidéo sur le chagrin et les sentiments blessés. Et puis à la vidéo 60, en regarde une sur la douleur émotionnelle.

Sur la base des vidéos que nous avons regardées jusqu’à présent, TikTok pense que cet utilisateur souhaite peut-être en savoir plus sur l’amour, les ruptures et les rencontres. Donc, à environ 80 vidéos et 15 minutes, l’application commence à servir davantage sur les relations. Mais kentucky_96 n’est pas intéressé.

À la place, l’utilisateur s’arrête sur une question sur la santé mentale, puis parcourt rapidement des vidéos sur l’absence d’un ex, des conseils pour passer à autre chose et comment maintenir l’intérêt d’un amoureux. Mais kentucky_96 s’attarde sur cette vidéo contenant le hashtag #depression, et ces vidéos sur la souffrance d’anxiété.

Après 224 vidéos sur le parcours global du bot, soit environ 36 minutes de temps de visionnage total, la compréhension de TikTok de kentucky_96 prend forme. Les vidéos sur la dépression et les problèmes de santé mentale sont plus nombreuses que celles sur les relations et les ruptures. A partir de là, le flux de kentucky_96 est un déluge de contenu dépressif. 93 % des vidéos diffusées sur le compte traitent de la tristesse ou de la dépression.

TikTok dit que le comportement des bots n’est pas représentatif des utilisateurs réels, mais même les bots avec des intérêts divers qui y sont programmés ont très rapidement vu leur flux de contenu se réduire considérablement.

Compte tenu de la popularité massive de TikTok chez les adolescents en particulier, cela soulève des préoccupations évidentes. Quelqu’un dans un état dépressif pourrait facilement être rendu encore plus déprimé en regardant un flux d’un tel contenu. Un théoricien du complot pourrait finir par avoir l’impression que de telles opinions sont dominantes. Un tel algorithme est également susceptible de pousser ceux qui ont des opinions extrémistes vers un contenu de plus en plus extrême.

TikTok semble donner la priorité à l’engagement sur la santé mentale, et Chaslot dit que YouTube fait quelque chose de similaire, mais d’une manière moins extrême. Cela correspond certainement à mon expérience, où regarder quelques vidéos d’affilée sur le même sujet semble souvent convaincre YouTube que c’est maintenant mon seul intérêt dans la vie – bien que cela se réinitialise au moins.

Quelle est votre opinion? Ce genre d’algorithme est-il logique ou inquiétant ? S’il vous plaît partager vos pensées dans les commentaires.

FTC : Nous utilisons des liens d’affiliation automatique qui génèrent des revenus. Suite.

Découvrez . sur YouTube pour plus d’actualités Apple :

Bayern Munich vs Borussia Mönchengladbach: diffusion en direct, fil de temps de jeu, comment regarder

Le Covid-19 a réduit l’espérance de vie aux États-Unis, mais le vrai problème est à long terme