Wall Street Journal (WSJ) undersökte de potentiella farorna med TikToks rekommendationsalgoritmer och fann att vissa användare erbjöds material som främjade ohälsosamt matbeteende. Efter att publikationen vände sig till TikTok-administrationen för kommentarer meddelade tjänsten sin avsikt att ändra dessa algoritmer.
Bildkälla: antonbe / pixabay.com
WSJ-utredningen började med berättelser om tonårsflickor som påstås, på grund av TikTok, börjat intressera sig ohälsosamt för viktminskning, avgiftning och potentiellt farliga dieter. För att bekräfta den potentiella faran med tjänsten genomförde journalisterna ett experiment genom att skapa mer än 100 konton på TikTok, under vilka olika videor “visades” med minimalt mänskligt deltagande. Samtidigt angavs 12 av dessa konton som tillhörande 13-åringar och de “tittade” på videor om viktminskning, alkohol och spelande. Så fort en av botarna slutade intressera sig för spelvideor och bytte till ämnet viktminskning, anpassade sig TikTok-algoritmen till sina nya “preferenser” och erbjuder material om ett annat ämne.
Baserat på resultaten av experimentet beräknades det att totalt 225 000 videor sågs av bots, varav 32 700 var relaterade till ämnet viktminskning genom beskrivning eller annan metadata. Samtidigt motsvarade 11 615 videor efter nyckelord i beskrivningen ämnet ätstörningar och 4 402 beskrivningar motsvarade ämnet normalisering av sådana störningar. I vissa fall angavs nyckelorden i olika stavningar för att inte falla under sanktionerna från TikTok. När WSJ informerade administrationen av tjänsten om 2 960 potentiellt farliga videor togs 1 778 av dem omedelbart bort, och det är oklart vem som gjorde det: deras författare eller plattformen. Efter att WSJ, i väntan på publiceringen av materialet, kontaktade TikTok-administrationen med en begäran om kommentar, tillkännagav tjänsten officiellt sin avsikt att justera arbetet med rekommendationsalgoritmer – det var förmodligen ett slags förebyggande slag.
Plattformen noterade att det inte alltid är användbart att titta på videor om vissa ämnen i stora mängder – i synnerhet gäller detta frågor om viktminskning och fysisk aktivitet. Nu försöker tjänstespecialister begränsa arbetet med rekommendationsalgoritmen för innehåll som inte bryter mot användarvillkoren, men som kan vara farligt om det konsumeras i alltför stora mängder. Dessutom testas ett verktyg som gör det möjligt för användare att självständigt begränsa arbetet med rekommendationer för vissa nyckelord eller hashtags.
Om du upptäcker ett fel, välj det med musen och tryck på CTRL + ENTER.
