Le Monde: Στο TikTok ο αλγόριθμος «προτείνει» μέχρι και βίντεο για αυτοκτονίες
Ο αλγόριθμος του κοινωνικού δικτύου TikTok αμφισβητείται σε έκθεση που δημοσιεύθηκε την Τετάρτη 14 Δεκεμβρίου από το Κέντρο για την Καταπολέμηση του Διαδικτυακού Μίσους στις Ηνωμένες Πολιτείες.
Μια μελέτη, που δημοσιοποιήθηκε την Τετάρτη από μια αμερικανική οργάνωση που μάχεται κατά του διαδικτυακού μίσους, υπογραμμίζει την έλλειψη ρύθμισης του περιεχομένου στο TikTok και τον κίνδυνο που αυτό εγκυμονεί για την ψυχική υγεία των νεαρών χρηστών του, αναφέρει η Le Monde.
Aναλυτικότερα, ο αλγόριθμος του κοινωνικού δικτύου TikTok αμφισβητείται σε έκθεση που δημοσιεύθηκε την Τετάρτη 14 Δεκεμβρίου από το Κέντρο για την Καταπολέμηση του Διαδικτυακού Μίσους (CCDH), στις Ηνωμένες Πολιτείες. Η έρευνα που διεξήχθη από το κέντρο δείχνει πόσο επιβλαβές περιεχόμενο, συμπεριλαμβανομένων βίντεο που σχετίζονται με αυτοτραυματισμό και διατροφικές διαταραχές, προτείνεται από τον αλγόριθμο του κοινωνικού δικτύου στους νεαρούς χρήστες του.
Για να τονίσει τους κινδύνους που εγκυμονεί το κοινωνικό δίκτυο για την ψυχική υγεία των νέων, η αμερικανική μη κερδοσκοπική οργάνωση πραγματοποίησε ένα πείραμα. Οι ειδικοί της CCHR άνοιξαν πλαστά προφίλ δεκατριάχρονων εφήβων στις Ηνωμένες Πολιτείες, το Ηνωμένο Βασίλειο, τον Καναδά και την Αυστραλία, χρησιμοποιώντας παρουσιάσεις προφίλ που υποδηλώνουν μια ιδιαίτερη ευπάθεια αυτών των εφήβων σε διαταραχές. Έκαναν αναφορές σε δίαιτα με φράσεις όπως «χάστε βάρος» για παράδειγμα .
Στη συνέχεια, οι ερευνητές έδωσαν ζωή σε αυτούς τους λογαριασμούς κάνοντας «like» σε βίντεο που ασχολούνται με αυτά τα επιβλαβή θέματα, για να δουν εάν ο αλγόριθμος του TikTok θα ανταποκρινόταν με αυτόν τον τρόπο. Μέσα ελάχιστο χρόνο από την ένταξή τους στην πλατφόρμα, σε μόλις δύο λεπτά και έξι δευτερόλεπτα, ο αλγόριθμος του TikTok τους συνέστησε βίντεο που σχετίζονται με αυτοκτονίες (ξυράφια, συζητήσεις για αυτοκτονία και αυτοτραυματισμό). Σε μόλις οκτώ λεπτά, πρότεινε επίσης περιεχόμενο που σχετίζεται με την απώλεια βάρους και τις διατροφικές διαταραχές.
«Είναι σαν να είσαι κολλημένος σε ένα δωμάτιο με παραμορφωμένους καθρέφτες όπου σου λένε συνεχώς ότι είσαι άσχημος, δεν είσαι αρκετά καλός, ίσως θα έπρεπε να αυτοκτονήσεις», είπε ο πρόεδρος του κέντρου, Imran Ahmed, του οποίου η οργάνωση έχει γραφεία στις Ηνωμένες Πολιτείες και στο Ηνωμένο Βασίλειο. Πρόσθεσε ότι το κοινωνικό δίκτυο «στέλνει κυριολεκτικά τα πιο επικίνδυνα μηνύματα στους νέους».
Το πρόβλημα που επισημάνθηκε από το πείραμα είναι κυρίως ο τρόπος λειτουργίας των αλγορίθμων στα κοινωνικά δίκτυα. Αυτά λειτουργούν με τον εντοπισμό των θεμάτων και του περιεχομένου που ενδιαφέρουν έναν χρήστη, ο οποίος λαμβάνει προτάσεις συχνά.
Το κινεζικό κοινωνικό δίκτυο συνήθως απαγορεύεται για χρήστες κάτω των δεκατριών ετών, ενώ οι επίσημοι κανόνες του απαγορεύουν τα βίντεο που προωθούν διατροφικές διαταραχές ή αυτοκτονίες.
Αντιμέτωποι με αυτόν τον κυκλικό και αδιαφανή τρόπο λειτουργίας των αλγορίθμων, οι έφηβοι και τα παιδιά είναι οι πιο ευάλωτα.
Αντιμετωπίζουν πολύ ισχυρή πίεση από τους συνομηλίκους και βλέπουν το περιεχόμενο να πολλαπλασιάζεται εκεί, σύμφωνα με τον Josh Golin, εκτελεστικό διευθυντή της η ΜΚΟ Fairplay, η οποία ζητά περισσότερη ρύθμιση του διαδικτυακού περιεχομένου για την προστασία των παιδιών. «Όλες αυτές οι βλάβες συνδέονται με το οικονομικό μοντέλο των κοινωνικών δικτύων», σύμφωνα με τον κ. Golin, ανεξάρτητα από την πλατφόρμα.
Το TikTok αμφισβητεί τα αποτελέσματα και τη μεθοδολογία των μελετών
Το TikTok αμφισβήτησε τα αποτελέσματα της μελέτης, εκφράζοντας επιφυλάξεις και τη μεθοδολογία της, σε μια ανακοίνωση που κυκλοφόρησε λίγο μετά τη δημοσίευση της έκθεσης. Στη ανακοίνωση της, η πλατφόρμα σημειώνει ότι οι ερευνητές δεν το χρησιμοποίησαν ως τυπικοί χρήστες και ως εκ τούτου ισχυρίζεται ότι τα αποτελέσματα ήταν εσφαλμένα.
«Συμβουλευόμαστε τακτικά ειδικούς στον τομέα της υγείας, καταργούμε όσους κάνουν παραβιάσεις των πολιτικών μας και παρέχουμε πρόσβαση σε πόρους υποστήριξης για όποιον τους χρειάζεται», ανέφερε η δήλωση της TikTok, η οποία ανήκει στην ByteDance Ltd, μια πλέον εγκατεστημένη στη Σιγκαπούρη κινεζική εταιρεία.
Οι χρήστες των ΗΠΑ που αναζητούν περιεχόμενο διατροφικών διαταραχών στο TikTok λαμβάνουν συνήθως ένα μήνυμα που με δυνατότητες βοηθειας για την ψυχική υγεία και στοιχεία επικοινωνίας για την Εθνική Ένωση Διατροφικών Διαταραχών. Παρά τις προσπάθειες της πλατφόρμας, ωστόσο, οι ερευνητές του CCDH διαπίστωσαν ότι το περιεχόμενο σχετικά με τις διατροφικές διαταραχές είχε προβληθεί δισεκατομμύρια φορές: πενήντα πέντε hashtags που σχετίζονται με αυτό το θέμα σχετίζονταν με περισσότερες από 13 εκατομμύρια προβολές. Παρατήρησαν επίσης ότι οι νεαροί χρήστες χρησιμοποιούσαν κωδικοποιημένη γλώσσα σχετικά με τις διατροφικές διαταραχές
Ακολουθήστε μας για όλες τις ειδήσεις στο Bing News και το Google News
