Τη στιγμή που ο κόσμος της γκρεμίστηκε πριν από τρία χρόνια, η Stephanie Mestre βρήκε τη 15χρονη κόρη της Mary, άψυχη στο υπνοδωμάτιο όπου είχε αυτοκτονήσει.
«Πήγα από το φως στο σκοτάδι σε ένα κλάσμα του δευτερολέπτου», είπε η Mistre, περιγράφοντας εκείνη την ημέρα τον Σεπτέμβριο του 2021, που σηματοδότησε την αρχή του αγώνα της ενάντια στην εφαρμογή βίντεο TikTok που ανήκει στην Κίνα, στην οποία την κατηγορεί ότι ωθεί την κόρη της προς απελπισία.”
Σημείωση του συντάκτη – Αυτή η ιστορία περιέχει συζήτηση για την αυτοκτονία. Εάν εσείς ή κάποιος που γνωρίζετε χρειάζεται βοήθεια, η Εθνική Γραμμή Αυτοκτονίας και Κρίσης των ΗΠΑ είναι διαθέσιμη καλώντας ή στέλνοντας μήνυμα στο 988. Υπάρχει επίσης μια διαδικτυακή συνομιλία στο 988lifeline.org. Γραμμές βοήθειας εκτός των ΗΠΑ μπορείτε να βρείτε στη διεύθυνση www.iasp.info/suicidalthinks.
Καθώς χτένιζε το τηλέφωνο της κόρης της μετά τον θάνατό της, η Mistre βρήκε βίντεο που προωθούν μεθόδους αυτοκτονίας, σεμινάρια και σχόλια που ενθαρρύνουν τους χρήστες να προχωρήσουν πέρα από τις «μόνο απόπειρες αυτοκτονίας». Είπε ότι ο αλγόριθμος του TikTok έχει παραδώσει επανειλημμένα τέτοιο περιεχόμενο στην κόρη της.
«Ήταν πλύση εγκεφάλου», είπε ο Mestre, ο οποίος ζει στο Cassis, κοντά στη Μασσαλία στη νότια Γαλλία. «Ομαλοποίησαν την κατάθλιψη και τον αυτοτραυματισμό, μετατρέποντάς τα σε μια διαστρεβλωμένη αίσθηση του ανήκειν».
Τώρα ο Mistre και έξι άλλες οικογένειες μήνυσαν το TikTok France, κατηγορώντας την πλατφόρμα ότι δεν ρυθμίζει το επιβλαβές περιεχόμενο και εκθέτει τα παιδιά σε υλικό που απειλεί τη ζωή. Δύο στις επτά οικογένειες έχασαν ένα παιδί.
Ερωτηθείσα για τη μήνυση, η TikTok είπε ότι οι κατευθυντήριες γραμμές της αποτρέπουν οποιαδήποτε προώθηση της αυτοκτονίας και ότι απασχολεί 40.000 επαγγελματίες εμπιστοσύνης και ασφάλειας σε όλο τον κόσμο – εκατοντάδες από τους οποίους είναι γαλλόφωνοι συντονιστές – για την κατάργηση επικίνδυνων αναρτήσεων. Η εταιρεία είπε επίσης ότι παραπέμπει χρήστες που αναζητούν βίντεο σχετικά με αυτοκτονίες σε υπηρεσίες ψυχικής υγείας.
Πριν αυτοκτονήσει, η Marie Le Toque έκανε πολλά βίντεο για να εξηγήσει την απόφασή της, αναφέροντας διάφορες δυσκολίες στη ζωή της και παραθέτοντας ένα τραγούδι από τους Suicideboys, ένα συγκρότημα emo ραπ με έδρα τη Λουιζιάνα που είναι δημοφιλές στο TikTok.
Η μητέρα της ισχυρίζεται επίσης ότι η κόρη της δεχόταν επανειλημμένα bullying και παρενοχλήσεις στο σχολείο και στο διαδίκτυο. Εκτός από τη μήνυση, η 51χρονη μητέρα και ο σύζυγός της έχουν καταθέσει μήνυση κατά πέντε συμμαθητών της Μαίρης και του προηγούμενου λυκείου της.
Πάνω απ ‘όλα, ο Mistre κατηγόρησε το TikTok, λέγοντας ότι το να παραδώσει την εφαρμογή “στα χέρια ενός συμπονετικού και ευαίσθητου εφήβου που δεν ξέρει τι είναι πραγματικό και τι όχι είναι σαν μια βόμβα που χτυπάει”.
Ο Grégoire Borst, καθηγητής ψυχολογίας και γνωστικής νευροεπιστήμης στο Πανεπιστήμιο Paris-Cite, είπε ότι οι επιστήμονες δεν έχουν διαπιστώσει καμία σαφή σχέση μεταξύ των μέσων κοινωνικής δικτύωσης και των προβλημάτων ψυχικής υγείας ή της ψυχολογικής βλάβης.
«Είναι πολύ δύσκολο να δείξουμε ξεκάθαρα την αιτία και το αποτέλεσμα σε αυτόν τον τομέα», είπε ο Borst, επικαλούμενος μια σημαντική μελέτη που έγινε με αξιολόγηση που διαπίστωσε ότι μόνο το 0,4% της διαφοράς στην ευημερία των εφήβων θα μπορούσε να αποδοθεί στη χρήση των μέσων κοινωνικής δικτύωσης .
Επιπλέον, ο Borst επεσήμανε ότι καμία υπάρχουσα μελέτη δεν υποδηλώνει ότι το TikTok είναι πιο επιβλαβές από αντίπαλες εφαρμογές όπως το Snapchat, το X, το Facebook ή το Instagram.
Ενώ οι περισσότεροι έφηβοι χρησιμοποιούν τα μέσα κοινωνικής δικτύωσης χωρίς σημαντική βλάβη, είπε ο Borst, ο πραγματικός κίνδυνος βρίσκεται σε εκείνους που ήδη αντιμετωπίζουν προκλήσεις όπως ο εκφοβισμός ή η οικογενειακή αστάθεια.
«Όταν οι έφηβοι αισθάνονται ήδη άσχημα με τον εαυτό τους και περνούν χρόνο εκτεθειμένοι σε παραμορφωμένες εικόνες ή επιβλαβείς κοινωνικές συγκρίσεις», είπε ο Borst, «μπορεί να επιδεινώσει την ψυχική τους κατάσταση».
Η δικηγόρος Laure Boutron-Marmion, η οποία εκπροσωπεί επτά οικογένειες που μηνύουν την TikTok, είπε ότι η υπόθεσή τους βασίζεται σε «εκτεταμένα στοιχεία». «Η εταιρεία δεν μπορεί πλέον να κρύβεται πίσω από τον ισχυρισμό ότι δεν είναι δική της ευθύνη επειδή δεν δημιουργούν το περιεχόμενο», είπε η Boutron-Marmion.
Η αγωγή ισχυρίζεται ότι ο αλγόριθμος του TikTok έχει σχεδιαστεί για να παγιδεύει τους ευάλωτους χρήστες σε έναν κύκλο απόγνωσης για χάρη του κέρδους και απαιτεί αποζημίωση για τις οικογένειες.
«Η στρατηγική τους είναι παραπλανητική», είπε ο Μιστρέ. «Ξεγελούν τα παιδιά σε καταθλιπτικό περιεχόμενο για να τα κρατήσουν στην πλατφόρμα και τα μετατρέπουν σε ελκυστικά προϊόντα επαναδέσμευσης».
Η Boutron-Marmion σημείωσε ότι η κινεζική έκδοση του TikTok, Douyin, προσφέρει πολύ αυστηρότερους ελέγχους περιεχομένου για νεότερους χρήστες. Αυτό περιλαμβάνει μια υποχρεωτική “Λειτουργία για νέους” για χρήστες κάτω των 14 ετών που περιορίζει τον χρόνο χρήσης στα 40 λεπτά την ημέρα και προσφέρει μόνο εγκεκριμένο περιεχόμενο.
«Αυτό αποδεικνύει ότι μπορούν να μετριάζουν το περιεχόμενο όποτε θέλουν», είπε ο Boutron-Marmion. «Η απουσία αυτών των διασφαλίσεων εδώ είναι ενδεικτική».
Μια έκθεση με τίτλο «Παιδιά και οθόνες» που ανατέθηκε από τον Γάλλο Πρόεδρο Εμανουέλ Μακρόν τον Απρίλιο, στην οποία συνέβαλε ο Μπορστ, κατέληξε στο συμπέρασμα ότι ορισμένα χαρακτηριστικά αλγορίθμου πρέπει να θεωρούνται εθιστικά και να απαγορεύονται από οποιαδήποτε εφαρμογή στη Γαλλία. Η έκθεση ζητά επίσης τον περιορισμό της πρόσβασης στα μέσα κοινωνικής δικτύωσης για ανηλίκους κάτω των 15 ετών στη Γαλλία. Δεν έχουν ληφθεί μέτρα.
Το TikTok, το οποίο αντιμετώπισε κλείσιμο στις ΗΠΑ έως ότου ο Πρόεδρος Ντόναλντ Τραμπ ανέστειλε την απαγόρευση, έχει επίσης τεθεί υπό έλεγχο παγκοσμίως.
Οι ΗΠΑ έχουν δει παρόμοιες νομικές προσπάθειες από γονείς. Μια αγωγή στην κομητεία του Λος Άντζελες κατηγορεί τη Meta και τις πλατφόρμες της Instagram και Facebook, καθώς και το Snapchat και το TikTok, ότι σχεδίασαν ελαττωματικά προϊόντα που προκαλούν σοβαρούς τραυματισμούς. Στη μήνυση αναφέρονται τρεις έφηβοι που αυτοκτόνησαν. Σε μια άλλη καταγγελία, δύο φυλετικές χώρες κατηγόρησαν μεγάλες εταιρείες μέσων κοινωνικής δικτύωσης, συμπεριλαμβανομένου του ιδιοκτήτη του YouTube Alphabet, ότι συνέβαλαν σε υψηλά ποσοστά αυτοκτονιών μεταξύ των γηγενών νέων.
Ο διευθύνων σύμβουλος της Meta, Mark Zuckerberg, κατέθεσε στη Γερουσία των ΗΠΑ πέρυσι και ζήτησε συγγνώμη από τους γονείς που έχασαν τα παιδιά τους.
Τον Δεκέμβριο, η Αυστραλία θέσπισε έναν άνευ προηγουμένου νόμο που απαγορεύει τους λογαριασμούς στα μέσα κοινωνικής δικτύωσης παιδιών κάτω των 16 ετών.
Στη Γαλλία, η Boutron-Marmion αναμένει ότι η TikTok Ltd. Technologies, η θυγατρική της ByteDance στην ΕΕ —της κινεζικής εταιρείας που κατέχει το TikTok— θα ανταποκριθεί στις χρεώσεις το πρώτο τρίμηνο του 2025. Οι αξιωματούχοι θα αποφασίσουν αργότερα αν θα γίνει δίκη ή όχι.
Σε επαφή με το Associated Press, η TikTok είπε ότι δεν είχε ενημερωθεί για τη γαλλική αγωγή, η οποία κατατέθηκε τον Νοέμβριο. Η Boutron-Marmion είπε ότι μπορεί να χρειαστούν αρκετοί μήνες για να ενεργήσει το γαλλικό δικαστικό σύστημα σχετικά με την καταγγελία και οι αρχές στην Ιρλανδία –που είναι τα κεντρικά γραφεία της TikTok στην Ευρώπη– να ειδοποιήσουν επίσημα την εταιρεία.
Αντίθετα, ένας εκπρόσωπος του TikTok τόνισε τις οδηγίες της εταιρείας που απαγορεύουν περιεχόμενο που περιλαμβάνει αυτοκτονία ή αυτοτραυματισμό.
Οι επικριτές υποστηρίζουν ότι οι ισχυρισμοί του TikTok για ισχυρή μετριοπάθεια δεν ανταποκρίνονται.
Ο Imran Ahmed, Διευθύνων Σύμβουλος του Κέντρου για την Καταπολέμηση του Ψηφιακού Μίσους, απέρριψε τον ισχυρισμό του TikTok ότι περισσότερο από το 98,8% των επιβλαβών βίντεο επισημάνθηκαν και αφαιρέθηκαν μεταξύ Απριλίου και Ιουνίου.
Ερωτηθείσες σχετικά με τα τυφλά σημεία στις προσπάθειές τους μετριασμού, οι πλατφόρμες μέσων κοινωνικής δικτύωσης ισχυρίζονται ότι οι χρήστες μπορούν να ανιχνεύσουν χρησιμοποιώντας διφορούμενη γλώσσα ή σήματα που οι αλγόριθμοι δυσκολεύονται να επισημάνουν, είπε ο Ahmed.
Ο όρος “algospeak” έχει χρησιμοποιηθεί για να περιγράψει τεχνικές όπως η χρήση του emoji ζέβρας ή αρμαδίλλου για να μιλήσει κανείς για κοπή του εαυτού του ή το emoji της ελβετικής σημαίας ως ένδειξη αυτοκτονίας.
Τέτοιες κωδικές λέξεις “δεν είναι ιδιαίτερα εξελιγμένες”, είπε ο Ahmed. «Ο μόνος λόγος που το TikTok δεν τα βρίσκει όταν τα αναζητούν ανεξάρτητοι ερευνητές, δημοσιογράφοι και άλλοι είναι επειδή δεν δίνουν αρκετή προσοχή», είπε ο Ahmed.
Η οργάνωση του Ahmed διεξήγαγε μια μελέτη το 2022, προσομοίωση της εμπειρίας ενός 13χρονου κοριτσιού στο TikTok.
«Μέσα σε 2,5 λεπτά, εστάλη στους λογαριασμούς υλικό που βλάπτει τον εαυτό του», είπε ο Αχμέντ. «Για οκτώ λεπτά, έβλεπαν το φαγητό νοθευμένο. Κατά μέσο όρο, κάθε 39 δευτερόλεπτα, ο αλγόριθμος ωθεί επιβλαβές περιεχόμενο.
Ο αλγόριθμος «γνωρίζει ότι το περιεχόμενο σχετικά με τις διατροφικές διαταραχές και τον αυτοτραυματισμό είναι ιδιαίτερα εθιστικό για τα νεαρά κορίτσια».
Για τον Mistre, ο αγώνας είναι έντονα προσωπικός. Καθισμένη στο δωμάτιο της κόρης της, όπου διατηρεί ανέγγιχτη τα στολίδια τα τελευταία τρία χρόνια, είπε ότι οι γονείς πρέπει να γνωρίζουν τους κινδύνους των social media.
Είπε, αν γνώριζε για το περιεχόμενο που έστελνε η κόρη της, δεν θα της επέτρεπε ποτέ στο TikTok. Η φωνή της σπάει όταν περιγράφει τη Μαίρη ως μια «ηλιόλουστη, αστεία» έφηβη που ονειρεύεται να γίνει δικηγόρος.
«Στη μνήμη της Μαίρης, θα συνεχίσω να αγωνίζομαι όσο έχω τη δύναμη», είπε. «Οι γονείς πρέπει να γνωρίζουν την αλήθεια. Πρέπει να αντιμετωπίσουμε αυτές τις πλατφόρμες και να απαιτήσουμε λογοδοσία.
Οι συγγραφείς του Associated Press Halleluia Hedero και Zane Su συνέβαλαν σε αυτήν την ιστορία.
-Tom Nouvian, Associated Press
