Ο Ian Russell, πατέρας της Molly Russell, δήλωσε ότι οι εταιρείες κοινωνικών μέσων εξακολουθούν να προβάλλουν “επιβλαβές περιεχόμενο σε εκατομμύρια νέους ανθρώπους”.
Ανέφερε ότι είναι σοκαρισμένος από την έκταση του προβλήματος και ότι “λίγα έχουν αλλάξει” από τότε που η Molly έχασε τη ζωή της σε ηλικία 14 ετών. Φοβάται ότι μπορεί να χαθούν περισσότερες νεαρές ζωές.
Νέες έρευνες από το Ίδρυμα Molly Rose δείχνουν ότι οι νέοι χρήστες εξακολουθούν να έχουν πρόσβαση σε περιεχόμενο αυτοκτονίας και αυτοτραυματισμού.
Οι πλατφόρμες κοινωνικών μέσων ενημέρωσαν ότι εργάζονται σκληρά για να διατηρήσουν την ασφάλεια των εφήβων.
Οι ιστότοποι που υποβλήθηκαν στην έρευνα από το Ίδρυμα που δημιουργήθηκε με το όνομα της Molly – TikTok, Instagram και Pinterest – δήλωσαν ότι έχουν δημιουργήσει νέα εργαλεία για τον περιορισμό της πρόσβασης σε επιβλαβές υλικό.
Η Molly, η οποία έχασε τη ζωή της μετά από έκθεση σε ένα ρεύμα σκοτεινού, καταθλιπτικού περιεχομένου στο Pinterest και το Instagram, θα γινόταν 21 ετών αυτή την εβδομάδα.
Μια διερεύνηση πέρυσι κατέληξε στο συμπέρασμα ότι τέλειωσε τη ζωή της ενώ πάσχοντας από κατάθλιψη και τις αρνητικές επιπτώσεις του διαδικτυακού περιεχομένου.
Ένας ερευνητής από το ίδρυμα αξιολόγησε περισσότερες από 1,000 μεμονωμένες δημοσιεύσεις και βίντεο, εντοπισμένες από την αναζήτηση 15 hashtags που σχετίζονταν με επιβλαβές υλικό και με τα οποία γνώριζε ότι ασχολούνταν η Molly.
Οι ειδικοί δεδομένων της Bright Initiative βοήθησαν στην ανάλυση των δημοσιεύσεων και βίντεο, τα οποία δημοσιεύτηκαν από το 2018 έως τον Οκτώβριο του τρέχοντος έτους.
Στο Instagram, η έρευνα ανέφερε ότι σχεδόν το 50% από αυτά που εξέτασαν περιελάμβαναν περιεχόμενο που “εμφάνιζε απόγνωση, αισθήματα απόγνωσης και έντονα καταθλιπτικά θέματα”.
Στο TikTok, διαπίστωσε ότι το μισό των εξετασμένων posts που περιείχαν “επιβλαβές περιεχόμενο” είχαν προβληθεί πάνω από ένα εκατομμύριο φορές.
Και, στο Pinterest, ο ερευνητής είχε συστηθεί ενεργά πολλές φορές σε πολλαπλές εικόνες “ανθρώπων που βρίσκονται σε κορυφές βράχων, πνίγονται, στιλιζαρισμένες εικόνες ανθρώπων που πέφτουν ελεύθερα στον αέρα”.
Ο εκστρατευτής για την ασφάλεια στο διαδίκτυο κ. Russell ανέφερε ότι “έξι χρόνια μετά το θάνατο της Molly, αυτό πρέπει τώρα να θεωρηθεί ως ένα θεμελιώδες σύστημα αποτυχίας που θα συνεχίσει να κοστίζει τη ζωή νέων ανθρώπων”.
Η Meta, η οποία είναι η ιδιοκτήτρια του Instagram, δήλωσε ότι εργάζεται σκληρά με ειδικούς και έχει “δημιουργήσει περισσότερα από 30 εργαλεία για να υποστηρίξει τους έφηβους και τις οικογένειες, συμπεριλαμβανομένου του ελέγχου του ευαίσθητου περιεχομένου, που περιορίζει τον τύπο του περιεχομένου που συστήνεται σε έφηβους”.
Ένας εκπρόσωπος του Pinterest δήλωσε ότι η εταιρεία είναι “αφοσιωμένη στο να δημιουργήσει μια ασφαλή πλατφόρμα για όλους” και συνεχώς ενημερώνει τις πολιτικές και τις πρακτικές επιβολής της γύρω από το περιεχόμενο αυτοτραυματισμού, “συμπεριλαμβανομένου του αποκλεισμού ευαίσθητων όρων αναζήτησης και της εξέλιξης των μοντέλων μηχανικής μάθησης, ώστε αυτό το περιεχόμενο να ανιχνεύεται και να αφαιρείται το συντομότερο δυνατόν”.
Ένας εκπρόσωπος του TikTok δήλωσε ότι το “περιεχόμενο που προωθεί τον αυτοτραυματισμό ή την αυτοκτονία απαγορεύεται” στην πλατφόρμα, προσθέτοντας: “Όπως υποδεικνύει το έκθεμα, εφαρμόζουμε αυστηρά αυτούς τους κανόνες διαγράφοντας το 98% του περιεχομένου αυτοκτονίας πριν αναφερθεί σε εμάς”.
Δήλωσε επίσης ότι παρέχει “πρόσβαση στους Samaritans απευθείας από την εφαρμογή μας για οποιονδήποτε μπορεί να χρειάζεται υποστήριξη” και επενδύει σε “τρόπους να διαφοροποιήσει τις συστάσεις” και “να αποκλείει επιβλαβείς όρους αναζήτησης”.
Η έρευνα παραδέχτηκε ότι οι πλατφόρμες είχαν καταβάλει περιορισμένες προσπάθειες για τη βελτίωση της ασφάλειας.
Μετά το θάνατο της Molly, το Instagram ανακοίνωσε μια σειρά αλλαγών, οι οποίες σύμφωνα με την έκθεση “είχαν μερικές ευπρόσδεκτες στοχευμένες επιδράσεις”.
Όσον αφορά το TikTok, είπε ότι “φαίνεται να επιβάλλει τα πρότυπα της κοινότητας του με πιο αποτελεσματικό τρόπο σε σύγκριση με άλλες πλατφόρμες”. Και ότι ορισμένες βελτιώσεις είχαν γίνει από το Pinterest.
Ωστόσο, γενικά, η έκθεση εντοπίζει προβλήματα σε όλες τις τρεις πλατφόρμες:
- Αδυναμία αντιμετώπισης επαρκής του επιβλαβούς υλικού και του τρόπου προτεραιότητάς του
- Σχεδιασμός που αυξάνει την έκθεση σε αρνητικό περιεχόμενο μέσω, για παράδειγμα, προτάσεων hashtag
- Αλγόριθμοι που ενεργά εξάπλωναν επιβλαβές περιεχόμενο
- Πολύ στενά πρότυπα κοινότητας
Ο καθηγητής Louis Appleby, σύμβουλος της κυβέρνησης για την πρόληψη της αυτοκτονίας και καθηγητής ψυχιατρικής στο Πανεπιστήμιο του Μάντσεστερ, δήλωσε σχετικά με την έρευνα: “Έχουμε προχωρήσει στον τρόπο που βλέπουμε τον διαδικτυακό κόσμο. Βρισκόμαστε σε μια νέα εποχή κοινωνικής ευθύνης και οι τεχνολογικές εταιρείες πρέπει να κάνουν περισσότερα για τις εικόνες και τους αλγόριθμους τους.”
Η υπουργός τεχνολογίας Michelle Donelan δήλωσε ότι ο Νόμος για την Ασφάλεια στο Διαδίκτυο, που έγινε νόμος τον περασμένο μήνα, θα πρέπει να αντιμετωπίσει αυτούς τους τύπους προβλημάτων, με μέτρα για “την προστασία τόσο των ενηλίκων όσο και των παιδιών” από επιβλαβές περιεχόμενο.
Ανέφερε: “Είναι αποτρόπαιο και αμυντέροπο το γεγονός ότι οι κοινωνικές μέσων ενημέρωσης εξακολουθούν να κλείνουν τα μάτια στην κλίμακα του φοβερού περιεχομένου αυτοκτονίας και αυτοτραυματισμού στις πλατφόρμες τους.”
Ο ρυθμιστής Ofcom ετοιμάζει αυτή τη στιγμή κανόνες πρακτικής που αναμένεται να τηρούν οι τεχνολογικές εταιρείες και που θα είναι εφαρμόσιμοι με τον νόμο.
Η κ. Donelan είπε ότι σχεδιάζει να συναντήσει σύντομα τις εταιρείες για να τους πει ότι “δεν πρέπει να περιμένουν και αντίθετα πρέπει να ενεργήσουν τώρα” για να διασφαλίσουν ότι “δεν θα δούμε περισσότερες τραγικές ιστορίες όπως αυτή της Molly”.
