Στα τέλη Δεκεμβρίου του 2023, αρκετοί από τους φίλους του Brian Vastag και της Beth Mazur πληροφορήθηκαν με μεγάλη θλίψη ότι το ζευγάρι πέθανε ξαφνικά. Ο Vastag και η Mazur είχαν αφιερώσει τη ζωή τους στην υπεράσπιση των ατόμων με αναπηρία και στη συγγραφή άρθρων για τις χρόνιες ασθένειες. Καθώς οι νεκρολογίες εμφανίστηκαν στο Google, τα μέλη της κοινότητάς τους άρχισαν να καλούν ο ένας τον άλλον για να μοιραστούν τα τρομερά νέα, φτάνοντας ακόμη και σε ανθρώπους που έκαναν διακοπές στην άλλη άκρη του κόσμου.
Μόνο που ο Brian Vastag ήταν ολοζώντανος, χωρίς να γνωρίζει τις ψεύτικες νεκρολογίες που είχαν εκτοξευτεί στην κορυφή των αποτελεσμάτων αναζήτησης της Google. Η Μπεθ Μαζούρ είχε πράγματι πεθάνει στις 21 Δεκεμβρίου 2023. Όμως τα spam άρθρα που γέμιζαν τώρα το διαδίκτυο ισχυρίζονταν ότι και ο ίδιος ο Vastag είχε πεθάνει εκείνη την ημέρα.
“[Οι νεκρολογίες] είχαν αυτόν τον αντίκτυπο στον πραγματικό κόσμο, όπου τουλάχιστον τέσσερις άνθρωποι που γνωρίζω τηλεφώνησαν σε [τους] κοινούς μας φίλους και νόμιζαν ότι είχα πεθάνει μαζί της, σαν να είχαμε κάνει συμφωνία αυτοκτονίας ή κάτι τέτοιο”, λέει ο Vastag, ο οποίος για ένα διάστημα ήταν παντρεμένος με τη Mazur και παρέμεινε κοντά της. “Αυτό προκάλεσε επιπλέον στενοχώρια σε μερικούς από τους φίλους μου και αυτό με έκανε πραγματικά να θυμώσω”.
“Beth Mazur And Brian Vastag Obituary, Chronic Fatigue Syndrome (CFS/ME) Killed 2”, γράφει ένα άρθρο σε έναν ιστότοπο που ονομάζεται Eternal Honoring. Ένας άλλος ιστότοπος που ονομάζεται In Loving Memories News γράφει: “Beth Mazur And Brian Vastag Obituary, Chronic Fatigue Fyndrome (CFS/ME)”.
Το Verge εντόπισε πάνω από δώδεκα ιστότοπους που δημοσίευσαν άρθρα σχετικά με τον θάνατο του Mazur, καθώς και πολλά βίντεο στο YouTube με ανθρώπους να διαβάζουν νεκρολογίες από ένα σενάριο. Οι ιστότοποι έχουν περίεργα, άγνωστα ονόματα και διατηρούν μια συνεχή ροή άρθρων για ένα ευρύ φάσμα θεμάτων, συμπεριλαμβανομένων των θανάτων ατόμων σε όλο τον κόσμο. Τα άρθρα είναι δύσχρηστα και παρέχουν λίγες πληροφορίες, αλλά είναι γεμάτα με λέξεις-κλειδιά για τις οποίες οι χρήστες της Google αναζητούν. Πέρα από τις δεκάδες ιστοσελίδες που γράφουν για τον Mazur, υπάρχει ένα εκτεταμένο δίκτυο ιστοσελίδων υψηλής κατάταξης που κερδίζει χρήματα όταν η οικογένεια, οι φίλοι και οι γνωστοί ψάχνουν πληροφορίες για ένα άτομο που έχει πεθάνει.
Οι ιστότοποι έχουν τα χαρακτηριστικά ότι δημιουργούνται με τη χρήση εργαλείων τεχνητής νοημοσύνης. Ο Vastag υποψιάζεται ότι η παραπληροφόρηση γύρω από τον προφανή θάνατό του, για παράδειγμα, θα μπορούσε να αποδοθεί σε κάποιον που έβγαλε ένα άρθρο που συνυπογράφουν ο Vastag και ο Mazur (ένα άρθρο που ισχυρίζεται ότι ο Vastag πέθανε φαίνεται να είναι μια περίληψη του άρθρου με τεχνητή νοημοσύνη). Οι νεκρολογίες είναι αποσπασματικές και σχεδόν πανομοιότυπες μεταξύ τους, με μερικές λέξεις να μετακινούνται και να επαναλαμβάνουν ανακριβείς λεπτομέρειες, όπως το πού ζούσε ο Mazur. Τα άρθρα άρχισαν να εμφανίζονται μέσα σε μία ημέρα από την ανακοίνωση του MEAction Network, ενός μη κερδοσκοπικού οργανισμού που συνίδρυσε.
Η Google αγωνίζεται εδώ και πολύ καιρό να περιορίσει το spam των νεκρολογιών – για χρόνια, ιστοσελίδες με χαμηλή προσπάθεια SEO-bait σιγόβραζαν στο παρασκήνιο και εμφανίζονταν στην κορυφή των αποτελεσμάτων αναζήτησης μετά τον θάνατο ενός ατόμου. Οι ιστότοποι στη συνέχεια εκμεταλλεύονται επιθετικά το περιεχόμενο φορτώνοντας τις σελίδες με παρεμβατικές διαφημίσεις και κερδίζουν όταν οι χρήστες που κάνουν κλικ στα αποτελέσματα. Τώρα, η ευρεία διαθεσιμότητα εργαλείων δημιουργικής τεχνητής νοημοσύνης φαίνεται να επιταχύνει τον κατακλυσμό των χαμηλής ποιότητας ψεύτικων νεκρολογιών.
Η “απόξεση νεκρολογιών” είναι μια κοινή πρακτική που δεν αφορά μόνο διασημότητες και δημόσια πρόσωπα, αλλά και μέσους, ιδιώτες. Τα γραφεία τελετών ασχολούνται με τις ιστοσελίδες συγκέντρωσης νεκρολογιών εδώ και τουλάχιστον 15 χρόνια, λέει η Courtney Gould Miller, επικεφαλής στρατηγικής της MKJ Marketing, η οποία ειδικεύεται στο μάρκετινγκ υπηρεσιών κηδείας. Οι ιστότοποι σαρώνουν άρθρα ειδήσεων και τοπικές ιστοσελίδες γραφείων κηδειών, αναζητώντας αρχικές ανακοινώσεις θανάτου που έχουν βασικές λεπτομέρειες όπως όνομα, ηλικία και πού μπορεί να γίνει η τελετή. Στη συνέχεια, ξύνουν και αναδημοσιεύουν το περιεχόμενο σε κλίμακα, χρησιμοποιώντας τυποποιημένες μορφές ή, όλο και περισσότερο, εργαλεία τεχνητής νοημοσύνης.
Το Legacy.com είναι η μεγαλύτερη, πιο καθιερωμένη εκδοχή των συγκεντρωτών – αλλά αναρίθμητοι μικρότεροι, πιο επιπόλαιοι ιστότοποι εμφανίζονται συνεχώς. Ορισμένοι από αυτούς τους ιστότοπους περιέχουν ανακριβείς πληροφορίες, όπως η ημερομηνία ή η τοποθεσία μιας επιμνημόσυνης δέησης. Άλλες συλλέγουν παραγγελίες για λουλούδια ή δώρα που δεν φτάνουν εγκαίρως, απογοητεύοντας την οικογένεια και τους φίλους και προκαλώντας πονοκέφαλο στα τοπικά γραφεία κηδειών, λέει ο Gould Miller. Οι ιστότοποι συγκέντρωσης τακτικά υπερτερούν των πραγματικών γραφείων κηδειών που έχουν σχέση με τις οικογένειες που πενθούν.
“Νομίζω ότι [η Google] κοιτάζει ποιος έχει τα περισσότερα backlinks, ποιος έχει τη μεγαλύτερη αυθεντία, ποιος έχει τη μεγαλύτερη επισκεψιμότητα, τα τυπικά πράγματα που κοιτάζουν οι αλγόριθμοί της. Ένας συγκεντρωτής, φυσικά, θα έχει περισσότερα από όλα αυτά από ό,τι ένα τοπικό γραφείο κηδειών”, λέει ο Gould Miller. “Είναι ο πυρήνας της επιχείρησης για τους συγκεντρωτές, σωστά; Γνωρίζουν ότι οι αλγόριθμοι αναζήτησης της Google είναι με το μέρος τους”.
“Η Google έχει πάντα ως στόχο να φέρνει στην επιφάνεια πληροφορίες υψηλής ποιότητας, αλλά τα κενά δεδομένων είναι μια γνωστή πρόκληση για όλες τις μηχανές αναζήτησης”, δήλωσε ο εκπρόσωπος της Google Ned Adriance στο The Verge σε ένα email. “Καταλαβαίνουμε πόσο οδυνηρό μπορεί να είναι αυτό το περιεχόμενο και εργαζόμαστε για να ξεκινήσουμε ενημερώσεις που θα βελτιώσουν σημαντικά τα αποτελέσματα αναζήτησης για ερωτήματα όπως αυτά”. Ο Adriance δήλωσε ότι η Google τερμάτισε αρκετά κανάλια YouTube που επισημάνθηκαν από το The Verge και μοιράζονταν SEO-bait επικήδειους και ανακοινώσεις θανάτου, αλλά αρνήθηκε να πει αν οι επισημανθείσες ιστοσελίδες παραβίαζαν τις πολιτικές spam της Google.
Όταν ο Vastag ανακάλυψε τα άρθρα που ισχυρίζονταν ότι είχε πεθάνει και ο ίδιος, τα ανέφερε στην Google, ελπίζοντας να αφαιρέσει τις σελίδες από την αναζήτηση. Η εταιρεία έστειλε πίσω μια απάντηση σε κονσέρβα, λέγοντας ότι οι επισημανθείσες ιστοσελίδες δεν παραβίαζαν τις πολιτικές της.
Ορισμένες ιστοσελίδες παράγουν μια συνεχή ροή ειδησεογραφικών άρθρων για τους αποθανόντες. Η τεχνητή νοημοσύνη έχει επιδεινώσει το πρόβλημα, καθιστώντας δυσκολότερο να διακρίνει κανείς τη νομιμότητα των νεκρολογιών με την πρώτη ματιά, όταν η οικογένεια και οι φίλοι που πενθούν δεν κοιτάζουν προσεκτικά τη διεύθυνση URL ενός άρθρου ή τον συγγραφέα του.
Ένας ιστότοπος που ονομάζεται The Thaiger είναι γεμάτος με ειδήσεις που καλύπτουν κάθε πιθανό θέμα. Οι συγγραφείς του παρακολουθούν ιογενείς ειδησεογραφικούς κύκλους, όπως πολιτικές αναμετρήσεις σε κολέγια της Ivy League. Στην κατηγορία ειδήσεων της Ταϊλάνδης: “Η δημόσια κουράδα ενός άνδρα στην έκθεση αυτοκινήτων της Ταϊλάνδης δημιουργεί διαδικτυακό θόρυβο”. Η ενότητα Trending περιλαμβάνει άρθρα όπως “Η αναπάντεχη αποκάλυψη του Pedro Pascal κλέβει την παράσταση στα βραβεία Emmy 2024” και άλλα παστίτσιο των αρχών της δεκαετίας του 2010 για clickbait στο διαδίκτυο.
Όμως, ανάμεσα στα εκατοντάδες άρθρα με κουτσομπολιά διασημοτήτων και ανακεφαλαιώσεις βίντεο του TikTok, υπάρχουν νοσηρά, ρομποτικά άρθρα για τους θανάτους συνηθισμένων ανθρώπων που δεν ήταν δημόσια πρόσωπα. Οι συγγραφείς του The Thaiger – το οποίο εδρεύει στην Μπανγκόκ της Ταϊλάνδης – βγάζουν κατά καιρούς περισσότερες από 20 ιστορίες την ημέρα, συμπεριλαμβανομένων των άρθρων με τις νεκρολογίες SEO για ανθρώπους που πέθαναν μετά από ασθένειες- φοιτητές που πέθαναν από αυτοκτονία- και ανήλικους που ενεπλάκησαν σε θανατηφόρα τροχαία ατυχήματα. Οι ιστορίες ακολουθούν παρόμοια δομή, χρησιμοποιώντας μερικές φορές πανομοιότυπες αόριστες φράσεις για τον αποθανόντα. Οι ιστορίες σχετικά με θανάτους συχνά χαρακτηρίζονται ως “trending”, ακόμη και όταν δεν υπάρχει καμία ένδειξη ότι το άτομο ήταν γνωστό εκτός της κοινότητάς του, και τα άρθρα φαίνεται να συγκεντρώνουν ή να ξαναγράφουν τοπικά δελτία ειδήσεων, αναρτήσεις στα μέσα κοινωνικής δικτύωσης ή πραγματικές νεκρολογίες από συγγενείς.
Το περιεχόμενο στο The Thaiger έχει τα χαρακτηριστικά ότι παράγεται με τη χρήση τεχνητής νοημοσύνης. Τα άρθρα με τις νεκρολογίες είναι γραμμένα με μια απροσδιόριστη σοβαρότητα, χρησιμοποιώντας αφύσικες διατυπώσεις όπως το “ανεξίτηλο σημάδι” που άφησε ένα άτομο ή τον “πρόωρο θάνατό” του, αλλά χωρίς καμία πραγματική λεπτομέρεια για τη ζωή του. Τα άρθρα είναι γραμμένα όπως οι τυπικές νεκρολογίες και τα άρθρα ειδήσεων, αλλά δεν περιέχουν αποσπάσματα από την οικογένεια ή τους φίλους του αποθανόντος και δεν παραθέτουν εξωτερικές αναφορές.
Οι νεκρολογίες που εμφανίζονται στο The Thaiger έχουν μια απάνθρωπη, ακατάλληλη ποιότητα. Ορισμένα άρθρα υπόσχονται μια “ολοκληρωμένη περιγραφή” του θανάτου ή ότι “το διαδίκτυο είναι γεμάτο” από ενδιαφέρον για το γεγονός. “Αναμένονται περαιτέρω ενημερώσεις και το περίεργο και ανήσυχο κοινό συνιστάται να παραμείνει συντονισμένο για επαληθευμένες πληροφορίες”, αναφέρεται σε ένα άρθρο σχετικά με τον θάνατο μιας γυναίκας από το Κάλγκαρι του Καναδά. Κάθε γωνιά του ιστότοπου είναι γεμάτη με διαφημίσεις.
Η σελίδα του προσωπικού του Thaiger απαριθμεί οκτώ συγγραφείς, κανένας από τους οποίους δεν φαίνεται να έχει προφίλ στο LinkedIn, και τουλάχιστον τρεις από αυτούς φαίνεται να έχουν δημιουργηθεί από τεχνητή νοημοσύνη στις φωτογραφίες των κεφαλιών τους. Ο “Luke Chapman”, ο οποίος καλύπτει τις ειδήσεις της Αυστραλίας και της Νέας Ζηλανδίας, για παράδειγμα, φοράει ένα ανοιχτό πουκάμισο με κουμπιά που τρέχουν και στις δύο πλευρές του. Η “Jane Nelson”, η οποία περιγράφεται ως “έμπειρη οικονομική δημοσιογράφος”, φοράει ένα χρυσό κολιέ που εξαφανίζεται στη μέση του στήθους της. Ακόμα και για τα προφίλ που περιλαμβάνουν φωτογραφίες που φαίνεται να είναι πραγματικών ανθρώπων, οι συγγραφείς είναι σαν φαντάσματα – δεν υπάρχει καμία καταγραφή αυτών των δημοσιογράφων πουθενά αλλού.
Η Thaiger και ο διευθύνων σύμβουλος Darren Lyons δεν απάντησαν σε πολλαπλά αιτήματα για σχολιασμό. Αφού το The Verge ρώτησε σχετικά με τις φωτογραφίες κεφαλής που δημιουργούνται από τεχνητή νοημοσύνη, το The Thaiger αφαίρεσε σιωπηλά τους συγγραφείς από τη σελίδα προσωπικού, μαζί με το αρχείο των άρθρων τους.
Σε έναν άλλο ιστότοπο που ονομάζεται FreshersLive, τα άρθρα για ανθρώπους που έχουν πεθάνει βελτιστοποιούνται ανελέητα για τη Google. Λέξεις-κλειδιά όπως “Beth Mazur”, “MEAction Network” και “Σύνδρομο Χρόνιας Κόπωσης” πασπαλίζονται κάθε λίγες προτάσεις. Το κείμενο είναι χωρισμένο σε διάφορες ενότητες με υποτιτλισμούς με γνώμονα το SEO, όπως “Ποια ήταν η Beth Mazur;” και “Είναι η Beth Mazur νεκρή;”. Υπάρχει ακόμη και μια ενότητα FAQ στο κάτω μέρος – μια πιο σκοτεινή, σκληρή εκδοχή μιας τακτικής που υπάρχει παντού στο διαδίκτυο.
Σε απάντηση που έστειλε μέσω ηλεκτρονικού ταχυδρομείου στις ερωτήσεις του The Verge, ένα άτομο που αυτοπροσδιορίστηκε μόνο ως “Dilip” αρνήθηκε ότι ο ιστότοπος χρησιμοποίησε εργαλεία τεχνητής νοημοσύνης και δήλωσε ότι το προσωπικό προσπαθεί να επικοινωνήσει με την οικογένεια των θανόντων. Όταν ρωτήθηκε πώς το FreshersLive βρίσκει και αξιολογεί τους θανάτους για να γράψει σχετικά, ο “Dilip” απάντησε: “Αυτό είναι άκρως εμπιστευτικό”.
“Όποιος σκέφτηκε [τα άρθρα] – δεν γνώριζε την Beth, δεν ξέρει τίποτα γι’ αυτήν”, δήλωσε ο Vastag στο The Verge. “Δεν έχουν κανένα δικαίωμα να δημοσιεύσουν έναν επικήδειο γι’ αυτήν”.
Η νεκρολογία του ίδιου του Vastag για τη Mazur δημοσιεύτηκε στις 12 Ιανουαρίου, εβδομάδες μετά τον θάνατό της. Και παρόλο που οι ιστοσελίδες spam ήταν ταχύτερες, μόνο η νεκρολογία του Vastag αποτυπώνει το πραγματικό πρόσωπο που ήταν η Mazur.
Εργαζόταν στην τεχνολογία πριν αρρωστήσει – κατά τους τελευταίους μήνες της ζωής της είχε επίσης πειραματιστεί με εργαλεία δημιουργικής τεχνητής νοημοσύνης όπως το ChatGPT, δήλωσε ο Vastag στο The Verge. Ήταν αστεία και έξυπνη, και οι φίλοι και οι συνάδελφοι τη θυμούνται ως μια οραματική διοργανώτρια που δεν αναζητούσε αναγνώριση για το έργο της.
