Η Meta λέει ότι θα εισαγάγει τεχνολογία που μπορεί να ανιχνεύει και να επισημαίνει εικόνες που παράγονται από εργαλεία τεχνητής νοημοσύνης (AI) άλλων εταιρειών.
Θα αναπτυχθεί στις πλατφόρμες της Facebook, Instagram και Threads.
Η Meta επισημαίνει ήδη τις εικόνες AI που παράγονται από τα δικά της συστήματα. Λέει ότι ελπίζει ότι η νέα τεχνολογία, την οποία εξακολουθεί να κατασκευάζει, θα δημιουργήσει “δυναμική” για τη βιομηχανία για την αντιμετώπιση της πλαστογράφησης AI.
Αλλά ένας εμπειρογνώμονας AI δήλωσε στο BBC ότι τέτοια εργαλεία είναι “εύκολα παρακάμπτοντα”.
Σε ένα blog που έγραψε το ανώτερο στέλεχος Sir Nick Clegg, η Meta αναφέρει ότι “τους επόμενους μήνες” θα επεκτείνει αυτή τη διαδικασία και σε άλλες εταιρείες.
Σε συνέντευξή του στο πρακτορείο ειδήσεων Reuters, παραδέχτηκε ότι η τεχνολογία “δεν είναι ακόμη πλήρως ώριμη”, αλλά δήλωσε ότι η εταιρεία ήθελε να “δημιουργήσει μια αίσθηση δυναμικής και κινήτρων για να ακολουθήσει και ο υπόλοιπος κλάδος”.
Εύκολη αποφυγή
Αλλά ο καθηγητής Soheil Feizi, διευθυντής του Reliable AI Lab στο Πανεπιστήμιο του Maryland, πρότεινε ότι ένα τέτοιο σύστημα θα μπορούσε εύκολα να παρακαμφθεί.
“Μπορεί να είναι σε θέση να εκπαιδεύσουν τον ανιχνευτή τους ώστε να είναι σε θέση να επισημάνει κάποιες εικόνες που παράγονται ειδικά από κάποια συγκεκριμένα μοντέλα”, δήλωσε στο BBC.
“Αλλά αυτοί οι ανιχνευτές μπορούν εύκολα να παρακαμφθούν με κάποια ελαφριά επεξεργασία πάνω στις εικόνες, και μπορούν επίσης να έχουν υψηλό ποσοστό ψευδώς θετικών αποτελεσμάτων.
“Επομένως, δεν νομίζω ότι είναι εφικτό για ένα ευρύ φάσμα εφαρμογών”.
Η Meta αναγνώρισε ότι το εργαλείο της δεν θα λειτουργήσει για ήχο και βίντεο – παρά το γεγονός ότι αυτά είναι τα μέσα στα οποία επικεντρώνεται μεγάλο μέρος της ανησυχίας για τις απομιμήσεις τεχνητής νοημοσύνης.
Η εταιρεία λέει ότι αντ’ αυτού ζητά από τους χρήστες να επισημάνουν τις δικές τους αναρτήσεις ήχου και βίντεο και ότι “ενδέχεται να επιβάλει κυρώσεις εάν δεν το πράξουν”.
Ο Sir Nick Clegg παραδέχτηκε επίσης ότι θα ήταν αδύνατο να ελεγχθεί το κείμενο που έχει παραχθεί από εργαλεία όπως το ChatGPT.
“Αυτό το πλοίο έχει αποπλεύσει”, δήλωσε στο Reuters.
“Ασυνάρτητη” πολιτική για τα μέσα ενημέρωσης
Τη Δευτέρα, το Συμβούλιο Εποπτείας της Meta επέκρινε την εταιρεία για την πολιτική της σχετικά με τα χειραγωγημένα μέσα ενημέρωσης, χαρακτηρίζοντάς την “ασυνάρτητη, χωρίς πειστική αιτιολόγηση και με ακατάλληλη εστίαση στον τρόπο δημιουργίας του περιεχομένου”.
Το Συμβούλιο Εποπτείας χρηματοδοτείται από τη Meta αλλά είναι ανεξάρτητο από την εταιρεία.
Η κριτική έγινε με αφορμή μια απόφαση σχετικά με ένα βίντεο του προέδρου των ΗΠΑ Τζο Μπάιντεν. Το εν λόγω βίντεο επεξεργάστηκε υπάρχον υλικό του προέδρου με την εγγονή του, ώστε να φαίνεται ότι την άγγιζε ανάρμοστα.
Επειδή δεν είχε παραποιηθεί με τη χρήση τεχνητής νοημοσύνης και απεικόνιζε τον κ. Μπάιντεν να συμπεριφέρεται με τρόπο που δεν έκανε και όχι να λέει κάτι που δεν έκανε, δεν παραβίασε την πολιτική της Meta για τα παραποιημένα μέσα ενημέρωσης – και δεν αφαιρέθηκε.
Το Διοικητικό Συμβούλιο συμφώνησε ότι το βίντεο δεν παραβίαζε τους ισχύοντες κανόνες της Meta σχετικά με τα ψεύτικα μέσα ενημέρωσης, αλλά δήλωσε ότι οι κανόνες θα πρέπει να επικαιροποιηθούν.
Ο Sir Nick δήλωσε στο Reuters ότι συμφωνεί σε γενικές γραμμές με την απόφαση.
Παραδέχτηκε ότι η υφιστάμενη πολιτική της Meta “απλά δεν είναι κατάλληλη για το σκοπό της σε ένα περιβάλλον όπου θα έχετε πολύ περισσότερο συνθετικό περιεχόμενο και υβριδικό περιεχόμενο από ό,τι πριν”.
