Οι χρήστες του ChatGPT άρχισαν να αναφέρουν περίεργες απαντήσεις από το chatbot χθες το βράδυ, οι οποίες περιελάμβαναν εναλλαγή μεταξύ γλωσσών, κόλλημα σε βρόχους ή ακόμη και επανειλημμένη αυτοδιόρθωση. Ορισμένες από τις απαντήσεις ήταν απλώς ακαταλαβίστικες.
Ενώ συζητούσε για την οικογένεια μουσικών Τζάκσον, το chatbot εξήγησε σε έναν χρήστη του Reddit ότι “Schwittendly, η λάμψη του tourmar στην κόμη έχει τόση σχέση με το golver των “μονοπατιών του φεγγαριού”, όση μετατοπίζεται από την ακολουθία”.
Στις 10:40μμ ET, η OpenAI αναγνώρισε στη σελίδα της κατάστασης ότι “διερευνούσε αναφορές για απροσδόκητες απαντήσεις από το ChatGPT” και λίγα λεπτά αργότερα δήλωσε ότι είχε βρει το πρόβλημα και εργαζόταν για την επίλυσή του.
Από τη στιγμή που γράφονται αυτές οι γραμμές, η σελίδα κατάστασης εξακολουθεί να διαθέτει ένα πλαίσιο με κίτρινο πλαίσιο στην κορυφή που λέει ότι η εταιρεία “συνεχίζει να παρακολουθεί την κατάσταση”. Πολλά από τα σφάλματα μοιάζουν με ένα κοινό meme στα μέσα κοινωνικής δικτύωσης που ζητά από άλλους να πληκτρολογήσουν μια λέξη στο τηλέφωνό τους και στη συνέχεια να πατήσουν επανειλημμένα την ίδια πρόταση για την επόμενη λέξη για να δουν τι θα συμβεί. Κάτι που είναι λογικό – τα μεγάλα γλωσσικά μοντέλα είναι ουσιαστικά απλώς ένα πολύ φανταχτερό προγνωστικό κείμενο.
Πάρτε αυτά τα παραδείγματα με μια υγιή δόση αλατιού – είναι πολύ εύκολο για τα τρολ να δημιουργήσουν τις δικές τους εικόνες όπως αυτή, άλλωστε. Υπάρχουν όμως κάποια κοινά σημεία στις αναρτήσεις στα μέσα κοινωνικής δικτύωσης που αναφέρουν το θέμα, όπως το ChatGPT που κολλάει σε βρόχο. Στις παραπάνω εικόνες, για παράδειγμα, το ChatGPT φαινόταν να επαναλαμβάνει τα “.Happy Listening!” και “Είναι – και είναι.” για λίγο πριν σταματήσει να παράγει απάντηση.
Χρήστες του Reddit έχουν αναφέρει παρόμοια προβλήματα στο παρελθόν. Επικοινωνήσαμε με την OpenAI για περισσότερες πληροφορίες σχετικά με τη δυσλειτουργία.
Είναι μια καλή υπενθύμιση ότι τα generative AI chatbots είναι μια ταχέως εξελισσόμενη τεχνολογία, και επιπλέον, τα μεγάλα γλωσσικά μοντέλα που τα τροφοδοτούν είναι ουσιαστικά μαύρα κουτιά, τα οποία ακόμη και οι δημιουργοί τους δεν κατανοούν πλήρως με εξαιρετικά λεπτομερή τρόπο. Λειτουργούν αναζητώντας μοτίβα στα δεδομένα και στη συνέχεια κάνουν τις καλύτερες δυνατές εικασίες τους για το πώς να ανταποκριθούν στην είσοδο, και αυτό συνήθως οδηγεί σε εντυπωσιακά αποτελέσματα. Αλλά μπορεί επίσης να αποδώσει παραισθήσεις, συναισθηματική χειραγώγηση, ακόμη και τεμπελιά.
