Αν έχετε ασχοληθεί με το ChatGPT, το Bing ή κάποιο άλλο AI chatbot, ενδέχεται να έχετε παρατηρήσει ένα από τα σημαντικότερα θέματά τους: έχουν… παραισθήσεις!
Αυτό σημαίνει μεταξύ άλλων ότι πολλές φορές μπορεί να αναφέρονται σε πληροφορίες που δεν υφίστανται, όπως για παράδειγμα σε ανύπαρκτα επιστημονικά papers που σκαρφίζεται η AI εκείνη τη στιγμή. Συγκεκριμένα, το θέμα είναι τόσο έντονο, που ρεπορτάζ αποκάλυψε ότι οι ίδιοι οι μηχανικοί της Google χαρακτήριζαν το Bard ως «παθολογικό ψεύτη», ενώ όταν η Microsoft είχε κάνει αρχικά διαθέσιμη την AI του Bing, αναγκάστηκε να περιορίσει τις συζητήσεις σε έναν πολύ μικρό αριθμό απαντήσεων, γιατί το μοντέλο σταματούσε στη συνέχεια να απαντά όπως θα περίμενε κανείς. Τότε σας είχαμε ενημερώσει για μερικά από τα πιο πολυσυζητημένα περιστατικά που είχαν αποκαλύψει οι χρήστες στα social media.
Τώρα, η λύση έρχεται από την Nvidia, μια από τις πιο δραστήριες εταιρίες τεχνολογίας στον χώρο της τεχνητής νοημοσύνης, στο hardware της οποίας βασίστηκε εν μέρει η εκπαίδευση ορισμένων εκ των ισχυρότερων ΑΙ μοντέλων που είναι διαθέσιμα αυτή τη στιγμή. Συγκεκριμένα, η εταιρία παρουσίασε τα NeMo Guardrails, ένα νέο λογισμικό ανοιχτού κώδικα που έχει σχεδιαστεί για να αντιμετωπίσει τις ανησυχίες σχετικά με την παραπληροφόρηση, την ασφάλεια και την προστασία, σε AI chatbots και άλλες έξυπνες εφαρμογές που βασίζονται σε Large Language Models (LLMs). Το λογισμικό παρέχει στους προγραμματιστές τα μέσα για τη θέσπιση τριών διαφορετικών κατηγοριών περιορισμών για τα μοντέλα τεχνητής νοημοσύνης: για το θέμα, την ασφάλεια και την προστασία. Απώτερος στόχος είναι οι συζητήσεις με τα chatbots να παραμένουν ακριβείς, κατάλληλες και ασφαλείς.
Για παράδειγμα τα προστατευτικά όρια που αφορούν το θέμα της συζήτησης επιτρέπουν στους προγραμματιστές να αποτρέπουν τις εφαρμογές τεχνητής νοημοσύνης από το να επιχειρήσουν να εισέλθουν σε άσχετους ή ανεπιθύμητους τομείς, διασφαλίζοντας ότι παραμένουν επικεντρωμένα στον επιδιωκόμενο σκοπό.
Για παράδειγμα, ένας βοηθός εξυπηρέτησης πελατών δεν θα απαντούσε σε ερωτήσεις σχετικά με τον καιρό. Αντίστοιχα, μπορούν εύκολα να οριστούν προστατευτικά για την χρήση ακατάλληλης γλώσσας και για την απαίτηση παραπομπών σε αξιόπιστες πηγές.
