Η Microsoft κυκλοφόρησε ένα αυτοματοποιημένο εργαλείο γραμμής εντολών για την αξιολόγηση της ασφάλειας των συστημάτων τεχνητής νοημοσύνης. Το Counterfit, που προσφέρεται με άδεια open source, σας επιτρέπει να επαληθεύσετε την ευρωστία και την αξιοπιστία των αλγορίθμων μηχανικής μάθησης.
Η χρήση συστημάτων τεχνητής νοημοσύνης αυξάνεται σε διάφορους τομείς, όπως η υγεία, τα οικονομικά και η άμυνα. Είναι επομένως απαραίτητο να διασφαλιστεί η μέγιστη προστασία από τυχόν κυβερνοεπιθέσεις. Η αξιολόγηση ασφάλειας για συστήματα AI δεν είναι μία απλή εργασία. Με βάση τα αποτελέσματα της έρευνας που διενήργησε η Microsoft, η πλειοψηφία των οργανισμών που ερωτήθηκαν (25 στους 28) απάντησε ότι δεν είχε συγκεκριμένα εργαλεία.
Το Counterfit αναπτύχθηκε από την εταιρεία Redmond για τα συστήματα AI ως προληπτικό εργαλείο. Οι επιθέσεις εναντίον μεμονωμένων μοντέλων AI προσομοιώθηκαν μέσω μιας σειράς σεναρίων ονόματι Python. Αργότερα το εργαλείο αυτοματοποιήθηκε για να επιτεθεί σε πολλαπλά μοντέλα AI μεγάλης κλίμακας. Το Counterfit μπορεί επίσης να χρησιμοποιηθεί για τον εντοπισμό τρωτών σημείων εκ των προτέρων.
Το εργαλείο είναι εντελώς “αγνωστικό“, οπότε λειτουργεί με οποιοδήποτε περιβάλλον (cloud, on-premises, edge), μοντέλο AI και τύπο δεδομένων (κείμενο, εικόνες, γενικό input). Εκτός από τον εντοπισμό τρωτών σημείων, το Counterfit μπορεί να χρησιμοποιηθεί και ως τεστ διείσδυσης για καταγραφή επιθέσεων και χρήση τηλεμετρίας για τη βελτίωση της ασφάλειας των συστημάτων AI. Πλήρεις λεπτομέρειες σχετικά με την εγκατάσταση, τη διαμόρφωση και τη χρήση θα σας τις γνωστοποιήσουμε σύντομα.
